Microsoft запрещает отделениям полиции США использовать корпоративный инструмент искусственного интеллекта для распознавания лиц
Microsoft вновь подтвердила запрет на использование отделениями полиции США генеративного искусственного интеллекта для распознавания лиц через Azure OpenAI Service, полностью управляемый, ориентированный на предприятие обертка вокруг технологий OpenAI.
Язык, добавленный в среду в условиях предоставления услуг Azure OpenAI Service, более четко запрещает использование интеграций с Azure OpenAI Service "для" отделений полиции для распознавания лиц в США, включая интеграции с текущими - и возможно будущими - моделями анализа изображений от OpenAI.
Отдельный новый пункт охватывает "любую правоохранительную организацию в мире" и явно запрещает использование "технологии распознавания лиц в реальном времени" на мобильных камерах, таких как автомобильные видеокамеры и камеры на плече, для попыток идентификации человека в "не контролируемых, в дикой природе" средах.
Изменения в политике произошли неделю назад после того, как Axon, производитель технологической продукции и оружия для вооруженных сил и правоохранительных органов, объявил о новом продукте, который использует генеративную текстовую модель OpenAI GPT-4 для краткого изложения аудио с видеокамер на плече. Критики быстро указали на потенциальные проблемы, такие как галлюцинации (даже лучшие модели генеративного искусственного интеллекта сегодня изобретают факты) и расовые предвзятости, внесенные из обучающих данных (что особенно обеспокоителено, учитывая, что людей цвета оказываются намного больше шансов остановить полицейские, чем их белые сверстники).
Пока не ясно, использовал ли Axon GPT-4 через Azure OpenAI Service и, если да, было ли обновление политики в ответ на запуск продукта Axon. Ранее OpenAI ограничивало использование своих моделей для распознавания лиц через свои API. Мы обратимся к Axon, Microsoft и OpenAI и обновим этот пост, если получим ответ.
Новые условия оставляют пространство для маневра Microsoft.
Полный запрет на использование Azure OpenAI Service применим только к американской, а не к международной, полиции. И он не охватывает распознавание лиц, проводимое стационарными камерами в контролируемых средах, таких как офис (хотя условия запрещают любое использование распознавания лиц американской полицией).
Это соответствует подходу Microsoft и близкого партнера OpenAI к заключению контрактов с правоохранительными и оборонными структурами, связанными с искусственным интеллектом.
В январе материалы Bloomberg показали, что OpenAI сотрудничает с Пентагоном над рядом проектов, включая возможности кибербезопасности - это изменение предыдущего запрета стартапа на предоставление своего искусственного интеллекта военным. В другом месте Microsoft предложила использовать инструмент генерации изображений OpenAI, DALL-E, чтобы помочь Министерству обороны (МО) разрабатывать программное обеспечение для выполнения военных операций, согласно материалам издания The Intercept.
Обновление: После публикации Microsoft заявила, что ее первоначальное изменение условий предоставления услуг содержало ошибку, и на самом деле запрет распространяется только на распознавание лиц в США. Это не является общим запретом на использование служб полицией.
