Женщины в области искусственного интеллекта: Элисон Коэн о создании ответственных проектов искусственного интеллекта

Для того чтобы дать академическим работницам и другим женщинам, сосредоточившимся на искусственном интеллекте, заслуженное - и давно ожидаемое - время на публичности, TechCrunch публикует серию интервью, сфокусированных на выдающихся женщинах, внесших свой вклад в революцию искусственного интеллекта. Мы публикуем эти материалы в течение года, так как бум искусственного интеллекта продолжается, выделяя ключевую работу, которая часто остается незамеченной. Читайте больше профилей здесь.

Сегодня в центре внимания: Элисон Коэн, старший менеджер проектов прикладного искусственного интеллекта в Mila, сообществе из более чем 1200 исследователей, специализирующихся на искусственном интеллекте и машинном обучении. Она сотрудничает с исследователями, социальными учеными и внешними партнерами для запуска социально полезных проектов искусственного интеллекта. Портфолио работы Коэн включает инструмент для обнаружения мизогинии, приложение для определения онлайн-активности подозреваемых жертв торговли людьми и сельскохозяйственное приложение для рекомендации устойчивых практик в Руанде.

Ранее Коэн была соорганизатором проекта по искусственному интеллекту в Глобальном партнерстве по искусственному интеллекту, организации, целью которой является руководство ответственным развитием и использованием искусственного интеллекта. Также она работала консультантом по стратегии искусственного интеллекта в Deloitte и консультантом проекта в Центре международной цифровой политики, независимом канадском мыслительном танке.

Вопросы и ответы

Как вы начали свою работу в области искусственного интеллекта? Что привлекло вас в эту область?

Разделять возможность математического моделирования всего: от распознавания лиц до ведения торговых сделок изменило мой взгляд на мир, что сделало искусственный интеллект настолько притягательным для меня. Ирония заключается в том, что сейчас, когда я работаю в области искусственного интеллекта, я понимаю, что мы не можем - и во многих случаях не должны - захватывать эти явления алгоритмами.

Я познакомилась с этой областью, когда обучалась на магистерской программе по мировым делам в Университете Торонто. Программа была разработана для обучения студентов ориентироваться в системах, влияющих на мировой порядок - от макроэкономики до международного права и человеческой психологии. Однако, узнавая больше об искусственном интеллекте, я осознала, насколько важным он станет для мировой политики и насколько важно было образовываться на эту тему.

Ключом к моему вхождению в эту сферу стало участие в конкурсе эссе. Для конкурса я написала статью, описывающую, как психоделические наркотики помогут людям оставаться конкурентоспособными на рынке труда, полном искусственного интеллекта, что квалифицировало меня для участия в Симпозиуме Санкт-Галлен в 2018 году (это было творческое произведение). Это приглашение и последующее участие на этом мероприятии дали мне уверенности продолжать развивать свой интерес к этой области.

Какую работу в области искусственного интеллекта вы считаете своим гордым достижением?

Один из проектов, над которым я работала, включал создание набора данных, содержащего примеры тонкого и явного проявления предвзятости против женщин.

Для этого проекта было крайне важно, чтобы штатирование и управление многосторонней командой экспертов по обработке естественного языка, лингвистов и специалистов по гендерным исследованиям на протяжении всего жизненного цикла проекта, были ключевыми. Это то, чем я горжусь. Из первых рук я узнала, почему этот процесс является фундаментальным для построения ответственных приложений, а также почему его недостаточно - это трудоемкая работа! Если вы можете поддержать каждого из этих заинтересованных лиц в эффективном общении между дисциплинами, вы можете облегчить работу, объединяющую десятилетия традиций социальных наук и передовые разработки в области компьютерных наук.

Я также горжусь тем, что этот проект был хорошо воспринят сообществом. Одна из наших статей получила признание в рабочей группе по социально ответственному моделированию языка на одной из ведущих конференций по искусственному интеллекту, NeurIPS. Кроме того, эта работа вдохновила аналогичный междисциплинарный процесс, который был организован AI Sweden и адаптирован для шведских представлений и выражений мизогинии.

Как вы справляетесь с вызовами в технологической отрасли, где преобладают мужчины, и, следовательно, мужская отрасль искусственного интеллекта?

К сожалению, в такой передовой отрасли мы все еще наблюдаем проблемную гендерную динамику. Это негативно сказывается не только на женщинах - мы все проигрываем. Я была вдохновлена концепцией, которая называется «Феминистской теорией ракурса» из книги Саши Констанцы-Чок, «Дизайн справедливости».

Теория утверждает, что маргинализированные сообщества, опыт и знания которых не получают таких же привилегий, как у других, обладают осознанием мира, которое может привести к справедливым и включительным изменениям. Конечно, не все маргинализированные сообщества одинаковы, и не все опыты индивидуумов в этих сообществах одинаковы.

Следовательно, разнообразие мнений этих групп критически важно для помощи нам в навигации, борьбе и демонтаже всех видов структурных проблем и несправедливостей. Поэтому отказ от включения женщин может сделать сферу искусственного интеллекта исключительной для еще более широкого круга населения, усиливая динамику власти за пределами отрасли также.

Что касается того, как я справлялась с мужской доминированной отраслью, я обнаружила, что союзники играют важную роль. Эти союзники являются результатом крепких и доверительных отношений. Например, мне очень повезло иметь друзей, таких как Питер Курцвелли, который поделился своими знаниями ведения подкаста, чтобы поддержать меня в создании подкаста под названием «Мир, который мы строим», который основан на женщинах. Этот подкаст позволяет нам поднимать работу еще большего количества женщин и небинарных людей в области искусственного интеллекта.

Какой совет вы бы дали женщинам, стремящимся войти в область искусственного интеллекта?

Найдите открытую дверь. Ее не обязательно оплачивать, она не обязательно должна стать карьерой, и она не обязательно должна совпадать с вашим опытом и образованием. Если вы найдете открытие, вы сможете использовать его, чтобы выработать свою позицию в этой области и развиваться дальше. Если вы работаете добровольцем, отдайте все силы - это позволит вам выделиться и, как можно скорее, надеюсь, получить оплату за вашу работу.

Конечно, есть привилегия в том, что можете быть добровольцем, что я также хочу отметить.

Когда я потеряла работу во время пандемии, и уровень безработицы был на историческом минимуме в Канаде, очень мало компаний хотели нанимать специалистов по искусственному интеллекту, и те, кто нанимали, не искали студентов по мировым делам с восьмимесячным опытом консалтинга. Находясь на поисках работы, я начала работать добровольцем в организации по этике искусственного интеллекта.

Один из проектов, над которым я работала во время добровольчества, был о том, должна ли быть защита авторского права на произведения искусства, созданные искусственным интеллектом. Я обратилась к адвокату из канадской юридической фирмы по искусственному интеллекту для лучшего понимания ситуации. Она связала меня с кем-то в CIFAR, кто связал меня с Бенжамином Пруд'ом, исполнительным директором команды AI for Humanity Mila. Замечательно подумать, что через серию обменов мнениями о интеллектуальном искусстве, я узнала о возможности карьеры, которая с тех пор изменила мою жизнь.

С какими наиболее актуальными проблемами сталкивается искусственный интеллект в процессе своего развития?

У меня есть три ответа на этот вопрос, которые в некоторой степени взаимосвязаны. Я считаю, что нам нужно понять:

1. Как согласовать тот факт, что искусственный интеллект создан для масштабирования, удостоверившись при этом, что создаваемые нами инструменты адаптированы к местным знаниям, опыту и потребностям.
2. Если мы хотим создать инструменты, адаптированные к местной среде, нам понадобится включить антропологов и социологов в процесс проектирования искусственного интеллекта. Однако существуют множество стимулов и других препятствий, препятствующих значимому междисциплинарному сотрудничеству. Как мы можем преодолеть это?
3. Как мы можем повлиять на процесс проектирования еще глубже, чем простое интегрирование многодисциплинарных знаний? В частности, как мы можем изменить стимулы так, чтобы мы разрабатывали инструменты, созданные для тех, кто наиболее срочно в них нуждается, а не для тех, чьи данные или бизнес наиболее прибыльны?

О каких проблемах должны знать пользователи искусственного интеллекта?

Одной из проблем, которая, по моему м