Мередит Уиттакер о столкновении с безопасностью Telegram и 'Edge Lords' в OpenAI

Мередит Уиттакер наконец попала в 'холостяцкое братство' в сфере технологий. Я пообщался с президентом Signal на VivaTech в Париже, чтобы обсудить широкий спектр серьезных, взрослых проблем, с которыми сталкивается общество, начиная от дезинформации до контроля над AI и наступающего государства наблюдения. В ходе нашего разговора мы погрузились в недавнюю войну слов с Илоном Маском, Павлом Дуровым из Telegram и - учитывая ее контроверзиальное столкновение с Скарлетт Йохансон - откровенные мысли Уиттакер о руководстве OpenAI, которое она сравнила с 'детскими глупостями в общежитии'.

Среди прочего Уиттакер обеспокоена концентрацией власти в пяти основных социальных медиа-платформах, особенно в год, когда мир сталкивается с большим числом общественных выборов, не на последнем месте в США, и Европа полагается на американские, внешние, технологические гиганты. Она утверждала, что смягчение регуляций ЕС на самом деле не поможет Европе конкурировать с американскими технологическими гигантами или будет полезно для общества. Она также критиковала обсуждение медийного сообщества о deepfakes, питаемые AI, часто игнорируя то, как социальные медиа-платформы приоритизируют гиперболическое вовлечение перед фактами.

Мы также обсудили рекламу с использованием слежения, последствия Закона об онлайн-безопасности Великобритании, предложения ЕС о материалах о детской сексуальной жестокости ('абсолютно опасное') и обязан ли Павел Дуров из Telegram уделять больше времени обеспечению безопасности своей платформы, чем быть преследуемым фотографом для его аккаунта в Instagram ('он полон дерьма'). В конце она раскрыла причину, по которой проведет следующие шесть месяцев в Европе. (Мои вопросы выделены курсивом):

Вы недавно говорили о концентрации власти в AI, и это было важно в европейском контексте. Вы бы хотели это расширить?

Краткий ответ состоит в том, что это важно в европейском контексте, потому что эта власть не сконцентрирована в Европе. Да, эта власть сконцентрирована в руках горстки компаний, проживающих в США, и еще некоторых в Китае. Но когда речь идет о этом контексте, мы говорим о США. Зависимость Европы, европейских стартапов, европейских правительств, европейских учреждений от AI в конечном итоге означает зависимость от инфраструктур и систем, созданных, контролируемых и связанных с прибылью и ростом этих горстки компаний. Сейчас мы говорим о мае 2024 года. Сейчас не знаю, сколько месяцев у нас до выборов, и я сейчас отказываюсь от этого. Но мы видим очень реальную возможность режима Трампа и более авторитарского правительства США, и часть [республиканской] партии давно смотрит в направлении контроля за технологиями, особенно социальными медиа. И это все соображения, которые должны быть взяты во внимание при анализе того, что такое AI? Для кого AI служит? И почему Европе снова следует беспокоиться о концентрации власти в индустрии AI.

Существует дебат в Европе о акселерационизме и ускоряющихся технологиях. Некоторые европейские предприниматели разочарованы европейскими регулированиями. Вы считаете, что их опасения по поводу возможного европейского регулирования, возможно, связанного с тем, что ЕС замедляет темп технологического прогресса, оправданы?

Извините, я происхожу из Академии. Поэтому я точная в определениях. Я хочу немного это разобрать. Является ли предпосылка здесь та, что без таких оков Европе будет свободно строить конкурентов, равных американским технологическим гигантам? Если это предположение верно, то это не так. Они знают это не правда. Любой, кто понимает историю, бизнес-модели, глубокую вовлеченность этих компаний, тоже понимает, что это не так.

Может быть разочарование от регулирования, 'замедляющего ваш раунд B'. Но я думаю, что мы должны посмотреть на определение 'прогресса', котор опирается на отбрасывание всех ограждений, которые бы регулировали использование и злоупотребление технологиями, которые в настоящее время используются для очень чувствительных определений; которые в настоящее время связаны с инфраструктурами массового наблюдения, ускоряющими новые формы социального контроля; которые используются для деградации и уменьшения рабочей силы. Это то, что мы хотим? Это прогресс? Потому что если мы не определим наши термины, я думаю, мы можем увязнуть в этих сказках.

Конечно, кто-то станет прочно среднего класса после вывода денег, и это хорошо для них. Но давайте не смешивать это с прогрессом к обитаемому будущему. Прогресс к общественно целесообразной системе управления, продвижение технологий, которые действительно служат потребностям людей, которые действительно подотчетны гражданам.

Вы подняли пример дезинформации о AI-генерированных материалах о Зеленском и его жене. Таких, как deepfake-видео и AI-сгенерированные веб-сайты.

Фокус на deepfakes в вакууме фактически упускает главное, с 'главным' является тот факт, что мы теперь полагаемся на пять массовых социальных медиа-платформ как арбитров. [ТикТок, Фейсбук, Инстаграм, Твиттер / Х и YouTube]

Эти массивные однородные социальные медиа-платформы стимулированы настройкой своих алгоритмов на вовлечение, потому что им нужно больше кликов, больше просмотров рекламы, что поддерживает поднятие контента, бомбастического контента, гиперболического контента, полностью ложного контента, верно? И здесь мы видим, на мой взгляд, использование AI для дезинформации в гораздо более мощной форме. Именно здесь вы найдете deepfake. Никто больше не заходит на вебсайт. Вы заходите на Твиттер, YouTube, вы ищете вокруг, видите, что там.

Вы видите заголовок и щелкаете на него, вы щелкаете на постинг оттуда. Я не думаю, что мы можем вести разговор о дезинформации, не ведя разговор о роли массовых однородных платформ, которые пожирают наш медийный и информационный экосистемы в пользу прибыли и роста для горстки компаний.

В Великобритании есть Ассоциация рекламных стандартов. В Германии вы не можете рекламировать антиквариат нацистов, например на eBay. Могут ли существовать способы регулирования рекламной индустрии и, следовательно, создания лучших правил и лучших результатов с платформ, которые полагаются на рекламу как модель бизнеса?

Я считаю, что запрещение рекламы с использованием слежения было бы очень хорошим первым шагом. Мы бы действительно порезали корень патологий, с которыми нам приходится иметь дело от технологической индустрии, которая ведет массовое наблюдение с целью влияния, влияния на продажу чего-то, влияния на убеждение кого-то проголосовать за что-то, влияния на дезинформацию кого-то. В конечном итоге, вот в чем дело.

Данные для обучения этого массового наблюдения, как вы это назвали, были ярко освещены в истории по поводу использования OpenAI 'Sky' AI-голоса, который звучал довольно похоже на Скарлетт Йохансон. Позже она рассказала, что ее контактировал Сэм Альтман о использовании ее голоса. У вас есть мнение, кто выиграл в этом инциденте?

Я опубликовала это в Твиттере, но это просто... лживое заявление 'Edge Lord'. Это так неуважительно. Это так ненужно. И это действительно рвет завесу над этой мифологией, как будто вы все серьезные люди на вершине науки, строящие следующего Бога, когда очевидно, что культура это детские проказы в общежитии, подстрекаемые группой 'троечников', которые считают, что каждая шутка, которую вы сказали, смешная, потому что им платят за это, и никто там не возьмет лидерство за плечи и не скажет 'Что ты делаешь!?'

В прошлом году на TechCrunch Disrupt была дискуссия с вами о Законе об онлайн-безопасности Великобритании (теперь Закон), который предположил, что он может попросить технологические компании встраивать задние двери в их конфиденциальное шифрование. Каково ваше мнение теперь, когда этот закон был принят?

Мы никогда этого не сделаем. Мы никогда этого не сделаем. Мы сказали, что если они перейдут к принудительному выполнению этой части закона, которая может быть использована Ofcom, чтобы сказать Signal, что 'они должны построить заднюю дверь, они должны внедрить клиентское сканирование' - что является задней дверью - мы уйдем [из Великобритании]. Потому что мы этого не сделаем. Мы никогда не продадим людей, которые полагаются на Signal, особенно учитывая, что так многие из них полагаются на это, в контекстах, где цифровая безопасность - дело жизни или смерти.

Оказалось, что Ofcom получил огромный мешок дикого бессмысленного, часть из которого интересно, а часть нет, который накопился как рождественская ёлка, куда все цепляли свои любимые украшения. Этот закон был принят из-за политической инерции, а не из-за какой-либо реальной поддержки. Каждый депутат, с которым я говорила перед принятием закона, говорил 'Да, мы понимаем эту дрянь, но никто ничего не сделает'. И теперь Ofcom должен заниматься его применением. Так что... каждые пару месяцев падает еще 1 700 страниц, которые нужно платить кому-то за чтение.

Иначе говоря, у вас пока нет давления со стороны Ofcom?

Нет, и мой опыт работы с руководством Ofcom показал, что о