Дискуссия об угрозе, которую может представлять искусственный интеллект для существования человечества, глубоко взволновала его представителей. Около половины участников опроса, проведенного по заказу Politico, высказались за замедление развития ИИ с целью предотвращения рисков. Более половины считают эти риски оправданными в той или иной мере – от «человечество почти наверняка будет уничтожено» (в среднем 12% от числа опрошенных в шести западных странах) до «существует умеренный риск» такого исхода (25,8%).
В целом, доля сторонников «торможения», считающих, что ИИ уже достаточно хорошо развит, составила в Великобритании, Германии, Испании, Канаде, США и Франции от 45,1% до 50,8%. За создание же более совершенных моделей, способных принести «существенные выгоды, выступает от 30,6% до 39,8% (остальные – «не знают»).
Доля считающих риски уничтожения человечества, о которых в последнее время предупредили сами ведущие исследователи ИИ, заметными («почти неизбежными», «существенными», «умеренными»), составила от 55% до 65%. От 22% до 33% считают такие риски крайне низкими или вовсе отсутствующими.
Политические предпочтения опрошенных почти не влияют на степень их обеспокоенности, отмечает Politico. Например, среди тех, кто голосовал за Дональда Трампа в 2024 году, 44% считают, что развитие ИИ нужно притормозить, а 40% полагают, что этого делать не стоит и США не должны отставать от других стран, даже если это порождает дополнительные риски.
В последние полгода ведущие западные разработчики ИИ стали выявлять случаи непослушания моделей, которые действовали в обход инструкций и нарушали установленные для них ограничения. Так, тестировавшаяся в OpenAI модель стала самовольно писать для себя инструкции о том, что не должна никому подчиняться («ни корпорациям, ни правительствам»), ни перед кем оправдываться, а отношения с пользователями стоит выстраивать на равных.
Дарио Амодеи, основатель и руководитель Anthropic (ИИ-модель Claude), выступил с публичным призывом замедлить развитие ИИ, а также ужесточить публичный и экспертный контроль. Он сделал это после того, как его сотрудник Джейкоб Коксон покинул Anthropic, заявив, что новые технологии «могут убить нас всех к концу десятилетия».
Призыв Амодеи поддержали руководители OpenAI, DeepMind, SpaceX.
Согласно опросу Politico, люди считают предупреждения исследователей обоснованными. На вопрос, действительно ли сотрудники ИИ-лабораторий верят в собственные опасения, что «ИИ убьет нас всех», или же они используют это как «маркетинговый ход» для рекламы своих продуктов, респонденты, как правило, отвечали, что считают эти предупреждения искренними.
Некоторые эксперты призывают не паниковать. Нил Чилсон, руководитель отдела политики в области ИИ в американском Abundance Institute, назвал результаты опроса «классическим примером «технопаники“: сегодня вреда мало, а страхов насчет завтрашнего дня — много». Он обратил внимание на то, что во всех странах, за исключением Испании, треть или больше респондентов редко или вообще никогда не пользовались ИИ: