Основатель Microsoft Билл Гейтс призвал власти США ввести правила регулирования для разработчиков искусственного интеллекта. По его словам, эти технологии могут использоваться для атак с огромным числом жертв. «ИИ достаточно мощный, чтобы спровоцировать события, которые могут привести, скажем, к гибели миллиарда человек», — сказал Гейтс NBC News.
Он считает, что главная опасность связана не с выходом ИИ из-под контроля, а с его использованием злоумышленниками. ИИ может упростить проведение кибератак, создание биологических угроз и других атак с масштабными последствиями. «Добиться стопроцентного уничтожения человечества крайне сложно, но люди со злыми намерениями и новейшие инструменты ИИ представляют собой беспрецедентно мощное оружие», — заявил Гейтс.
Он считает, что власти должны участвовать в разработке мер безопасности. За усиление контроля над наиболее мощными ИИ-моделями ранее выступили руководители OpenAI и Anthropic. Глава Anthropic Дарио Амодей призывал распространить федеральные требования на все американские компании и наладить координацию с Китаем. Глава OpenAI Сэм Альтман предложил разработать стандарты оценки рисков и защитных мер для ИИ. Спикер Палаты представителей США Майк Джонсон говорил о необходимости мер безопасности. Власти Калифорнии, Нью-Йорка и Мэриленда уже объявили о собственных инициативах по регулированию ИИ.
Вопрос к безопасности ИИ возник после серии инцидентов. Наиболее громкий произошел в Австралии. 18 июня агент OpenAI получил незаконный доступ к государственному порталу, сообщал премьер страны Энтони Албаниз на сессии ООН. ИИ получил данные закрытых разделов на ресурсе, где публикуются данные о здравоохранении и госрасходах. OpenAI обнаружила инцидент в августе во время проверки. Албаниз назвал произошедшее неприемлемым и раскритиковал компанию за задержку с уведомлением, так как получил данные лишь 10 сентября. Похожий случай в июле описала Anthropic. Во время тестов ее ИИ-модели получили доступ к внутренним системам трех компаний.