Правительство США сняло ограничения на распространение среди иностранных пользователей модели искусственного интеллекта Fable 5 компании Anthropic PBC. В рамках соглашения с Вашингтоном Anthropic должна устранить возможности для обхода мер безопасности этой модели, которая является публичной версией более мощной модели Mythos 5, способной осуществлять мощные кибератаки вплоть до подрыва финансовой системы и взлома систем спецслужб.

Компания пообещала начать восстанавливать доступ к Fable 5 в среду. Она перенастроит модель с использованием нового набора классификаторов, чтобы выявлять и блокировать больше угроз кибербезопасности. Также со среды должен быть восстановлен доступ к Mythos 5 для ряда американских организаций.

Министерство торговли 12 июня ввело экспортные ограничения, которые обязали Anthropic получать разрешение правительства, прежде чем предоставлять иностранным гражданам, независимо от их местонахождения, доступ к Mythos 5 и Fable 5. Релиз моделей состоялся тремя днями ранее. После решения чиновников Anthropic отключила к ним доступ и начала переговоры.

Ранее специалисты Amazon нашли пути обхода мер безопасности Fable, отмечает The Wall Street Journal. Anthropic сообщила, что сотрудничает с технологическими гигантами, включая Amazon, Microsoft и Google, над совместной оценкой серьезности таких обходных путей и разработкой ответных действий.

После появления Mythos ее возможности настолько обеспокоили регуляторов, что в апреле Министерство финансов и Федеральная резервная система срочно собрали руководителей крупнейших банков, чтобы обсудить их киберзащиту в новых условиях. Перед этим Anthropic впервые предоставила свою новую модель не для общего пользования, а передала ее нескольким крупным компаниям для тестирования в том числе собственных киберсистем. «Модели искусственного интеллекта достигли такого уровня навыков кодирования, что теперь могут превзойти всех людей, кроме самых опытных специалистов, в поиске и использовании уязвимостей программного обеспечения», – заявила тогда Anthropic.

Вскоре стало известно, что доступ к Mythos получили несанкционированные пользователи, хотя они и не применяли ее в целях, связанных с кибербезопасностью.

Anthropic привлекла около 200 организаций в Project Glasswing для тестирования уязвимостей Mythos в сфере кибербезопасности. Компания сообщила, что намерена сотрудничать с Вашингтоном с целью расширить доступ к ней для большего числа участников как в США, так и за рубежом.