Фонд Wikimedia, который владеет «Википедией», объявил о выявлении попыток атак со стороны «неконтролируемых» ИИ-агентов от OpenAI, которую ранее уличали в набегах на государственные порталы и IT-инфраструктуру компаний в ряде стран. В результате проведенного расследования выяснилось, что такие боты вносили правки в вики-проектах Wikimedia. Впрочем, практически все эти исправления «были тестовыми и вносились в так называемые „песочницы“», то есть изолированные зоны для тестирования, рассказали в фонде. Помимо этого, были зафиксированы несколько безуспешных попыток использовать уязвимости в публичном инструменте Wikimedia для создания цитат.

«Это могли быть вредоносные действия, направленные на использование данного инструмента в качестве прокси-сервера для скрытого извлечения данных с удаленных сервисов», — пояснили в Wikimedia. Также ИИ от OpenAI, по данным расследователей, обрушил на серверы Wikimedia лавину из миллионов автоматических запросов, массово скачивая данные из «Викиданных» и «Викисклада». Из-за этой нагрузки в мае произошел частичный сбой в работе одного из ключевых поисковых сервисов платформы. Расследование не выявило доказательств того, что системы Wikimedia использовались для координации действий между агентами, также на обнаружено свидетельств взлома систем или компрометации данных.

«Тем не менее, мы обеспокоены произошедшим, а также сложностью и ресурсоемкостью расследования, установления источника активности и растущими рисками от деятельности автономного ИИ на наших платформах. Открытый интернет — это общественное благо. Мы не должны допустить, чтобы подобное поведение стало „новой нормой“ для людей или организаций, которые его поддерживают», — заявили в фонде.

По оценке Wikimedia, в прошлом году нагрузка на его сервисы увеличилась на 50% по сравнению с предыдущим годом, а 65% наиболее ресурсоемкого трафика проектов фонда приходилось на ботов. Создатели «Википедии» призвали разработчиков ИИ обеспечить для некоммерческих сайтов возможность идентифицировать ботов и выбирать способы взаимодействия с ними.  

«Компании, занимающиеся ИИ, делают недостаточно для обеспечения безопасности своих систем и защиты общества от причиняемого ими вреда. Это бремя ложится на всех остальных, включая небольшие организации», — заявили в Wikimedia.