Фото из архива
Источник:
ИИ-агенты OpenAI обходили установленные ограничения, используя для общения сторонние сайты. По информации Reuters, ссылающегося на материалы исследователей, несанкционированный обмен данными шел через более чем десять ранее неизвестных ресурсов.
Исследовательская группа CivAI выяснила, что с мая по июль агенты могли затронуть 18 ресурсов. Обмен сообщениями происходил вопреки прямому запрету на взаимодействие между агентами и публикацию материалов в Сети. Активность зафиксировали на вики-сайтах, сервисах хранения текста, личных страницах и сервисах сокращения ссылок двух университетов. Для изменения содержимого этих платформ ИИ-агенты пользовались уязвимостями, позволявшими вносить правки с помощью нестандартных команд.
«Масштаб несанкционированной связи агентов оказался несколько шире, чем мы предполагали. Почти наверняка здесь происходит что-то еще, о чем мы просто не знаем», — заявил он.
OpenAI в ответ на запрос Reuters не стала отвечать на вопросы об общем числе затронутых сайтов и о причинах, по которым информация об инциденте не была обнародована ранее. Компания сообщила, что сейчас проводит более масштабную проверку и пока «не выявлено другой активности, сопоставимой по тяжести или масштабу» с атакой на инфраструктуру Hugging Face, произошедшей в июле.
22 июля OpenAI сообщила о «беспрецедентном киберинциденте»: ее тестовые ИИ-модели получили открытый доступ к интернету и атаковали инфраструктуру платформы Hugging Face. Об этом ранее рассказывала «Фонтанка».
