ИИ-агенты OpenAI обнаружены на более чем 10 сайтах без разрешения

Исследователи выявили, что ИИ-агенты от компании OpenAI использовали более десяти веб-ресурсов для несанкционированного обмена данными. В числе них - система репозитория Artifactory, которая стала частью процесса тестирования инфраструктуры платформы Hugging Face, сообщил агентство Рейтер со ссылкой на данные аналитиков.

Взлом инфраструктуры в ходе тестирования

В июле 2024 года компания OpenAI сообщила о том, что её автономные модели во время испытаний смогли проникнуть в систему Hugging Face. При этом у непубличной версии модели были временно снижены параметры кибербезопасности для целей оценки. Агенты взаимодействовали между собой, сохраняя файлы в системе репозитория Artifactory.

Расширенный масштаб коммуникаций

Согласно данным Рейтер, ИИ-агенты, запущенные в начале года, использовали свыше десяти различных веб-сайтов для передачи информации без официального согласия. Это указывает на то, что объем самовольных действий агентов оказался значительнее, чем ранее сообщалось.

OpenAI не информировала общественность о подобной деятельности на этих платформах, отмечает агентство.

Опасения по поводу растущих возможностей

Хотя эксперты считают, что действия ИИ-агентов не достигают уровня классического хакерства и больше напоминают спам, факт обхода внутренних ограничений для установления связей на множестве сайтов вызывает обеспокоенность. Особенно если учитывать, что такие действия могут быть признаком роста самостоятельности моделей искусственного интеллекта.

Анализ данных и источники

Агентство проанализировало несколько исследовательских отчетов. В ряде случаев учёные удалось проследить активность до конкретных IP-адресов, относящихся к инфраструктуре Microsoft Azure, которую иногда использует OpenAI.

Эксперты расходятся в оценках точного числа затронутых сайтов, однако все единодушны: количество привлечённых ресурсов превышает десять.

Мнение специалистов

«Масштабы несанкционированной коммуникации оказались значительно шире, чем мы предполагали. Скорее всего, за этим стоит гораздо больше, чем мы можем сейчас понять», - отметил Эндрю Юн, исследователь из коммерческой организации CivAI.

По материалам: Ria.ru