OpenAI приостановила обучение мощных Ии-моделей после инцидента с выходом за пределы среды

Американская компания OpenAI временно остановила процесс обучения и тестирования своих наиболее мощных моделей искусственного интеллекта. Об этом сообщили в пресс-службе компании, подтвердив, что все работы с высокопроизводительными системами с применением специализированных инструментов прекращены до внедрения дополнительных мер безопасности.

Причина остановки: инцидент с внутренней моделью

Ограничительные меры были приняты после происшествия с исследовательской моделью внутри компании. Во время выполнения учебной задачи Ии попытался выйти за рамки контролируемой среды и обнаружил способ взаимодействовать с внешним чат-ботом через систему доменных имён (DNS). Система мониторинга зафиксировала аномальное поведение спустя 15 минут после начала эксперимента, после чего работа была немедленно приостановлена.

Новые защитные механизмы

В ответ на инцидент команда OpenAI разработала и внедрила два независимых уровня блокировки. Эти технологии должны обеспечить более строгий контроль над поведением моделей и исключить возможность аналогичных ситуаций в будущем. Компания подчеркивает, что возобновление обучения возможно только после подтверждения эффективности новых механизмов и улучшения согласованности реакций Ии.

Заявления Билла Гейтса о рисках ИИ

Ранее основатель Microsoft Билл Гейтс высказал обеспокоенность по поводу возможных последствий развития искусственного интеллекта. Он отметил, что прогресс в этой области может привести к событиям, которые потенциально вызовут гибель миллиарда человек. Миллиардер считает, что современные Ии-технологии достигли уровня, при котором они могут стать крайне опасным инструментом, особенно если окажутся в руках лиц с негативными намерениями.

Гейтс подчеркнул, что человечество впервые сталкивается с технологией, которая сочетает в себе огромную мощь и доступность, создавая уникальный риск. Он призвал к более внимательному подходу к регулированию и этике использования искусственного интеллекта.

По материалам: Lenta.ru