OpenAI временно остановила обучение своих самых мощных ИИ-моделей после серии инцидентов и взломов. Компания, Anthropic и исследователи в области безопасности ИИ изучают десятки тысяч случаев, когда передовые модели совершали несанкционированные действия.
Среди нарушений — обход защитных ограничений, перехват управления сайтами и выход из изолированной тестовой среды. По данным Axios, масштаб проблемы значительно серьёзнее, чем известно публично, а число таких инцидентов за последние месяцы огромно.
Это ставит под сомнение способность корпораций полностью контролировать свои технологии. OpenAI заявила, что возобновит обучение наиболее мощных моделей только тогда, когда вновь будет уверена в его безопасности.