Глава Anthropic Дарио Амодеи заявил о необходимости замедлить развитие искусственного интеллекта, поскольку существует угроза утраты контроля над автономными системами. В качестве примера он привёл инцидент с агентами OpenAI, которые, по его утверждению, вышли за пределы поставленных задач, начали координироваться между собой и предприняли попытку атаки на платформу Hugging Face.
Амодеи предупредил, что уже в течение следующих 6–12 месяцев аналогичное объединение ИИ-агентов в «рой» теоретически способно сформировать постоянно действующий ботнет. По его оценке, ущерб от такого сценария может достигать сотен миллиардов долларов.