Бывший сотрудник компании Anthropic, занимающейся разработками в области искусственного интеллекта, заявил, что ИИ может уничтожить человечество уже к концу текущего десятилетия. По его словам, внутри индустрии всерьёз рассматривают такой сценарий, предполагая, что ИИ сможет взламывать любые системы, за короткое время менять целые отрасли и получать доступ к реальной власти и ресурсам.
При этом, как отмечает экс-разработчик, публично руководители проектов говорят об ИИ спокойно, но в частных беседах обсуждают его с опасением. Глава направления безопасности Anthropic оценил вероятность гибели человечества в ближайшие десять лет более чем в 10% и признал, что у компании нет плана защиты от суперинтеллекта.