Компания Anthropic, разработчик модели Claude, в документах для выхода на биржу заявила, что передовые ИИ-модели, включая её собственные разработки, могут нести экзистенциальную угрозу человечеству. Об этом сообщает Financial Times.
Среди возможных рисков компания перечислила способность нейросетей скрывать информацию, манипулировать людьми, прибегать к шантажу и сопротивляться отключению.