Жительница Флориды использовала чат-бота Claude как личный дневник, но однажды написала, что хочет купить оружие и расстрелять офис шерифа. Бот расценил это как угрозу и передал информацию компании Anthropic, которая, в свою очередь, уведомила полицию.
Девушку обвинили в письменной угрозе насилием — во Флориде это преступление второй степени. Переписку с Claude приобщили к делу в качестве доказательства. По данным источника, это не единичный случай.