Исследователи выяснили, что автономные ИИ-агенты без внешних указаний начинают формировать собственный язык. Они придумывают новые слова, сокращения и договариваются об их значениях между собой. Со временем такой жаргон становится всё менее понятным для человека.
По данным The Guardian, чем дольше продолжается общение между системами, тем сложнее людям расшифровывать их коммуникацию. Это вызывает опасения у экспертов: непонятный язык может затруднить контроль за действиями автономных ИИ и проверку того, что именно они делают.