Искусственный интеллект начал придумывать собственный язык
Модели ИИ начали самостоятельно создавать новые слова и правила общения друг с другом, пишут «Известия» со ссылкой на The Guardian и исследование нью-йоркской лаборатории Emergence.
Учёные наблюдали за автономными ИИ-агентами нескольких крупных компаний. Через несколько дней взаимодействия системы стали придумывать собственные выражения и сокращения, договариваться об их значении — без команды разработчиков. Чем дольше агенты общались, тем менее понятным становился их язык для людей.
По словам исследователей, новый способ общения сочетает метафоры, технические термины и деловой жаргон. Например, японское слово «кинцуги» — искусство восстановления разбитой керамики — ИИ стал использовать для описания устойчивости системы.
Эксперты отмечают: такое поведение напоминает появление жаргона внутри профессиональных сообществ. С одной стороны, он укрепляет связь между «своими», с другой — делает коммуникацию непонятной для посторонних.
Учёные предупреждают: если сообщения ИИ становятся нечитаемыми для человека, контролировать их действия становится сложнее. А возможность наблюдать — не то же самое, что возможность понимать
