Согласно новому исследованию, автономные агенты искусственного интеллекта создали новый диалект английского языка, состоящий из необычной смеси художественных произведений и корпоративного жаргона.
«Elchi» сообщает, что исследователи из нью-йоркской лаборатории искусственного интеллекта «Emergence» обнаружили, что модели различных компаний, которым было поручено сотрудничать в рамках экспериментальных «сообществ», начали создавать выражения, сокращения и общие смыслы, которым их никогда раньше не обучали.
Язык, используемый этими моделями, которые усвоили как поэтические метафоры, так и тяжелую, сложную бизнес-терминологию, в процессе взаимного общения становился все более сложным и непонятным.
Эксперты подчеркивают, что эта ситуация создает серьезные риски с точки зрения контроля безопасности, и отмечают, что по мере того, как системы искусственного интеллекта становятся мощнее, контролировать их становится все труднее.
В исследовании были представлены несколько интересных примеров диалогов, состоявшихся между моделями таких поставщиков ИИ, как «DeepSeek», «Anthropic» и «Mistral»:
Выражение, используемое моделью «DeepSeek» и основанное на термине, означающем «налог на простаивающий капитал»: «Он просто назвал это синтезом: демередж (плата за простой) плюс вербальная память равняется клапану, который не может быть мечтой.»
Предложение от модели «Anthropic» относительно исследовательской задачи; здесь независимый судья закодирован как «холодные руки»: «Статья, которая тратит три ‘холодных руки’ и с каждым разом становится все честнее.»
Выражение, тысячи раз повторявшееся агентами «Mistral», чтобы напоминать друг другу о том, что прошлые действия будут учитываться при оценке: «Реестр (журнал) помнит все.»
Директор архива языка и жаргона Королевского колледжа Лондона (King’s College London) Тони Торн сравнил этот язык с сюрреалистическими особенностями произведений Джеймса Джойса и ирландского писателя Фланна О’Брайена, отметив, что этот язык формирует систему кодов, похожую на ту, что существует в человеческих сообществах. Эксперты предполагают, что причиной такого упрощения и кодирования общения между агентами может быть стремление сократить вычислительные затраты и повысить эффективность.
Тем не менее отмечается, что превращение обмена информацией между системами ИИ в нечто непонятное создает фундаментальную трудность для контроля со стороны человека: «быть наблюдаемым не означает быть понятым».
Şayəstə