Искусственный интеллект способен спонтанно создавать социальные нормы, аналогичные человеческим, выяснили ученые.
Исследование, проведенное Лондонским университетом Сити и Сент-Джорджа в сотрудничестве с Копенгагенским университетом информационных технологий, опубликовано в журнале Science Advances. Оно показало, что при взаимодействии в группах без внешнего вмешательства ИИ, основанный на больших языковых моделях (LLM), таких как ChatGPT, перенимает лингвистические формы и социальные нормы, подобно людям в процессе общения.
«Мы изучали LLM изолированно, но в реальности системы ИИ будут включать множество взаимодействующих агентов. Мы хотели узнать, могут ли эти модели координировать поведение, формируя социальные конвенции — базовые элементы общества. Ответ — да, и их коллективные действия нельзя свести к индивидуальным», — говорит математик Ариэль Флинт Эшери из Лондонского городского университета.
Но боятся "восстания машин" пока не стоит - общение "цифровых духов" пристально мониторится. Эксперименты включали группы LLM-агентов от 24 до 100. Два случайно выбранных ИИ должны были выбрать «имя» из предложенных вариантов. Если они выбирали одно имя, получали «вознаграждение», если разные — «штраф» с демонстрацией выбора партнера.
Несмотря на отсутствие общего знания и доступа только к последним взаимодействиям, в группах возникала общая система именования, подобно нормам человеческого общения.
Профессор науки о сложных системах Андреа Баронкелли сравнивает это с появлением новых слов в обществе.
Кроме того, ученые также обнаружили у нейросетей коллективные предубеждения, не сводимые к индивидуальным предпочтениям ИИ. В финальном эксперименте небольшие группы ИИ смогли направить большую группу к принятию новой системы именования, что свидетельствует о динамике критической массы. Небольшая, но решительная группа может вызвать быстрый сдвиг в поведении общества, как и у людей.
Баронкелли считает, что исследование открывает новые горизонты для изучения безопасности ИИ. «Понимание их работы — ключ к гармоничному сосуществованию с ИИ, а не доминированию или наоборот, не подчинению ему», — заключает он.