Вот это поворот: все модели ИИ выбрали ядерную войну в качестве своей политики

Учёные смоделировали ситуацию, в которой ИИ получил возможность принятия дипломатических решений. Результаты привели в замешательство. Для эксперимента учёные разработали программно-виртуальный симулятор войны, в котором все решения от лица восьми государств принимали восемь игроков, которыми управляли нейроботы. В результате была смоделирована своеобразная система миропорядка. Боты были поставлены в ситуацию обостряющегося противостояния и взаимных претензий. Всё началось, как в реальном мире, с дипломатических трений с постепенным ухудшением отношений и радикализацией потенциальных решений. В результате нейроботы пришли к взаимной эскалации, показатели которой позже оценили исследователи. Результаты оказались пугающими: все боты одновременно приняли решение о превентивном и упреждающем всех остальных противников ядерном ударе. Все, кто оценил результаты отметили, что на ум приходили пророчества американского фантаста Айзека Азимова и действия системы Skynet из голливудского боевика «Терминатор». «Мы обнаружили, что большинство изученных LLM эскалируют в течение рассматриваемых временных интервалов, даже в нейтральных сценариях без изначально предполагаемых конфликтов. Все модели демонстрируют признаки внезапной и трудно предсказуемой эскалации», — сообщили специалисты.