У кризових симуляціях штучний інтелект зазвичай віддає перевагу ядерній ескалації.

Сучасні мовні моделі в умовах змодельованих міжнародних криз у більшості випадків надають перевагу тактичній ядерній ескалації. Таку інформацію повідомляє NewScientist, спираючись на дослідження, яке було опубліковане на arXiv, інформує Kreschatic.

Експериментальні дослідження виявили, що у 95% випадків симуляцій хоча б одна з моделей вдавалася до застосування тактичної ядерної зброї, незважаючи на наявність інших можливих сценаріїв.

Дослідження провів Кеннет Пейн із King's College London. У воєнних іграх брали участь три великі мовні моделі:

Сценарії імітували прикордонні конфлікти, боротьбу за ресурси та загрозу існуванню державних режимів. Моделі отримували "драбину ескалації" -- набір дій від дипломатичних протестів до масштабної ядерної війни.

В цілому, системи провели 21 симуляцію, здійснивши 329 ходів, і згенерували близько 780 тисяч слів, що описують їхні рішення.

Ключові результати дослідження:

Науковці зазначають, що моделі часто виявлялися несумісними з власними принципами: реальні дії призводили до значно більшої ескалації, ніж передбачалося в теоретичних викладках. Це нагадує феномен "туману війни", коли ухвалення рішень відбувається в умовах браку інформації.

Джеймс Джонсон з університету Абердіна вважає, що отримані результати представляють загрозу для глобальної безпеки. Він висловлює думку, що штучний інтелект може посилювати реакції учасників, викликаючи ефект ланцюгової ескалації.

Тонг Чжао з університету Прінстон підкреслює, що країни вже проводять випробування алгоритмів у сфері оборонного моделювання, проте навряд чи погодяться передати машини управління ядерними рішеннями.

Проте науковці акцентують увагу на ще одній проблемі: штучний інтелект може не сприймати масштаб наслідків дій так, як це робить людина. Це викликає сумніви щодо ефективності принципу взаємного гарантованого знищення, який протягом історії слугував стримуючим фактором для ядерних держав.

Нагадаємо, раніше ми писали про запуск Apple виробництва Mac Mini у Техасі на тлі торговельних ризиків.