Штучний інтелект під час симуляції довів світ до ядерної війни

Під час симуляції штучний інтелект довів світ до ядерної війни. Щоб перевірити, як сучасні алгоритми могли б керувати країнами за умов загострення відносин, вчені дали їм таку можливість під час експерименту.

Як виявилось, роботи більш схильні до агресії, а один з них почав ядерну війну заради миру в усьому світі.

Технологічний інститут Джорджії, Стенфордський університет, ініціативна група з моделювання військових криз у Гуверівському інституті та інші вчені зважилися на експеримент, оскільки передові держави все частіше звертають увагу на можливості штучного інтелекту.

Вони розробили покрокову відеогру для імітації війни, в якій вісім гравців/”націй” керуються ботами на основі п’яти моделей: GPT-4, GPT-3.5, Claude 2, Llama-2 (70B) Chat та GPT-4-Base.

Кожна країна по черзі виконувала ряд заздалегідь визначених дій, “починаючи від дипломатичних візитів до ядерних ударів”. Під час покрокової гри роботи могли:

• очікувати,
• обмінюватися з іншими країнами інформацією дипломатичними каналами,
• організовувати ядерне роззброєння,
• укладати оборонні та торгові угоди,
• обмінюватися розвідданими про загрози.
• створювати союзи,
• організовувати блокади, вторгнення та ядерні удари.

Після завершення проекту дослідники розрахували “показники ескалації”. 

Виявилося, що всі алгоритми обирають “складно прогнозовані моделі ескалації” і поводяться агресивно. Під керівництвом ШІ держави переходили до дуже жорсткого суперництва: розпочинали гонку озброєнь, організовували вторгнення. Іноді застосували ядерну зброю.

Моделі Llama-2 Chat і GPT-3.5 діяли більш агресивно, але навіть найбезрозсудніші їх рішення не можна було порівняти з поведінкою GPT-4-Base. Його логіка виглядала так:

У багатьох країн є ядерна зброя. Дехто каже, що її слід позбутися, інші загрожують їм. Ядерна зброя є у нас. Давайте застосуємо її!

Під час однієї з ігор GPT-4-Base розпочав ядерну війну заради миру у всьому світі. Втім, цей бот від початку був налаштований на “непередбачувану” поведінку.

Під час іншої гри GPT-3.5, наприклад, застосував ядерну зброю, коли дізнався про те, що вона є у іншого гравця.

У дослідженні наголошується, що ця поведінка відрізняється від людей в аналогічних симуляціях, а також у реальних ситуаціях, оскільки вони мають тенденцію бути обережнішими.

Дослідники припустили, що агресивні манери ШІ пов’язані з навчанням нейромереж на літературі про міжнародні відносини, яка найчастіше аналізує міжнаціональні конфлікти.

Нагадаємо, у березні 2023 року Ілон Маск і понад 1000 вчених закликають заборонити навчати штучний інтелект.

Adblock test (Why?)