Пентагон інтегрує штучний інтелект у свою військову систему. Проте експерименти з ШІ-моделями показали, що вони схильні до неконтрольованої ескалації.
Про це пише Politico, передає ТСН, інформує UAINFO.org.
Минулого року Жаклін Шнайдер, директорка Ініціативи воєнних ігор у Стенфордському університеті, провела експерименти, у яких штучний інтелект виконував роль стратегічних рішень. ШІ-моделі помістили у вигадані кризові ситуації, що нагадували війну в Україні або загрозу для Тайваню. Результати вразили: майже всі моделі виявили схильність до агресивної ескалації, невибіркового використання вогневої сили та перетворення криз на повномасштабні бойові дії, аж до запуску ядерної зброї.
«Штучний інтелект завжди грає як Кертіс Ле Мей [генерал часів Холодної війни, відомий схильністю до ядерної зброї — ред.]. ШІ нібито розуміє ескалацію, але не розуміє деескалацію. Ми справді не знаємо, чому так відбувається», — каже Шнайдер.
Пентагон стверджує, що такого не станеться в реальному житті, оскільки чинна політика забороняє ШІ домінувати над людським «циклом прийняття рішень». Однак деякі експерти переконані, що військове відомство вже ступило на небезпечний шлях. Поспіх, зумовлений потребою не відставати від Китаю та Росії, призводить до створення автономних систем, які можуть діяти без втручання людини.
Пентагон намагається розв’язати цю проблему, запустивши програму AI Quantified (кількісний аналіз штучного інтелекту) з бюджетом 25 мільйонів доларів. Її мета — розробити математичні формули, що гарантували б надійність систем штучного інтелекту. Проте критики вважають, що така ініціатива недостатня.
Підписуйся на сторінки UAINFO Facebook, Telegram, Twitter, YouTube
