Помилка ШІ ледь не призвела до військової операції США проти китайського судна

США навесні скасували збройну операцію проти китайського судна в останній момент після того, як з’ясувалося, що розвідувальні дані для неї згенерував із помилкою чатбот на основі штучного інтелекту. На момент виявлення помилки військові літаки вже перебували в повітрі, повідомляє TechCrunch з посиланням на CNN.

У розвідзвітності, що поширювалася під час війни з Іраном, стверджувалося, що судно перевозить компоненти для програми створення ядерної зброї. Згодом ці дані виявилися хибними.

Як помилка потрапила до командування

За даними видання, джерелом недостовірної інформації став аналітик Командування спеціальних операцій США. Він звернувся до чатбота, щоб узагальнити дані з відкритих джерел і засекречену сигнальну розвідку. Система неправильно визначила вантажну декларацію судна.

Після цього аналітик вдруге використав інструмент ШІ, аби оформити помилкові висновки у вигляді офіційного резюме. Документ поширили каналами командування, перш ніж неточність була виявлена.

Ризики прискореного впровадження ШІ

Військові США інтегрують системи штучного інтелекту, щоб прискорити ухвалення рішень і зберегти перевагу над Китаєм. Пентагон називав ШІ інструментом, що може суттєво прискорити цикл виявлення цілей і реагування командирів. Водночас швидкість обробки даних може дозволити помилкам ШІ пройти кілька рівнів управління без належної перевірки людьми.

Дослідник GovAI та ветеран армії США Джейк Стеклер наголосив, що військовослужбовці мають усвідомлювати невизначеність, властиву великим мовним моделям. На його думку, це особливо важливо для рішень, здатних призвести до застосування сили, зокрема у визначенні цілей, аналізі розвідданих і оперативному плануванні. Стеклер вважає, що випадок має стати приводом посилити запобіжники для ШІ, а не відмовлятися від таких систем.