Галюцинація ШІ ледь не спричинила військову операцію США проти китайського судна
Помилка чатбота у розвідданих ледь не призвела до операції США проти китайського судна, яку скасували в останній момент.
Американські військові літаки вже перебували в повітрі навесні, коли посадовці США виявили, що розвідувальні дані для збройної операції проти китайського судна були згенеровані чатботом із помилкою. Операцію скасували в останній момент, повідомляє TechCrunch з посиланням на CNN.
Помилка в даних про вантаж
У розвідувальному звіті, що поширювався під час війни з Іраном, ішлося, що судно перевозить компоненти для програми створення ядерної зброї. За даними CNN, хибна інформація виникла після того, як аналітик Командування спеціальних операцій США використав чатбот для узагальнення відкритих даних і секретної сигнальної розвідки.
Чатбот неправильно ідентифікував вантажну декларацію судна. Потім аналітик вдруге звернувся до інструменту, щоб оформити помилкові висновки як офіційний підсумок. Документ поширили командними каналами.
Заклик до додаткових запобіжників
США інтегрують штучний інтелект у військові процеси, щоб прискорити ухвалення рішень і зберегти перевагу над Китаєм. Пентагон заявляв, що ШІ може суттєво прискорити ланцюг ураження цілей, даючи командирам змогу реагувати у потрібний час. Водночас швидкість роботи таких систем може дозволити помилкам поширюватися за недостатнього людського контролю.
Науковий співробітник GovAI та ветеран армії США Джейк Стеклер зазначив, що військовослужбовцям важливо розуміти невизначеність, властиву великим мовним моделям. За його словами, це особливо критично для рішень, здатних призвести до застосування сили, зокрема під час визначення цілей, аналізу розвідданих або оперативного планування. Стеклер вважає, що цей інцидент має стати підставою для додаткових запобіжників, а не для відмови від ШІ.
