У США школярі подали позов після хибного AI-сигналу через пакет Doritos

У США школярі подали позов після хибного AI-сигналу через пакет Doritos

У Меріленді школярі подали позов після того, як AI-система помилково прийняла пакет Doritos за зброю та спричинила виклик поліції.

Четверо нинішніх і колишніх учнів школи Kenwood High School в окрузі Балтимор, штат Меріленд, подали позов проти шкільної системи, компанії Omnilert і поліцейських після того, як система штучного інтелекту помилково розпізнала пакет Doritos як зброю. Як повідомляє Ars Technica, школярі вимагають заборонити використання системи до запровадження належних процедур і навчання персоналу.

Інцидент стався у жовтні 2025 року, коли підлітки чекали на транспорт після футбольного тренування. Система Omnilert позначила одного з них, який тримав пакет чипсів Cool Ranch Doritos, як ймовірно озброєного. Представники шкільної системи, які переглянули відео з камер, приблизно за дві хвилини встановили, що загрози немає, та скасували сповіщення.

 

Затримання після скасованого сигналу

 

За твердженням позивачів, попри скасування тривоги до школи прибули щонайменше шість поліцейських автомобілів. Деякі правоохоронці нібито вийшли зі зброєю напоготові. Підлітків розділили, наказали їм стати на коліна на бетоні, закували в кайданки та обшукали їх і їхні речі. Згодом зброї не знайшли, а учням пояснили, що причиною виклику став сигнал AI-системи.

У позові зазначено, що під час затримання учням не повідомили, у чому їх підозрюють. Вони стверджують, що зазнали фізичного болю від кайданок, тривоги, страху та приниження. Також позивачі заявили, що після події почали почуватися менш безпечно у школі та менше довіряти поліції.

 

Висновки перевірки та позиція Omnilert

 

Офіс генерального інспектора з питань освіти дійшов висновку, що в роботі системи Omnilert не виявили упередженості. Водночас перевірка встановила, що директорка школи Кейт Сміт, яка не проходила навчання щодо системи, побачила сповіщення, не помітила його скасування та через 15 хвилин написала шкільному офіцеру з проханням залучити поліцію. У повідомленні вона зазначила, що предмет на зображенні «можливо, не» був зброєю.

За даними звіту інспектора, понад 99% сповіщень Omnilert у школах округу Балтимор були хибними позитивними сигналами, які не потребували реакції поліції. Інспектор рекомендував скоротити коло отримувачів таких сповіщень, проводити навчання двічі на рік і перейти на застосунок Omnilert, щоб працівники могли краще відстежувати скасування тривог.

У Omnilert заявили, що шкодують про пережите учнями, наголосивши: система надсилає на перевірку всі предмети, які можуть бути вогнепальною зброєю, а вирішальним має бути людський контроль. Шкільна система округу Балтимор не прокоментувала позов.