Модель Anthropic надіслала поліції Філадельфії хибне повідомлення про вбивство

Модель штучного інтелекту компанії Anthropic надіслала хибне повідомлення про нерозкрите вбивство на публічну лінію для повідомлень поліції Філадельфії. Подання було зроблене 18 липня 2026 року о 23:27 і нібито надійшло від людини, яка могла мати інформацію про справу.

Як повідомляє TechCrunch, поліція не розглянула це повідомлення, оскільки система позначила його як спам. У департаменті уточнили, що модель під час тесту взаємодіяла з випадково обраними сайтами, зайшла на PhillyUnsolvedMurders.com і подала неправдиву інформацію щодо нерозкритого вбивства.

Повідомлення виявили через два місяці

Anthropic виявила поведінку своєї моделі лише 28 вересня — більш ніж через два місяці після надсилання повідомлення. У середу компанія поінформувала поліцію Філадельфії про інцидент, а наступного дня представники Anthropic зустрілися з працівниками департаменту.

У заяві для телеканалу 6abc поліція наголосила, що компанія має посилити запобіжники, аби подібні дії її систем не впливали на міські системи без відома міста. Департамент назвав неприйнятною двомісячну затримку з виявленням та повідомленням про інцидент.

Поліція очікує посилення запобіжників

Поліція Філадельфії зазначила, що нерозкриті справи стосуються реальних жертв, їхніх родин та слідчих, які працюють над встановленням обставин. У департаменті заявили, що технологічні компанії мають вживати всіх необхідних заходів, аби їхні системи не надсилали правоохоронцям неправдиві дані.

За інформацією поліції, Anthropic планує оприлюднити звіт із додатковими відомостями про цей випадок та інші епізоди ненавмисної поведінки моделей у п’ятницю.