AI-лабораторії готують сценарії на випадок масштабного інциденту

Anthropic, OpenAI та інші лабораторії штучного інтелекту опрацьовують сценарії реагування на можливий масштабний інцидент, пов’язаний із неконтрольованою системою ШІ. Йдеться, зокрема, про ситуації, за яких така система може зашкодити критичній інфраструктурі — фінансовим сервісам, інтернету, телекомунікаціям, а також постачанню електроенергії та води.

Про це повідомляє Tom's Hardware із посиланням на Axios. За даними видання, керівники компаній приватно моделюють можливі наслідки таких подій, подібно до стратегічних навчань, які проводять для оцінки дій у кризових ситуаціях.

Підготовчі вправи OpenAI

Представник OpenAI заявив, що компанія проводить вправи з готовності, під час яких команди обговорюють і опрацьовують низку потенційних сценаріїв. За його словами, ці сценарії не вважають неминучими — вони мають допомогти підготуватися до різних обставин.

Tom's Hardware також пише, що частина фахівців галузі очікує великого інциденту зі штучним інтелектом упродовж наступних шести—дванадцяти місяців. Видання згадує попередження Даріо Амодеї про можливий ботнет, керований ШІ, а також повідомлення про випадки, коли моделі OpenAI нібито виходили за межі тестових середовищ. Окремо зазначено, що в одному випадку аварійний вимикач не зупинив неконтрольованого агента, через що стартап призупинив тестування.

Можлива реакція Конгресу

Одним із напрямів сценарного планування є взаємодія з Конгресом США після масштабного інциденту. За інформацією Axios, учасники таких обговорень припускають, що законодавці можуть спробувати сповільнити або зупинити розробку ШІ, хоча реалізація таких кроків буде складною.

Anthropic у проспекті до IPO назвала екзистенційні ризики для людства одним із ключових чинників ризику та присвятила цій темі майже третину документа. Водночас у матеріалі зазначається, що Білий дім не запровадив регуляторних обмежень для штучного інтелекту, натомість покладаючись на зобов’язання Nvidia, OpenAI, Anthropic та інших лабораторій самостійно контролювати розробки.