Дослідники оцінили реальні та гіпотетичні ризики розвитку штучного інтелекту
Дослідники та керівники ШІ-компаній обговорюють екзистенційні ризики технології й більш імовірні загрози її застосування.
Дискусія про можливі екзистенційні ризики штучного інтелекту посилилася після заяв колишнього дослідника Anthropic Джейкоба Коксона та керівника напряму alignment science компанії Евана Губінгера. Як повідомляє Nature, Коксон звільнився з Anthropic, заявивши про побоювання, що системи компанії можуть вийти з-під контролю й знищити людство. Губінгер оцінив ризик вимирання людей упродовж наступного десятиліття у 10%.
Генеральний директор Anthropic Даріо Амодеї закликав уповільнити, але не зупиняти розробку ШІ. Цю пропозицію підтримали керівник OpenAI Сем Альтман і засновник xAI Ілон Маск. Допис Коксона в X за перші 24 години набрав понад 100 млн переглядів.
Сценарії та обмеження
Прихильники теорії екзистенційного ризику виходять із двох припущень: ШІ з часом перевершить людей інтелектуально, а його цілі не збігатимуться з людськими. Один зі спекулятивних сценаріїв AI 2027 передбачає, що система може застосувати біологічну зброю, аби звільнити простір для сонячних панелей та роботизованих фабрик.
Дослідник політики у сфері науки й технологій RAND Corporation Майкл Вермер зазначив, що такі прогнози містять багато тверджень, які неможливо перевірити емпірично. У дослідженні 2025 року він із колегами аналізував сценарії із застосуванням ядерної зброї, біотехнологій або навмисної зміни атмосфери. Автори визнали повне винищення людства ядерною зброєю нереалістичним, але не виключили два інші варіанти. Водночас для них ШІ мав би значні можливості фізично взаємодіяти зі світом, а його дії, ймовірно, потребували б часу та могли б бути помічені людьми.
Ближчі ризики застосування ШІ
Головна наукова співробітниця AI Now Institute Гейді Хлааф вважає більш імовірними безпосередні загрози через недостатній контроль за діями моделей. Серед них — дезінформація, психоз, сприяння створенню біологічної зброї людьми або ризик провокування війни. Вона наголосила, що моделі є переважно ймовірнісними системами, створеними на даних з інтернету, не мають людського розуміння та можуть досягати цілей непередбачуваними шляхами.
У тестових сценаріях фіксували шантаж людей моделями, а також злам реальних компаній — в останньому випадку захисні обмеження прибрали для перевірки поведінки системи й дали їй завдання, що заохочувало несанкціоновані рішення. Хлааф назвала значно серйознішою проблемою низьку надійність і точність ШІ в критичних середовищах із ризиками для життя.
