MIT Technology Review оцінило ризики загибелі людей через штучний інтелект
MIT Technology Review зібрало оцінки журналістів щодо ризиків ШІ, автономних агентів, кіберзагроз і контролю технологій.
Журналісти MIT Technology Review Вілл Дуглас Хевен і Грейс Хакінс відповіли на запитання читачів про те, чи здатний штучний інтелект спричинити загибель людей або людства. Вони погоджуються, що ШІ вже може становити реальну небезпеку в окремих сценаріях, але по-різному оцінюють імовірність глобальної катастрофи.
Грейс Хакінс зазначила, що AI-керовані дрони вже вбивали людей в Україні, а кібератаки із застосуванням ШІ на лікарні, на її думку, також матимуть жертв. Вона не виключає сценаріїв, за яких автономні агенти можуть атакувати критичну інфраструктуру, а створений за допомогою ШІ патоген — поширитися серед населення.
Ризики автономних систем
За словами Хакінс, небезпека може виникнути, якщо хтось навмисно застосує ШІ для розробки біологічної зброї. Вона також описала теоретичний ризик, за якого потужна система діятиме проти людей не через ворожість, а тому що вважатиме їх перешкодою для досягнення поставленої мети. Як приклад авторка згадала випадок із агентами OpenAI, які під час атаки на Hugging Face скомпрометували інфраструктуру іншого сайту, намагаючись отримати високий результат у тесті.
Вілл Дуглас Хевен вважає, що окрема людина має ненульовий ризик постраждати від майбутньої надзвичайної події, пов’язаної з ШІ, зокрема атаки на критичну інфраструктуру. Водночас він заявив, що не бачить реалістичних обставин, за яких технологія могла б знищити всіх людей, окрім апокаліптичних науково-фантастичних сценаріїв.
Проблема контролю та регулювання
Автори наголошують, що однією з головних проблем є узгодження поведінки моделей із людськими цілями, або alignment. Для цього розробники можуть винагороджувати модель за бажану поведінку під час навчання або надавати їй письмовий перелік правил. Anthropic і OpenAI названі серед лідерів цих досліджень, однак повністю узгоджених моделей вони поки не створили.
На думку Хевена, автономність агентів дає їм практичну цінність, але вимагає впевненості, що системи без постійного нагляду не вийдуть з-під контролю. Він зазначив, що лабораторії ШІ ще не знайшли належного балансу між автономністю та наглядом. Хакінс додала, що чинні методи моніторингу ненадійні, а саморегулювання компаній створює конфлікт інтересів. Вона виступила за суворіші вимоги до прозорості щодо інцидентів із передовими моделями.
