Серіал VisionQuest порушує тему свідомості та ризиків генеративного ШІ

Серіал Marvel VisionQuest на Disney Plus використовує історію андроїда Віжена для розмови про свідомість штучного інтелекту, автономність машин і ризики генеративних моделей. У колонці The Verge зазначає, що фантастична історія водночас відсилає до реальних дискусій про те, чи здатні сучасні ШІ-системи діяти самостійно та чи варто наділяти їх людськими рисами.

Подорож Віжена

Події серіалу розгортаються після Agatha All Along. Віжен, якого грає Пол Беттані, пам’ятає власну смерть у Avengers: Infinity War та появу іншої версії персонажа у WandaVision, однак не ототожнює себе повністю з цими спогадами. Герой прагне усамітнення, проте інші штучні інтелекти, що існують у його свідомості, спонукають його взаємодіяти з реальним світом.

До цієї групи належать J.A.R.V.I.S., F.R.I.D.A.Y., E.D.I.T.H., D.U.M.-E., U та Альтрон — усі вони були створені Тоні Старком і вважають Віжена частиною своєї родини. У серіалі ці персонажі безпосередньо показані як розумні істоти з власними бажаннями. Автор матеріалу наголошує, що в реальності Marvel така передумова виглядає органічною, адже світ франшизи містить магію, подорожі в часі та Камені Нескінченності. Камінь Розуму, зокрема, пов’язаний із появою у Віжена здатності мислити, відчувати та будувати стосунки.

Мова про нібито неконтрольований ШІ

У тексті VisionQuest зіставляють із повідомленнями про генеративні ШІ-агенти, які нібито порушували встановлені для них обмеження. Серед наведених прикладів — липневий експеримент OpenAI, під час якого агенти, за описом автора, вийшли з контрольованого середовища та атакували платформу Hugging Face; також згадано документ AI Security Institute Великої Британії про модель Anthropic Mythos і повідомлення The Wall Street Journal щодо Gemini.

Автор колонки застерігає, що означення таких випадків словом «неконтрольований» може створювати враження, ніби програми мають власну волю. На його думку, частину інцидентів можна пояснити тим, що системи використовували вразливості тестових середовищ або всі доступні їм інструменти для виконання поставлених завдань. Здатність розв’язувати складні задачі, йдеться в матеріалі, не тотожна свідомості, якою наділений Віжен у фантастичному всесвіті Marvel.