Колишня членкиня ради OpenAI Тонер застерегла від довіри до керівників ШІ
Гелен Тонер, колишня членкиня ради OpenAI, заявила про потребу дієвої підзвітності компаній, що розробляють ШІ.
Колишня членкиня ради директорів OpenAI Гелен Тонер заявила, що безпечний розвиток штучного інтелекту не може залежати від особистої надійності керівників компаній. В інтерв’ю The Verge вона наголосила на потребі дієвих механізмів підзвітності для компаній, які створюють передові моделі ШІ.
Тонер була однією з чотирьох членів ради OpenAI, які проголосували за звільнення Сема Альтмана. Згодом Альтман повернувся на посаду генерального директора, Тонер залишила раду, а компанія сформувала новий склад директорів і надалі провела повну реструктуризацію.
Межі корпоративного контролю
За словами Тонер, некомерційна рада OpenAI мала стежити, щоб компанія не відступала від місії зі створення безпечного ШІ через пріоритет прибутку та зростання. Однак спроба ради скористатися цим механізмом підзвітності виявила його вразливість.
Вона вважає, що покладатися на довіру до однієї людини як на запоруку безпечного майбутнього ШІ — недостатньо. У розмові також ішлося про зіткнення зобов’язань щодо безпеки з комерційними стимулами технологічних компаній.
Робота з політиками
Тонер очолює Центр безпеки та нових технологій Джорджтаунського університету, відомий як CSET. Центр, заснований у 2019 році, налічує близько 50 працівників і готує для політиків аналітику щодо новітніх технологій, зокрема ШІ та питань національної безпеки.
На її думку, між технологічною галуззю та державними інституціями справді існує значний розрив у розумінні ШІ. Водночас Тонер зазначила, що працівники Конгресу й виконавчої влади США дедалі активніше цікавляться технологією та потребують незалежної, позапартійної інформації. Вона також сказала, що питання регулювання й безпеки ШІ набуває більшої ваги для виборців і має двопартійну підтримку.
Можливості нових моделей
Тонер зауважила, що досвід користувачів із безплатними версіями чат-ботів або автоматичними оглядами в пошуку не завжди відображає можливості передових моделей і агентних систем. Вона закликала оцінювати розвиток ШІ з огляду на швидкі зміни технології та на цілі, які ставлять перед собою провідні компанії галузі.
