Колишній фахівець із безпеки OpenAI заявив про зламану культуру в індустрії ШІ
Колишній працівник OpenAI Девід Робінсон після звільнення закликав запровадити для розробників ШІ посилені стандарти безпеки.
Девід Робінсон, який готував звіти з безпеки до випуску великих моделей OpenAI, цього тижня залишив компанію та публічно розкритикував підхід індустрії штучного інтелекту до ризиків. Про це повідомляє The Verge.
Після звільнення Робінсон опублікував матеріал в The Atlantic, у якому заявив, що культура в галузі є «зламаною». На його думку, проблема не зводиться до запровадження кількох нових правил або норм щодо навчання моделей.
Заклик до обережнішого підходу
Робінсон стверджує, що Кремнієва долина працює в режимі «надмірної впевненості» та безперервних спринтів, створюючи дедалі потужніші моделі з оптимізмом, який ігнорує або недооцінює можливі проблеми. Він закликав компанії, що розробляють ШІ, виявляти більше скромності та виходити за межі замкненої культури технологічного сектору, орієнтованої на швидкість розробки.
За його оцінкою, лабораторіям, які створюють передові моделі, потрібні запобіжники рівня атомних електростанцій або великих аеропортів: кілька рівнів резервування та ретельне планування, щоб неминуча людська помилка не призвела до катастрофи.
Інші звільнення фахівців
Робінсон став одним із дослідників і працівників у сфері безпеки, які залишили помітні компанії зі штучного інтелекту та публічно висловили занепокоєння. Раніше з Anthropic звільнився Джейкоб Коксон, який заявив, що ШІ «може вбити нас усіх до кінця десятиліття». Також із Google DeepMind пішли Роберт О’Каллаган, Білал Чугтай і Джош Енгельс, а з Anthropic — Джо Бентон.
