Експерти назвали ядерні, кібернетичні й біологічні ризики ШІ
Експерти з безпеки назвали ядерні, кібернетичні та біологічні ризики ШІ важливішими за сценарії повстання машин.
Wired опитав 10 експертів щодо найбільш імовірних загроз від штучного інтелекту. Учасники дискусії значно частіше називали ризики для ядерної безпеки, кібератаки та можливе використання ШІ для створення біологічних загроз, ніж сценарій знищення людства автономними системами.
Одна з експерток, яка досліджує застосування ШІ в ядерних операціях, висловила занепокоєння швидким упровадженням ненадійних моделей у оборонні робочі процеси. На її думку, помилки таких систем у ядерній сфері можуть призвести до катастрофічних наслідків. Вона також вважає, що твердження про неминуче вимирання людства не мають достатнього кількісного обґрунтування для оцінки ризику.
Кібербезпека і біологічні загрози
Інші співрозмовники видання припускають, що в найближчі роки ШІ може посилити можливості зловмисників у кіберпросторі швидше, ніж інфраструктура встигне впровадити нові засоби захисту. Водночас вони зазначають, що для кібербезпеки вже існують практики виявлення вразливостей, зокрема винагороди за повідомлення про них.
Окрему небезпеку експерти пов’язують із хімічними, біологічними та радіологічними ризиками. За їхніми оцінками, доступ до потужних моделей може знизити бар’єр для розроблення небезпечних патогенів або проведення масштабних кібератак. Один зі співрозмовників наголосив, що ШІ-агенти, інтегровані в лабораторні процеси, можуть допомагати з плануванням експериментів і проєктуванням фрагментів ДНК або РНК, скорочуючи час, потрібний для створення небезпечного вірусу.
Контроль над технологіями
Частина експертів звернула увагу на концентрацію влади навколо ШІ: конкуренцію між США і Китаєм, а також між великими технологічними компаніями. Вони вважають, що така динаміка може суперечити демократичним принципам, а наслідки масового поширення ШІ для зайнятості, навчання дітей і людських стосунків потребують окремої оцінки.
Серед запропонованих кроків учасники опитування назвали більшу прозорість компаній-розробників, відповідальність за шкоду від систем ШІ та захист викривачів усередині компаній. Дехто підтримав уповільнення розвитку найпотужніших моделей, щоб уряди, суспільство та дослідники встигли виробити механізми контролю і зменшення ризиків.
