ШІ може посилити ризики створення біологічної зброї

Керівники та дослідники у сфері штучного інтелекту дедалі частіше попереджають, що розвиток моделей ШІ може полегшити створення небезпечних біологічних і хімічних агентів. Генеральний директор Anthropic Даріо Амодеї закликав уповільнити прогрес у цій сфері, а глава OpenAI Сем Альтман погодився, що розвиток передових систем потрібно стримувати, повідомляє MIT Technology Review.

Колишній співробітник Anthropic і OpenAI Джейкоб Коксон заявив, що компанії діють недостатньо відповідально. Його позицію публічно підтримав працівник Anthropic Еван Губінгер, який оцінив імовірність загибелі людства від ШІ протягом наступного десятиліття у 10%.

Ризики застосування моделей

Занепокоєння пов’язане з можливим використанням ШІ для розробки патогенів, токсинів або інших засобів ураження. У 2022 році дослідники Collaborations Pharmaceuticals перевірили власний алгоритм, призначений для пошуку ліків, і менш ніж за шість годин він згенерував 40 тисяч молекул, які потенційно могли б бути використані як агенти хімічної війни. Частина з них, за оцінкою авторів роботи, могла бути токсичнішою за відомі нервово-паралітичні речовини.

Професор медицини та біомедичної етики Стенфордського університету Девід Магнус назвав цей експеримент тривожним сигналом. Дослідниця біобезпеки Гамбурзького університету Дуня Сабра зазначила, що великі мовні моделі здатні надавати наукову інформацію та інструкції для проведення експериментів, тоді як інструменти редагування генів і синтетичної біології стали доступнішими.

Наявні обмеження та розбіжності в оцінках

Серед наявних запобіжників — перевірка замовлень фрагментів ДНК компаніями-виробниками, а також процедури red-teaming і blue-teaming, за яких незалежні науковці шукають можливості зловживання дослідженнями та пропонують способи зменшення ризиків. Компанії ШІ також обмежують відповіді моделей на потенційно небезпечні запити.

Водночас Anthropic у звіті минулого тижня визнала спроби використати її моделі для вивчення способів підвищити передаваність вірусу чикунгунья, зробити пташиний грип небезпечнішим для людей і створити каталог токсинів із отрути. Магнус вважає, що для посилення контролю може знадобитися застосування самого ШІ.

Не всі науковці однаково оцінюють масштаб загрози. Біологи Імперського коледжу Лондона наголошували, що сучасні інструменти ШІ ще не здатні самостійно забезпечити повну розробку біологічної зброї, оскільки перевірка нових патогенів потребує складної та тривалої роботи людей. Професорка інфекційних хвороб Венді Барклай також зазначила, що нині більший ризик пандемії становлять патогени, які вже циркулюють, зокрема вірус пташиного грипу H5N1.