Фахівці обговорили ризик біозброї та вимирання через ШІ
Фахівці обговорили ризики вимирання через ШІ, контроль технологій і можливе використання моделей для створення біозброї.
MIT Technology Review провело дискусію про ризики штучного інтелекту, зокрема ймовірність катастрофічної шкоди та використання технологій для розроблення біологічної зброї. Як повідомляє MIT Technology Review, на запитання читачів відповідали старший редактор з теми ШІ Вілл Дуглас Гевен і репортерка Грейс Гакінс.
Учасники обговорення розглянули, чи справді ШІ становить небезпеку для людства, чому він потенційно може завдати шкоди та які кроки потрібні для ефективного контролю, моніторингу й регулювання таких систем.
Ризики для біотехнологій
Одним із можливих сценаріїв катастрофічної шкоди названо допомогу ШІ у проєктуванні та створенні біологічної зброї. Видання нагадало про дослідження 2022 року: науковці використали ШІ-генератор молекул, який створювали для розроблення ліків, і менш ніж за шість годин модель згенерувала 40 тисяч молекул, придатних як агенти хімічної війни.
Сучасні інструменти ШІ здатні відповідати на запитання майже з усіх наукових напрямів. Водночас розвиток редагування генів і синтетичної біології зробив біотехнологічні інструменти доступнішими. За оцінкою видання, запобіжники існують, але не є абсолютно надійними.
Оцінки загрози різняться
Науковці не мають спільної позиції щодо того, наскільки серйозною є загроза використання ШІ для створення небезпечних патогенів. У дискусії також порушили питання, чи є попередження про небезпеку штучного інтелекту обґрунтованими, чи їх посилюють технологічні компанії у власних комунікаціях.
Автори відповідей зосередилися на механізмах контролю за ШІ та на тому, як забезпечити його належне регулювання. Матеріал поєднує ці питання з ширшою дискусією про вплив доступних технологій на біобезпеку.
