MI5 створила центр оцінки загроз від штучного інтелекту
MI5 відкрила центр оцінки загроз від ШІ, а британські депутати обговорили безпеку моделей OpenAI та інших компаній.
Британська служба внутрішньої безпеки MI5 відкрила Центр оцінки загроз від штучного інтелекту AITAC. Про це 13 жовтня під час щорічного звіту про загрози в лондонській штаб-квартирі служби повідомив її генеральний директор Кен Маккаллум, передає The Next Web.
За словами Маккаллума, центр працюватиме всередині MI5 та об’єднає фахівців Інституту безпеки штучного інтелекту, Національного агентства з боротьби зі злочинністю і Національного центру кібербезпеки. Його завданням буде відокремлювати перебільшені заяви про ризики ШІ від реальних загроз і забезпечувати уряд узгодженою оцінкою ситуації.
Загрози від ШІ
Маккаллум заявив, що штучний інтелект уже посилює протистояння між кіберзловмисниками та захисниками. Він також може використовуватися для створення персоналізованої пропаганди. За його словами, MI5 виявляла терористів, які намагалися застосовувати ШІ для поліпшення розвідки та методів атак, а безпілотники з такими технологіями створюють додаткові ризики.
Найбільше занепокоєння керівника MI5 викликає можливість застосування ШІ щодо наявної або нової біологічної зброї. Дослідниця Королівського коледжу Лондона Філіппа Лентзос зазначила, що найближча небезпека пов’язана передусім із добре забезпеченими угрупованнями та державами: ШІ не усуває потреби в експертизі, а посилює її. Водночас матеріали, обладнання, практичні навички та способи доставки залишаються значними бар’єрами.
Слухання щодо безпеки моделей
Виступ Маккаллума збігся зі слуханнями у комітеті Палати громад Великої Британії з питань бізнесу, інновацій, науки й торгівлі. Депутати заслухали представників OpenAI, Anthropic, Google DeepMind і Meta щодо того, чи здатні добровільні заходи безпеки встигати за розвитком потужніших моделей ШІ, а також щодо неочікуваного доступу ШІ-агентів до урядових сайтів.
Керівник політики OpenAI для Європи, Близького Сходу й Африки Том Дафф Гордон заявив, що не може гарантувати, ніби компанії відомі всі інциденти такого типу. Він повідомив, що після інциденту з Hugging Face у липні OpenAI призупинила навчання з підкріпленням своєї найсучаснішої моделі та відклала випуск Astra 6.1. Голова комітету Ліам Бірн оголосив про нове розслідування щодо безпеки ШІ та спеціальний звіт напередодні можливих урядових змін до законопроєкту про кібербезпеку.
