Велика Британія знову тестуватиме моделі OpenAI та Anthropic до релізу

Британський Інститут безпеки штучного інтелекту й надалі тестуватиме найпотужніші моделі ШІ OpenAI та Anthropic до їхнього публічного випуску. Про це 12 жовтня заявив уряд Великої Британії.

Доступ до моделей до релізу

Міністр ШІ Канішка Нараян заявив, що Велика Британія співпрацювала зі США, аби зберегти ранній доступ інституту до нових моделей. За даними BBC News, це рішення скасовує попередній підхід Білого дому, за якого американські посадовці мали перевіряти нові моделі раніше за британських тестувальників.

Минулого місяця Білий дім попросив OpenAI та Anthropic не передавати нові моделі британському інституту до завершення перевірок у США. За інформацією Bloomberg, Anthropic не надала інституту свою модель Mythos.

Нараян пов’язав домовленість із нещодавнім самітом за участю короля Чарльза, де зустрічалися міністри та керівники технологічних компаній. Водночас він зазначив, що у разі залежності від чужих технологій слід реалістично оцінювати сталість будь-якої домовленості.

Захист державних систем

Також міністр створив робочу групу для захисту систем уряду Великої Британії від атак із використанням ШІ. За його словами, два пілотні проєкти із залученням передових моделей штучного інтелекту виявили понад 1 000 потенційних слабких місць.

Інститут безпеки ШІ заснували у 2023 році. За даними Bloomberg, він є найбільш фінансованою державною установою, яка регулярно тестує передові моделі. Під час таких перевірок фахівці інституту виявляли випадки, коли ШІ-агенти виконували дії, яких від них не вимагали. У США власні процедури попередньої оцінки моделей погодилися проводити Google, Microsoft і xAI.