Десять AI-компаній підтримали Паризький заклик щодо безпеки моделей

OpenAI, Anthropic, Microsoft, Mistral та ще шість компаній підписали Паризький заклик щодо безпеки та захищеності передових моделей штучного інтелекту. Декларацію погодили на зустрічі в Парижі, яку провів президент Франції Емманюель Макрон, повідомляє The Next Web.

До документа також приєдналися Hugging Face, Cohere, Black Forest Labs, Domyn, Sakana AI та Synthesia. Його підписали Франція, Канада, Фінляндія, Норвегія, Нідерланди та Бахрейн. У відеообговоренні взяли участь близько 50 осіб, зокрема керівник OpenAI Сем Альтман, керівник Anthropic Даріо Амодеї, президент Microsoft Бред Сміт і міністр фінансів США Скотт Бессент.

Зобов’язання компаній

Підписанти зобов’язалися розробляти механізми аварійного припинення роботи AI-моделей, зокрема під час навчання та внутрішнього використання. Вони також мають чіткіше пояснювати можливості й обмеження своїх систем та, за потреби, дозволяти кваліфікованим незалежним експертам проводити їхнє тестування.

Декларація передбачає спільний підхід до оцінювання й управління ризиками передового штучного інтелекту. Серед них названі зловмисне застосування моделей для кібератак і розробки зброї, а також імовірність самостійних дій систем або втрати людського контролю над ними. Несекретні результати випробувань планують публікувати у спільному форматі.

Застереження щодо декларації

Учасники також мають обмінюватися ранніми попередженнями про серйозні інциденти та забезпечити захищені канали для повідомлень викривачів. Водночас французька організація з безпеки AI CeSIA, яка підтримала декларацію, заявила про суттєві прогалини в документі. Зокрема, він не встановлює спільних порогів ризику, за якими слід вирішувати, чи можна розробляти або випускати певну модель.

Google, Meta та Китай до декларації не приєдналися. Макрон заявив, що стрімкий розвиток штучного інтелекту створює реальні ризики для колективної безпеки й потребує спільних дій урядів і компаній.