Президент Трамп представив добровільну угоду про безпеку ШІ

Президент США Дональд Трамп провів у Білому домі зустріч із керівниками технологічних компаній, після якої учасники підписали добровільну угоду щодо безпеки штучного інтелекту. Документ має назву White House Accord on Super Intelligence та, як повідомляє Wired, описується як «морально зобов’язальний».

У подкасті Uncanny Valley журналісти видання зазначили, що угода передбачає саморегулювання лабораторій, які розробляють моделі ШІ. Компанії погодилися запровадити чотири рівні контролю та аудиту моделей, зокрема внутрішнє оцінювання, перевірку зовнішньою аудиторською фірмою і розгляд результатів аудитів радами директорів компаній.

Учасники зустрічі

На зустрічі в Білому домі, за даними подкасту, були генеральний директор Alphabet Сундар Пічаї, Ілон Маск, генеральний директор Anthropic Даріо Амодеї, генеральний директор Meta Марк Цукерберг, генеральний директор Nvidia Дженсен Хуанг і президент OpenAI Грег Брокман. Генеральний директор OpenAI Сем Альтман на захід не прибув.

Автори подкасту звернули увагу, що всі визначені угодою механізми є добровільними. Також вони зазначили, що наступного дня після оголошення угоди Федеральна торгова комісія США, за їхніми словами, посилила перевірку Anthropic, OpenAI та інших провідних лабораторій щодо потенційної небезпеки їхніх технологій для споживачів.

Нові агенти OpenAI

Окремою темою випуску став Developer Day компанії OpenAI. Під час заходу Сем Альтман представив Dots — постійно активних ШІ-агентів для широкої аудиторії. З ними можна взаємодіяти через ChatGPT або Slack і доручати їм виконання завдань в інтернеті.

У Wired також обговорили поширення ШІ-агентів на робочих місцях та спроби роботодавців інтегрувати такі системи у співпрацю з працівниками. Ведучі наголосили, що розробники роблять цифрових помічників візуально привабливими для користувачів, водночас доступ агентів до облікових записів і даних потребує уваги до приватності.