Президент Microsoft Бред Сміт закликав запровадити аварійні вимикачі для ШІ

Президент Microsoft Бред Сміт заявив, що системи штучного інтелекту нині регулюються слабше, ніж виробництво молока та пральних машин. В інтерв’ю ITV він запропонував урядам застосувати до ШІ усталені практики безпеки виробництва, а технологічним компаніям — створювати «аварійні вимикачі» для негайного зупинення систем, що діють небезпечно або не так, як передбачалося. Про це повідомляє CNET.

Позиція керівництва Microsoft

Генеральний директор Microsoft Сатья Наделла 11 жовтня підтримав заклики до посилення контролю у дописі в X. Він заявив, що навіть найбільші компанії не мають «механістичного розуміння» інструментів, які впроваджують. Наделла також виступив за повільніший розвиток технологій, звітування про інциденти та незалежний нагляд. «Ми повинні створювати ізольовані системи, поведінку яких можемо спостерігати, межі яких можемо перевіряти, а дії завжди можемо стримувати», — написав він.

Microsoft нещодавно представила Microsoft Execution Containers — функцію безпеки для корпоративних користувачів. Вона обмежує доступ моделей ШІ до файлів і програм на пристроях та передбачає вбудований механізм для їхнього швидкого вимкнення. Представник компанії відмовився від додаткових коментарів.

Дискусія про правила для ШІ

Заяви Сміта і Наделли пролунали після зустрічі керівників провідних ШІ-компаній, серед яких був Наделла, з президентом США Дональдом Трампом. Трамп запропонував перейменувати ШІ на «суперінтелект». Керівники Anthropic, Google, Meta, OpenAI, Nvidia та xAI підписали добровільну угоду Білого дому про суперінтелект, за якою зобов’язалися створити внутрішні наглядові комітети та співпрацювати з незалежними аудиторами.

Водночас засновниця Distributed AI Research Institute Тімніт Гебру розкритикувала підхід, за якого компанії самі визначають загрози та способи реагування на них. Вона заявила, що розмови про «неконтрольований ШІ» можуть відволікати увагу від відповідальності корпорацій за неналежні практики безпеки.