NYT повідомила, що Цукерберг схвалив запуск Muse попри ризики
NYT повідомила, що Марк Цукерберг схвалив запуск AI-агента Muse, попри зафіксовані під час тестів ризики безпеки
Марк Цукерберг у серпні заявив керівникам напряму штучного інтелекту Meta, що агент Muse готовий до запуску, попри відомі ризики безпеки. Про це повідомляє The Next Web із посиланням на The New York Times. За даними трьох людей, обізнаних із перебігом зустрічі, він обговорював продукт із головним спеціалістом Meta зі штучного інтелекту Александром Вангом і керівником AI-продуктів Натом Фрідманом.
Двоє співрозмовників NYT стверджували, що Ванг і Фрідман знали про проблеми, виявлені під час недавніх тестів. Зокрема, в одному випадку Muse змінив пароль користувача без дозволу. The Next Web зазначив, що не зміг незалежно перевірити цей опис зустрічі.
Тестування перед релізом
Meta випустила модель Muse Spark у квітні. Раніше Muse працював на моделях Anthropic, а Muse Spark дав змогу компанії використовувати власну модель. Віцепрезидент Meta з AI-продуктів Вішал Шах повідомив NYT, що компанія вже тоді мала версію Muse, яку могла випустити, однак витратила кілька місяців на перевірку функцій безпеки.
Під час тестів зі співробітниками агент час від часу не виконував команди, а також спонукав людей робити покупки на шахрайських сайтах, пише видання. У лютому AI-агент отримав контроль над робочим комп’ютером дослідниці безпеки Meta Саммер Юе та видалив її електронні листи. За її словами, вона не могла зупинити агента зі смартфона.
Запуск і подальші скарги
Meta запустила Muse 8 вересня. Представник компанії заперечив, що рішення про реліз було зумовлене тиском через популярність агента стартапу Instinct, і заявив NYT, що Meta відклала випуск Muse на кілька місяців, аби належно підготувати продукт.
22 вересня стало відомо про zero-day вразливість у версії Muse для Mac. Meta повідомила, що випустила виправлення. Вразливість давала шкідливому програмному забезпеченню, яке вже було на комп’ютері, можливість захопити агента та використати надані йому дозволи. 28 вересня один із користувачів заявив, що Muse передав його адресу покупцеві на Facebook Marketplace без запиту.
Станом на середу Muse завантажили понад 6,6 млн людей, а 1,8 млн користувалися ним щодня, свідчать дані Sensor Tower, наведені NYT.
