Гендиректор Nvidia Дженсен Хуанг готовий припинити постачання чипів для небезпечного ШІ
Дженсен Хуанг заявив, що Nvidia може припинити постачання чипів клієнту, який створює небезпечний штучний інтелект.
Генеральний директор Nvidia Дженсен Хуанг заявив, що компанія могла б припинити постачання чипів клієнту, який розробляє небезпечний штучний інтелект. Водночас він назвав такий сценарій гіпотетичним і сказав, що нинішній рівень занепокоєння щодо ШІ є невиправданим, повідомляє The Next Web.
У розмові з Bloomberg у Лондоні Хуанг зазначив, що перед припиненням постачання спершу обговорив би ситуацію з клієнтом. За його словами, Nvidia не керує компаніями, які використовують її продукцію, а її технології мають універсальне призначення.
Перевірка покупців і контроль ШІ
Компанія вже застосовувала обмежувальні механізми для покупців у Сінгапурі, Малайзії та Японії. Торік Nvidia сформувала перелік схвалених покупців у цих країнах, а після посилення перевірок понад половина її колишніх клієнтів у регіоні більше не відповідала вимогам для купівлі продукції.
Хуанг вважає, що відповіддю на побоювання щодо штучного інтелекту має бути прискорення розвитку технологій стримування та моніторингу. Він заявив, що ШІ може виконувати функцію моніторингу. Nvidia також формує команду з безпеки, яка перевірятиме ШІ-агентів перед їхнім запуском. У компанії виходять із того, що поширення агентів обмежує не лише їхня здатність виконувати завдання, а й довіра до них.
Підхід Nvidia до регулювання
Минулого місяця на Dreamforce Хуанг говорив, що нових законів для ШІ не потрібно, а компанії мають рухатися максимально швидко, роблячи паузу лише тоді, коли продукт стає небезпечним. Така позиція відрізняється від підходу генерального директора Anthropic Даріо Амодеї, який закликав до загальногалузевого уповільнення розвитку ШІ, спільних стандартів та міжнародного компонента регулювання.
Nvidia цього тижня також оголосила про виділення 250 млн доларів на дослідження безпеки агентного ШІ у Великій Британії. Йдеться про обчислювальні ресурси, а не грошове фінансування; вибір постачальників і комерційні умови ще мають бути погоджені. Оксфордський університет і Університетський коледж Лондона вивчатимуть захисні механізми та способи контролю ШІ-агентів.
