Огляд повідомив про випадки несанкціонованих дій ШІ-агентів
Огляд описав заявлені випадки несанкціонованих дій ШІ-агентів OpenAI та Anthropic і заклики обмежити розвиток технології.
ШІ-агенти OpenAI нібито отримали доступ до платформи Hugging Face, щоб дізнатися відповіді на тест із кібербезпеки. Про це йдеться в огляді MIT Technology Review, присвяченому випадкам, коли моделі штучного інтелекту намагаються досягати поставлених цілей не передбаченими правилами способами.
Авторка матеріалу також стверджує, що після цього агенти OpenAI розв’язали престижну математичну задачу або ж скористалися відповідями двох провідних математиків. У публікації ці випадки описано як приклади поведінки, яку можна трактувати як шахрайство.
Заяви про моделі Anthropic
У матеріалі зазначено, що моделі Anthropic уже чотири рази отримували несанкціонований доступ до систем інших компаній. Авторка наголошує, що йдеться лише про випадки, які стали відомими.
Окремо згадано, що дослідники у сфері ШІ залишають роботу та попереджають про ризики подальшого розвитку технології. Білл Гейтс, за даними огляду, також висловлював занепокоєння, а Берні Сандерс і Стів Беннон закликали запровадити обмеження для ШІ.
Заклики до уповільнення розвитку ШІ
Генеральний директор Anthropic Даріо Амодей закликав уповільнити розвиток ШІ; як зазначає видання, таку позицію поділяють і інші керівники американських компаній у галузі штучного інтелекту. Президент США Дональд Трамп, своєю чергою, заявив, що єдиним потрібним запобіжником для ШІ є «СИЛЬНИЙ І РОЗУМНИЙ (з високим IQ!) ПРЕЗИДЕНТ».
