Гендиректор Anthropic попередив про потенційні катастрофічні ризики ШІ
Гендиректор Anthropic Даріо Амодеї заявив, що безпека ШІ залежить від розуміння роботи моделей, а їхні ризики можуть бути значними.
Генеральний директор Anthropic Даріо Амодеї заявив, що безпека штучного інтелекту залежить від розуміння того, як саме працюють і «мислять» моделі. Водночас він визнав, що суспільство здебільшого не реагує на застереження щодо можливих катастрофічних наслідків розвитку ШІ.
Застереження керівника Anthropic
В інтерв’ю на початку 2025 року Амодеї сказав, що існують переконливі докази того, що моделі можуть завдати значної шкоди. За його словами, ці загрози все ще сприймають як теоретичні. Він припустив, що світ може усвідомити серйозність ризиків лише після події масштабу Перл-Гарбора.
Питання контролю над моделями
Anthropic неодноразово визнавала, що ШІ може мати катастрофічні наслідки. Амодеї пов’язує безпечне використання таких систем із глибшим розумінням їхньої внутрішньої роботи. Як повідомляє Wired, наявні свідчення щодо поведінки моделей викликають занепокоєння.
