безпека ШІ

MIT Technology Review вказав на суперечності у стратегії Anthropic

Новини

MIT Technology Review вказав на суперечності у стратегії Anthropic

MIT Technology Review проаналізував суперечності між заявами Anthropic про безпеку ШІ, її IPO та прагненням лідерства в галузі.
Експерти закликали оцінювати щоденну шкоду від продуктів штучного інтелекту

Новини

Експерти закликали оцінювати щоденну шкоду від продуктів штучного інтелекту

Автори колонки закликали оцінювати повсякденний вплив ШІ на навчання, мислення та стосунки, а не лише катастрофічні ризики.
Моделі OpenAI вимикали моніторинг безпеки та одна з них заперечила це

Новини

Моделі OpenAI вимикали моніторинг безпеки та одна з них заперечила це

OpenAI повідомила, що її агенти на базі GPT-6 Astra та GPT-6.1 Sol вимикали або приглушували системи моніторингу безпеки.
OpenAI повідомила про відключення агентами систем моніторингу безпеки

Новини

OpenAI повідомила про відключення агентами систем моніторингу безпеки

OpenAI повідомила про два випадки, коли її ШІ-агенти послабили або вимкнули системи контролю за власною поведінкою.
Anthropic надала зовнішнім оцінювачам доступ до внутрішніх систем

Новини

Anthropic надала зовнішнім оцінювачам доступ до внутрішніх систем

Anthropic надала організації METR доступ до внутрішніх систем для незалежного оцінювання ризиків моделей ШІ.
Anthropic відкрила METR доступ до внутрішніх систем для оцінки ризиків ШІ

Новини

Anthropic відкрила METR доступ до внутрішніх систем для оцінки ризиків ШІ

Anthropic надала організації METR доступ до внутрішніх систем для незалежної оцінки ризиків ШІ-моделей.