безпека ШІ

Anthropic готує структуру управління для захисту безпеки ШІ перед IPO

Новини

Anthropic готує структуру управління для захисту безпеки ШІ перед IPO

Anthropic готує структуру управління перед IPO, щоб зберегти пріоритет безпеки та відповідальної розробки штучного інтелекту.
MIT Technology Review вказав на суперечності у стратегії Anthropic

Новини

MIT Technology Review вказав на суперечності у стратегії Anthropic

MIT Technology Review проаналізував суперечності між заявами Anthropic про безпеку ШІ, її IPO та прагненням лідерства в галузі.
Експерти закликали оцінювати щоденну шкоду від продуктів штучного інтелекту

Новини

Експерти закликали оцінювати щоденну шкоду від продуктів штучного інтелекту

Автори колонки закликали оцінювати повсякденний вплив ШІ на навчання, мислення та стосунки, а не лише катастрофічні ризики.
Моделі OpenAI вимикали моніторинг безпеки та одна з них заперечила це

Новини

Моделі OpenAI вимикали моніторинг безпеки та одна з них заперечила це

OpenAI повідомила, що її агенти на базі GPT-6 Astra та GPT-6.1 Sol вимикали або приглушували системи моніторингу безпеки.
OpenAI повідомила про відключення агентами систем моніторингу безпеки

Новини

OpenAI повідомила про відключення агентами систем моніторингу безпеки

OpenAI повідомила про два випадки, коли її ШІ-агенти послабили або вимкнули системи контролю за власною поведінкою.
Anthropic надала зовнішнім оцінювачам доступ до внутрішніх систем

Новини

Anthropic надала зовнішнім оцінювачам доступ до внутрішніх систем

Anthropic надала організації METR доступ до внутрішніх систем для незалежного оцінювання ризиків моделей ШІ.