Компания OpenAI создает новую команду для оценки, прогнозирования и защиты от рисков ИИ. Об этом объявил основатель ИИ-разработчика Сэм Альтман.
Новая команда называется Preparedness (Подготовленность) и возглавляет ее Александр Мадри, профессор Массачусетского технологического института.
Проект базируется на понятии подготовленности к возможным сценариям, когда ИИ будет использоваться для ущерба как сейчас, так и в будущем.
Команда поможет отслеживать, оценивать, прогнозировать и защищать от катастрофических рисков использования ИИ.