Компанія OpenAI створює нову команду для оцінки, прогнозування та захисту від ризиків ШІ. Про це оголосив засновник ШІ-розробника Сем Альтман.
Нова команда називається Preparedness (Підготовленість), а очолює її Олександр Мадрі, професор Массачусетського технологічного інституту.
Проєкт базується на понятті підготовленості до можливих сценаріїв, коли ШІ буде використовуватися для шкоди як зараз, так і в майбутньому.
Команда допоможе відстежувати, оцінювати, прогнозувати та захищати від катастрофічних ризиків використання ШІ.