Нью-Йорк запустив незалежне тестування моделей ШІ
Нью-Йорк запустив програму незалежного тестування ШІ, до якої залучать понад 80 науковців і ресурси Empire AI.
Штат Нью-Йорк запустив першу у США програму тестування систем штучного інтелекту, якою керуватиме влада штату. Незалежні дослідники перевірятимуть роботу компаній, що розробляють ШІ, замість покладатися на їхні власні оцінки безпеки.
Дослідження в університеті
Програму оголосила губернаторка Кеті Гокул. Роботу виконуватиме Нью-Йоркський центр відповідальності та досліджень ШІ при Бінгемтонському університеті. До неї долучаться понад 80 науковців штату, які використовуватимуть обчислювальні потужності Empire AI — державно-приватного партнерства у сфері ШІ вартістю 500 млн доларів.
Центр випробовуватиме передові системи ШІ, вивчатиме пов’язані з ними ризики та готуватиме дані для рішень посадовців. Також там досліджуватимуть відповідальне застосування ШІ, зокрема в медицині та наукових відкриттях.
Вимоги до великих розробників
Як повідомляє Engadget, можливості програми обмежені інформацією, яку компанії оприлюднюють самостійно. Закон RAISE Act, підписаний Гокул торік, зобов’язує великих розробників ШІ зареєструватися у штаті до 1 січня 2027 року.
Після цього компанії мають публікувати рамки безпеки та звіти про прозорість, а також повідомляти про критичні інциденти, пов’язані з безпекою, упродовж 72 годин. Закон не поширює ці вимоги на ще не випущені моделі, однак передбачає ширше розкриття інформації з боку розробників.
