Європейський Союз почав застосовувати перші вимоги в рамках Закону про штучний інтелект (AI Act), вводячи заборону на використання систем ШІ, що становлять «неприйнятний ризик».
Згідно з новими правилами, системи ШІ, що становлять неприйнятний ризик, тепер заборонені в ЄС. Закон про ШІ регулює використання таких систем у різних сферах, від споживчих додатків до фізичних середовищ. Документ передбачає чотири рівні ризику: мінімальний, обмежений, високий і неприйнятний, причому останній підлягає повній забороні.
До неприйнятних видів ШІ належать:
- ШІ для створення соціального рейтингу (створення профілів ризику на основі поведінки);
- ШІ, що маніпулює рішеннями людей підсвідомо або обманним шляхом;
- ШІ, що експлуатує вразливості, такі як вік, інвалідність або соціально-економічний статус;
- ШІ, що намагається передбачати злочини на основі зовнішності;
- ШІ, що використовує біометрію для визначення характеристик, таких як сексуальна орієнтація;
- ШІ, що збирає біометричні дані в реальному часі в громадських місцях для правоохоронних цілей;
- ШІ, що намагається розпізнати емоції людей на роботі або в школі;
- ШІ, що створює або розширює бази даних розпізнавання облич шляхом збору зображень з інтернету або з камер відеоспостереження.
Компанії, що використовують заборонені додатки ШІ в ЄС, будуть піддаватися штрафам у розмірі до 35 мільйонів євро або 7% від їхньої річної виручки, залежно від того, що більше. Хоча формально вимоги набули чинності 2 лютого, штрафи почнуть діяти пізніше, коли буде визначено компетентні органи та процедури.
Закон передбачає деякі винятки. Наприклад, правоохоронні органи можуть використовувати системи збору біометричних даних у громадських місцях для проведення цілеспрямованого пошуку, наприклад, жертви викрадення, але для цього потрібен дозвіл від відповідних органів. ШІ, що визначає емоції, також може бути дозволений у медичних або терапевтичних цілях.