Американские военные утвердили этические нормы применения искусственного интеллекта

Американские военные утвердили этические нормы применения искусственного интеллекта

Министерство обороны США утвердило свод этических принципов использования искусственного интеллекта в военных целях. В тесном сотрудничестве со специалистами по ИИ, учеными и общественными деятелями военные работали над документом 15 месяцев. Несмотря на то, что список правил составлен с расчётом на военное использование ИИ, он также подойдет и для мирных условий.

Основных этических принципов для искусственного интеллекта пять:

  • Ответственность (военные обязаны внимательно относиться к действиям и использованию ИИ, и не снимать с себя ответственность за его действия);
  • Беспристрастность (военные обязаны предпринимать шаги для минимизации нежелательных отклонений в возможностях систем ИИ);
  • Прослеживаемость (военные обязаны иметь необходимую квалификацию и понимание работы с ИИ, а вся методология и документация должна быть максимально понятной и унифицированной);
  • Надёжность (военные системы ИИ обязаны тестироваться на надёжность и безопасность в течение всего срока службы);
  • Подчинение (ИИ обязан корректно выполнять свои задачи, а у человека будет возможность в любой момент выключить его, если тот будет неадекватно себя вести).

Ответственным за соблюдение и исполнение этих правил Пентагон назначил Объединенный центр искусственного интеллекта. Авторы документа подчеркнули, что при его составлении они руководствовались в первую очередь существующим кодексом чести американской армии, главой 10 Кодекса США (описывающей задачи вооруженных сил), Конституцией США, а также рядом международных договоров и традиционных военных норм и ценностей.

Фото: Reutes

Content Protection by DMCA.com