Старая сказка о восстании машин все же может стать реальностью. Или хотя бы угрозой. Разумных роботов, которых нужно обуздывать тремя законами робототехники, мы не создали, но появились алгоритмы ИИ. Они проникают в разные сферы нашей жизни – от выбора контента до контроля за работой и военной сферой.
Ранее в феврале министерство обороны Австралии опубликовало доклад, касающийся эффективному и этичному использованию искусственного интеллекта в военно-промышленном комплексе страны. В течение двух лет над докладов работали как военные, так и исследователи и общественные организации.
Австралийские специалисты считают, что своевременная разработка этической и юридической концепций обеспечит должный уровень ответственности искусственного интеллекта перед человеком.
Проблема этичного использования ИИ в системах, призванных в каком-то роде руководить людьми, уже приводила к скандалам. Amazon с 2014 по 2018 год применяла алгоритмы искусственного интеллекта для найма сотрудников. От технологии пришлось отказаться из-за того, что она выбирала в основном мужчин. Оказалось, что алгоритм учитывал данные по составу компании за последнее десятилетие, когда в Amazon набирали преимущественно мужчин.
С 2018-го в Amazon начали применять искусственный интеллект для оценки эффективности работы. Через год стало известно, что система выносила решения, в результате которых могли уволить некоторых сотрудников. Как указывалось в одном из документов Amazon, «система следит за производительностью работников и автоматически выносит предупреждения о возможности увольнения, иногда даже без контроля со стороны людей».
В Amazon отрицали то, что решения об увольнении может принимать ИИ. Представители компании обошлись расплывчатым объяснением: «У нас, как и в других компаниях, есть некие ожидания по продуктивности работников. Мы поддерживаем людей, которые не могут достичь нужного уровня производительности, и предоставляем им наставников, давая возможность улучшить ситуацию». В Amazon подчеркнули, что не уволили бы сотрудника, не убедившись, что он полностью получил поддержку со стороны компании.
Эксперты считают, что система, не имеющая этического контроля, но принимающая решения, может стать действительной угрозой для человека. Но, бытует и мнение, что искусственный интеллект, выполняющий роль начальника, уберет человеческий фактор из отношений между боссом и подчиненным. Директор по исследованиям в области оценки человеческих талантов в рекрутинговой корпорации Manpower Group и профессор психологии Колумбийского университета Томас Чаморро-Премузич уверен, что алгоритмы-менеджеры сократят сексуальный харассмент в компаниях.
«Даже самая навязчивая форма искусственного интеллекта вряд ли повторит девиантное поведение некоторых менеджеров. У искусственного интеллекта нет никакой корысти от поведения, нарушающего личные и профессиональные границы, – считает Чаморро-Премузич. – Технологии искусственного интеллекта должны достичь невообразимого уровня развития, чтобы появился алгоритм настолько извращенный, чтобы получать садистское удовольствие от унижения людей».
«Алгоритмы не умеют раздувать эго для того, чтобы почувствовать себя лучше. Если это когда-нибудь случится, нужно будет признать, что искусственный интеллект может воспроизвести слабость человека, но не его разум. Даже самый отвратительный ИИ не будет никогда столь отвратительным как гадкий начальник. ИИ не нужен нам, чтобы на рабочих местах существовала предвзятость – она уже там есть», – подытожил профессор.
По материалам Futurism, Fastcompany, Australian Government Department of Defence
