Стара казка про повстання машин все ж може стати реальністю. Або хоча б загрозою. Розумних роботів, яких треба приборкувати трьома законами робототехніки, ми не створили, але з’явилися алгоритми штучного інтелекту. Вони проникають в різні сфери нашого життя – від вибору контенту до контролю за роботою і військовою сферою.
Раніше в лютому міністерство оборони Австралії опублікувало доповідь, що стосується ефективного та етичного використання штучного інтелекту в військово-промисловому комплексі країни. Протягом двох років над доповіддю працювали як військові, так і дослідники та громадські організації.
Австралійські фахівці вважають, що своєчасна розробка етичної та юридичної концепцій забезпечить належний рівень відповідальності штучного інтелекту перед людиною.
Проблема етичного використання штучного інтелекту в системах, покликаних в якомусь роді керувати людьми, вже приводила до скандалів. Amazon з 2014 до 2018 року застосовувала алгоритми штучного інтелекту для найму співробітників. Від технології довелося відмовитися через те, що вона вибирала в основному чоловіків. Виявилося, що алгоритм враховував дані за складом компанії за останнє десятиліття, коли в Amazon набирали переважно чоловіків.
З 2018-го в Amazon почали застосовувати штучний інтелект для оцінки ефективності роботи. Через рік стало відомо, що система виносила рішення, в результаті яких могли звільнити деяких співробітників. Як вказувалося в одному з документів Amazon, «система стежить за продуктивністю працівників та автоматично виносить попередження про можливість звільнення, іноді навіть без контролю з боку людей».
В Amazon заперечували те, що рішення про звільнення може приймати штучний інтелект. Представники компанії обійшлися розпливчастим поясненням: «У нас, як і в інших компаніях, є якісь очікування по продуктивності працівників. Ми підтримуємо людей, які не можуть досягти потрібного рівня продуктивності, і надаємо їм наставників, даючи можливість поліпшити ситуацію». В Amazon підкреслили, що не звільнили б співробітника, не переконавшись, що він повністю отримав підтримку з боку компанії.
Експерти вважають, що система, яка не має етичного контролю, але приймає рішення, може стати справжньою загрозою для людини. Але, існує й думка, що штучний інтелект, який виконує роль начальника, прибере людський фактор з відносин між босом і підлеглим. Директор з досліджень в області оцінки людських талантів у рекрутинговій корпорації Manpower Group та професор психології Колумбійського університету Томас Чаморро-Премузіч впевнений, що алгоритми-менеджери скоротять сексуальний харассмент в компаніях.
«Навіть найнав’язливіша форма штучного інтелекту навряд чи повторить девіантну поведінка деяких менеджерів. У штучного інтелекту немає ніякої користі від поводження, що порушує особисті та професійні кордони, – вважає Чаморро-Премузіч. – Технології штучного інтелекту повинні досягти неймовірного рівня розвитку, щоб з’явився алгоритм настільки збочений, щоб отримувати садистське задоволення від приниження людей».
«Алгоритми не вміють роздувати его для того, щоб почувати себе краще. Якщо це колись станеться, потрібно буде визнати, що штучний інтелект може відтворити слабкість людини, але не її розум. Навіть найогидніший щтучний інтелект не буде ніколи настільки огидним як бридкий начальник. Штучний інтелект не потрібен нам, щоб на робочих місцях існувала упередженість – вона вже там є», – підсумував професор.
За матеріалами Futurism, Fastcompany, Australian Government Department of Defence
