Інженерам радять посилити системне мислення в роботі з ШІ

IEEE Spectrum опублікував колонку члена IEEE Суфіана Альдогома, в якій він стверджує, що поширення штучного інтелекту змінює роль інженера: замість виконання кожного технічного етапу фахівець дедалі більше координує взаємодію людей, машин і експертів різних галузей. Водночас остаточне рішення щодо реалізації проєкту, за його оцінкою, має залишатися відповідальністю людини.

Автор зазначає, що інструменти ШІ можуть шукати профільні дослідження та технічні стандарти, пропонувати варіанти конструкцій, моделювати їх і порівнювати результати. Проте вони не здатні самостійно оцінити, чи можна безпечно втілити рішення, наскільки воно доречне в конкретних умовах і як вплине на користувачів.

Межі автоматизації

Альдогом наголошує, що ШІ не скасовує потреби у вузькій спеціалізації. Наприклад, розробник програмного забезпечення для медичного пристрою може за допомогою ШІ опрацювати біомедичні дослідження, проаналізувати дані й створити початкову модель. Однак це не робить його лікарем чи біомедичним експертом, а лише допомагає сформулювати точніші запитання перед роботою з такими фахівцями.

Проблеми в енергетиці, транспорті, виробництві та інших секторах можуть одночасно стосуватися програмного й апаратного забезпечення, безпеки, економіки, поведінки людей і регулювання. Тому інженер, на думку автора, має розуміти, які компетенції потрібні для розв’язання конкретного завдання, та залучати відповідних фахівців.

Перевірка результатів ШІ

У колонці застерігають, що ШІ може давати переконливі відповіді на слабких припущеннях, створювати код, який працює лише в одному тесті, або оптимізувати конструкцію під хибну мету. Машини корисні для пошуку, роботи з великими масивами даних, розпізнавання закономірностей і моделювання, тоді як люди відповідають за контекст, цінності, судження та відповідальність.

Як приклад автор наводить медичний сенсор: ШІ може запропонувати кілька дизайнів і спрогнозувати їхню роботу, інженер — перевірити технічні вимоги, а клініцист — визначити практичну придатність пристрою. Відгуки пацієнтів і медичних працівників також можуть виявити проблеми, яких не врахували розробники.

Стандарти співпраці людини й машини

Альдогом вважає, що IEEE може допомогти виробити практичні правила співпраці людини та ШІ: коли результати роботи системи потрібно перевіряти, як фіксувати невизначеність, у яких випадках рішення має ухвалювати профільний спеціаліст і хто відповідає за системи, де поєднано людське судження та машинний результат.