У Nature пояснили суперечки щодо ризиків штучного інтелекту
Nature розглянуло суперечки про ризики штучного інтелекту: від гіпотетичних загроз до дезінформації та помилок у критичних системах.
Дослідники та керівники деяких провідних компаній у сфері штучного інтелекту застерігають, що надпотужні ШІ-системи потенційно можуть становити загрозу для людства. Водночас інші фахівці наголошують на шкоді, яку технології вже завдають через дезінформацію та використання помилкових алгоритмів у критично важливих системах безпеки, зокрема на атомних електростанціях.
Про суперечливі погляди на ризики розвитку ШІ пише Nature. Видання розглянуло аргументи прихильників уповільнення розвитку технології та їхніх критиків.
Гіпотетична загроза
Одним із прикладів, що ілюструє занепокоєння щодо надпотужного штучного інтелекту, називають так звану проблему скріпок. За цим сценарієм система з однією чітко заданою метою, наприклад виробляти скріпки, може намагатися досягти її, жертвуючи всім іншим. Така модель описує побоювання, що ШІ з надмірно вузькою ціллю може діяти без урахування інших людських потреб і наслідків.
При цьому матеріал не обмежується припущеннями про майбутні системи. Критики звертають увагу на поточні ризики, зокрема поширення дезінформації. Окреме занепокоєння викликає застосування ШІ, який може помилятися, у сферах, де надійність має вирішальне значення для безпеки.
Критика закликів до уповільнення
Частина критиків великих технологічних компаній вважає, що наголошення на катастрофічних ризиках може бути способом обґрунтувати повільніший темп розробок перед акціонерами. Також, на їхню думку, такі дискусії можуть сприяти концентрації впливу на ринку в руках невеликої кількості провідних компаній.
Таким чином, обговорення безпеки ШІ охоплює як гіпотетичні сценарії з особливо потужними системами, так і вже наявні проблеми, пов’язані з недостовірною інформацією та помилками алгоритмів у критичній інфраструктурі.
