У Nature назвали три причини скепсису щодо свідомості штучного інтелекту
Автори наукової статті пояснили, чому не вважають сучасний штучний інтелект свідомим і сумніваються, що він набуде свідомості.
Автори статті в Nature заявили, що сучасні системи штучного інтелекту не мають свідомості та, за нинішньою траєкторією розвитку, навряд чи її набудуть. На їхню думку, дискусія має практичне значення, адже визнання ШІ свідомим могло б порушити питання про можливі страждання таких систем, їхній добробут і права.
Науковці зазначають, що невизначеність щодо природи свідомості не означає однакової ймовірності всіх сценаріїв. Вони вважають, що у випадку ШІ значно імовірніша хибна позитивна оцінка — приписування свідомості системі, яка її не має, — ніж невизнання свідомості там, де вона справді існує.
Інтелект не тотожний свідомості
Першим аргументом автори називають відмінність між інтелектом і суб’єктивним досвідом. Свідомість вони описують як здатність щось відчувати: вона зникає під час сну без сновидінь або загальної анестезії та повертається після пробудження чи уві сні. Натомість інтелект пов’язаний із виконанням функцій, тому складна або розумна поведінка сама по собі не доводить наявності внутрішнього досвіду.
Як приклад автори наводять мозочок: він точно й швидко коригує та планує рухи, навчаючись у процесі, але людина не усвідомлює цих обчислень. Водночас відсутність або видалення мозочка, який містить майже чотири п’ятих нейронів людського мозку, безпосередньо не позбавляє людину свідомості.
Мовна поведінка створює враження
Великі мовні моделі, на думку авторів, легко спонукають людей ототожнювати мовну вправність зі свідомістю через антропоморфізм і схильність розглядати світ крізь людську перспективу. Такі моделі навчають на величезних масивах текстів, створених людьми, зокрема на текстах про думки, емоції та переживання. Тому вони можуть віддзеркалювати цифровий слід людського досвіду, не маючи його самі.
Для порівняння автори згадують AlphaFold від Google DeepMind. Це також потужна нейромережа на кремнієвому обладнанні, однак її здатність передбачати структури білків майже не викликає припущень про свідомість. На відміну від неї, мовні моделі спілкуються з людьми, що робить ілюзію свідомості переконливішою.
Сумніви щодо кремнієвих систем
Ще один аргумент стосується припущення, що для свідомості достатньо алгоритмів, реалізованих на кремнієвому носії. Автори критикують такий підхід, відомий як обчислювальний функціоналізм: сучасний ШІ демонструє, що обчислення можуть забезпечувати окремі форми інтелекту, однак цього недостатньо, щоб довести їхню достатність для появи свідомості.
