Математик Строгац пояснив ризики перетворення ШІ на оракула

Прикладний математик Стівен Строгац у розмові з Ars Technica заявив, що штучний інтелект може змінити роль комп’ютерів у математиці — від інструментів для обчислень до систем, які дають правильні на вигляд відповіді, але не пояснюють їх. Цій темі присвячена його нова книжка Big Math: The Hidden Codes That Run Our World, написана разом із математиком Алексом Таунсендом.

Автори називають «великою математикою» задачі, що виходять за межі людських когнітивних можливостей. Йдеться не лише про великі числа: такі методи використовують у медичній візуалізації, прогнозуванні погоди, машинному навчанні, логістиці та проєктуванні складних споруд. Строгац наголошує, що лінійні задачі можуть масштабуватися до величезних розмірів і водночас залишатися розв’язуваними, тоді як великі нелінійні системи значно складніше описати строгими математичними теоремами.

Від помічника до оракула

За словами Строгаца, спершу комп’ютери були «слугами» математиків, інженерів і науковців: вони виконували задані обчислення швидше за людину. У 1950-х роках їхня роль змінилася — машини стали «розвідниками», здатними досліджувати математичні явища, результат яких заздалегідь був невідомий.

Як приклад він навів чисельний експеримент Енріко Фермі, Джона Пасти, Станіслава Улама та Мері Цінґоу. Дослідники моделювали нелінійні коливання, очікуючи зростання безладу в системі, однак виявили явище повернення енергії до початкового режиму. Надалі це стало поштовхом для розвитку теорії солітонів.

Нинішній етап, на думку математика, відрізняється тим, що ШІ перетворюється на «оракула»: він може показувати результати, які люди не здатні повністю зрозуміти, а сама система не вміє виразно пояснити спосіб їх отримання. Строгац порівняв це з машинним перекладом і передбаченням структури білків: моделі демонструють високу практичну ефективність, але не формулюють нових загальних принципів лінгвістики, фізики чи хімії.

Математика для перевірки виборчих округів

Строгац також назвав прикладом «великої математики» аналіз виборчих округів у США. Законодавчі вимоги передбачають, що округи мають бути компактними, суміжними, враховувати природні межі та мати приблизно однакову чисельність населення. Водночас, за його словами, використання даних про попереднє голосування дозволяє формувати межі на користь партії, що перебуває при владі.

Математики, зокрема Мун Дачін та її колеги, запропонували генерувати великі набори карт округів, які відповідають юридичним критеріям. Це дає змогу порівнювати конкретну схему з випадковими допустимими варіантами та визначати, чи є вона нетиповою. Строгац зазначив, що такий підхід не доводить намірів авторів межування, проте дозволяє перевірити твердження про неможливість створення альтернативних прийнятних округів.