Науковець Ендрю Нг закликав змістити фокус ШІ з великих даних на якісні
Ендрю Нг пояснив, чому для практичних систем ШІ якість і розмітка даних можуть бути важливішими за їхній обсяг.
Науковець і засновник Landing AI Ендрю Нг вважає, що для багатьох практичних застосувань штучного інтелекту важливішим стає не збільшення моделі чи масиву даних, а систематична робота з якістю навчальних даних. Про це він розповів в інтерв’ю IEEE Spectrum.
Нг називає цей підхід data-centric AI — дисципліною системного проєктування даних, потрібних для успішної роботи системи ШІ. За його словами, протягом попереднього десятиліття розробники переважно вдосконалювали код і архітектури нейромереж, тоді як у багатьох прикладних завданнях продуктивнішим може бути поліпшення самого набору даних.
Водночас дослідник не вважає, що масштабування моделей вичерпало себе. Він очікує подальшого зростання базових моделей для обробки природної мови та бачить потенціал для таких моделей у комп’ютерному зорі. Розвиток великих моделей для відео, на його думку, стримує висока потреба в обчислювальних ресурсах і вартість обробки великих масивів зображень.
Якісні приклади замість великих масивів
Нг зазначив, що в галузях без доступу до гігантських масивів даних варто переходити від концепції великих даних до якісних даних. Як приклад він навів системи візуального контролю дефектів на виробництві: за його словами, 50 ретельно підготовлених прикладів можуть бути достатніми, щоб навчити нейромережу конкретному завданню.
У Landing AI для візуальної інспекції використовують попередньо навчену версію RetinaNet, проте ключовим елементом Нг назвав відбір зображень для донавчання та послідовне маркування. Якщо у наборі з 10 тисяч зображень невелика група прикладів одного класу має суперечливі позначки, інструменти платформи мають звертати увагу користувача саме на цю групу, щоб її можна було швидко перемаркувати.
Синтетичні дані та моделі для виробництва
Синтетичні дані Нг назвав важливим інструментом, але не єдиним рішенням. Їх можна застосовувати точково: наприклад, генерувати додаткові приклади для категорії дефектів корпусу смартфона, яку модель розпізнає гірше. Перед цим він радить розглядати простіші кроки — доповнення даних, підвищення узгодженості маркування або збирання додаткових даних на підприємстві.
Landing AI прагне надати виробникам інструменти, щоб вони самостійно могли маркувати дані, навчати та оновлювати моделі, зокрема коли змінюються продукція або умови освітлення. Нг також зазначив, що подібна потреба існує в інших сферах, зокрема в охороні здоров’я, де різні лікарні працюють із різними форматами електронних медичних записів.
