Науковці переходять на локальні ШІ-моделі для роботи з даними

Науковці дедалі частіше встановлюють мовні ШІ-моделі безпосередньо на власні комп’ютери, щоб шукати інформацію у своїх бібліотеках досліджень і працювати з чутливими даними без передавання їх до хмарних сервісів. Такі інструменти, як Ollama та LM Studio, дають змогу завантажити модель і використовувати її офлайн, повідомляє Nature.

Нейробіолог Іан Годе з Флоридського Атлантичного університету обирає локальний режим для роботи з результатами досліджень. За його словами, продуктивність хмарних чатботів не переважує ризики для захисту даних, відтворюваності результатів і бюджету.

Конфіденційність і відтворюваність

Побоювання щодо конфіденційності мають підстави: аналіз 2025 року встановив, що шість вивчених розробників ШІ — Amazon, Anthropic, Google, Meta, Microsoft та OpenAI — за замовчуванням використовували введені користувачами дані для навчання моделей. Комп’ютерний науковець Ахмед Фарук із Тамперського університету створив локальну систему TAUCHI-GPT, аби шукати в документах і даних досліджень, що захищені Загальним регламентом ЄС про захист даних, не залишаючи університетську мережу.

Локальні моделі також можуть допомогти з відтворюваністю наукових процедур. Хмарні провайдери оновлюють моделі без попередження, тому однаковий запит у різний час може дати різні відповіді. Біомедичний інформатик Кейсі Грін зазначив, що локальна модель за незмінних налаштувань створюватиме однаковий пошуковий індекс і повертатиме ідентичні результати.

Пошук за змістом документів

Керівниця досліджень ШІ в офтальмології Джаяшрі Калпаті-Крамер використала моделі Qwen і NVIDIA Nemotron через Ollama, щоб проіндексувати на власному обладнанні десятирічний масив відкритих наукових публікацій. Її система щодня формує для керівника кафедри добірку нових статей, а результати кількох моделей зіставляє інша модель. Кожне узагальнене твердження перевіряють із фрагментом першоджерела.

За попередніми даними опитування видавництва Wiley, 68% приблизно 2400 дослідників у світі вже застосовували ШІ для пошуку або огляду літератури. Серед поширених завдань — опрацювання великих масивів досліджень, відстеження нових публікацій і допомога з написанням текстів.

Грін створив локальну базу семантичних представлень заявок на гранти свого університету. Під час пошуку потенційних партнерів для проєкту з ВІЛ семантичний пошук знайшов не лише гранти з прямою згадкою вірусу, а й дослідника антиретровірусної терапії. Водночас локальні рішення потребують потужнішого й дорожчого обладнання, а їхні відповіді все одно необхідно перевіряти.