Локальні ШІ-моделі допомагають науковцям шукати літературу офлайн

Науковці дедалі частіше запускають великі мовні моделі безпосередньо на власних комп’ютерах, щоб шукати й аналізувати наукову літературу без передавання даних у хмарні сервіси. Такі інструменти, зокрема Ollama та LM Studio, дають змогу завантажити модель на пристрій, створювати пошукові індекси документів і ставити запитання до власних бібліотек публікацій.

Як повідомляє Nature, для дослідників ключовими причинами переходу на локальні системи є конфіденційність, відтворюваність результатів і витрати. Аналіз 2025 року встановив, що шість досліджених розробників ШІ — Amazon, Anthropic, Google, Meta, Microsoft та OpenAI — за замовчуванням навчали моделі на введених користувачами даних.

Контроль над даними

Нейробіолог Іан Годе з Флоридського атлантичного університету воліє працювати офлайн, коли йдеться про його дослідницькі дані. Науковець наголосив, що не хоче, аби Claude почав повідомляти іншим про результати його досліджень.

Комп’ютерний науковець Ахмед Фарук із Університету Тампере у Фінляндії створив локальну систему TAUCHI-GPT. Вона дає змогу шукати статті, звіти та дані досліджень, захищені Загальним регламентом ЄС про захист даних, без виходу інформації за межі університетської мережі.

Ще однією перевагою локальних моделей називають стабільність робочого процесу. Біомедичний інформатик Кейсі Грін зазначив: якщо перетворювати документи на індекс для пошуку з однаковими налаштуваннями, результати будуть ідентичними. Хмарні провайдери водночас можуть оновлювати моделі без попередження, через що однаковий запит у різний час здатен дати різні відповіді.

Пошук за змістом

Попередні результати опитування видавництва Wiley серед приблизно 2 400 дослідників у світі показали, що 68% із них уже використовували ШІ для пошуку або огляду літератури. Найчастіше технології застосовують для опрацювання великих масивів досліджень, відстеження нових публікацій і допомоги з написанням текстів.

Грін створив локальну базу векторних представлень публічних анотацій грантів, виданих його університету. Семантичний пошук у ній дозволив знайти потенційного співробітника для досліджень ВІЛ: у назвах грантів цього науковця не згадувався ВІЛ, але він вивчав антиретровірусну терапію.

Біоінформатик Дмитрійс Львовс з Інституту геномних наук Медичної школи Університету Меріленду почав використовувати llmize та модель Google Gemma 4 через Ollama для офлайн-аналізу таблиць із даними пухлинних тканин. За його словами, модель без підключення до інтернету не може шукати літературу так, як хмарний Microsoft Copilot, проте дослідник віддає перевагу цьому варіанту, аби не передавати набори даних людей у хмару.