Алексей Владимирович Шестаков1, Александр Анатольевич Зуенко2, Ольга Николаевна Зуенко3
1, 2, 3Институт информатики и математического моделирования имени В. А. Путилова Кольского научного центра Российской академии наук, Апатиты, Россия
Ключевые слова: интеллектуальный поиск, RAG-технологии, большие языковые модели, диалог на естественном языке, онтологический инжиниринг, промпт-инжиниринг
Страницы: 129-142
Аннотация
В статье представлены начальные этапы разработки системы интеллектуального поиска информации
для сайта ФИЦ КНЦ РАН, основанной на применении больших языковых моделей, онтологического
и промпт-инжиниринга, RAG-технологии. Система нацелена на повышение релевантности ответов
на пользовательские запросы, формулируемые в процессе диалога на естественном языке и касающиеся
содержимого сайта, а также электронного хранилища документов ФИЦ КНЦ РАН. Спроектирована
архитектура системы и разработан ее прототип, реализующий некоторые из предполагаемых функций
интеллектуального поиска. Использование RAG-технологии позволяет анализировать актуальный
контекст без необходимости переобучения большой языковой модели, что особенно важно в условиях,
когда информация на сайте может оперативно добавляться и модифицироваться. Для некоторых типов
запросов разработаны специализированные промпты, позволяющие формулировать ответ в соответствии
со спецификой запроса. С целью исключения возможности передачи конфиденциальных сведений
внешним сервисам принято решение о локальном развертывании программной системы на сервере
ИИММ КНЦ РАН. Проведенные эксперименты продемонстрировали применимость предлагаемых решений
для рассматриваемых задач интеллектуального поиска.