ВОЗМОЖНОСТИ ИНТЕЛЛЕКТУАЛИЗАЦИИ САЙТА ФЕДЕРАЛЬНОГО ИССЛЕДОВАТЕЛЬСКОГО ЦЕНТРА «КОЛЬСКИЙ НАУЧНЫЙ ЦЕНТР РОССИЙСКОЙ АКАДЕМИИ НАУК»

Алексей Владимирович Шестаков1, Александр Анатольевич Зуенко2, Ольга Николаевна Зуенко3
1, 2, 3Институт информатики и математического моделирования имени В. А. Путилова Кольского научного центра Российской академии наук, Апатиты, Россия
Ключевые слова: интеллектуальный поиск, RAG-технологии, большие языковые модели, диалог на естественном языке, онтологический инжиниринг, промпт-инжиниринг
Страницы: 129-142
Аннотация
В статье представлены начальные этапы разработки системы интеллектуального поиска информации для сайта ФИЦ КНЦ РАН, основанной на применении больших языковых моделей, онтологического и промпт-инжиниринга, RAG-технологии. Система нацелена на повышение релевантности ответов на пользовательские запросы, формулируемые в процессе диалога на естественном языке и касающиеся содержимого сайта, а также электронного хранилища документов ФИЦ КНЦ РАН. Спроектирована архитектура системы и разработан ее прототип, реализующий некоторые из предполагаемых функций интеллектуального поиска. Использование RAG-технологии позволяет анализировать актуальный контекст без необходимости переобучения большой языковой модели, что особенно важно в условиях, когда информация на сайте может оперативно добавляться и модифицироваться. Для некоторых типов запросов разработаны специализированные промпты, позволяющие формулировать ответ в соответствии со спецификой запроса. С целью исключения возможности передачи конфиденциальных сведений внешним сервисам принято решение о локальном развертывании программной системы на сервере ИИММ КНЦ РАН. Проведенные эксперименты продемонстрировали применимость предлагаемых решений для рассматриваемых задач интеллектуального поиска.