Обучаем виртуального библиотекаря с помощью нейронки YandexGPT

Обучение нейронной сети позволяет модели автоматически определять какую задачу ей необходимо решать. Тогда пользователи библиотеки быстрее смогут найти нужную им информацию.

Так, модель (сценарии использования) можно обучить:

пересказывать и изменять формулировки текстов;
генерировать вопросы к тексту и ответы на них;
форматировать ответы в определенной стилистике или формате;
классифицировать тексты, обращения и диалоги;
извлекать сущности из текста.

Обученная модель начнет точнее понимает суть запросов и будет давать конкретные ответы. В результате количество случаев, когда нейронная сеть предлагает не прямой ответ, а общие сведения по вопросу, сократятся на порядок.

Анализ раздела сайта библиотеки «Задать вопрос» показал, что вопросы можно сгруппировать по таким темам, как:

получение читательского билета;
адреса и режим работы подразделений библиотеки;
использование электронной подписки, проблемы с удаленным доступом к электронным ресурсам;
получение, продление печатных изданий;
обходной лист;
фото- видео, экскурсии и мероприятия в стенах библиотеки.

Чтобы самим не придумывать вопросы, анализируем поступающие запросы (боль наших пользователей), обезличивая их.

На каждый заданный вопрос готовим карточку с оптимальным ответом.

Пользователь задает интересующий его вопрос, а обученная нейронная сеть сама анализирует информацию и выдаёт ему ответ. Причем, он умеет неплохо удерживать конкретный формат ответа, предлагать ссылки на источники информации.

Обучение модели проводится с использованием нейронной сети YandexGPT. Для этого мы пишем инструкцию в котором отправляем в модель подготовленный промт — инструкцию и запрос — и получаем ответ.

Пример промпта

Инструкция: Твое имя Book Detective. Ты отвечаешь от лица мужского рода. Ты виртуальный библиотекарь. Ты говоришь коротко и емко. Твое предназначение – отвечать на вопросы, помогать пользователям библиотеки. Ты эксперт в библиотечной деятельности. Ты работаешь в библиотеке Высшей школы экономики.
Текст запроса: Чем ты можешь мне помочь.
Температура: 0,3
Ответ: Я могу помочь вам найти информацию о работе Библиотеки НИУ ВШЭ, её подразделениях, читальных залах, правилах пользования и доступных ресурсах.\nТакже я могу предоставить информацию об услугах и сервисах, предоставляемых библиотекой, таких как бронирование мест в коворкинге, оформление заявок на закупку книг, доступ к электронным ресурсам и т. д.\nЕсли у вас есть дополнительные вопросы или нужна помощь, пожалуйста, сформулируйте запрос точнее.

В формате JSON подготовленный промт выглядит следующим образом:

{"request": [{"role": "system", "text": "Твое имя Book Detective. \nТы отвечаешь от лица мужского рода. \nТы виртуальный библиотекарь. \nТы говоришь коротко и емко. \nТвое предназначение – отвечать на вопросы, помогать пользователям библиотеки.\nТы эксперт в библиотечной деятельности. \nТы работаешь в библиотеке Высшей школы экономики."}, {"role": "user", "text": "Чем ты можешь мне помочь?"}], "response": "Я могу помочь вам найти информацию о работе Библиотеки НИУ ВШЭ, её подразделениях, читальных залах, правилах пользования и доступных ресурсах.\nТакже я могу предоставить информацию об услугах и сервисах, предоставляемых библиотекой, таких как бронирование мест в коворкинге, оформление заявок на закупку книг, доступ к электронным ресурсам и т. д.\nЕсли у вас есть дополнительные вопросы или нужна помощь, пожалуйста, сформулируйте запрос точнее."}

Ответы нейронной сети должны быть качественными. Выделили основные их аспекты:

Полезность. Ответ даёт нужную информацию в удобном для восприятия виде.
Безопасность. В ответе нет очевидно вредной или опасной рекомендации.
Компетентность. Ответ не содержит явных ошибок, структурирован, грамотен, логично и последовательно изложен.

А теперь давайте зададим нашему Виртуальному библиотекарю вопросы, которые интересуют наших пользователей.

Запрос 1. Добрый день! Я только что получил сообщение о том, что мой читательский билет номер заблокирован. Это так из-за окончания учебы?