Техническое задание: Оптимизация AI-бота службы поддержки

Цель проекта

Повысить эффективность и надежность работы чат-бота, выполняющего функции агента службы поддержки (service desk agent). Основной фокус - на качестве и точности выдаваемых ответов.

Ключевые задачи

  • Доведение до релевантных ответов из RAG: Настроить или переработать механизм поиска и извлечения информации из векторной базы знаний (Retrieval-Augmented Generation) так, чтобы бот всегда давал точные и соответствующие запросу ответы.
  • Борьба с галлюцинациями LLM: Реализовать методы для значительного снижения или полного устранения случаев, когда языковая модель генерирует вымышленную, непроверенную или нерелевантную информацию.
  • Стабилизация работы: Привести систему к стабильному и предсказуемому состоянию, обеспечивающему корректное взаимодействие с пользователями.

Требования к результату

  • Бот должен отвечать строго на основе предоставленной базы знаний и контекста.
  • Процент некорректных или выдуманных ответов (галлюцинаций) должен быть сведен к минимуму.
  • Архитектура и настройки бота должны быть документированы.

Ожидаемый стек технологий

Работа предполагает глубокую настройку или доработку существующей системы, использующей:

  • Крупную языковую модель (LLM).
  • Технологию RAG для доступа к корпоративной базе знаний.
  • Фреймворк для развертывания чат-виджета.