Техническое задание: Оптимизация AI-бота службы поддержки

Цель проекта

Повысить эффективность и надежность работы чат-бота, выполняющего функции агента службы поддержки (service desk agent). Основной фокус - на качестве и точности выдаваемых ответов.

Ключевые задачи

• Доведение до релевантных ответов из RAG: Настроить или переработать механизм поиска и извлечения информации из векторной базы знаний (Retrieval-Augmented Generation) так, чтобы бот всегда давал точные и соответствующие запросу ответы.
• Борьба с галлюцинациями LLM: Реализовать методы для значительного снижения или полного устранения случаев, когда языковая модель генерирует вымышленную, непроверенную или нерелевантную информацию.
• Стабилизация работы: Привести систему к стабильному и предсказуемому состоянию, обеспечивающему корректное взаимодействие с пользователями.

Требования к результату

• Бот должен отвечать строго на основе предоставленной базы знаний и контекста.
• Процент некорректных или выдуманных ответов (галлюцинаций) должен быть сведен к минимуму.
• Архитектура и настройки бота должны быть документированы.

Ожидаемый стек технологий

Работа предполагает глубокую настройку или доработку существующей системы, использующей:

• Крупную языковую модель (LLM).
• Технологию RAG для доступа к корпоративной базе знаний.
• Фреймворк для развертывания чат-виджета.