Техническое задание: Развертывание локальной языковой модели

Цель проекта

Необходимо развернуть на персональном компьютере продвинутую языковую модель (аналогичную GPT) для полноценного локального использования.

Ключевые требования

• Локальная установка: Решение должно быть установлено непосредственно на компьютер заказчика, без зависимости от облачных сервисов.
• Отсутствие цензуры: Модель должна обрабатывать запросы любой тематики без программных или фильтрующих ограничений.
• Формат поставки: Готовый к работе чат-интерфейс в виде исполняемого файла, установочного пакета или архива с полной сборкой.
• Функциональность: Стабильный и интуитивно понятный интерфейс для ведения диалога, аналогичный популярным онлайн-чатам.

Ожидаемый результат

Исполнитель предоставляет рабочее приложение или подробную инструкцию по его установке. После завершения работ заказчик должен иметь возможность запускать программу и свободно общаться с языковой моделью, задавая вопросы любого характера.

Технические примечания

• Решение может быть основано на открытых моделях (например, Llama, Mistral и их производные).
• Важна простота запуска для пользователя с неглубокими техническими знаниями.
• Производительность и требования к системе (ОЗУ, видеопамять) должны быть четко обозначены.