Генератор текстов на основе источников. Студенческий справочник. NDA
Студенческий сервис генерировал тексты, но страдал от нестабильности LLM-провайдеров и низкого качества. Построили управляемый AI-пайплайн с переключением провайдеров — uptime вырос с 83% до 99%, качество с 4/10 до 8/10, поток ~2000 генераций в день.
Контекст и проблема
Нужно было создать инструмент, который генерирует аргументированные академические тексты на основе найденных источников, а не просто пишет статью. Главные сложности: качество источников, извлечение релевантной информации и стабильность LLM-провайдеров при большом объёме запросов.
Что было сделано
Спроектирован AI-пайплайн: от разбора темы на составляющие до генерации текста со ссылками на источники.
Настроен поиск источников через внешние академические и поисковые API.
Ограничен список допустимых ресурсов для исключения нерелевантной и неприемлемой литературы.
Реализована обработка источников через LLM вместо стандартных NLP-методов для лучшего извлечения информации.
Добавлен предварительный векторный поиск релевантных фрагментов для ограничения контекста.
Настроена генерация связного текста на основе структуры темы, найденных концепций и источников.
Реализовано автоматическое переключение между LLM-провайдерами через Circuit Breaker при сбоях.
Настроены мониторинг, логирование и оценка качества текста через LLM as Judge.
Результат
Стабильность сервиса выросла с 83% до 99% благодаря переключению между провайдерами.
Качество генерируемых текстов (по LLM as Judge) улучшилось с 4/10 до 8/10.
Сервис стал лидером рынка с потоком ~2000 генераций текстов ежедневно.
Создан управляемый AI-пайплайн, где качество зависит не от одного промпта, а от последовательной обработки темы, источников, структуры и устойчивой инфраструктуры.
Параметры проекта
- Срок реализации
- 5 месяцев
- Стоимость
- 1 500 000 руб.
- Стек
- Python, FastAPI, Jina AI API, SerpAPI, Google Scholar, Semantic Scholar, OpenRouter, Langfuse, Sentry, S3
- Поддержка
- осуществляется командой продукта, которой переданы все разработки
Обсудить похожую задачу
Все кейсы