Необходимые навыки и опыт работы
- Python & LLM Frameworks: Глубокое владение Python и библиотеками для работы с языковыми моделями (LangChain/LangGraph, LlamaIndex).
- Опыт работы с API (OpenAI, Anthropic, HF) и локальными моделями (Llama, Qwen) через vLLM
- или Ollama от 1 года.
- RAG (Retrieval-Augmented Generation): Умение строить системы поиска по внутренним документам компании (базы знаний, регламенты, ТЗ). Опыт работы с векторными БД (ChromaDB, Qdrant, PGVector).
- Prompt Engineering & Fine-tuning: Продвинутые техники промптинга и понимание, когда нужно дообучать модель (LoRA/QLoRA), а когда достаточно качественного контекста.
- Infrastructure: Базовые навыки Docker и понимание, как деплоить Python-сервисы.