В последние годы развитие NLP стало настолько стремительным, что создавать LLM-системы стало так же просто, как разрабатывать веб-сервисы. Однако возникает вопрос: зачем разрабатывать что-то новое, если существуют готовые решения? Ответ прост: готовые продукты часто не учитывают специфические требования, такие как приватность данных и уникальные источники знаний.
Создание pet-проекта позволяет глубже понять работу LLM-стека и оценить факторы, влияющие на качество и скорость. В этой статье представлено несколько направлений разработки, которые могут быть полезны в 2026 году.
Идеи для проектов включают локальный инференс LLM в браузере, индексацию видео, локальные RAG-системы для обработки личных данных, создание фаервола для агентов и анонимизаторов промптов. Каждый проект поможет изучить ключевые аспекты работы с LLM и улучшить навыки в области безопасности и оптимизации. Выбирайте интересные направления и создавайте свои решения!

