Volver a proyectos

Personal

RAG Local: estudio con apuntes en PDF

App que responde preguntas, resume y genera preguntas de práctica sobre apuntes en PDF, con un LLM que corre en la propia PC.

Imágenes

Contexto

Proyecto personal para estudiar con apuntes propios sin enviar los archivos a servicios externos.

Problema

Buscar respuestas en muchos PDFs de una materia lleva tiempo, y las herramientas de IA en la nube obligan a subir material propio.

Mi rol

Diseño e implementación completa: backend, API REST, frontend y tests.

Solución

Backend en Flask que procesa los PDFs, genera embeddings con Ollama (nomic-embed-text) y responde con qwen2.5:7b citando archivo y página. Frontend en React + TypeScript.

Decisiones técnicas

  • Modelos locales con Ollama para que los archivos no salgan de la computadora.
  • Respuestas que citan archivo y página para poder verificarlas.
  • Lógica separada en servicios (procesamiento de PDF, embeddings, RAG y estudio) y API REST bajo /api.
  • 42 tests con pytest y Ollama simulado, para probar sin depender del modelo.

Resultado

En el equipo de prueba (RTX 4050, 16 GB) responde una pregunta en 5–10 s y procesa unas 10 páginas cada 2 s.

Stack

  • Python
  • Flask
  • SQLite
  • Ollama
  • React
  • TypeScript
  • Docker
  • pytest