¿Alguna vez te preguntaste si estás invirtiendo el tiempo de tu equipo en la tecnología correcta? Ayer en la reunión de TRIBU Tech Latam Domo 5, Rodrigo Ayala nos presentó un caso fascinante sobre RAG (Retrieval Augmented Generation) que me dejó pensando sobre este dilema que enfrentamos todos los que trabajamos en producto.
Rodri compartió cómo implementó RAG para crear una plataforma educativa donde un chatbot respondía preguntas basándose en el contenido completo de los cursos web. Lo que más me impactó fue ver cómo esas formulitas de álgebra y operaciones vectoriales que estudiamos en la facultad ahora se aplican directamente a problemas reales como búsquedas semánticas en productos que usamos a diario.
El dilema de la innovación en producto: ¿RAG o esperar al próximo avance?
La charla planteó una pregunta que seguro te has hecho si trabajás en desarrollo de producto: ¿Dónde invertir el tiempo limitado de tu equipo? ¿Resolviendo problemas que los modelos actuales no pueden manejar? ¿O innovando en producto sabiendo que en unos meses probablemente salga algo mejor y más barato?
A la velocidad que avanza la IA, dedicar meses a optimizar tecnologías que pronto serán superadas puede sentirse como construir un castillo de arena mientras sube la marea.
El equipo de Rodri dedicó meses a hacer chunking manual (dividir textos en fragmentos manejables para el modelo), solo para descubrir que poco después esta tarea ya se podía automatizar. Este es el tipo de situación que nos hace cuestionar nuestras decisiones de inversión de recursos.
Gemini 1.5 Pro y el futuro de RAG
El caso de Gemini 1.5 Pro de Google ilustra perfectamente este dilema. Con su ventana de contexto de 1 millón de tokens, muchos equipos están cuestionando si tiene sentido invertir tiempo en implementar RAG cuando podrían simplemente cargar toda la data en el modelo y optimizar costos de otras maneras.
Para poner esto en perspectiva, comparemos las capacidades:
| Enfoque | Ventajas | Desventajas |
|---|---|---|
| RAG tradicional |
|
|
| Modelos con contexto amplio |
|
|
Este dilema me recuerda a las decisiones que tomamos constantemente en desarrollo de producto: ¿invertimos en tecnologías que resuelven problemas actuales o esperamos a que la tecnología evolucione y nos ahorre ese trabajo?
¿Qué significa esto para los equipos de producto?
La respuesta, como siempre en tecnología, depende del contexto específico de tu proyecto:
- Si necesitas control preciso sobre las fuentes de información y la forma en que se procesan, RAG sigue siendo la mejor opción.
- Si tu conjunto de datos es relativamente pequeño (menos de 1M tokens) y no cambia con frecuencia, los nuevos modelos de contexto amplio pueden ser más eficientes.
- Si estás construyendo un producto a largo plazo, considera arquitecturas modulares que te permitan cambiar de enfoque según evolucione la tecnología.
Al final del día, me quedé con ganas de aplicar RAG en algún proyecto, pero siendo sincero, hasta que no sea totalmente necesario, prefiero hacer el system prompt un poco más grande y aprovechar las capacidades de los nuevos modelos. La clave está en mantenerse informado sobre los avances y ser estratégico sobre dónde invertir el tiempo de desarrollo.
¿Y vos? ¿Estás invirtiendo tiempo en implementar RAG o esperando a que los modelos con contexto amplio maduren? Reflexioná unos minutos si en tu equipo están dedicando recursos a tecnologías que podrían ser superadas pronto por los rápidos avances en IA. A veces, la decisión más difícil es saber cuándo esperar y cuándo actuar.


















