Gen AI Leader
Deep Dive
Anclar las respuestas de un modelo a información real es una de las técnicas más efectivas para reducir alucinaciones. Aquí vemos qué es grounding, cómo RAG cambia el output generado, las ofertas concretas de Google Cloud para lograrlo, y los parámetros de muestreo que controlan el comportamiento final del modelo.
Contenido
El grounding es la práctica de conectar las respuestas de un modelo generativo a fuentes de datos verificables, en vez de depender únicamente del conocimiento paramétrico que el modelo memorizó durante su entrenamiento. Esto reduce alucinaciones y aumenta la precisión factual de las respuestas. El exam guide distingue tres tipos de fuente de datos para el grounding.
Datos empresariales propios (first-party)
Documentos, bases de conocimiento, políticas internas o datos operativos de la propia organización. Es el tipo de grounding más usado en soluciones empresariales de RAG, porque da control total sobre la fuente de verdad.
Datos de terceros (third-party)
Conjuntos de datos externos con licencia o suscripción — por ejemplo, bases de datos de mercado, catálogos de proveedores o feeds de noticias de pago — integrados como fuente de referencia adicional.
Datos del mundo (world data)
Información pública y actualizada del mundo real, típicamente obtenida vía búsqueda web en tiempo real, útil para preguntas sobre eventos recientes o hechos generales que exceden el knowledge cutoff del modelo.
RAG (Retrieval-Augmented Generation) combina la recuperación de información relevante desde una fuente externa (típicamente una base de datos vectorial con embeddings) con la generación del modelo de lenguaje: en vez de responder solo con su conocimiento memorizado, el modelo recibe los fragmentos de texto más relevantes recuperados y los usa como contexto adicional antes de generar la respuesta final.
Efecto concreto en el output
Google Cloud ofrece tres formas distintas de implementar grounding, con distinto nivel de control frente a administración lista para usar.
Agent Search (RAG preconstruido)
AdministradoGoogle gestiona la ingestión, indexado y recuperación de datos empresariales propios. Se necesita grounding rápido sobre datos propios sin construir el pipeline de RAG desde cero.
RAG APIs
Control granularAPIs para construir un pipeline de RAG a medida (chunking, embeddings, recuperación). Se necesita personalizar cómo se procesan, indexan o recuperan los documentos propios.
Grounding with Google Search
Datos del mundo (world data)Grounding en tiempo real con resultados de búsqueda web pública. Se necesita responder sobre eventos recientes, hechos públicos o información posterior al knowledge cutoff del modelo.
Ojo con esto en el examen
Agent Search y RAG APIs se usan para grounding con datos propios (first-party) o de terceros; Grounding with Google Search es la opción cuando la fuente de verdad necesaria es el mundo real (world data), actualizada en tiempo real. Elegir entre ellas depende de qué tipo de fuente de datos necesita el caso de uso, no de cuál es "mejor" en general.
Además del grounding, el comportamiento de un modelo generativo se controla con parámetros de inferencia — el exam guide espera reconocer cinco: token count, temperature, top-p (nucleus sampling), safety settings y output length.
Temperature
Controla la aleatoriedad de la elección del siguiente token. Con temperature = 0 el modelo elige siempre el token más probable (respuestas deterministas, repetibles). Con valores más altos (ej. 0.8-1.0) aumenta la probabilidad de elegir tokens menos obvios, dando respuestas más variadas y creativas, pero menos predecibles.
Top-p (nucleus sampling)
Limita la elección al conjunto más pequeño de tokens cuya probabilidad acumulada alcanza el umbral p. Con top-p = 0.9, el modelo solo considera los tokens más probables que en conjunto suman el 90% de probabilidad, descartando la "cola larga" de opciones improbables — un control distinto y complementario a temperature, no un sustituto.
Token count
La cantidad de tokens consumidos por el prompt de entrada más la respuesta generada. Afecta directamente el costo por solicitud y cuánto contexto cabe dentro del context window del modelo.
Safety settings
Umbrales configurables para bloquear o filtrar contenido potencialmente dañino (violencia, contenido sexual, discurso de odio, entre otras categorías) antes de que la respuesta llegue al usuario final.
Output length
Límite máximo de tokens que el modelo puede generar en su respuesta. Configurarlo correctamente evita respuestas cortadas a mitad de frase o respuestas innecesariamente largas que incrementan el costo.
Cómo se combinan en la práctica
Un caso típico: un chatbot de atención al cliente configura temperature baja para respuestas consistentes, safety settings estrictos para evitar contenido inapropiado, y un output length acotado para mantener las respuestas breves y controlar el costo — todo esto se ajusta en conjunto con la estrategia de grounding elegida, no en aislamiento.
¿Entendiste este tema?
Pon a prueba lo que acabas de aprender
Una empresa necesita que su asistente de gen AI responda preguntas de clientes citando exclusivamente las políticas internas de devolución de la propia empresa, sin usar información externa ni de internet. ¿Qué oferta de grounding de Google Cloud es la más adecuada como punto de partida?
Pon a prueba lo que aprendiste con preguntas originales del examen Gen AI Leader.
Iniciar simulacro Gen AI LeaderSin límite de simulacros con plan Pro
Inicia sesión para llevar tu progreso.