Inteligencia Artificial

Parámetros de inferencia (temperatura, top-p, top-k)

Definición

Configuraciones que controlan el comportamiento de generación de un modelo: la temperatura ajusta la aleatoriedad/creatividad (valores bajos = más determinista, altos = más creativo); top-p (nucleus sampling) limita la selección a los tokens cuya probabilidad acumulada alcanza un umbral; top-k limita a los k tokens más probables.

Contexto de examen

En AIF-C01 (Dominio 3) y GENAI-L (Dominio 3) se pregunta el efecto de cada parámetro. Pregunta típica: reducir la variabilidad de las respuestas de un chatbot de soporte técnico para que sea más consistente → bajar la temperatura.

¿Preparándote para alguna de estas certificaciones?

Parámetros de inferencia (temperatura, top-p, top-k) es uno de los conceptos que puede aparecer en el examen. Revisa la guía completa para verlo en contexto.