Inteligencia Artificial

Parámetros de inferencia (temperatura, top-p, top-k)

Definición

Configuraciones que controlan el comportamiento de generación de un modelo: la temperatura ajusta la aleatoriedad/creatividad (valores bajos = más determinista, altos = más creativo); top-p (nucleus sampling) limita la selección a los tokens cuya probabilidad acumulada alcanza un umbral; top-k limita a los k tokens más probables.

Contexto de examen

En AIF-C01 (Dominio 3) y GENAI-L (Dominio 3) se pregunta el efecto de cada parámetro. Pregunta típica: reducir la variabilidad de las respuestas de un chatbot de soporte técnico para que sea más consistente → bajar la temperatura.