Inteligencia Artificial

Azure AI Content Safety

Definición

Servicio que detecta y filtra contenido dañino (odio, violencia, contenido sexual, autolesión) tanto en texto como en imágenes, generado por usuarios o por modelos de IA, devolviendo niveles de severidad configurables.

Contexto de examen

En AI-900 se usa tanto para moderar contenido generado por usuarios como para filtrar las salidas de un modelo generativo. Se integra de forma nativa como Content Filtering en las implementaciones de Azure OpenAI. Pregunta: bloquear automáticamente respuestas de un chatbot con contenido violento → Content Safety.