AI-901
Deep Dive
El AI-901 evalúa directamente los 6 principios de IA Responsable de Microsoft. No es suficiente memorizarlos — necesitas identificar cuál se viola en un escenario dado y qué herramienta Azure ayuda a implementar cada uno.
Contenido
La IA tiene el potencial de amplificar sesgos existentes, invadir privacidad, generar resultados no confiables y concentrar poder. IA Responsable es el conjunto de principios y prácticas para asegurar que los sistemas de IA sean seguros, confiables, justos y beneficiosos para todas las personas.
Por qué esto importa en el examen
El AI-901 tiene preguntas del tipo: "Un modelo de contratación rechaza sistemáticamente candidatos de cierto origen étnico — ¿qué principio de IA Responsable se está violando?" Necesitas reconocer el principio aplicable en un escenario dado.
Los sistemas de IA deben tratar a todas las personas de manera justa, sin discriminación por raza, género, edad, origen, religión o cualquier otra característica protegida.
Ejemplo práctico
Un modelo de crédito entrenado con datos históricos puede perpetuar sesgos si en el pasado ciertos grupos fueron discriminados. Equidad significa detectar y mitigar ese sesgo.
Trampa de examen
Equidad no significa dar el mismo resultado a todos — significa que el sistema no favorece ni perjudica sistemáticamente a grupos protegidos.
En Azure: Fairlearn (toolkit open-source integrado en Azure ML) para detectar y mitigar sesgos.
Los sistemas de IA deben funcionar de manera confiable y segura. Deben comportarse según lo diseñado, manejar condiciones inesperadas y no causar daño.
Ejemplo práctico
Un sistema de IA para diagnóstico médico que funciona bien en el laboratorio pero falla con imágenes de baja resolución del mundo real es un problema de confiabilidad.
Trampa de examen
Confiabilidad ≠ Precisión perfecta. Un sistema puede ser confiable (comportamiento consistente y predecible) sin tener 100% de precisión.
En Azure: Azure ML Responsible AI Dashboard — métricas de rendimiento por subgrupos, análisis de errores.
Los sistemas de IA deben respetar la privacidad de las personas y proteger sus datos. Los datos de entrenamiento y las predicciones individuales deben estar protegidos.
Ejemplo práctico
Un modelo entrenado con historiales médicos puede "memorizar" datos del paciente. Differential Privacy agrega ruido estadístico para proteger individuos sin perder utilidad del modelo.
Trampa de examen
Privacidad se aplica tanto a los DATOS DE ENTRENAMIENTO como a las PREDICCIONES EN PRODUCCIÓN — ambos pueden revelar información personal.
En Azure: Azure Confidential Computing, Microsoft Presidio (detección de PII), cifrado de datos en reposo y en tránsito.
Los sistemas de IA deben empoderar a todas las personas, incluyendo aquellas con discapacidades, y no excluir a grupos por limitaciones técnicas o de diseño.
Ejemplo práctico
Un sistema de reconocimiento de voz que funciona bien para adultos jóvenes con acento estándar pero falla con personas mayores, acentos regionales o usuarios con discapacidades del habla no es inclusivo.
Trampa de examen
Inclusividad no es solo accesibilidad — incluye representación en los datos de entrenamiento para que el modelo funcione igual de bien para todos los grupos.
En Azure: Azure Cognitive Accessibility, diseño con estándares WCAG, diversificación de datos de entrenamiento.
Los sistemas de IA deben ser comprensibles. Los usuarios y afectados deben poder entender cómo funciona el sistema, qué datos usa y por qué toma las decisiones que toma.
Ejemplo práctico
Un banco que rechaza un préstamo basándose en IA debe poder explicar al cliente por qué fue rechazado — no puede ser una "caja negra" sin explicación.
Trampa de examen
Transparencia ≠ código abierto. Significa que los stakeholders relevantes entienden el sistema lo suficiente para confiar en él y auditarlo — no que se publique todo el modelo.
En Azure: Azure ML InterpretML — explainability para modelos. SHAP values para explicar predicciones individuales.
Las personas que diseñan, despliegan y operan sistemas de IA deben ser responsables de su comportamiento. Siempre debe haber un humano responsable de las decisiones del sistema.
Ejemplo práctico
Si un sistema de IA médica diagnóstica incorrectamente, debe quedar claro quién es responsable: el proveedor del modelo, el hospital que lo implementó o el médico que lo supervisó.
Trampa de examen
Responsabilidad no significa que la IA tenga responsabilidad legal — los HUMANOS que construyen y despliegan el sistema son responsables de sus impactos.
En Azure: Azure AI Content Safety, Microsoft Responsible AI Standard (marco interno de Microsoft), governance con Azure Policy.
Azure ML Responsible AI Dashboard
Panel integrado en Azure Machine Learning que muestra métricas de equidad, análisis de errores, explainability (SHAP values) y análisis contrafactual.
Content Safety (Azure AI)
Detecta contenido dañino, odio, violencia y material sexual en texto e imágenes. Disponible vía API para moderar contenido generado por IA o usuarios.
Azure AI Responsible AI Toolbox
Conjunto de herramientas open-source: InterpretML (explainability), Fairlearn (equidad), ErrorAnalysis, DiCE (counterfactuals).
Microsoft Purview
Gobierno de datos: catálogo, clasificación de datos sensibles, seguimiento de linaje de datos. Asegura que los datos usados para IA sean apropiados y auditados.
❓ ¿Equidad significa que todos reciben el mismo resultado?
No. Equidad significa que el sistema no discrimina sistemáticamente por características protegidas. Un modelo de riesgo crediticio puede aprobar o rechazar a distintas personas — lo injusto sería que rechazara más a cierto grupo por su etnia, no por factores financieros.
❓ ¿Transparencia requiere publicar el código del modelo?
No. Transparencia significa que los stakeholders relevantes (usuarios, auditores, reguladores) entienden suficientemente cómo funciona el sistema. Los detalles técnicos completos pueden ser confidenciales.
❓ ¿Confiabilidad es lo mismo que precisión alta?
No. Confiabilidad significa comportamiento consistente, predecible y seguro — incluyendo manejar casos límite y fallar de forma segura. Un modelo puede tener 95% de precisión pero ser poco confiable si falla de forma catastrófica en el 5% restante.
❓ ¿La IA es la responsable de sus decisiones?
No. Las personas (diseñadores, desarrolladores, organizaciones que despliegan) son responsables del comportamiento del sistema de IA. La IA no tiene responsabilidad legal o moral — los humanos sí.
¿Entendiste este tema?
Pon a prueba lo que acabas de aprender
Un sistema de IA de contratación laboral aprueba el 78% de candidatos masculinos pero solo el 52% de candidatas femeninas con calificaciones equivalentes. ¿Qué principio de IA Responsable está siendo violado principalmente?