Microsoft acaba de soltar la bomba de datos que muchos en la industria esperaban; en su tercer Informe de Transparencia sobre IA Responsable, un documento de más de 60 páginas donde la compañía cuenta, con pelos y señales, cómo está tratando de que su inteligencia artificial no se le vaya de las manos. Y el momento no podría ser más oportuno, entre chatbots que dan consejos de salud, agentes que ya toman decisiones por su cuenta y un fraude digital que crece a la par de los deepfakes, la pregunta ya no es si la IA necesita reglas, sino qué tan rápido pueden adaptarse esas reglas al ritmo al que avanza la tecnología.
Si quieres ir directo a la fuente, el informe completo está disponible en el sitio de Microsoft. Pero si prefieres que te lo traduzcamos a un lenguaje menos corporativo, sigue leyendo.
Piensa en este documento como una especie de “declaración de impuestos” de la IA responsable: cada año, Microsoft se sienta a rendir cuentas de lo que hizo para que sus modelos, aplicaciones y agentes de inteligencia artificial no terminen causando daños. Este es el tercero que publican, y cubre el periodo de julio de 2025 a junio de 2026.
La diferencia con las ediciones anteriores es el contexto. Ya no hablamos solo de chatbots que responden preguntas; hablamos de sistemas que pueden conectarse entre sí, tomar decisiones encadenadas y ejecutar tareas completas sin que un humano esté supervisando cada paso. A esto se le llama IA agencial, y es, sin exagerar, el tema central de todo el reporte.
Microsoft identifica cinco tendencias que, según ellos, están redefiniendo el panorama de riesgos. Vale la pena repasarlas porque, aunque suenen técnicas, en realidad describen cosas que probablemente ya viviste esta semana sin darte cuenta:
Ninguna de estas tendencias es nueva por separado, pero el informe hace un buen trabajo mostrando cómo se están retroalimentando entre sí.
Durante los primeros años de la IA generativa, el riesgo se evaluaba más o menos así: un modelo, unos datos de entrenamiento, un caso de uso concreto.
Pero ahora los llamados agentes de IA pueden encadenar varios modelos, herramientas y fuentes de datos para completar tareas de varios pasos por sí solos. Imagina pedirle a un asistente que “organice el viaje de la próxima semana” y que él solo busque vuelos, compare precios, reserve el hotel y agende todo en tu calendario. Suena útil (y lo es), pero también significa que hay muchas más piezas moviéndose al mismo tiempo: qué permisos tiene ese agente, a qué información puede acceder, si “recuerda” cosas de interacciones pasadas y qué tan autónomo es para actuar sin pedir permiso.
Para ponerle orden a esto, Microsoft rediseñó por completo su Estándar de IA Responsable. Los cambios más relevantes:
También metieron nuevas prácticas de “modelado de amenazas” pensadas específicamente para estos agentes; básicamente, ejercicios donde intentan romper sus propios sistemas antes de que alguien más lo haga, junto con defensas reforzadas contra ataques de prompt injection (cuando alguien intenta manipular a un modelo con instrucciones escondidas para que se salte sus propias reglas de seguridad).
Está bien decir “estamos comprometidos con la IA responsable”, pero los números son los que le dan peso a la frase. Estos son algunos de los que más llaman la atención en el informe:
Uno de los puntos que más resalta el informe, y que conecta directo con la realidad de América Latina, es que la confiabilidad de la IA no es la misma en todos los idiomas. Los modelos suelen entrenarse mayoritariamente con contenido en inglés, lo que deja a otras lenguas, y a las personas que las hablan, en desventaja.
Microsoft dice haber ampliado su investigación en este frente, incluyendo trabajo en seis localidades de Asia y el lanzamiento de PazaBench, la primera tabla de referencia (leaderboard) para evaluar reconocimiento automático de voz, con cobertura inicial de 39 lenguas africanas. Es un paso chico frente a la magnitud del problema, pero al menos reconoce algo que muchas empresas de tecnología prefieren no mencionar: la brecha digital también es una brecha lingüística.
Aquí hay un cambio de enfoque interesante; el informe dedica todo un capítulo nuevo llamado “capítulo del implementador”, a dejar claro que la responsabilidad de que la IA se use bien no recae solo en quien crea el modelo, sino también en quien decide implementarlo dentro de su organización.
En términos prácticos, esto significa que antes de meter una herramienta de IA en, digamos, el sistema de atención a clientes de una empresa, alguien tiene que:
Es una manera de decir, sin decirlo directamente, que la gobernanza de IA no puede ser un checklist que se llena una sola vez, tiene que ser un proceso vivo.
No todo en el informe es sobre gobernanza corporativa. También hay un reconocimiento bastante directo de que la misma tecnología que ayuda a millones de personas está siendo usada para hacer daño. Los modelos generativos han abaratado enormemente el costo de producir mensajes, voces e imágenes convincentes, y eso ha sido música para los oídos de estafadores y ciberdelincuentes.
Microsoft dice haber reforzado su estrategia en varios frentes: mejores clasificadores para detectar contenido dañino, técnicas de marca de agua y metadatos de procedencia (una especie de “huella digital verificable” para saber si una imagen o video fue generado por IA) y colaboraciones con organizaciones como AARP para proteger a adultos mayores, uno de los grupos más vulnerables frente al fraude asistido por IA.
También se unieron al Proyecto Glasswing, una iniciativa enfocada en proteger sistemas de software a nivel global frente al riesgo de que modelos cada vez más capaces aceleren el descubrimiento de vulnerabilidades de código. Y su Unidad de Delitos Digitales trabajó con autoridades internacionales para desmantelar una red transnacional de fraude de soporte técnico que usaba tácticas potenciadas por IA para atacar a personas mayores.
Más allá de lo que haga o deje de hacer Microsoft, este informe funciona como termómetro de hacia dónde va toda la conversación sobre IA responsable. Y hay algo que se repite en cada sección: la gobernanza basada en revisar un modelo una sola vez, antes de lanzarlo, ya no alcanza. Los sistemas agenciales cambian de comportamiento con el uso, “aprenden” cosas nuevas y se conectan con otras herramientas de formas que a veces ni sus propios creadores anticipan del todo.
Para cualquier empresa (grande o chica) que esté integrando IA generativa o agentes automatizados en sus procesos, el mensaje de fondo es que la supervisión no puede terminar el día del lanzamiento. Tiene que ser un trabajo constante, con monitoreo, retroalimentación de los usuarios y disposición para corregir el rumbo cuando algo no funciona como se esperaba.
El informe cierra reconociendo que la adopción de IA avanza más rápido en unos lugares que en otros, y eso deja atrás a comunidades enteras, particularmente en el Sur Global. Si algo queda claro tras leer las más de 60 páginas del documento, es que la carrera por hacer IA más capaz no se ha detenido ni un segundo, pero la carrera por gobernarla bien apenas está encontrando su propio ritmo. Y ese desfase, más que cualquier otra cosa, es el verdadero reto que este tipo de informes intenta poner sobre la mesa.
Imagen: GPT
Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *
Δ