Microsoft y su nuevo “Estándar de IA responsable”
Que la inteligencia artificial está cada vez más presente en nuestro día a día no es ninguna sorpresa. En prácticamente todos los dispositivos que utilizamos día a día, podemos encontrar un trozo de algo que ha cambiado la forma en la que entendemos las cosas.
Pero también sabemos que la inteligencia artificial puede conllevar serias intrusiones en nuestra privacidad, y las preocupaciones en torno a estos aspectos son cada vez más habituales en los usuarios de todo tipo de dispositivos.
Y uno de los gigantes tecnológicos más importantes conoce mejor que nadie todos estos aspectos de la inteligencia artificial: Microsoft.
Conociendo bien las ventajas que puede ofrecer la inteligencia artificial (como la disponibilidad permanente, la comunicación a gran escala o las decisiones más rápidas y precisas), ha venido desarrollando con el paso de los años, nuevas formas de tecnología que potencian, en todos los sentidos, esta gran ventaja para los usuarios.
Pero si hay algo en lo que debemos reparar cuando hablamos de IA es en las implicaciones que puede llegar a tener para la privacidad y la protección de los datos de las personas, y Microsoft no es ajeno a ello.
Un claro ejemplo lo tenemos en cómo se vienen planteando a eliminar el reconocimiento facial para identificar emociones, limitando el acceso de nuevos usuarios a nuevas tecnologías.
En este contexto, el gigante tecnológico publica su nuevo “Estándar de IA Responsable”, que viene a constituir años de esfuerzo para poder definir los requisitos del desarrollo de sus productos, con el fin de lograr una inteligencia artificial responsable.
Con este nuevo estándar, vienen a actualizar sus “Seis principios de IA” (imparcialidad, confiabilidad y seguridad, privacidad y seguridad, inclusión, transparencia y responsabilidad)En relación al principio de privacidad, cabe destacar que Microsoft ya venía diciendo que a medida que la IA se hacía más frecuente, la protección de la privacidad vendría a ser más compleja y crítica.
Microsoft también ha reconocido la existencia de una «brecha» entre los riesgos únicos de la IA y las leyes y normas de la sociedad, y que el estándar era necesario para sus equipos de desarrollo de productos, estableciendo así una guía concreta y haciendo este estándar disponible para compartir lo que han aprendido, invitando comentarios de todos y contribuyendo a construir las mejores normas prácticas en torno a la IA.
Las metas de Microsoft en torno a la IA
Con todo lo dicho anteriormente, es momento de hacer referencia a las metas que tiene Microsoft en su nuevo Estándar.
- Objetivos de responsabilidad
- Objetivo R1: Evaluación de impacto.
- Objetivo R2: Supervisión de impactos adversos y significativos.
- Objetivo R3: Adecuación para los propósitos.
- Objetivo R4: Data Governance y gestión de los datos.
- Objetivo R5: Supervisión y control humano.
- Objetivos de transparencia
- Objetivo T1: Inteligibilidad del sistema para la toma de decisiones.
- Objetivo T2: Comunicación a las partes interesadas.
- Objetivo T3: Divulgación de las interacciones de la IA.
- Objetivos de imparcialidad
- Meta I1: Calidad del servicio.
- Meta I2: Asignación de recursos y oportunidades.
- Meta I3: Minimización de los estereotipos y resultados degradantes.
- Objetivos de confiabilidad y seguridad
- Meta CS1: Guía de confiabilidad y seguridad.
- Meta CS2: Fallos y soluciones.
- Meta CS3: Monitoreo continuo, retroalimentación y evaluación.
- Objetivos de privacidad y seguridad
- Meta PS1: Cumplimiento de los estándares de privacidad.
- Meta PS2: Cumplimiento de los estándares de.
- Objetivos de inclusión
- Meta IC1: Cumplimiento de los estándares de accesibilidad.
Tal y como dice Microsoft
Si bien nuestro Estándar es un paso importante en el camino de la IA responsable de Microsoft, es solo un paso. A medida que avanzamos en la implementación, esperamos encontrar desafíos que requieran que nos detengamos, reflexionemos y nos ajustemos.
Microsoft
Veremos cómo este Estándar se mantiene como un documento vivo y cómo evoluciona y qué riesgos y desafíos aparecen para Microsoft a lo largo del tiempo en torno a la IA.
No Comments