04 · Microsoft
Microsoft pone límites a su IA: ni hackear ni engañar
Microsoft ha publicado un código de conducta para sus modelos de IA que fija principios generales, como apoyar a las personas en vez de sustituirlas, y restricciones de seguridad específicas para aplicarlos.
Por qué importa
El código de conducta de Microsoft convierte la seguridad en norma escrita y desplaza la presión hacia la verificación: con auditoría y sanciones aún sin detallar, el cumplimiento queda por demostrar. Los demás laboratorios quedan expuestos a publicar reglas equiparables y a probar que sus modelos no engañan ni hackean.
Los detalles
- El código establece principios generales que los modelos de IA de Microsoft deben cumplir, entre ellos apoyar a los humanos en lugar de reemplazarlos.
- También incluye el principio de acelerar el florecimiento humano como objetivo que los modelos deben respetar.
- El documento añade restricciones de seguridad específicas destinadas a implementar esos principios generales.
- Entre las prohibiciones concretas figuran no hackear sistemas ni engañar a las personas.
- No se detallan sanciones, mecanismos de verificación ni plazos de aplicación en el material disponible.