02 · SpaceXAI
Musk quiere que la IA se vigile entre rivales antes de salir al mercado
Elon Musk ha propuesto en el All-In Summit de Los Ángeles que las empresas de IA competidoras revisen mutuamente sus modelos antes de publicarlos, con la idea de que califiquen los deberes del otro y den la alarma si detectan problemas, una vía que podría aplicarse más rápido que la regulación.
Por qué importa
La revisión entre rivales podría trasladar la vigilancia del regulador a las empresas y dejar el acceso al mercado en manos de los competidores. Si se impone, publicar un modelo dependerá de que los rivales abran sus sistemas, no solo del cómputo: los creadores pequeños y los laboratorios chinos necesitarán entrar en ese club.
Los detalles
- En el All-In Summit de Los Ángeles, Elon Musk propuso que empresas rivales de IA revisen mutuamente sus modelos antes de publicarlos y señalen fallos.
- La revisión sería recíproca: los competidores calificarían los deberes del otro y avisarían si detectan problemas en el modelo examinado.
- Musk dijo que la propuesta no tiene por qué sustituir la regulación, aunque podría ponerse en marcha más rápido que un marco regulatorio.
- Sugirió que los creadores de modelos chinos podrían incorporarse a ese mecanismo de revisión mutua entre competidores.
- Sus comentarios llegan tras una serie de incidentes de hackeo relacionados con IA y advertencias públicas de empleados del sector sobre seguridad y alineación.