04 · Anthropic · OpenAI · xAI
Frenar la IA sin freno ni volante: el pacto verbal que nadie verifica
Dario Amodei, consejero delegado de Anthropic, propuso el fin de semana ralentizar el avance de la IA tras el revuelo por los avisos de sus investigadores, y Sam Altman, Elon Musk y otros dirigentes la respaldaron al instante sin mecanismo ni calendario.
Por qué importa
La promesa de frenar la IA carece de mecanismo y de autoridad que la verifiquen, así que el ritmo deja de ser decisión exclusiva de los laboratorios: reguladores y clientes tendrán que decidir si la compran o exigen pruebas. El primero en acelerar gana ventaja; un freno real encarecería el cómputo y retrasaría productos.
Los detalles
- Amodei presentó su propuesta de ralentizar el desarrollo tecnológico para garantizar la seguridad pública durante el fin de semana.
- Los investigadores de Anthropic habían advertido repetidamente que la IA podría acabar con toda la humanidad en 2030, lo que desató un revuelo público.
- Sam Altman, al frente de OpenAI, y Elon Musk se encontraron entre quienes apoyaron de inmediato el ‘slow the pace’ de Amodei.
- La propuesta no incluye mecanismo, calendario ni autoridad que verifique su cumplimiento, y llega con los laboratorios compitiendo por desplegar la IA más potente.
- Amodei ha llamado a priorizar la cautela sobre la velocidad y la prudencia sobre el beneficio, y acompasar el avance de las capacidades para que la prevención de riesgos pueda seguir el ritmo.