El ParteEdiciones anteriores

03 · OpenAI · Moonshot AI

Copiar el razonamiento de una IA ya no exige robar el código, solo conversar con ella

Un laberint de vidre transmet patrons abstractes per un conducte tallat per una vàlvula verda.

OpenAI ha cortado una campaña coordinada que manipulaba conversaciones con sus modelos para extraer a gran escala el razonamiento que los sustenta, y la relaciona con personas vinculadas a Moonshot AI, la desarrolladora china de los modelos Kimi; no ha precisado cuánto conocimiento se sustrajo.

Por qué importa

Que una técnica de conversación baste para replicar la forma de razonar de un modelo desplaza la defensa: el valor ya no reside en ocultar el código, sino en vigilar cómo se usa. Esa vía permite a un competidor recortar distancia sin asumir el coste del entrenamiento original, lo que presiona a quien invierte en cómputo a blindar el acceso o a redefinir qué considera propiedad intelectual. La atribución a personal vinculado a Moonshot AI añade una dimensión geopolítica y comercial: si la práctica se extiende, los acuerdos de uso y la trazabilidad de las interacciones pasan a ser el verdadero cuello de botella.

Los detalles

  • La operación se basa en la destilación adversarial: en lugar de copiar el programa, se fuerza al modelo a verbalizar su cadena de razonamiento interna mediante interacciones preparadas.
  • OpenAI atribuye la campaña a individuos asociados con Moonshot AI, la empresa china detrás de los modelos Kimi, aunque no ha identificado a los responsables concretos ni el volumen de datos extraído.
  • La compañía afirma haber detectado y mitigado la campaña, pero no ha detallado las medidas técnicas ni si el acceso ya está cerrado por completo.