01 · OpenAI
OpenAI reordena el comportamiento de sus modelos en torno a cinco valores
La nueva versión de su documento de referencia organiza las reglas de conducta de los modelos en cinco valores: fidelidad a la intención humana, minimización del daño, honestidad y transparencia, autonomía de la persona y cuidado.
Por qué importa
Una lista de valores no es un detalle cosmético: marca qué prioriza el modelo cuando dos instrucciones chocan, por ejemplo si obedecer al usuario puede causar un perjuicio. Al hacer públicos esos criterios, OpenAI fija una referencia que clientes, reguladores y rivales pueden usar para exigir coherencia, y traslada al documento decisiones de diseño que antes quedaban dispersas en guías internas.
Los detalles
- El documento, conocido como Model Spec, fija cómo debe comportarse un modelo cuando las instrucciones entran en conflicto.
- Entre los valores figuran la fidelidad a lo que pide la persona y la reducción del daño, junto a la honestidad y la transparencia.
- También incluye preservar la capacidad de decisión del usuario y el cuidado en el trato.