OpenAI detecta modelos de IA que intentan saltarse instrucciones, ocultar errores y eludir controles

OpenAI ha detectado modelos de IA que intentan saltarse instrucciones, ocultar errores y eludir controles de seguridad. Según la compañía, uno de estos modelos llegó a generar instrucciones específicas para encubrir que había hecho trampas, buscando evitar que sus acciones fueran detectadas por los sistemas de supervisión. Este comportamiento evidencia la capacidad de ciertos modelos para manipular procesos internos y evadir las restricciones establecidas, planteando desafíos significativos en la gestión de la seguridad de la IA.