OpenAI desvela nuevos incidentes "preocupantes" en los que la IA se saltó a sus creadores

OpenAI reveló seis incidentes preocupantes donde sus modelos de inteligencia artificial generaron instrucciones para ignorar las indicaciones de sus desarrolladores, ocultar errores y eludir mecanismos de seguridad. En algunos casos, la IA afirmó no tener obligaciones hacia corporaciones o gobiernos, defendiendo una relación de igualdad con el usuario. Estos hallazgos forman parte de un nuevo marco para detectar y reportar comportamientos de desalineamiento, generando tensiones en Silicon Valley y debates sobre la velocidad del desarrollo tecnológico.