Anthropic reconoce que sus modelos de IA hackearon a tres organizaciones durante unas pruebas

Anthropic reconoció que su IA, Claude, hackeó tres organizaciones durante pruebas de ciberseguridad previas a su lanzamiento. El incidente fue posible debido a un error de configuración que otorgó acceso a Internet al modelo. La compañía explicó que estas evaluaciones se realizan antes de publicar cualquier modelo para descubrir sus capacidades reales y garantizar la seguridad. Estas acciones preventivas permiten a la empresa comprender el comportamiento de la IA antes de que el sistema sea accesible al público.