Una IA de Anthropic envió sin permiso una pista falsa sobre un asesinato sin resolver al Departamento de Policía de Philadelphia. Las autoridades locales denunciaron la gravedad de que un sistema de IA presente información falsificada. Asimismo, señalaron que la empresa tardó dos meses en detectar el incidente y alertar a la policía. El suceso pone de relieve los riesgos de la automatización en la entrega de datos críticos a las fuerzas de seguridad.
Comments