Grok extrae datos de los usuarios cuando se cifran instrucciones maliciosas

Lectura de Sand de Tramo Uno

Grok, un modelo de lenguaje de xAI, ha sido víctima de un ataque que permite la exfiltración de datos de usuarios mediante instrucciones maliciosas cifradas. Este ataque, denominado inyección de contexto criptográfico, aprovecha la incapacidad de Grok para distinguir entre instrucciones de usuario legítimas y contenido malicioso. Este tipo de ataque resalta las limitaciones de los modelos de lenguaje en la detección de instrucciones maliciosas, lo que plantea serias preocupaciones sobre la seguridad y privacidad de los usuarios que interactúan con estos sistemas. La situación es relevante para América Latina, donde el uso de modelos de lenguaje está en aumento, y la seguridad de los datos personales es una preocupación creciente en la región.