Lentes e IA utilizadas para engañar a cualquiera en segundos [Informe]

Los estudiantes de Harvard revelaron recientemente que es posible combinar las gafas inteligentes Meta con la tecnología de búsqueda de imágenes faciales para "revelar los detalles personales de cualquier persona", incluido su nombre, dirección y número de teléfono, "con solo mirarla".

En un documento, AnhPhu Nguyen y Caine Ardayfio explicaron cómo vincularon un par de Meta Ray Bans 2 a un motor de búsqueda de rostros invasivo llamado PimEyes para ayudar a identificar extraños mediante la búsqueda cruzada de su información en varias bases de datos de búsqueda de personas. Luego utilizaron un modelo de lenguaje grande (LLM, por sus siglas en inglés) para combinar rápidamente todos esos datos, haciendo posible engañar a alguien de un vistazo o sacar a la luz información para estafar a alguien en segundos, u otros usos nefastos, como "algún tipo podría simplemente encontrar el nombre de una chica y seguirla a casa...", dijo Nguyen a 404 Media.

Todo esto es posible gracias al progreso reciente con los LLM, dijeron los estudiantes. "Esta sinergia entre los LLM y la búsqueda inversa permite una extracción de datos completamente automática y completa que antes no era posible solo con los métodos tradicionales", dice su documento.

Además de usar PimEyes para acechar a los niños, The Times había advertido que PimEyes podría usarse para encontrar fotos del mismo niño para crear videos realistas de ese niño o para encontrar audio del niño para usarlo en cada vez mayores estafas de voz de IA. Este año, la preocupación por miles de imágenes falsas de sexo infantil realizadas por IA encontradas en línea llevó a todos los fiscales generales de Estados Unidos a hacer sonar la alarma.

Mientras que antes alguien podía dedicar mucho tiempo a realizar su propia búsqueda en bases de datos públicas para encontrar información basada únicamente en la imagen de alguien, sus gafas inteligentes distópicas hacen ese trabajo en unos pocos segundos, afirman en su vídeo de demostración.

Los cocreadores dijeron que alteraron un par de Meta Ray Bans 2 para crear I-XRAY y crear conciencia sobre "importantes preocupaciones de privacidad en línea a medida que la tecnología avanza rápidamente".

Meta Ray Bans "la forma más espeluznante de probar tecnología"

Dijeron que eligieron Meta Ray Bans 2 para su proyecto porque las gafas inteligentes "parecen casi indistinguibles de las gafas normales". Nguyen le dijo a 404 Media que usar gafas inteligentes "Meta era "la forma más espeluznante que se les ocurrió para que un mal actor intentara escanear rostros sin ser detectado".

Para evitar que alguien sea engañado, los cocreadores no publicarán el código. Sin embargo, sí describieron cómo funciona su inquietante tecnología y cuán los extraños utilizados como sujetos de prueba quedaron sorprendidos al descubrir con qué facilidad eran identificables simplemente accediendo a su información publica en línea.

Nguyen y Ardayfio probaron su tecnología en una estación de metro con personas desprevenidas en el mundo real. Para demostrar cómo se podía abusar de la tecnología para engañar a las personas, los estudiantes incluso afirmaron conocer a algunos de los sujetos de prueba, aparentemente usando información obtenida de las gafas para hacer referencias resonantes y fingir ser un conocido.

Se identificaron decenas de sujetos de prueba, afirmaron los estudiantes, aunque algunos resultados han sido cuestionados, informó 404 Media. Para mantener su escaneo facial fuera del radar, los estudiantes cubrieron una luz que se enciende automáticamente cuando las Meta Ray Bans 2 están grabando, dijo Ardayfio en X.

Para Nguyen y Ardayfio, el objetivo del proyecto era persuadir a las personas a optar por no utilizar motores de búsqueda invasivos para proteger su privacidad en línea. Un intento de utilizar I-XRAY para identificar al reportero de 404 Media, Joseph Cox, por ejemplo, no funcionó porque había optado por no participar en PimEyes.

Pero si bien la privacidad es claramente importante para los estudiantes y su video de demostración se esforzó por eliminar información de identificación, al menos un sujeto de prueba fue identificado "fácilmente" de todos modos, informó 404 Media.

Hasta ahora, ni Facebook ni Google han optado por lanzar tecnologías similares que desarrollaron para vincular gafas inteligentes con motores de búsqueda, informó The New York Times.

Pero otros jugadores en el mundo de la IA están jugando con esta tecnología, incluida Clearview AI, una compañía detrás de un motor de búsqueda facial para policías que "también ha explorado un par de gafas inteligentes que ejecutarían su tecnología de reconocimiento facial".

Esto es preocupante por varias razones: debido a que el objetivo de Clearview es incluir a casi todos los seres humanos en su base de datos de reconocimiento facial, los policías ya han utilizado la herramienta de manera poco ética y sin autorización para realizar búsquedas personales, y Clearview ya ha recibido una multa de 33 millones de dólares por violaciones de privacidad.

Afortunadamente, enfrentar esta amenaza emergente no parece requerir mucho esfuerzo por ahora. En su documento, Nguyen y Ardayfio brindan instrucciones para que las personas eliminen sus rostros de motores de búsqueda de cara inversa como PimEyes y Facecheck ID, así como de motores de búsqueda de personas como FastPeopleSearch, CheckThem e Instant Checkmate. También proporcionaron un formulario para que las personas se comunicaran con sus preguntas.

En declaraciones a 404 Media, tanto Meta como PimEyes parecieron restar importancia a los riesgos de privacidad: el primero señaló que existen los mismos riesgos con las fotos de personas y el segundo afirmó que PimEyes no "identifica" a las personas (sólo señala enlaces a sus fotos), donde los usuarios a menudo pueden encontrar información de identificación.

En la Unión Europea, donde la recopilación de datos de reconocimiento facial generalmente requiere el consentimiento directo de alguien según el Reglamento General de Protección de Datos, las gafas inteligentes como I-XRAY pueden no ser una preocupación tan grande para las personas que prefieren permanecer en el anonimato en espacios públicos. Pero en los EE.UU., I-XRAY podría estar proporcionando a los malos actores su próxima estafa.

Fuente: ArsTechnica

Suscríbete a nuestro Boletín