31 mar 2022

Las caras generadas por IA son cada vez más habituales

Un estudio demuestra que es más complicado detectar rostros falsos en Internet. El uso de la inteligencia artificial avanza a pasos agigantados, y si bien ofrece herramientas tremendamente útiles, también supone una puerta de entrada a aquellos que se aprovechan de estas tecnologías para hacer daño.

A través de un informe, LinkedIn muestra cómo detectó más de 15 millones de cuentas falsas en la primera mitad de 2021. Y es que tal como lo cuentan, si bien la mayoría de ellas fueron detectadas durante el registro del perfil en la red social, otras tantas se eliminaron posteriormente a través de los propios algoritmos de la compañía.

Las defensas de LinkedIn funcionan, pero el problema cada vez va a mayores

LinkedIn saca pecho de sus sistemas de detección automática en el informe de transparencia, afirmando que de esas más de 15 millones de cuentas, el 97,1% se eliminaron a través de sus defensas automatizadas. De todas ellas, casi 90.000 cuentas fueron eliminadas tras reportes de múltiples usuarios de LinkedIn. Si bien es un buen ejemplo de que los algoritmos son cada vez más precisos a la hora de proceder en este tipo de casos, también resalta que el problema va a mayores.

Según Leona Spilman, portavoz de LinkedIn, las políticas de la compañía dejan claro que "para acceder a LinkedIn es necesario que el perfil represente a una persona real". Desde la firma se encuentran constantemente mejorando sus defensas para identificar este tipo de perfiles, y prueba de ello ha sido este último informe de la plataforma.

Compañías dedicadas a vender perfiles falsos

A pesar del gran trabajo de sus procesos automatizados, hubo decenas de miles de cuentas que tuvieron que ser eliminadas tras los reportes de los usuarios de la plataforma. Entre estos usuarios se encontraban Renée DiResta y Josh Goldstein, investigadores del Stanford Internet Observatory, quienes identificaron más de 1.000 perfiles falsos que utilizaban el poder de la inteligencia artificial para engañar a los sistemas de LinkedIn.

Junto a este tipo de perfiles falsos, también fueron eliminadas de la red dos compañías que se encargaban de generar avatares a través de IA para este tipo de cometidos: LIA, con sede en Delhi, India, y Vendisys, compañía californiana. Según la web de LIA, por 300 dólares al mes ofertaban la creación de avatares generados por inteligencia artificial.

Las consecuencias que pueden generar las diversas técnicas de deepfake pueden ser devastadoras. Y es que además de por puro entretenimiento, manipular videos, rostros o noticias se está convirtiendo peligrosamente en algo cada vez más frecuente .

Fuente: GenbetaNPR

Suscríbete a nuestro Boletín

2 comentarios:

  1. Con una buena programación definitivamente no seria tan dificil. Hay tantos patrones y características que separan un rostro de otro, que si lo pensamos hay millones y millones de posibilidades

    ResponderBorrar
  2. Cada vez más interesante de la nueva tecnología

    ResponderBorrar

Gracias por dejar un comentario en Segu-Info.

Gracias por comentar!