Inteligencia artificial impulsa imágenes de abusos en internet

La inteligencia artificial (IA) emerge como una herramienta central en la propagación de imágenes de explotación y abuso sexual en línea, según un estudio de la ONG Safernet publicado el martes (6).

Thiago Tavares, fundador y CEO de SaferNet Brasil, explicó que la proliferación de aplicaciones de IA generativa permite la manipulación de imágenes, transformando fotos de personas vestidas en representaciones ultrarrealistas de desnudez.

El tema fue debatido en el evento Safer Internet Day, que concluye este miércoles (7) en São Paulo. En una de las charlas, Iain Drennan, director ejecutivo de la Alianza Global WeProtect, resaltó que la inteligencia artificial se ha convertido en una nueva tendencia en casos de abuso sexual a nivel mundial.

Drennan subrayó que la IA se utiliza para crear imágenes sintéticas, que pueden escalarse industrialmente. “Se trata de material que puede no ser ilegal, pero que se está utilizando [por delincuentes] con fines sexuales”, señaló.

El alcance del problema va más allá de la manipulación de imágenes. Drennan mencionó casos de violación en salas de realidad virtual o metaversos, actualmente bajo investigación en algunos países. ¿Son seguras para las niñas las salas de realidad virtual? Necesitamos una legislación que aborde este tipo de delitos”, cuestionó.

Enfatizando la vulnerabilidad de ciertos grupos, Drennan destacó que los niños con discapacidad y las personas LGTB son más propensos a esta exposición sexual en línea. “Tenemos que tratar este asunto con sensibilidad para garantizar que estos grupos no se sientan aún más marginados o vulnerables”, declaró.

Aunque la legislación es un paso importante, Drennan insistió en que se requiere la colaboración del gobierno, el sector privado y la sociedad civil, junto con la formación de padres y tutores. “La responsabilidad [de abordar este problema] no debería recaer exclusivamente en las familias y los niños”, subrayó.

Quejas

El informe de Safernet revela que las denuncias de imágenes de abuso y explotación sexual infantil en Internet alcanzaron cifras sin precedentes en 2023, con un total de 71.867 denuncias el año pasado. Thiago Tavares, de SaferNet, destacó que este número representa un récord absoluto en cuanto a nuevas URL denunciadas desde la fundación de la organización en 2005, marcando el punto máximo en la serie histórica de 18 años.

La ONG identifica tres factores clave que han contribuido al aumento de denuncias de imágenes de abuso y explotación sexual infantil. En primer lugar, destaca el uso de inteligencia artificial para la creación de este tipo de contenidos. Además, señala los despidos masivos en las grandes tecnológicas, afectando a los equipos de seguridad, integridad y moderación de contenido en algunas plataformas. Por último, destaca la proliferación de la venta de imágenes de desnudos y contenido sexual autogeneradas por adolescentes.