Observador Urbano

Google preocupado por las «fake news» y «deep fakes», lanza una herramienta para indentificarlos

Assembler es una nueva herramienta que ha lanzado Jigsaw, la incubadora de proyectos tecnológicos de Google y que sirve para identificar imágenes manipuladas o falsas. La herramienta está pensando para que la empleen periodistas a la hora de luchar contra las «fake news» y las «deep fakes» y analiza las imágenes que se suben a ella utilizando una tecnología capacitada para identificar ciertos tipos de manipulación y evalúa si las imágenes pueden haber sido alteradas y dónde.

Jigsaw es una incubadora de tecnología que forma parte de Alphabet, y tiene como objetivos abordar algunos de los retos más difíciles relacionados con la seguridad internacional, como luchar contra la censura en Internet, reducir las amenazas de ataques digitales, contrarrestar la violencia del extremismo o proteger del ciberacoso a las personas.

El nombre, Jigsaw, reconoce que el mundo es un complejo puzle de desafíos, por lo que debemos colaborar para afrontarlos.

Assembler combina varias técnicas existentes para la detección de técnicas de manipulación de imágenes comunes y es capaz de detectar cambios en al brillo de la imagen y el pegado de píxeles en alguna parte de la imagen para ocultar detalles, incluso cuando se conserva la misma textura visual.

Entre otras tecnologías emplea un detector de deep fakes creado con StyleGAN, un algoritmo que puede generar caras imaginarias totalmente realistas. Con todas las técnicas de detección se alimenta un modelo maestro de Inteligencia Artificial, que aprende e indica a los usuarios la probabilidad de que una imagen haya sido manipulada.

Los detectores individuales a menudo no son capaces de detectar con precisión los diferentes tipos de manipulación. Por ejemplo, un detector programado para identificar el pegado de píxeles no detecta manipulaciones en el brillo y viceversa. Para abordar este problema, se ha construido este modelo de conjunto, que mediante múltiples detectores, entrena a una unidad maestra.

Assembler es un buen paso en la lucha contra la manipulación en los medios, pero no cubre muchas otras técnicas de manipulación existentes, incluidas las utilizadas para los vídeos. En este sentido, el equipo de Jigsaw ha reconocido que seguirá añadiendo detectores al modelo maestro y actualizando los existentes.

Desde Jigsaw, recomiendan a los gigantes tecnológicos como Facebook y Google que instalen este tipo de detectores en sus plataformas. De esta forma, las comprobaciones pueden realizarse en tiempo real a medida que se se cargan y comparten las imágenes. En este sentido, ya están dando algunos pasos: Facebook ha prohibido las ‘deep fake’ en su red y Twitter ha comenzado a etiquetar este tipo de contenido para diferenciarlo.

De todos modos, será cada vez más  urgente, que cualquier ciudadano pueda acceder a este tipo de tecnologías.

Por Observador Urbano

Fuentes: www.trecebits.com – www.jigsaw.google.com

Imagen destacada: www.pixabay.com