Google anunció una medida para combatir los deepfakes generados por inteligencia artificial. La tecnológica implementó nuevas funciones de seguridad que eliminarán el contenido falso explícito en las búsquedas. Esta característica permitirá a los usuarios reportar un deepfake y eliminar todos los resultados relacionados.
La compañía menciona que ha habido un aumento preocupante en la cantidad de imágenes y videos falsos que muestran a personas en contextos sexualmente explícitos. Si bien la manipulación de imágenes existe desde hace décadas, la IA potenció el problema. Uno de los ejemplos más recientes ocurrió en enero, cuando Twitter (X) se llenó de deepfakes porno de Taylor Swift.
La estrategia de Google se basa en una nueva política de IA para YouTube anunciada a inicios de julio. La compañía la amplió a los resultados de búsqueda, por lo que los usuarios pueden solicitar la retirada de un deepfake siempre y cuando sean los afectados. Tras llenar un formulario y enviarlo, Google revisará la solicitud y evaluará con base en sus criterios antes de retirar el video o imagen de su búsqueda.
Cuando un deepfake se elimina de la Búsqueda, los sistemas de Google también borrarán los duplicados y filtrarán los resultados explícitos de búsquedas similares. La tecnológica menciona que esta estrategia ha demostrado ser exitosa en otros tipos de imágenes. Los usuarios no tendrán que preocuparse de que este contenido reaparezca en un futuro, ya que el motor lo bloqueará.
Google filtrará los deepfakes en los resultados de búsqueda
Otro esfuerzo para combatir los deepfakes tiene que ver la clasificación del Buscador. Google menciona que actualizaron los sistemas de clasificación para reducir el contenido falso para muchas búsquedas. Ahora, cuando el usuario teclee "deepfakes de Taylor Swift" obtendrá resultados de calidad, como noticias o artículos relevantes de sus giras.
Según la tecnológica, las actualizaciones en la clasificación redujeron en un 70 % los resultados de imágenes explícitas. "Este contenido puede ser profundamente angustiante para los afectados. Es por eso que invertimos en políticas y sistemas de larga data para ayudar a las personas a obtener más control sobre él", dijo Emma Higham, gerente de producto de Google.
Aunque la eliminación de los deepfakes explícitos es una buena idea, la estrategia podría afectar a otros resultados. Google menciona que están trabajando para que su motor de búsqueda aprenda a diferenciar el contenido real y consensuado de aquel generado por IA. Esas escenas de Eva Green en The Dreamers o Lea Seydoux en Blue is the Warmest Color representarían un reto para Google, sin embargo, el sistema de clasificación los ayudará.
Los cambios en el Buscador de Google se implementarán de forma gradual. La política de deepfakes explícitos no solo aplica a la búsqueda, sino también a los videos de YouTube, en donde los usuarios pueden reportar si han sido víctimas de la IA generativa.