El torneo de Wimbledon anunció que utilizará inteligencia artificial para proteger a los jugadores del acoso en línea. Los organizadores del evento se apoyarán por primera vez de esta tecnología a través de un sistema que monitoreará publicaciones que atenten contra los participantes. La IA será capaz de analizar y reportar automáticamente el racismo, sexismo o las amenazas de muerte.
De acuerdo con un reporte de The Guardian, el All England Lawn Tennis y Croquet Club (AELTC), uno de los responsables del Campeonato de Wimbledon, usará IA para evitar los ataques a los tenistas. El organizador dijo que montó un servicio de monitoreo en redes sociales que detecta y marca automáticamente mensajes ofensivos en 35 idiomas.
El sistema, conocido como Threat Matrix, emplea inteligencia artificial para filtrar los mensajes y transmitirlos para revisión. Cuando se encuentre contenido abusivo publicado por una persona hacia un tenista, el sistema llevará a cabo el análisis y tomará acciones para reportarlo a las autoridades.
"Esto no es algo que se vea en el dominio público en absoluto. No nos verán gritar al respecto, pero básicamente estamos navegando en las redes sociales en busca de este tipo de contenido y eso significa que podemos obtener información que no teníamos en el pasado", mencionó Jamie Baker, director del Campeonato de Wimbledon. Baker añade que echarán mano de un equipo de seguridad si encuentran algo que les preocupe.
Cómo se combatirá el acoso en Wimbledon usando IA
Según indica la web del producto, Threat Matrix monitorea contenido que incluya racismo, sexismo, homofobia, antisemitismo, y otros mensajes abusivos. El sistema analiza fuentes de datos de código abierto, como redes sociales y la dark web. Sus creadores mencionan que emplean comprensión de lenguaje natural de la IA para identificar al sujeto y emprender acciones.
Debido a la cantidad de datos, Threat Matrix tiene que filtrar el contenido que provenga de bots. La tecnología es personalizable y puede adaptarse a cualquier competición, club o tipo de contenido. Además, el sistema se apoya en revisores humanos, quienes analizarán el contenido y generarán reportes con evidencia.
Utilizando la IA, cubrimos el problema a escala en múltiples redes e identificamos amenazas e incitaciones peligrosas, proporcionando un análisis de nivel superior sobre el tamaño y la escala del problema.
Signify AI
De acuerdo con Baker, Threat Matrix monitoreó más de 1,6 millones de publicaciones en X y 19.000 comentarios en Instagram dirigidos a cientos de jugadores profesionales. El sistema encontró que 1 de cada 4 tenistas es objeto de abuso en redes sociales. El directivo añadió que consultarán primero a los jugadores sobre el acoso antes de usar la tecnología.
El sistema ya probó su efectividad en el Campeonato Mundial de Rugby, luego de que un hombre fuera enviado a prisión por amenazar de muerte a un árbitro y su esposa a través de mensajes de Facebook. Tras su aplicación en Wimbledon, los responsables de Threat Matrix mencionaron que lo aplicarán en el US Open, el último Grand Slam del año.