Una IA confundió a una activista chubutense con una mujer en España y la expuso a graves amenazas. Un grave episodio vinculado con el uso de herramientas de inteligencia artificial afectó a la politóloga y activista argentina Flavia Broffoni.
Un error en la identificación automatizada de una imagen la vinculó falsamente con un video viralizado en la ciudad española de Ceuta, desatando una ola de mensajes violentos y amenazas de muerte en su contra.
El hecho se remonta al pasado 26 de agosto, cuando en España circulaban imágenes y afirmaciones no verificadas sobre una joven de pelo corto —vestida con remera negra y short rojo— que se filmaba en medio de supuestos incidentes con inmigrantes marroquíes y fuerzas de seguridad.
En ese contexto, un usuario recortó el rostro de la protagonista del video y realizó una consulta a una función de inteligencia artificial vinculada al buscador de Google. El sistema arrojó una identificación errónea, señalando que la persona de la imagen era Broffoni y adjuntando datos sobre su perfil profesional.
Mientras la captura de pantalla de la búsqueda se multiplicaba en redes sociales y grupos de WhatsApp, la activista se encontraba en la localidad chubutense de Epuyén, a más de 10.000 kilómetros de distancia de Ceuta, sitio que aseguró no haber pisado jamás y al que no viajaba desde hacía más de una década.
Amenazas y riesgo real
La falsa acusación escaló rápidamente en el plano digital. Broffoni comenzó a recibir decenas de mensajes intimidatorios y advertencias de usuarios que le exigían explicaciones. Entre las agresiones recibidas figuraban frases como “al paredón”, “corre que te estamos buscando”, amenazas de violencia física e incluso de índole sexual.
Su abogada, Marina Benítez Demtschenko —especialista en derecho informático—, advirtió sobre la gravedad del hecho: “Si hubiera estado en ese territorio, habría corrido riesgo su vida. Lo único que evitó eso fue su ubicación geográfica”, subrayó, señalando la urgencia de actualizar la legislación vigente sobre protección de datos personales y la responsabilidad de las plataformas digitales ante estos episodios.
Por su parte, tras ser consultados sobre el caso, desde la compañía tecnológica aclararon que el incidente estuvo vinculado a prestaciones experimentales de búsqueda y no al asistente Gemini, recordando además la disponibilidad de canales para reportar resultados inexactos, mientras el caso abre un profundo debate sobre los riesgos concretos que entraña la descontextualización de datos mediante sistemas automatizados.