Una politóloga y escritora argentina sufrió una oleada de amenazas de muerte y violación tras ser identificada erróneamente por un algoritmo de inteligencia artificial. Flavia Broffoni fue vinculada de forma incorrecta con una persona que aparecía en un video registrado en Ceuta, España, lo que desató una cascada de mensajes hostiles y ataques contra ella.

El error del sistema de reconocimiento generó consecuencias inmediatas y severas. Broffoni comenzó a recibir comunicaciones amenazantes a través de distintos canales, incluyendo correos electrónicos y mensajes con contenido de índole criminal. La magnitud del problema fue tal que se describe como una «catarata» de amenazas, reflejando la velocidad e intensidad con que se propagaron los ataques.

Este caso ejemplifica una vulnerabilidad importante de las tecnologías de inteligencia artificial: su capacidad para cometer errores de identificación que, una vez difundidos, adquieren vida propia en la red. Lo que comienza como un fallo técnico puede transformarse rápidamente en un problema de seguridad personal para quien es identificado incorrectamente.

La situación de Broffoni no es aislada. Con el crecimiento del uso de sistemas automáticos para analizar contenido visual, aumentan también los riesgos de confusiones que afectan a personas inocentes. Las herramientas de IA, aunque sofisticadas, no son infalibles y pueden tener consecuencias graves cuando se utilizan sin validaciones adicionales.

El episodio abre debates sobre la responsabilidad de quienes desarrollan y despliegan estas tecnologías, la necesidad de controles de calidad más rigurosos, y las medidas que deben adoptarse para proteger a las personas que resultan dañadas por errores de identificación automatizada. La experiencia de la escritora argentina evidencia que detrás de cada fallo técnico hay afectaciones reales en la vida de las personas.

Con informacion de La Pampa 24