“¿Dónde estás? ¿Estás en Ceuta?”, decía un mail que recibió Flavia Broffoni el 26 de agosto. Una mujer de esa ciudad española y a la que nunca había visto le advertía que tuviera cuidado, que la estaban buscando y que podían atacarla. Flavia no la conocía y estaba a más de 10.000 kilómetros de distancia. "No entendía lo que estaba pasando, nunca pisé Ceuta y hace más de diez años que no viajo a España", revela a Clarín la activista argentina.

En varios grupos de WhatsApp empezó a circular un video de una joven de pelo corto, con remera negra y short rojo que estaba filmando con su celular. Sin embargo, en los chats aseguraban que estaba dando gas pimienta a los inmigrantes marroquíes para que enfrenten a las fuerzas de seguridad. Y, ante la consulta de un usuario, la inteligencia artificial la identificó como Flavia Broffoni, una activista argentina y politóloga.

“Me mandan una captura de pantalla de una consulta que se le hace a partir del recorte del rostro del video que está circulando. Se ingresa en la inteligencia artificial de Google y esta responde que esa persona soy yo, con una descripción de mi actividad”, confiesa Broffoni.

“Se afirma que soy una persona que aparece en un video compartido entre cinco cuentas en Instagram de influencers, con cientos de seguidores”, agrega.

La captura de pantalla del chat grupal en el que se muestra la búsqueda de la IA que menciona a Flavia Broffoni.

Enseguida, esta información falsa se viraliza y se llena de comentarios contra la mujer argentina. Algunos de ellos muy violentos: “Habría que aplicarle justicia exprés”, “Corre que te estamos buscando”, “Al paredón”, “Tirarla a Marruecos”, “Hay que buscar su instagram, exponerla”.

Mientras tanto, Flavia estaba en Epuyén, Chubut. La distancia que la separaba de Ceuta terminó salvando su vida. Por su actividad, muchas veces recorre zonas donde no hay mucha señal.

“Cuando ingreso a la publicación del video, los comentarios son nefastos, desde arengar a que esa persona que supuestamente soy yo se la viole, se la mate, se la tire al mar”, agrega.

Le llegaron decenas de mensajes a su cuenta. Muchos españoles le preguntaban si estaba en Ceuta. Finalmente, una persona comentó la publicación y aclaró que la mujer del video no era Flavia.

“Recién ahí borran mi nombre, pero dejan la descripción de que es una activista argentina, cosa que tampoco está chequeado por nadie, como tampoco está chequeado que esa persona estuviera repartiendo gas pimienta”, explica.

Para Flavia se trató de una estrategia para incentivar la violencia en un territorio que está atravesando una situación de caos.

¿La IA reconoce personas?

Al principio, Flavia no entendía lo que estaba pasando. Tenía muchas dudas, por ejemplo: ¿Por qué la IA dio su nombre y apellido? “La persona que está filmando es una chica muchísimo más joven. Primero, no se sabe si la persona está cometiendo un delito. Segundo, dice que soy yo cuando nunca pisé Ceuta en mi vida”, agrega.

Debido a esto, la activista argentina contactó a especialistas en tecnología y lo primero que le respondieron fue que “la inteligencia artificial no da identidades de personas”.

En su caso, el único contexto que dio la persona que realizó la búsqueda para identificar la cara de la mujer del video es la palabra activista. “Quienes nos dedicamos a cierta actividad de compromiso público tenemos una exposición en contextos de violencia que claramente está sesgada por la IA”, aclara.

Según explica Broffoni, algunos especialistas hicieron la prueba y ahí se dieron cuenta de que la IA brinda identidades de personas. Y que no debería hacerlo porque eso contribuye a viralizar una noticia falsa. Clarín también probó la búsqueda de Google y surgió el nombre de otra persona, con sus datos y redes sociales.

Por su parte, ante la consulta de Clarín respecto a este caso, Google respondió por escrito que "no pueden validar ni comentar sobre capturas de pantalla que circulan en servicios de mensajería, ya que sin un enlace directo a la consulta no es posible verificar técnicamente la autenticidad del resultado".

Asimismo, que la imagen compartida refiere a funciones de IA en el buscador y no a la aplicación de Gemini, también propiedad de Google. Además, invita a los usuarios que ante cualquier resultado inexacto envíen sus comentarios a través del formulario de asistencia pública.

"Los riesgos son reales y concretos"

El caso de Broffoni abrió una discusión que hasta el momento no tuvo lugar en Argentina. ¿Qué sucede cuando la inteligencia artificial atribuye la identidad de una persona y esa información falsa se viraliza y termina con amenazas?

Marina Benítez Demtschenko, abogada de Flavia Broffoni, es especialista en Derecho informático y remarca la importancia de actualizar la ley de protección de datos personales que data del 2000.

“Es un caso muy grave porque denota los riesgos, no son especulativos, sino reales y concretos. Si Flavia hubiera estado en territorio habría corrido riesgo su vida. Lo único que lo evitó fue su ubicación geográfica”, cuenta a Clarín.

Según explica, la ley 25.326 “no contempla nada de todo lo que puede llegar a acarrear el manejo de datos personales de los modelos de la inteligencia artificial”.

“No encontramos frente a muchas problemáticas que son parte de la discusión internacional y que en Argentina no hay noticia todavía”, agrega.

La responsabilidad de los intermediarios de servicios de internet empezó a discutirse en el país con un proyecto de ley que se presentó en el Congreso, pero finalmente se frenó sin llegar a tratarse.

“La discusión se dilata por dos razones. Una, el lobby de las compañías que disputan poder sobre la información de los habitantes de un territorio, entonces negocian con los estados. Y la otra por la población que no entiende los peligros posibles. Los minimiza y terminan creyendo que no les afecta”, cierra.

MG