Pero a Hera Hussain le preocupa que las empresas de tecnología no reconozcan las sensibilidades culturales, donde las imágenes reportadas a menudo son evaluadas por un sistema de moderación de inteligencia artificial que está fuertemente entrenado para detectar desnudez. Hussain dice que identificar imágenes problemáticas es más sutil que identificar la piel desnuda y requiere que el usuario sea más persistente para garantizar que un moderador humano revise la imagen.
Existe la preocupación de que no haya suficiente supervisión humana a medida que las empresas se inclinan por herramientas automatizadas más baratas y consolidan la experiencia regional en equipos que cubren regiones vastas y diversas. Por ejemplo, en una declaración ante el Comité Judicial del Senado de EE. UU., el director ejecutivo de Snapchat reveló recortes en su equipo de confianza y seguridad (su plantilla de seguridad y moderación caerá de un máximo de 3.000 en 2021 a alrededor de 2.226 en 2023), una reducción del 27%.
Los propagandistas quieren invertir la lógica. Actualmente, las plataformas son investigadas y luego eliminadas, dijo Hussain. Opinó que primero deberían retirarlo por 24 horas, pendiente de revisión, para luego investigar. “¿Qué tienes que perder?” ella pregunta. En nuestra entrevista, Hussain mencionó un caso ocurrido en Pakistán en 2017, donde tres hermanas fueron asesinadas después de compartir un video de ellas mismas cantando y aplaudiendo en una boda; tres de sus parientes varones fueron sentenciados a cadena perpetua.
Al mismo tiempo, la carga de denunciar recae casi por completo en la víctima, quien debe identificar las imágenes, verlas repetidamente y enviarlas todas, sin un procedimiento general para retirar copias en masa.
Hussain dice: “Pasas por esa retraumatización y luego es posible que ni siquiera tengas una respuesta”.
Esa distinción es importante, concluye el informe, porque el daño a la mujer en el cuadro es raro. Describe cómo la imagen filtrada afecta a toda su familia: padres que no pueden hacer frente al trabajo, hermanas cuyos matrimonios se han derrumbado, familias vistas “de manera humillante”. El honor es colectivo y la amenaza de la humillación colectiva es en sí misma un medio de control.
Para Mahnoor, el costo se mide en personas con las que no habla. Su hija de tres años y medio empezó a notar que los familiares del piso de arriba no saludaban a su madre. Sus imágenes de voz en off son, según la definición de cualquier plataforma, inofensivas.
Algunos países tratan el intercambio de imágenes como una cuestión de privacidad. Francia reconoce desde hace tiempo el “derecho a la propia imagen”: según el artículo 9 de su Código Civil, toda persona, figura pública o ciudadano privado, tiene el derecho exclusivo de controlar cómo se utiliza su imagen, salvo excepciones relacionadas con noticias y auténtico interés público. Sin embargo, un ministro en licencia tiene derecho a la privacidad.
Los Emiratos Árabes Unidos van más allá y criminalizan la fotografía de personas sin consentimiento incluso en lugares públicos, sin una excepción amplia de interés público.
Hera Hussain concluyó que “el abuso basado en imágenes es mayor y más extendido que la desnudez” y “un fallo sistémico”.
La policía, los tribunales y las plataformas tecnológicas pueden “apoyar mucho mejor a los supervivientes”, dijo, y añadió: “Si estás sufriendo abuso de imagen, debes saber que no es tu culpa, que no estás solo y que organizaciones como Chain están aquí para apoyarte”.
