Berliner Boersenzeitung - Violences sexuelles en ligne: l'IA pour aider les victimes

"OlimpIA" se présente comme un robot conversationnel de soutien légal, psychologique et émotionnel, avec du texte et de l'audio.

Le chemin a été long. En 2013, Olimpia et Isabella, 30 ans aujourd'hui, ne se connaissent pas, mais subissent des atteintes similaires dans leur pays.

La Mexicaine est victime de la diffusion non consentie d'une vidéo intime. Lorsqu'elle veut porter plainte, les autorités lui disent qu'elle a peu de recours.

"Nous sommes beaucoup à vouloir mourir quand on fait face aux institutions", a déploré Olimpia lors du premier sommet latino-américain des défenseurs numériques, tenu récemment à Mexico. "On entend qu'il n'y a rien à faire contre cette violence parce que c'est virtuel, et que le virtuel n'est pas réel".

La même année, en Equateur, l'ex-compagnon d'Isabella Nuques publie également ses photos intimes sur les réseaux sociaux.

L'Equatorienne se sent doublement victimisée lorsqu'elle tente d'obtenir de l'aide. "La première fois que j'ai voulu porter plainte, un policier a reluqué mes photos", a-t-elle raconté à l'AFP lors du même événement à Mexico.

Le combat d'Olimpia Coral porte ses fruits en 2018. Cette année-là, une réforme pour sanctionner la violence en ligne est adoptée dans son Etat natal de Puebla (centre du Mexique).

En 2021, la loi qui porte son prénom est finalement reconnue dans tout le Mexique et prévoit trois à six ans d'incarcération.

Même victoire en Equateur pour Isabella, avec l'adoption d'une loi contre la violence numérique, prévoyant des peines d'un à seize ans de prison.

- Argentine, Chili, Panama -

Depuis, la loi mexicaine a fait école dans d'autres pays (Argentine, Chili et Panama). Une demi-douzaine d'autres pays d'Amérique latine sont sur le point d'adopter une loi semblable.

Olimpia a aussi lancé en 2013 le collectif du Front national pour la sororité (FNS).

"Nous avons survécu à la violence en ligne et notre amour nous a transformé en sœurs d'armes...Nous continuerons à tout jamais", lit-on sur la page Facebook de l'association.

Ses membres - les "défenseuses" - ont commencé par donner des conseils et du soutien dans des groupes de discussion.

Finalement, l'entreprise AuraChat.Ai s'est intéressée au projet, et a lancé en septembre dernier "OlimpIA".

Il faut d'abord trouver Team Olimpia sur WhatsApp, au +1 (424) 338-7177, comme l'AFP l'a fait pour tester le programme en dénonçant un cas fictif de violence en ligne.

"Réunis des preuves", "porte plainte", "préviens la plate-forme", répond en quelques secondes l'algorithme avec en prime un audio de plus d'une minute rappelant l'existence de la loi Olimpia au Mexique.

Depuis son lancement, la plateforme a apporté du soutien à plus de 8.000 victimes, en s'adaptant à la réalité de chaque pays, explique l'une des cofondatrices de cet algorithme d'intelligence artificielle, Fernanda Medellin.

La majorité se trouve au Mexique, mais aussi en Espagne, en Colombie, au Honduras, en Equateur, au Panama, au Guatemala et au Pérou.

L'application a été citée comme un des projets les plus innovants lors du AI Action Summit 2025 de Paris.

- Un soutien réconfortant -

L'outil conversationnel a été entraîné pendant des mois par des psychologues, afin que le programme offre des informations spécifiques et un langage qui imite une voix humaine et réconfortante.

L'outil OlimpIA utilise 37 modèles ou programmes informatiques.

"Certains fonctionnent comme des avocats, d'autres comme défenseurs numériques, d'autres comme psychologues. D'autres agissent comme filtres de sécurité qui détectent les risques pour la victime, ou comme radars émotionnels qui analysent le texte et l'audio pour comprendre son état mental", explique Enrique Partida, co-fondateur et PDG de AuraChat.Ai.

La psychologue Yolitzin Jaimes a fait en sorte qu'OlimpIA "fournisse des outils pour faire face aux crises d'anxiété ou aux crises de paniques", des symptômes communs chez les victimes.

D'autres projets similaires ont été développés en Afrique du Sud, où le robot conversationnel Zuzi offre du soutien en cas de violence physique ou sexuelle grâce à un bouton d'urgence, au stockage des preuves et à un centre d'information.

Selon les Nations unies, 38% des femmes dans le monde ont subi des violences en ligne.

Au Mexique, où en moyenne 10 femmes sont assassinées chaque jour, 9,7 millions de victimes ont souffert de cyberharcèlement en 2022, affirme l'ONU.

(B.Hartmann--BBZ)