Berliner Boersenzeitung - "20 minutes de terreur": l'IA dope les arnaques par clones vocaux aux Etats-Unis

L'intelligence artificielle (IA), en évolution rapide, a effacé la frontière entre fiction et réalité, dotant les cybercriminels d'outils de clonage de voix très performants, qui leur permettent de berner les gens en se faisant passer pour des proches.

Liz Benz a été tirée de son canapé par un appel émanant d'un numéro inconnu. Le ton, la prononciation, la cadence, tout dans la voix de la personne qui l'appelait à l'aide, semblait concorder avec celle de son fils, Fred.

L'interlocuteur lui dit qu'un ami de son fils a été tué et que lui-même, sorti voir un match de football, est retenu en otage.

Elle reçoit pour instruction d'apporter de l'argent dans un supermarché à proximité pour payer l'homme qui le retient.

Finalement, un selfie de Fred tout sourire au match, reçu peu après, la ramène à la réalité: l'appel était une escroquerie.

"Rien n'aurait pu me convaincre qu'il s'agissait d'une arnaque jusqu'à ce que je voie mon fils de mes propres yeux", raconte à l'AFP la voix tremblante cette courtière en assurance de 46 ans, mère de six enfants. "C'était vingt minutes de terreur."

- "N'importe qui peut le faire" -

Les autorités américaines et les associations de défense des consommateurs mettent de plus en plus en garde contre les escroqueries basées sur l'usurpation de l'identité d'un proche.

En avril, le FBI a annoncé que les Américains avaient perdu plus de 893 millions de dollars (767 millions d'euros) l'année dernière à cause d'arnaques par IA.

Une simple recherche internet permet de trouver de nombreux outils de clonage vocaux, certains gratuits, qui peuvent créer des répliques réalistes en n'utilisant parfois que quelques secondes de la vraie voix d'une personne.

"Avant, c'était relativement difficile de fabriquer ces choses-là. Maintenant, n'importe qui peut le faire en quelques secondes", constate Brian Long, directeur général d'Adaptive Security, une entreprise proposant des formations pour se protéger contre les fraudes liées à l'IA.

"Un gars seul dans une pièce avec un clavier peut créer un nombre infini d'attaques", explique-t-il, ajoutant que ces outils permettent aussi de concevoir des scripts complets à partir d'extraits audio récupérés sur les réseaux sociaux ou une messagerie vocale.

L'histoire de Liz Benz met en lumière un scénario classique: un appel urgent de la part d'un proche en difficulté - arrêté, ou bien impliqué dans un accident de voiture ou un crime -, et qui a besoin d'argent.

Les arnaqueurs accentuent la pression sur les victimes en utilisant des voix censées être celles d'avocats, de greffiers ou de banquiers.

- "Voix paniquée" -

La plupart de ces appels ne nécessitent même pas une voix parfaitement clonée.

"Une voix paniquée disant +Maman, aide-moi+ ou +Papa, j'ai eu un accident+ n'a besoin d'être crédible que quelques secondes", explique Amit Gupta, un haut responsable de l'entreprise de cybersécurité Pindrop.

"Le but n'est pas de répliquer parfaitement la voix. C'est de créer une incertitude émotionnelle suffisante et un sentiment d'urgence pour que les victimes agissent avant de vérifier."

Les personnes âgées sont particulièrement vulnérables, les experts alertant sur l'augmentation des cas d'"arnaques aux grands-parents".

Les escrocs "sont des professionnels, alors que les gens qu'ils ont au téléphone sont des amateurs", expose Gary Schildhorn, 73 ans, qui a subi une arnaque similaire en 2020.

En 2023, cet avocat de Philadelphie a raconté son expérience devant le Sénat.

Il avait été appelé au téléphone par une voix ressemblant à celle de son fils, qui lui avait expliqué qu'il devait payer une caution parce que celui-ci avait été arrêté alcoolisé au volant.

"En arrivant à la banque, mon téléphone sonne. C'est mon fils. Il me dit +Tu t'es fait arnaquer+", a-t-il détaillé à l'AFP.

"Je lui ai répondu +Brett, même dans ma tombe je continuerai à jurer que c'était ta voix, ton rythme, les mots que tu aurais pu utiliser (...) C'était toi au téléphone.+"

(F.Schuster--BBZ)