Clonage vocal : comment se protéger contre les deepfakes vocaux ?

Comme toute innovation, les progrès en Intelligence Artificielle (IA) s’accompagnent de risques et de défis considérables, notamment dans le domaine de la sécurité numérique. Parmi ces défis se trouve la montée inquiétante du clonage vocal, également appelé deepfake vocal.

Concrètement, l’usurpation vocale consiste à utiliser l’intelligence artificielle pour recréer la voix d’une personne à partir d’un simple enregistrement audio. Une fois la voix clonée, l’IA peut ainsi générer des phrases ou des conversations entières. Cela donne l’impression que l’individu concerné parle réellement. Ce processus repose en fait sur des technologies de machine learning. Elles analysent les patterns de discours, y compris le ton, l’accent, la respiration et les intonations.

Une porte ouverte à des utilisations malveillantes

Il suffit désormais de trois secondes d’audio pour que l’IA puisse capturer suffisamment d’informations et générer un clone vocal convaincant. Cela signifie qu’un bref extrait d’une conversation, même anodin, peut permettre aux fraudeurs de dupliquer une voix pour des fins malveillantes.

Cette technologie a des applications bénéfiques, comme dans le domaine du divertissement (voix d’acteurs posthumes) ou dans l’assistance aux personnes souffrant de troubles de la parole. Néanmoins, elle ouvre également la porte à des abus massifs, particulièrement en matière de fraude.

Comment cette technologie est-elle exploitée ?

Les escroqueries par clonage vocal exploitent alors la crédibilité et la confiance que nous accordons aux voix de nos proches ou des figures d’autorité. Les cybercriminels utilisent des enregistrements vocaux disponibles en ligne. Ces séquences souvent trouvés sur des plateformes publiques comme YouTube ou TikTok. Ils les utilisent ensuite pour créer des clones vocaux et manipuler les victimes. En réalité, les cas d’escroqueries liées à ces usurpations vocales sont en augmentation, tant en fréquence qu’en complexité.

Un des modes opératoires les plus courants est d’induire un sentiment d’urgence chez la victime. Ainsi, les criminels utilisent la voix clonée pour se faire passer pour un ami, un membre de la famille ou une figure d’autorité (comme un employeur ou un officiel), et demandent rapidement de l’argent, souvent sous forme de cartes-cadeaux, de transferts bancaires ou de cryptomonnaies. Les victimes sont souvent désemparées et prises de court, ce qui augmente les chances de succès de l’escroquerie.

Des exemples notoires

Les exemples d’usurpation vocale sont nombreux et illustrent la menace croissante que représente cette technologie.

Aux Émirats Arabes Unis

Des criminels ont cloné la voix d’un directeur d’entreprise pour orchestrer un vol massif de 51 millions de dollars australiens (environ 33 millions d’euros). En fait, ils ont convaincu les employés de l’entreprise d’effectuer un transfert de fonds sur la base d’instructions vocales frauduleuses.

En Inde

Un homme d’affaires basé à Mumbai a été trompé par un appel frauduleux prétendument émis depuis l’ambassade indienne à Dubaï. L’escroc, utilisant une voix clonée, a en effet extorqué des fonds sous couvert de fausses demandes administratives urgentes.

En Australie

Des escrocs ont utilisé une voix clonée du Premier ministre du Queensland, Steven Miles, pour inciter des victimes à investir dans des escroqueries liées au Bitcoin.

L’un des exemples les plus inquiétants concerne les enlèvements fictifs. Aux États-Unis, les voix de jeunes victimes ont été clonées pour manipuler leurs parents en les convainquant que leur enfant avait été enlevé. Face à cette fausse urgence, les parents sont contraints de se soumettre aux demandes de rançon.

VOIR AUSSI : Usurpation, perte d’emploi… Les dangers de l’intelligence artificielle

Le phénomène gagne de l’ampleur

L’usage des usurpations vocales n’est plus un phénomène isolé. En 2023, une étude au Royaume-Uni a révélé que 28 % des adultes avaient été confrontés à des tentatives de fraude par clonage vocal. Malgré cela, près de 46 % des personnes interrogées n’étaient même pas au courant de l’existence de cette menace. Ce manque de sensibilisation rend une grande partie de la population vulnérable.

En Australie, les chiffres sont tout aussi alarmants. En 2022, près de 240 000 Australiens ont signalé avoir été victimes de ces arnaques, avec des pertes financières totales atteignant 568 millions de dollars australiens. Ces chiffres montrent que la menace est mondiale, affectant des personnes de tous horizons.

Comment se protéger contre l’usurpation vocale ?

Face à cette menace croissante, vous pouvez mettre en place des mesures pour vous protéger, tant au niveau individuel qu’organisationnel.

1 – Sensibilisation et éducation

La première ligne de défense est la connaissance. Il est essentiel que le public soit informé des risques associés aux technologies de clonage vocal et des signes avant-coureurs à surveiller. Les campagnes de sensibilisation, soutenues par les gouvernements et les entreprises, peuvent jouer un rôle crucial pour réduire les risques.

2 – Sécurité biométrique avec détection de vie

On pourrait également envisager l’usage de biométrie vocale avancée avec des systèmes de « liveness detection », capables de distinguer une voix vivante d’une reproduction générée par l’IA. Ces systèmes peuvent analyser les fluctuations naturelles dans la voix, que les IA actuelles ont du mal à imiter.

3 – Authentification multi-facteurs

Les entreprises et les services qui utilisent la reconnaissance vocale devraient intégrer des mesures d’authentification multi-facteurs (MFA), où la voix n’est qu’une des étapes de vérification, rendant plus difficile l’exploitation des clones vocaux.

4 – Renforcement des capacités d’enquête

Les forces de l’ordre doivent également accroître leurs capacités d’enquête et de surveillance face à ces nouvelles menaces numériques. Le développement de technologies permettant de détecter les deepfakes vocaux sera essentiel pour identifier les criminels derrière ces escroqueries.

5 – Réglementations et législations

Le cadre juridique entourant l’usage des technologies d’IA, et notamment le clonage vocal, doit être renforcé. En Australie, des initiatives sont en cours pour intégrer ces risques dans un plan national de lutte contre la cybercriminalité, avec des lois imposant aux entreprises de télécommunications, aux banques et aux plateformes numériques des obligations strictes de prévention, de détection et de lutte contre les fraudes.