Il y a un revers à cette fonctionnalité fantastique. Les voix de l’IA imitées par la formation sont trop ouvertes aux abus. Le même jour que Samsung a annoncé le produit, Motherboard, un vice-document technique, utilise l’IA pour former la voix du journaliste et la faire apparaître comme s’il s’agissait du journaliste lui-même dans le service bancaire d’appel bancaire. Le fichier vocal AI a été lu et l’authentification de l’identité a réussi.
Les experts ont mis en garde contre les vulnérabilités de l’authentification vocale depuis des années. Avant que les outils basés sur l’IA ne soient largement utilisés, la méthode de contournement était utilisée avec les fichiers d’enregistrement. Après avoir placé une annonce ou un appel commercial, il enregistre votre voix en posant des questions de base qui vous obligent à dire « oui ». Cependant, l’imitation de l’IA ne nécessite pas d’interaction. Il ne nécessite pas non plus une grande quantité de données vocales nécessaires à la formation vocale. La formation elle-même ne prend que quelques minutes.
À court terme, il n’y a pas encore beaucoup d’exploits de la voix de l’IA. Afin d’exploiter les voix de l’IA à l’insu de l’utilisateur, la voix de l’utilisateur doit être publique et plusieurs conditions sont requises. Lors de l’utilisation de l’outil ElevenLabs, la carte mère a échoué au processus d’authentification de Lloyd’s Bank. Il faut plusieurs essais et quelques ajustements pour entraîner secrètement la voix de l’utilisateur dans l’IA et réussir certaines procédures comme la voix d’origine. Si un service sensible, tel que la finance, surveille d’autres informations ou signaux de l’utilisateur, d’autres fonctionnalités telles que l’usurpation de numéro doivent être combinées avec Bixby Calling.
Pourtant, je ne peux pas être sûr. L’expérience de la carte mère est un exemple de la façon dont l’authentification biométrique devrait se voir accorder la même importance que les autres méthodes de protection des comptes. Les données biométriques sont une sorte de mot de passe physique et, comme tout autre mot de passe, elles sont risquées si les informations sont accessibles ou si la sécurité est faible.
La voix peut être enregistrée. Le visage peut être photographié. L’empreinte digitale peut être prise alors que l’utilisateur n’en est pas conscient. Il n’est pas nécessaire d’arrêter d’utiliser des données biométriques, mais aussi simple et pratique soit-elle, la défense est faible. Considérez vos données biométriques comme un mot de passe court et simple. Certaines attaques seront bloquées, mais la plupart passeront très facilement.
Pour utiliser l’authentification biométrique à bon escient, elle ne doit être utilisée que dans des situations à faible risque, telles que les PC qui n’imposent pas le “toujours connecté” pour les sites sensibles, ou les applications et smartphones protégés par mot de passe. Il est préférable de désactiver les données vocales ou faciales dans la mesure du possible, sauf si vous les utilisez conjointement avec d’autres outils puissants.
Si votre banque utilise la vérification vocale pour vérifier votre identité, vous devrez activer la vérification en 2 étapes. En effet, les outils d’IA deviendront de plus en plus puissants et constitueront une grande menace. Surtout pour ceux qui aiment partager des vidéos d’eux-mêmes avec leurs visages exposés, il est préférable d’utiliser même des services payants.