Negli ultimi anni, l’intelligenza artificiale (IA) ha compiuto progressi significativi nel campo della creazione di contenuti credibili, come testi, immagini e persino audio. Tuttavia, questa evoluzione tecnologica ha aperto la porta a un’incresciosa conseguenza: le truffe telefoniche con voci fasulle, che stanno diventando sempre più comuni in tutto il mondo.

Il Caso
Uno degli ultimi casi riportati dal Washington Post riguarda la storia di Ruth Card, una donna canadese di 73 anni che è stata vittima di una di queste truffe. Ricevendo una telefonata dal nipote Brandon, che affermava di essere finito in prigione e di aver bisogno di soldi per la cauzione, Ruth si è precipitata in banca per prelevare 3.000 dollari per aiutarlo. Tuttavia, quando ha cercato di prelevare ulteriori fondi da un’altra banca, è stata fermata da un direttore che aveva già sentito storie simili. Si è scoperto che la richiesta di aiuto proveniva da una voce falsa generata tramite intelligenza artificiale.

Gli strumenti IA
Secondo la Federal Trade Commission, solo nel 2022 sono state segnalate oltre 36.000 truffe telefoniche simili negli Stati Uniti, in cui le persone sono state indotte a dare denaro a impostori che si sono fatti passare per parenti o amici. Questo numero potrebbe aumentare considerevolmente con i recenti sviluppi nell’ambito dell’IA, in particolare nella sintetizzazione vocale.

Attualmente, esistono diversi strumenti online che consentono di generare deepfake audio sempre più credibili. Ad esempio, Eleven Labs è un noto servizio che, a fronte di un abbonamento mensile di 5 dollari, permette di clonare qualsiasi voce in pochi minuti. Il processo richiede l’inserimento di 25 file audio chiari contenenti registrazioni della voce da imitare. Una volta creato il modello, è possibile far recitare alla voce artificiale il testo desiderato.

Anche Resemble offre un servizio simile, consentendo di creare una nuova voce registrando frasi proposte dal servizio stesso. Questi strumenti, sebbene abbiano scopi legittimi, possono facilmente essere utilizzati per scopi illegali, come truffe telefoniche o diffusione di informazioni false.

Il lato oscuro dell’IA
La preoccupazione principale riguarda la facilità con cui la nostra voce può essere replicata. Spesso, attraverso i video che pubblichiamo sui social media, forniamo involontariamente ai predatori informazioni sufficienti per addestrare i modelli di intelligenza artificiale disponibili online. Ciò significa che chiunque abbia accesso ai nostri profili pubblici sui social media potrebbe scaricare i nostri video e utilizzarli per creare deepfake audio.

La diffusione di deepfake audio rappresenta una sfida significativa per la sicurezza e la privacy. Non è sempre facile distinguere il vero dal falso, anche per chi ha una certa esperienza online. Video virali su TikTok o altre piattaforme possono convincere le persone che una voce sia autentica, anche se in realtà è generata artificialmente.

Le conseguenze di queste truffe possono essere devastanti, sia a livello finanziario che emotivo. È necessario un maggior impegno da parte delle autorità e delle piattaforme online per affrontare questa nuova minaccia. Allo stesso tempo, mentre l’IA continua a evolversi e a migliorare nella sua capacità di generare contenuti credibili, è importante che le persone siano consapevoli di queste tecnologie e imparino a riconoscere i segnali di un possibile tentativo di truffa adottando misure per proteggere la nostra sicurezza e la nostra privacy.

La lotta contro le truffe telefoniche rappresenta una delle sfide più urgenti che dobbiamo affrontare in un mondo sempre più interconnesso e guidato dalla tecnologia.

Come tutelarsi da chi ci contatta con dubbie intenzioni?
Quando si viene contatti, online o telefonicamente, da persone o aziende con dubbie intenzioni, l’unico modo per tutelarsi è cercare di informarsi su chi abbiamo di fronte.

Il servizio RISK PROFILE di Clipeo è un report veloce ed immediato che effettua accurati controlli sui protesti e pregiudizievoli relativi al soggetto oltre a fallimenti e procedure delle imprese ad esso collegate. Il rapporto è impreziosito dalla ricerca di cariche, partecipazioni societarie ed eventuali recensioni stampa di tenore negativo.

Fonte: La Repubblica