Attenzione ai ‘TikDocs’ generati dall’AI che sfruttano la fiducia del pubblico nella professione medica per promuovere vendite di integratori discutibili.
Una volta confinata ai laboratori di ricerca, l’intelligenza artificiale generativa è ora accessibile a chiunque, compresi coloro con intenzioni malevole. Questi strumenti di AI vengono utilizzati non per stimolare la creatività, ma per alimentare l’inganno. La tecnologia dei deepfake, capace di creare video, immagini e audio straordinariamente realistici, sta diventando sempre più un mezzo non solo per imitazioni di celebrità o per influenzare l’opinione pubblica, ma anche per furti d’identità e vari tipi di truffe.
Sulle piattaforme social come TikTok e Instagram, la portata dei deepfake e il loro potenziale dannoso possono essere particolarmente impressionanti. I ricercatori di ESET in America Latina hanno recentemente scoperto una campagna su TikTok e Instagram in cui avatar generati dall’AI si spacciavano per ginecologi, dietologi e altri professionisti della salute per promuovere integratori e prodotti per il benessere. Questi video, spesso altamente curati e persuasivi, mascherano vendite come consigli medici, ingannando gli ignari a fare acquisti discutibili e potenzialmente rischiosi.
Anatomia di un inganno
Ogni video segue uno schema simile: un avatar parlante, spesso posizionato in un angolo dello schermo, offre consigli di salute o bellezza. Con un’aria di autorità, i consigli si basano pesantemente su rimedi “naturali”, spingendo gli spettatori verso specifici prodotti in vendita. Mascherando le loro proposte come raccomandazioni di esperti, questi deepfake sfruttano la fiducia nella professione medica per guidare le vendite, una tattica tanto immorale quanto efficace.
AI al “soccorso”
I video sono creati con strumenti di AI legittimi che permettono a chiunque di inviare brevi filmati e trasformarli in avatar raffinati. Sebbene questo sia un vantaggio per gli influencer che cercano di ampliare la loro produzione, la stessa tecnologia può essere cooptata per affermazioni ingannevoli e inganni – in altre parole, ciò che può funzionare come un espediente di marketing si trasforma rapidamente in un meccanismo per diffondere falsità.
Abbiamo individuato più di 20 account TikTok e Instagram che utilizzano medici deepfake per promuovere i loro prodotti. Uno, che si spacciava per un ginecologo con 13 anni di esperienza, è stato tracciato direttamente alla libreria di avatar dell’app. Sebbene tale abuso violi i termini e le condizioni degli strumenti di AI comuni, evidenzia anche quanto facilmente possano essere utilizzati per scopi ingannevoli.
Fonte: We Live Security
