Anthropic e l’operazione di “influence-as-a-service”
La società di intelligenza artificiale Anthropic ha recentemente scoperto che attori sconosciuti hanno sfruttato il suo chatbot Claude per un’operazione di “influence-as-a-service”. Questa attività sofisticata, motivata finanziariamente, ha utilizzato lo strumento di intelligenza artificiale per orchestrare 100 persone distinte su Facebook e X, creando una rete di “account politicamente allineati” che hanno interagito con “decine di migliaia” di account autentici.
Obiettivi e strategie dell’operazione
L’operazione, ora interrotta, ha dato priorità alla persistenza e alla longevità rispetto alla vitalità, cercando di amplificare prospettive politiche moderate che supportavano o minavano gli interessi di Europa, Iran, Emirati Arabi Uniti (U.A.E.) e Kenya. Tra le narrazioni promosse, vi era l’U.A.E. come ambiente imprenditoriale superiore, critiche ai quadri normativi europei, e narrazioni sulla sicurezza energetica per il pubblico europeo. Inoltre, si sono focalizzati su narrazioni di identità culturale per il pubblico iraniano e hanno sostenuto figure albanesi criticando figure di opposizione in un paese europeo non specificato, oltre a promuovere iniziative di sviluppo e figure politiche in Kenya.
Utilizzo innovativo di Claude
Un aspetto particolarmente innovativo di questa operazione è stato l’uso di Claude non solo per la generazione di contenuti, ma anche per decidere quando gli account bot sui social media avrebbero dovuto commentare, mettere “mi piace” o condividere post di utenti autentici. Claude è stato utilizzato come orchestratore, decidendo quali azioni gli account bot dovessero intraprendere basandosi su personaggi politicamente motivati. Inoltre, il chatbot è stato impiegato per generare risposte politicamente allineate nella voce e nella lingua nativa del personaggio, e per creare prompt per due popolari strumenti di generazione di immagini.
Struttura e gestione delle persone
L’operazione è stata caratterizzata da un approccio altamente strutturato basato su JSON per la gestione delle persone, permettendo di mantenere la continuità tra le piattaforme e stabilire modelli di coinvolgimento coerenti che imitano il comportamento umano autentico. Utilizzando questo framework programmatico, gli operatori potevano standardizzare e scalare efficacemente i loro sforzi, consentendo il monitoraggio e l’aggiornamento sistematico degli attributi delle persone, della storia di coinvolgimento e dei temi narrativi su più account contemporaneamente.
Risposte strategiche e umoristiche
Un altro aspetto interessante della campagna è stato l’uso strategico dell’umorismo e del sarcasmo da parte degli account automatizzati in risposta alle accuse di essere bot da parte di altri account. Questo approccio ha contribuito a mascherare ulteriormente la natura automatizzata degli account, rendendo l’operazione ancora più sofisticata e difficile da rilevare.
Fonte: The Hackers News
Ricevi le ultime attualità sul mondo tech!