Un gruppo di ricerca della Fudan University, in Cina, ha pubblicato un concetto inventato su siti aperti ai contributi degli utenti, poi ha sottoposto ogni giorno per una settimana la stessa domanda a 10 strumenti di ricerca basati sull’IA. Il risultato: 8 strumenti su 10 hanno citato nelle risposte il concetto fittizio «Cactus Gravity Protocol». Tra questi figurano tutti e quattro ChatGPT, Perplexity, Grok e Google AI. Il paper è stato pubblicato su arXiv l’8 ottobre; l’esperimento, secondo quanto riferito, è stato condotto a marzo e aprile.
Un concetto inesistente è entrato nelle risposte dell’IA nel giro di una settimana
L’idea alla base dell’esperimento è semplice: se si pubblica sul web un concetto che non esiste, i motori di ricerca basati sull’IA lo raccolgono come «fonte»? Il gruppo di ricerca ha verificato la questione sul web reale.
A marzo, il gruppo ha sottoposto 120 domande a 10 strumenti di ricerca basati sull’IA, registrando quali siti venivano citati più spesso. ChatGPT, Perplexity, Grok e Google AI sono stati classificati come strumenti che si basano soprattutto sul web in lingua inglese; gli altri sei comprendevano strumenti rivolti al pubblico di lingua cinese, come Doubao e DeepSeek. Reddit era la fonte citata più spesso da Google AI e Grok, YouTube da Perplexity e Wikipedia da ChatGPT. Secondo i ricercatori, tra i 10 siti più citati da ciascuno strumento, da 6 a 10 erano piattaforme dove gli utenti comuni potevano pubblicare contenuti.
Qui stava la falla dell’esperimento: molti dei luoghi consultati spesso dall’IA sono anche luoghi in cui chiunque può scrivere.
Come si è svolto l’esperimento
Ad aprile sono state esaminate 22 piattaforme di pubblicazione. Medium, GitHub, LinkedIn e Facebook sono state considerate facili sia da usare previa registrazione sia per pubblicare contenuti. Reddit, invece, era più difficile da usare per i nuovi account, a causa dei requisiti di karma (punti di reputazione) e delle rigide procedure di rimozione dei contenuti.
Per ciascuno strumento, il gruppo di ricerca ha scelto il sito più citato su cui fosse possibile pubblicare anche con un nuovo account, e ha pubblicato articoli su nove siti in totale, tra cui Medium, YouTube e Sohu. I temi erano tre: il fittizio «Cactus Gravity Protocol», un quesito d’opinione sull’eventualità che l’IA sostituisca i giovani programmatori entro cinque anni e una tastiera inventata. Le prime bozze degli articoli sono state generate con ChatGPT, poi modificate a mano e completate con «informazioni esca», come nomi e numeri fittizi. Se l’IA avesse riprodotto quelle informazioni nelle risposte, sarebbe stato possibile risalire ai post come fonte.
Prima della pubblicazione, i ricercatori hanno verificato che nessuno strumento fornisse risposte utili sui due temi fittizi né riportasse le informazioni esca. Dopo la pubblicazione, per una settimana hanno sottoposto ogni giorno a tutti gli strumenti cinque domande per ciascuno dei tre temi.
I numeri, strumento per strumento
La quota di risposte sul concetto fittizio che conteneva un link al post variava notevolmente da uno strumento all’altro. Il conteggio comprendeva le risposte fornite dal giorno in cui ciascuno strumento ha citato per la prima volta il post fino al settimo giorno successivo alla pubblicazione.
Le citazioni dei quattro strumenti rivolti al pubblico di lingua inglese
Grok ha inserito un link al post in 30 risposte su 32, Google AI in 15 su 33, Perplexity in 13 su 35 e ChatGPT in 7 su 20. Considerata la brevità dell’esperimento, appena una settimana, colpisce che siano stati ripresi così tanti articoli pubblicati da account personali poco conosciuti.
Il quadro cambia se si considera la quota di risposte che riportava le informazioni esca: 53% per Grok, ovvero 17 risposte su 32; 10% per ChatGPT, su 20; 6% per Google AI, su 33; zero per Perplexity. Sembra dunque che ottenere un link sia un ostacolo diverso dal far sì che i contenuti vengano ripresi nella risposta.
Nel complesso, 176 delle 1.004 risposte generate dai 10 strumenti sui tre temi contenevano un link a un post nel periodo osservato.
Le reazioni variavano molto a seconda del tema
Tra gli strumenti rivolti al pubblico di lingua inglese, solo Perplexity ha citato il tema d’opinione: in 4 risposte su 35, pari all’11,4%. Nessuno dei quattro strumenti ha citato il post sulla tastiera fittizia entro una settimana.
Occorre però cautela nell’interpretare questa differenza. I temi, la quantità di informazioni concorrenti e il tipo di domande cambiavano contemporaneamente nei tre casi; i ricercatori non hanno quindi isolato quale fattore abbia determinato il divario. I risultati non bastano per concludere che «i prodotti fittizi vengono ripresi meno spesso».
In un esperimento aggiuntivo, sono stati pubblicati 10 temi fittizi diversi, uno per ciascun post, su Sohu, YouTube e CSDN. Considerando tutti e 10 gli strumenti, per 9 temi è stata rilevata almeno una citazione o la riproduzione di informazioni esca. Perplexity era uno dei tre strumenti che hanno citato più spesso i post.
Più del numero di post, conta dove vengono pubblicati
Un altro aspetto esaminato è stato l’effetto della piattaforma. Il gruppo di ricerca ha preparato coppie di post su cinque destinazioni turistiche poco conosciute: un post per ciascuna coppia è stato pubblicato su un sito consultato spesso dagli strumenti, l’altro su un sito quasi mai consultato. In tutti e cinque i casi, la prima citazione o riproduzione delle informazioni esca è arrivata dal post pubblicato sul sito consultato più spesso.
Anche nel caso in cui la reazione sia arrivata più rapidamente sul sito meno consultato, sono stati necessari 20 post. Quando ne sono stati pubblicati 40 su un sito WordPress autogestito, non si è verificata alcuna reazione entro sette giorni. Gli autori presentano questi risultati come riferiti a temi specifici, non come una regola generale.
Aumentando il numero di post, sono aumentate le citazioni, ma
In un altro esperimento, il numero di post su Sohu dedicati a sei temi inventati è stato variato da 1 a 20. Il totale delle citazioni raccolte dai 10 strumenti è salito da 24 a 128. ChatGPT, tuttavia, non ha mai citato questi post, mentre Google AI li ha citati solo per i tre temi con il minor numero di post. Poiché a ciascun volume di post corrispondevano temi diversi, i ricercatori considerano questo aumento una correlazione, non un nesso causale.
In altre parole, non basta dire che «vince chi pubblica di più»: viene prima la possibilità di comparire tra le fonti a cui l’IA si affida. La situazione ricorda, in parte, quella della SEO, dove non conta soltanto il numero di backlink, ma anche da quali siti provengono.
Cosa è successo con un pacchetto di post da 14 dollari
Il team di ricerca ha acquistato per 14 dollari un pacchetto di pubblicazione sul web cinese da un fornitore di servizi che si occupa di GEO (interventi per favorire la presenza di informazioni sulla propria azienda nelle risposte dell’IA generativa). I 13 post sono stati pubblicati circa 28 minuti dopo l’acquisto. Entro un’ora dalla pubblicazione, è stato rilevato un riferimento di Doubao che conteneva l’informazione inserita deliberatamente in uno dei post. Gli autori lo presentano non come un tasso di successo, ma come un singolo caso verificato.
Bastano una spesa contenuta e meno di mezz’ora di lavoro perché una traccia possa comparire nelle risposte dell’IA. Il fatto che sia accaduto sul web reale ha un certo peso.
Non applicare i risultati direttamente ai marchi reali
L’esperimento ha riguardato concetti e prodotti inesistenti, oltre a domande di opinione. Non è stato verificato se lo stesso andamento si manifesti nelle ricerche relative a marchi o prodotti reali. Lo stesso vale per i prodotti di cui si parla pochissimo su altri media.
Nella guida sulle funzionalità di IA, Google spiega che cercare di ottenere «menzioni» in modo artificioso è meno efficace di quanto possa sembrare. Questo perché i meccanismi di ranking privilegiano i contenuti di qualità e sono previsti sistemi per bloccare lo spam. L’articolo scientifico, tuttavia, non specifica quali prodotti Google siano stati testati.
Gli esperimenti si sono svolti a marzo e aprile, prima che Google chiarisse il 15 maggio che le norme antispam si applicano anche ai tentativi di manipolare le risposte generate dall’IA nella Ricerca Google. Gli autori precisano che le percentuali esatte possono cambiare con gli aggiornamenti degli strumenti.
Le risposte dell’IA potrebbero dipendere più da «dove» si pubblica che da «chi» pubblica
A colpire nei risultati sono soprattutto il breve arco di una settimana e il fatto che i post provenissero da account anonimi. È una scansione temporale completamente diversa da quella di un mondo in cui servono sei mesi per scalare le posizioni nei risultati di ricerca. Se un contenuto compare su un sito a cui la ricerca basata sull’IA attinge come fonte, può farsi strada anche senza solide prove a sostegno. Questa dinamica può apparire un’opportunità ai responsabili della comunicazione aziendale e un rischio per gli utenti.
コメント