Trend Micro lancia l’allarme sui pericoli dell’adozione di modelli linguistici di grandi dimensioni senza adeguata governance. L’ultimo studio della multinazionale di cybersecurity rivela che i sistemi di intelligenza artificiale possono generare risultati diversi a seconda della posizione geografica, esponendo le organizzazioni a danni legali, finanziari e di reputazione.
La ricerca “Risks of Unmanaged AI Reliance: Evaluating Regional Biases, Geofencing, Data Sovereignty, and Censorship in LLM Models” ha coinvolto oltre 100 modelli di intelligenza artificiale e utilizzato più di 800 prompt mirati. Gli esperti hanno condotto migliaia di esperimenti per misurare come gli output cambiano nel tempo e nei luoghi, analizzando più di 60 milioni di token di input e oltre 500 milioni di token di output.
Risultati diversi per la stessa richiesta
I risultati dimostrano che prompt identici possono produrre risposte diverse a seconda dell’area geografica e dei modelli utilizzati. Le variazioni si verificano persino durante interazioni ripetute con lo stesso sistema. In scenari politicamente critici, come territori contesi o questioni di identità nazionale, i modelli hanno mostrato chiare differenze di allineamento a seconda del luogo.
“In molte organizzazioni, si pensa che l’intelligenza artificiale si comporti come un software tradizionale e che lo stesso input produca in modo affidabile lo stesso output”, afferma Marco Fanuli, Technical Director di Trend Micro Italia. “La nostra ricerca mostra che questo pensiero non è corretto.”
Maggiori rischi per le aziende globali
Lo studio evidenzia che i pericoli aumentano per le organizzazioni che operano a livello globale o utilizzano l’intelligenza artificiale in diverse aree geografiche. Un servizio basato sull’AI potrebbe essere regolamentato da diversi quadri giuridici, politici e socioculturali.
Le criticità coinvolgono anche il settore pubblico. I risultati generati dall’intelligenza artificiale potrebbero essere interpretati come una guida ufficiale e la dipendenza da modelli non localizzati o non verificati potrebbe introdurre rischi di sovranità e di accessibilità.
Nei settori dove si lavora a contatto con i clienti o si prendono decisioni cruciali, queste incoerenze possono minare la fiducia e portare a costose conseguenze per il business. Durante i test, i modelli hanno restituito risultati obsoleti o incoerenti in aree che richiedevano precisione, come calcoli finanziari e informazioni dove il fattore tempo gioca un ruolo chiave.
La necessità di governance e controlli
“L’intelligenza artificiale non dovrebbe essere trattata come uno strumento di produttività plug-and-play”, conclude Marco Fanuli. Le organizzazioni devono considerare i rischi di dipendenza, adottare una governance chiara, definire le responsabilità e introdurre la verifica umana per qualsiasi output rivolto agli utenti.
La ricerca sottolinea l’importanza della trasparenza dei fornitori di intelligenza artificiale su come si comportano i modelli, su quali dati si basano e dove vengono applicati i controlli. L’intelligenza artificiale promuove innovazione ed efficienza, ma solo quando viene utilizzata con una chiara comprensione dei suoi limiti e con verifiche che controllano come i sistemi si comportano negli ambienti del mondo reale.
Trend Micro, leader globale di cybersecurity, protegge oltre 500.000 aziende e milioni di individui in tutto il mondo attraverso la sua piattaforma Trend Vision One, potenziata dall’intelligenza artificiale per la gestione centralizzata dell’esposizione al rischio informatico.