Quando l’Intelligenza Artificiale esagera…e presenta il conto! In Australia, un rapporto ufficiale commissionato dal governo si è trasformato in un vero caso da manuale per tutti gli appassionati (e forse anche un po’ scettici) di automazione: ecco cosa succede quando ci si fida troppo della macchina – e troppo poco dell’umano con occhiali e penna rossa.
Una consulenza da capogiro… generata dall’IA
Tutto inizia con l’intenzione serissima del Department of Employment and Workplace Relations australiano (il Ministero del Lavoro, per intenderci). Il governo chiede a Deloitte un rapporto sull’automazione delle penalità nel sistema di assistenza sociale. Niente pizza e fichi: qui si parla di decisioni che influenzano la vita di migliaia di persone e, come tale, serve un’indagine accurata. Eppure, la serietà non basta: Deloitte fattura 440.000 dollari australiani, circa 251.000 euro – insomma, mica bruscolini.
La scoperta: tra citazioni inventate e ricerche fantasma
Peccato che, poco dopo la pubblicazione del rapporto, qualcosa puzzi decisamente di bruciato. Un direttore del dipartimento di diritto della salute dell’Università di Sydney alza il sopracciglio. Nel testo, alcune stranezze saltano subito all’occhio:
- Numerose citazioni sono completamente inventate, attribuite a pubblicazioni che nessuno trova… perché semplicemente non esistono.
- Alcuni riferimenti richiamano presunte ricerche di una vera professoressa, ma… queste ricerche non sono mai state realizzate, come rivela l’Australian Financial Review.
Insomma, il classico caso di allucinazioni artificiali: per dirlo chiaro, Deloitte avrebbe chiesto a ChatGPT (o simili) di redigere tutto, senza preoccuparsi troppo di controllare cosa uscisse dall’altra parte.
Pagine e pagine… riviste in fretta (e furia)
Scatta lo scandalo: la proverbiale tazza di caffè (non proprio onesta) è ormai rovesciata sul tappeto delle istituzioni. Pronta la risposta: viene pubblicata una versione aggiornata del documento, ben 273 pagine, in cui Deloitte e il Ministero dichiarano ingenuamente di aver apportato solo “un piccolo numero di correzioni per riferimenti e note a piè di pagina”. Per essere precisi, nel rapporto si fa anche riferimento a una “catena di strumenti basata su un modello di linguaggio generativo (Azure OpenAI GPT-4o)”.
- Via le fonti inventate.
- Cancellate tutte le citazioni false.
Deloitte conferma che rimborserà la “versione finale” del contratto, senza però specificare a quanto ammonterà il rimborso stesso. Quanto a trasparenza, c’è ancora un po’ da lavorare!
Il Ministero non si scompone… ma le “raccomandazioni” restano!
Ma non è finita qui. Queste manipolazioni non sembrano aver turbato più di tanto il Ministero del Lavoro australiano, convinto che “il contenuto dell’audit indipendente sia preservato”. Le raccomandazioni contenute nel rapporto, infatti, restano tuttora valide… anche se poggiano su fondamenta, diciamo, un po’ zoppicanti.
- Le raccomandazioni restano recepite dalle istituzioni.
- Le “fonti” che le supportavano… svanite nel nulla.
Morale della favola? Fare copia-incolla dalle IA può sembrare una scorciatoia facile, ma la scorciatoia porta spesso… dritti contro il muro della realtà (e delle figure imbarazzanti). Consiglio pratico: che si tratti di un rapporto pubblico da 273 pagine o del tema in classe, meglio sempre controllare – penna rossa alla mano – se le “fonti” non sono solo… frutto della fervida immaginazione digitale.
Articoli simili
- Pensioni 2027: il governo affronta il rischio esodati con i sindacati
- Germania: Maxi scorta di ravioli in scatola per prepararsi a una guerra con la Russia!
- Caravaggio: Il mega assegno di Giuli per il “Ritratto di Maffeo Barberini”
- Cosa svela davvero la tua attività online? Tutto quello che non immagini su indirizzi IP, identificatori e localizzazione
- Sciopero Sole 24 Ore: Intervista esclusiva con Giorgia Meloni
Lisa Chichi vi porta in un mondo di scoperte curiose e storie sorprendenti. Ogni giorno condivide fatti insoliti e curiosità culturali che stimolano la vostra mente e arricchiscono le vostre conversazioni.
