Che cos'è davvero l'AI? Come apprende, genera contenuti e commette errori

Potresti aver usato l'intelligenza artificiale diverse volte ancora prima di finire la colazione. Un servizio di posta elettronica ha nascosto un messaggio sospetto. Una mappa ha confrontato i percorsi possibili. La fotocamera di un telefono ha riconosciuto un volto o una pianta. Un servizio musicale ha riordinato un elenco. Nessuno di questi momenti sembrava coinvolgere una macchina da fantascienza. Sembravano normali programmi che prendevano una piccola decisione per tuo conto.

Questo è uno dei motivi per cui l'AI può sembrare più difficile da capire di quanto dovrebbe. L'interfaccia mostra la risposta ma nasconde il meccanismo: l'obiettivo scelto da qualcuno, gli esempi usati per costruire il modello, i segnali forniti come input e i test che hanno stabilito se il risultato fosse abbastanza valido. L'AI generativa aggiunge un ulteriore livello di confusione, perché sa spiegarsi con un linguaggio curato anche quando la spiegazione è incompleta o errata.

Questa guida apre quel meccanismo senza fingere che tutti i sistemi di AI funzionino allo stesso modo. Segue dall'inizio alla fine una domanda pratica: che cosa deve accadere prima che una macchina possa trasformare un input in un output, e che cosa bisogna controllare prima di fidarsi del risultato?

Una definizione utile di AI

La definizione aggiornata dell'OCSE descrive un sistema di AI come un sistema basato su macchine che deduce dai propri input come generare output, quali previsioni, contenuti, raccomandazioni o decisioni, capaci di influenzare ambienti fisici o virtuali. I sistemi differiscono per grado di autonomia e per la capacità di continuare ad adattarsi dopo la distribuzione.

Il verbo importante è dedurre. Una calcolatrice tradizionale segue regole che specificano completamente come trasformare i numeri in una risposta. Un modello di AI affronta spesso situazioni in cui scrivere a mano ogni regola sarebbe poco pratico. Stima un output utile a partire da schemi, vincoli o relazioni apprese. A seconda del compito e delle condizioni, quell'output può essere eccellente, mediocre o pericolosamente fuorviante.

L'AI non è quindi un singolo prodotto, un singolo algoritmo o una mente digitale. È un termine ombrello che comprende molti sistemi. Un classificatore di spam, un sistema di riconoscimento vocale, un modello di previsione della struttura delle proteine e un modello linguistico possono rientrare tutti nella definizione, pur avendo in comune poco più dello schema generale input-modello-output.

Ogni sistema di AI è più di un modello

Nel dibattito pubblico, il modello viene spesso considerato come se fosse l'intera macchina. In pratica, il modello è un elemento all'interno di un sistema. È utile distinguere cinque parti:

• Obiettivo: ciò che il sistema viene ottimizzato per prevedere, ordinare, generare o decidere.
• Input: le informazioni disponibili al momento dell'uso, come pixel, parole, letture dei sensori, posizione o comportamenti precedenti.
• Modello: il meccanismo appreso o progettato che associa l'input a un risultato.
• Output e interfaccia: l'etichetta, il punteggio, il percorso, l'immagine, la frase o l'azione mostrata a una persona oppure trasmessa a un altro sistema.
• Valutazione e feedback: i test, il monitoraggio, le correzioni e le decisioni umane usati per stabilire se il sistema funziona in condizioni reali.

Consideriamo la pianificazione di un percorso. L'obiettivo può essere ridurre al minimo il tempo di viaggio stimato. Gli input includono la rete stradale, la posizione attuale, le chiusure e i dati sul traffico. Un modello stima il costo dei percorsi possibili. L'interfaccia presenta una o più opzioni. Il feedback arriva mentre il traffico cambia e i viaggi vengono completati. Il risultato utile deriva dall'intera catena, non da un algoritmo isolato.

Anche l'obiettivo merita attenzione. Un sistema può ottimizzare il traguardo assegnato e produrre comunque un risultato che le persone non apprezzano. Il percorso mediamente più veloce può includere una svolta stressante. Una raccomandazione ottimizzata per i clic può non essere quella che informa meglio una persona. I computer non scoprono automaticamente quale sia il giusto obiettivo umano. Sono le persone a definire il traguardo, scegliere ciò che si può misurare e accettare i compromessi.

Come una macchina apprende dagli esempi

Immaginiamo che un distributore di mele voglia individuare i frutti ammaccati nelle immagini di una fotocamera. Un programma basato su regole potrebbe controllare colore e forma usando soglie definite da un tecnico. Questo può funzionare in un ambiente controllato, ma le mele reali variano per varietà, maturazione, illuminazione, angolazione e consistenza della superficie. Un approccio di machine learning usa molti esempi e regola un modello affinché le sue previsioni corrispondano sempre meglio ai risultati noti.

Durante l'addestramento, il modello formula previsioni sugli esempi, misura quanto si discostano dal risultato desiderato e aggiorna parametri numerici per ridurre l'errore. I dettagli cambiano tra gli algoritmi, ma il ciclo è riconoscibile: prevedere, misurare, regolare, ripetere. Il modello non memorizza una regola verbale come "ogni macchia scura è un'ammaccatura". Adatta una relazione matematica che può combinare molti segnali visivi.

Addestramento, validazione, test e inferenza

Questi termini descrivono momenti diversi e non vanno confusi tra loro:

• I dati di addestramento vengono usati per regolare i parametri del modello.
• I dati di validazione aiutano a scegliere le impostazioni e a confrontare le versioni durante lo sviluppo.
• I dati di test vengono tenuti separati per stimare come il modello scelto gestisca esempi dai quali non ha appreso direttamente.
• L'inferenza è il momento in cui un modello addestrato riceve un nuovo input e produce un output.

Un modello che ottiene risultati eccellenti su esempi familiari ma scarsi su quelli nuovi non ha appreso abbastanza bene lo schema desiderato. Potrebbe essersi adattato eccessivamente a dettagli accidentali del set di addestramento. Il Machine Learning Crash Course di Google tratta set di dati, generalizzazione, overfitting, valutazione, sistemi in produzione ed equità come aspetti distinti del machine learning pratico proprio per questo motivo. Un punteggio di addestramento, da solo, non descrive in modo affidabile il comportamento nel mondo reale.

Anche un buon test può essere troppo limitato. Un classificatore di mele provato con una sola fotocamera e sotto una certa illuminazione di magazzino può fallire, dopo la distribuzione, in condizioni diverse. Questo fenomeno è detto cambiamento della distribuzione: le condizioni dei nuovi input non assomigliano più a quelle rappresentate durante lo sviluppo. I sistemi reali devono essere monitorati, perché il mondo non promette di restare uguale al set di test.

Reti neurali e deep learning, senza miti

Una rete neurale è un modello costruito con strati collegati di operazioni numeriche. Ogni strato trasforma una rappresentazione in un'altra. I primi strati di un modello di immagini possono reagire a semplici strutture visive; quelli successivi possono combinare tali segnali in schemi più specifici per il compito. Il deep learning indica reti neurali con molti strati di questo tipo, addestrate ad apprendere rappresentazioni utili dai dati.

Il lessico biologico è un'ispirazione storica, non la prova che il modello pensi come un cervello umano. Una rete può contenere milioni o miliardi di parametri regolabili e non avere comunque alcuna esperienza personale, intenzione o comprensione nel normale senso umano. Esegue calcoli determinati dalla propria architettura, dall'obiettivo di addestramento, dai dati e dall'input corrente.

Il deep learning si è dimostrato particolarmente efficace quando l'input grezzo è complesso, come nel caso di immagini, audio, linguaggio e strutture scientifiche. Questa forza ha un costo: può essere difficile spiegare quale combinazione di segnali appresi abbia prodotto un determinato output, e le prestazioni possono dipendere da grandi set di dati, calcoli estesi e valutazioni accurate.

Che cosa cambia con l'AI generativa

Un classificatore sceglie tra categorie definite. Un modello generativo produce nuovo materiale che somiglia agli schemi presenti nella distribuzione di addestramento. A seconda del modello, tale materiale può essere testo, un'immagine, audio, video, codice o una struttura scientifica. La generazione fa apparire l'AI più creativa e capace di conversare, ma non elimina il meccanismo statistico sottostante.

Un modello linguistico di grandi dimensioni, o LLM, elabora il testo sotto forma di token. Un token può essere una parola, una parte di parola, un segno di punteggiatura o un'altra piccola unità. Dati i token già presenti nel contesto, il modello stima una distribuzione dei possibili token successivi, ne seleziona uno in base alle impostazioni di decodifica del sistema, lo aggiunge e ripete il processo. L'introduzione ai modelli linguistici di grandi dimensioni di Google descrive direttamente questa previsione sequenziale.

I moderni LLM usano comunemente l'architettura Transformer introdotta nell'articolo del 2017 Attention Is All You Need. Il suo meccanismo di attenzione consente al modello di valutare le relazioni tra i token nel contesto, invece di elaborare ogni parola come elemento isolato. L'addestramento su grandi raccolte di testi permette al modello di rappresentare nei propri parametri grammatica, stile, fatti ricorrenti, schemi di ragionamento e relazioni tra concetti.

Questo non trasforma il modello in un database convenzionale. I suoi parametri codificano relazioni statistiche distribuite, non una biblioteca ordinata di documenti originali che possa citare sempre con precisione. Il testo del prompt e gli eventuali documenti forniti al momento dell'uso diventano contesto, ma il contesto ha dei limiti. Alcune applicazioni affiancano al modello funzioni di ricerca, strumenti, calcolatrici o recupero di documenti. Queste aggiunte possono migliorare l'ancoraggio alle fonti, ma la risposta finale può comunque mescolare prove recuperate, formulazioni generate e deduzioni non supportate.

L'AI più impressionante è spesso altamente specializzata

I modelli conversazionali attirano l'attenzione perché chiunque può provarli in pochi secondi. Ma il valore dell'AI non si limita alla conversazione. I sistemi progettati per compiti circoscritti possono risolvere problemi con input, output e criteri di valutazione più chiari:

• Un sistema di riconoscimento ottico dei caratteri converte i pixel dell'immagine di un documento in caratteri modificabili.
• Un modello antifrode ordina le transazioni da sottoporre a ulteriori controlli, invece di dichiarare illecito ogni caso segnalato.
• Un modello meteorologico stima i futuri stati dell'atmosfera a partire da osservazioni e strutture fisiche.
• Un modello scientifico prevede una proprietà o una struttura molecolare che i ricercatori possono confrontare con gli esperimenti.

PetexSpace presenta lo strumento da immagine a testo come esempio del primo tipo di compito specifico. L'input è un'immagine, l'output desiderato è un testo modificabile e il risultato può essere confrontato direttamente con la fonte. Fotografie sfocate, impaginazioni insolite, scrittura a mano e impostazioni linguistiche errate possono comunque ridurre la precisione. Il compito è utile anche perché successi ed errori sono visibili.

Un esempio scientifico concreto: AlphaFold

Le proteine si ripiegano in strutture tridimensionali che contribuiscono a determinarne il funzionamento. La determinazione sperimentale della struttura è essenziale, ma può essere lenta e difficile. In una valutazione in cieco nota come CASP14, il sistema AlphaFold ha previsto numerose strutture proteiche con una precisione paragonabile a quella delle strutture sperimentali, superando nettamente altri metodi computazionali. L'articolo su AlphaFold pubblicato su Nature, sottoposto a revisione paritaria, illustra il modello, la valutazione e le sue stime di affidabilità.

L'esempio è importante per due motivi. Primo, mostra che l'AI può contribuire a un difficile problema scientifico senza imitare un chatbot. Secondo, il sistema segnala dove la previsione è più o meno affidabile. Un modello scientifico utile non si limita a produrre una bella struttura. Offre ai ricercatori indicazioni sull'incertezza e un risultato verificabile all'interno di un processo sperimentale più ampio.

Perché anche i sistemi di AI più capaci falliscono

Il fallimento non è un difetto misterioso aggiunto dopo la vera intelligenza. Deriva dal modo in cui il sistema è costruito e utilizzato. Più cause di errore possono presentarsi contemporaneamente.

1. L'obiettivo è incompleto

Un traguardo misurabile è di solito un indicatore indiretto del risultato che le persone desiderano davvero. Ottimizzare un indicatore può generare comportamenti strani nei casi limite. Il modello può migliorare correttamente il proprio punteggio trascurando qualità che non sono mai state rappresentate in quel punteggio. Il giudizio umano interviene prima dell'addestramento, attraverso la scelta dell'obiettivo, non soltanto dopo che si verifica un errore.

2. I dati tralasciano qualcosa

Gli esempi di addestramento riflettono le decisioni di raccolta e le condizioni storiche. Alcuni gruppi, ambienti, lingue, dispositivi o casi rari possono essere scarsamente rappresentati. Il NIST osserva che i bias dannosi possono radicarsi nei sistemi automatizzati e aumentare per velocità o portata. Il suo lavoro sull'identificazione e la gestione dei bias nell'AI sottolinea che il bias è un problema più ampio di una questione puramente tecnica relativa ai dati e deve essere considerato nell'intero sistema.

3. Un modello generativo può produrre falsità convincenti

Il NIST usa il termine confabulazione per indicare contenuti generativi falsi o errati presentati con sicurezza. Il suo Profilo sull'AI generativa spiega che questo comportamento deriva naturalmente da modelli che generano output simili agli schemi presenti nei dati di addestramento. Una frase può essere statisticamente plausibile senza avere un fondamento fattuale. Le citazioni inventate sono particolarmente pericolose perché fanno apparire documentata una risposta priva di supporto.

4. Il mondo cambia

Un modello valutato ieri potrebbe incontrare domani nuovi prodotti, un nuovo linguaggio, nuovi comportamenti o nuove tattiche avversarie. La precisione non è una proprietà permanente impressa sul modello. È una misura ottenuta su determinati dati, in un determinato momento e in condizioni specifiche.

5. Le persone possono fidarsi dell'interfaccia più che delle prove

Una risposta scorrevole, un tono sicuro o una percentuale precisa possono conferire un'autorevolezza che le prove sottostanti non giustificano. Il design dell'interfaccia può nascondere l'incertezza o far sembrare obbligatoria una raccomandazione. Il rischio finale dipende quindi sia dal comportamento del modello sia dal modo in cui viene chiesto alle persone di usare l'output.

Quanto bisogna verificare un output dell'AI?

La risposta dovrebbe dipendere dal costo di un errore. Considerare ogni utilizzo ugualmente pericoloso è poco pratico. Considerare ogni output ugualmente affidabile è peggio. Può essere utile un semplice modello a tre livelli.

Esplorazione a basso rischio

Ideare nomi, cambiare il tono di una bozza, generare domande di esercitazione o esplorare diversi modi di organizzare gli appunti comporta in genere un basso costo in caso di errore. Puoi esaminare direttamente il risultato e scartare i suggerimenti deboli. Il modello è utile come fonte di opzioni, non come autorità.

Attività che richiedono verifica

Sintesi di ricerche, traduzioni, codice, calcoli, confronti tra prodotti e spiegazioni fattuali possono far risparmiare tempo, ma gli errori possono sfuggire a una lettura veloce. Confronta le affermazioni con fonti primarie, esegui il codice, riproduci il calcolo, valuta la traduzione nel suo contesto e verifica che il materiale citato sostenga davvero quanto dichiarato nella risposta.

Decisioni con conseguenze rilevanti

Le decisioni in ambito medico, legale, finanziario, lavorativo, di sicurezza, identità e accesso richiedono una valutazione qualificata e un processo con responsabilità chiare. Una risposta di AI generica non dovrebbe diventare l'unico fondamento di un'azione solo perché è rapida o ben formulata. In questi contesti, l'incertezza, la possibilità di contestazione, la documentazione, la riservatezza e le conseguenze per la persona coinvolta contano quanto le prestazioni predittive pure.

Una procedura di verifica che richiede pochi minuti

1. Distingui i fatti dai suggerimenti. Una scaletta proposta richiede giudizio; un'affermazione su una legge, uno studio, un prezzo o un evento richiede prove.
2. Chiedi da dove proviene ogni affermazione importante. Poi apri la fonte invece di fidarti del testo della citazione.
3. Quando possibile, preferisci materiale primario: l'articolo di ricerca, la documentazione ufficiale, il set di dati originale, l'autorità di regolamentazione, lo standard o il documento diretto.
4. Controlla che la fonte sia aggiornata e sostenga l'affermazione esatta, non soltanto lo stesso argomento generale.
5. Riproduci i calcoli ed esegui il codice generato in un ambiente sicuro con test rappresentativi.
6. Confronta una conclusione rilevante con una fonte indipendente o con una persona qualificata e responsabile in quell'ambito.
7. Se non puoi verificare le prove, riduci il livello di fiducia oppure non usare l'output per quella decisione.

La documentazione può aiutare ancora prima di iniziare. L'articolo di ricerca Model Cards for Model Reporting propone di documentare gli usi previsti, le procedure di valutazione, i limiti e le prestazioni nelle condizioni pertinenti. Una dimostrazione curata mostra ciò che il modello sa fare una volta. Una buona documentazione aiuta a capire dove è stato testato e dove non dovrebbe essere usato.

Sette domande da porre su qualsiasi sistema di AI

1. Quale output specifico produce questo sistema?
2. Quale obiettivo è stato progettato o regolato per ottimizzare?
3. Quali informazioni riceve ora e quali mancano?
4. Come è stato testato su casi diversi dagli esempi di addestramento?
5. Rende visibili l'incertezza, le fonti, i limiti o un modo per contestare il risultato?
6. Posso verificare l'output in modo indipendente prima di agire?
7. Chi sostiene il costo se il sistema sbaglia?

Queste domande rivelano più di quanto faccia chiedersi se uno strumento sia intelligente. Spostano l'attenzione da un'etichetta promozionale al sistema reale: il suo compito, le prove, i limiti e le conseguenze.

Il modello mentale da ricordare

L'AI è un metodo per trasformare input in output dedotti in funzione di un obiettivo. Il machine learning costruisce questa corrispondenza a partire dagli esempi. Il deep learning usa reti neurali a più strati per apprendere rappresentazioni complesse. L'AI generativa crea nuovo materiale e i modelli linguistici lo fanno prevedendo ripetutamente i token in base al contesto. Nessuno di questi meccanismi garantisce verità, equità, pertinenza o buon giudizio.

L'aspetto straordinario non è che una macchina sia diventata una persona. È che sistemi matematici progettati con cura possano scoprire schemi utili su una scala che nessuno potrebbe esaminare manualmente. La risposta responsabile non è né venerazione né rifiuto. È una curiosità guidata da criteri rigorosi: comprendere il compito, cercare prove, rispettare l'incertezza e mantenere la responsabilità umana dove le conseguenze sono reali.

Riferimenti primari e tecnici

• OCSE, Explanatory memorandum on the updated definition of an AI system, 2024.
• NIST, Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile, 2024.
• Vaswani et al., Attention Is All You Need, 2017.
• Jumper et al., Highly accurate protein structure prediction with AlphaFold, Nature, 2021.
• Mitchell et al., Model Cards for Model Reporting, 2019.
• Google for Developers, Machine Learning Crash Course e Introduction to Large Language Models.