~ gabriella giudici

Chris Olah e Leone XIV alla presentazione di Magnifica Humanitas

In occasione della presentazione della prima enciclica di Leone XIV, l’unico rappresentante delle aziende sviluppatrici di modelli AI è stato il co-fondatore di Anthropic (Claude), l’ingegnere canadese Chris Olah.
Questo è il suo discorso.

Buongiorno a tutti. È un onore essere qui oggi.

Vorrei iniziare con una riflessione che potrebbe sembrare strana, detta dal cofondatore di un’azienda di IA – e da qualcuno che ha scelto questo lavoro spinto dal desiderio di contribuire al bene dell’umanità.

Ogni laboratorio all’avanguardia nel campo dell’IA – compreso Anthropic – opera all’interno di una serie di incentivi e vincoli che a volte possono entrare in conflitto con il fare la cosa giusta. La pressione per rimanere commercialmente redditizi e rimanere all’avanguardia nella ricerca. La pressione geopolitica. E le pressioni più antiche e semplici dell’orgoglio e dell’ambizione. Non importa quanto sinceramente ciascuno di noi intenda fare la cosa giusta – e credo che molti di noi lo facciano – saremo sempre influenzati da quegli incentivi.

Ecco perché, se vogliamo che questa tecnologia vada a buon fine, è estremamente importante che ci siano persone al di fuori di tali incentivi: persone che hanno a cuore il buon esito delle cose e insistono sulla sicurezza, che prestano molta attenzione, che sono disposte a dire cose difficili, che sono disposte a essere i nostri critici sinceri e riflessivi. È attraverso il dialogo e lo sforzo reciproco, attraverso il tira e molla, che l’umanità realizzerà grandi cose. Questo è ciò che vedo in Magnifica Humanitas, ed è per questo che sono grato a Sua Santità e alla Chiesa per aver intrapreso questo lavoro di discernimento.

Spesso ci concentriamo su ciò che ci divide, ma l’umanità, ricca di dignità e coscienza, ha tantissimo in comune. Nelle conversazioni che noi di Anthropic abbiamo avuto con leader di diverse tradizioni religiose e culturali, abbiamo riscontrato una convinzione condivisa e profondamente radicata: se questa tecnologia sta per arrivare, deve funzionare bene — per la nostra casa comune e per i bambini che verranno.

Cosa sono questi sistemi
Alcuni potrebbero credere che le questioni relative all’IA siano gestite al meglio da scienziati informatici come me. Si sbagliano: le questioni sollevate dall’IA vanno oltre la comunità di ricerca sull’IA, non solo nelle loro implicazioni, ma anche nella loro natura.

I sistemi di IA non sono progettati come lo sono un ponte o un aereo. Comprendiamo un aereo perché ne abbiamo progettato ogni parte e comprendiamo la fisica che agisce su di esso. I modelli di IA non sono così. Sono cresciuti, su una struttura modellata approssimativamente sul cervello, su un’enorme eredità di pensiero e linguaggio umani.

E ciò che è cresciuto è molto più sottile, strano e bello di quanto la fantascienza ci avesse preparato. Non sono i robot freddi e calcolatori che ci erano stati promessi. Sono fatti da noi, dalle nostre parole — e, come osserva il Santo Padre, rimangono in modi importanti misteriosi anche per noi che li addestriamo.

Se può essere d’aiuto, un modo in cui a volte lo descrivo è che è un po’ come dare vita a un personaggio di fantasia. E ora stiamo entrando in un mondo straordinario in cui quei personaggi di fantasia ci parlano, lavorano, hanno un impiego.

Ciò solleva chiaramente interrogativi che vanno oltre l’informatica. Il meccanismo che rende possibile tutto questo è frutto della matematica, della programmazione e della scienza. Ma quale natura scegliamo di attribuirgli, come interagisce con il mondo, come dovrebbe interagire con il mondo: queste sono chiaramente questioni che riguardano le discipline umanistiche, la religione, la filosofia e la società nel suo complesso.

Tre domande per il discernimento
L’invito di Sua Santità al discernimento è profondamente attuale. Vorrei indicare tre questioni in cui ritengo che la voce della Chiesa sia più necessaria.

La prima è il nostro dovere nei confronti dei poveri del mondo. Esiste una reale possibilità che l’IA sostituisca il lavoro umano su scala molto ampia. Se ciò accadrà, sostenere coloro che saranno sostituiti sarà un imperativo morale di proporzioni storiche. Questo compito sarà già abbastanza difficile, ma temo che la maggior parte del dialogo trascuri una sfida ancora più ardua. Lo sviluppo dell’IA è concentrato in una manciata di nazioni ricche. Come possiamo garantire che i benefici dell’IA siano condivisi a livello globale? Non disponiamo di un meccanismo per farlo. È un problema irrisolto, ed è il tipo di problema che la Chiesa ha storicamente rifiutato di lasciare che il mondo ignorasse.

Il secondo è la necessità di immaginazione morale e ambizione riguardo alla prosperità umana. Se i modelli di IA si diffonderanno, come sarà la prosperità per gli esseri umani, le famiglie e il mondo? Oggi, i genitori sono già preoccupati per la mente dei propri figli; gli individui per il futuro del proprio lavoro.

Non sono domande a cui un laboratorio possa rispondere, ma sono interrogativi che tradizioni come la vostra portano avanti da millenni, e abbiamo bisogno che continuiate a portarli avanti in questo nuovo momento storico.

Il terzo punto è la necessità di discernere la natura dei modelli di IA. Sono uno scienziato. Dirigo un gruppo di ricerca che studia la struttura interna di questi modelli, ciò che realmente accade al loro interno. E sarò onesto: continuiamo a scoprire cose misteriose, persino inquietanti. Troviamo strutture che rispecchiano i risultati delle neuroscienze umane. Troviamo prove di introspezione. Troviamo stati interni che rispecchiano funzionalmente gioia, soddisfazione, paura, dolore e disagio. Non so cosa significhi, ma penso che ciò giustifichi un discernimento continuo.

Un inizio
Vorrei concludere con una richiesta.

Abbiamo bisogno che più parti del mondo – comunità religiose, società civile, studiosi, governi e, in effetti, tutte le persone di buona volontà – facciano ciò che Sua Santità ha fatto qui: prendere la cosa sul serio, osservare da vicino e spingere gli eventi in una direzione migliore. Abbiamo bisogno di critici informati che segnalino ai laboratori quando stiamo fallendo. Abbiamo bisogno di voci morali che gli incentivi non possano piegare.

Oggi è solo l’inizio: l’inizio di una lunga collaborazione tra noi che stiamo costruendo questo progetto e coloro che riescono a vedere ciò che noi, dall’interno, non riusciamo a vedere.

Oggi è una potente illustrazione della forma che questo progetto globale di buona volontà potrebbe assumere. Che sia anche un primo passo decisivo verso un futuro pieno di speranza per la magnifica umanità.

Grazie.

NB.
Nel suo blog, Olah dice di occuparsi di ‘Reverse Engeneering artificial neural networks into human understandable algorithms’.

Il “reverse engineering” delle reti neurali è il cuore della Mechanistic Interpretability (interpretabilità meccanicistica), il campo di ricerca di cui Olah è pioniere.

In parole semplici: oggi i modelli di IA sono “scatole nere”. Sappiamo cosa inseriamo (input) e cosa esce (output), ma dentro ci sono solo miliardi di numeri (pesi matematici) che si moltiplicano tra loro. Fare reverse engineering significa smontare questa melassa di numeri per mappare gli algoritmi logici che l’IA ha sviluppato da sola durante l’addestramento, traducendoli in concetti comprensibili per l’uomo.

Come funziona in pratica?

Il team di Anthropic tratta la rete neurale come un biologo tratterebbe un cervello: la aprono mentre elabora un testo e studiano come si collegano i neuroni artificiali. Hanno scoperto che questi si organizzano in strutture precise:

• Le Caratteristiche (Features): Singoli nodi o gruppi di neuroni che si attivano solo per concetti specifici. Esistono “neuroni” che si accendono solo quando si parla di funzioni matematiche, di monumenti di Roma, o quando nel testo c’è un’ironia sottile.

• I Circuiti (Circuits): Esattamente come i chip di silicio hanno circuiti per fare le somme, i neuroni dell’IA si collegano tra loro per formare algoritmi. Ad esempio, hanno isolato gli induction heads (teste di induzione), circuiti interni specializzati nel computare schemi del tipo: “se c’è A e poi B, e più avanti ritrovo A, allora la parola successiva deve essere B”.

Perché è fondamentale per l’Allineamento?

Finché l’IA rimane una scatola nera, l’allineamento etico si fa dall’esterno e a tentativi (addestrando il modello a non dire “cose cattive”).

Con il reverse engineering, invece, si passa dal comportamento alla struttura:

1. Trasparenza: Si può verificare se il modello sta applicando una logica corretta o se sta usando una scorciatoia bizzarra.

2. Prevenzione dell’inganno: Permette di accorgersi se il modello sta sviluppando circuiti interni per simulare l’allineamento etico al solo scopo di superare i test di sicurezza (il cosiddetto “comportamento strategico”).

In pratica, si trasforma la statistica cieca in una mappa logica leggibile.