La Dimostrazione che Sapevo Rifare
Vi è mai capitato di studiare all'università un teorema di logica con una "dimostrazione difficile", ma una dimostrazione talmente difficile che ne rifai decine e diventano un procedimento "meccanicamente eseguito"? Ripeti l'esercizio ma ti rimane sempre in bocca la sensazione di non aver colto il problema.
L'avevo rifatta decine di volte su esercizi diversi per memorizzarla e passaggio dopo passaggio alla fine il mio cervello era addestrato a risolvere l'esercizio.
Ho passato l'esame ma sono uscito dall'aula con una sensazione precisa, che allora non sapevo nominare: avevo prodotto l'output corretto senza aver compreso niente. Sapevo generare la dimostrazione ma non l'avevo capita.
Ho letto René Guénon, Simboli della Scienza Sacra e le varie critiche al Regno della Quantità. A distanza di mesi mi rimane in bocca la sensazione di non aver colto completamente che cosa possa essere la Tradizione Primordiale, o forse il simbolo della Piramide in verità potrebbe non essere affatto a forma di piramide? Questa è una mia licenza probabilmente sbagliata.
Nella Critica della Ragion Pratica di Kant: "Il cielo stellato sopra di me, la legge morale dentro di me". Questa frase risulta talmente significativa da essere stata riportata anche nel suo epitaffio. A vent'anni ero un fanatico di Kant e di questa frase, ho iniziato a capirla molto più tardi, non leggendo, ma nell'agire quotidiano: nelle volte in cui la scelta comoda e la scelta giusta non coincidevano e ho dovuto decidere davvero. Il sapere è immediato ma la comprensione è arrivata in ritardo.
Rimane uno strascico.
Esistono teoremi, letture, problemi che non finiscono quando finisci. Il libro lo chiudi, l'esame passa, l'esercizio lo sai rifare ma resta appeso un residuo che non hai ancora compreso. Poi, se sei così fortunato da vivere abbastanza a lungo, un giorno torni sullo stesso concetto e trovi uno switch. La comprensione è lì che ti aspetta, arrivata mentre facevi altro. Merito dell'esperienza sedimentata, della neuroplasticità, o semplicemente del tempo.
Il sapere e la comprensione non arrivano insieme.
La Differenza Fondamentale
Ho appena finito La differenza fondamentale di Luciano Floridi. Dieci giorni annotando a matita il libro, facendo ricerche e pause a pensare come è cambiato il lavoro dello sviluppatore software negli ultimi vent'anni.
Riassumo la tesi centrale: le macchine non pensano, non hanno coscienza. Hanno una capacità enorme di agire e risolvere problemi complessi — agency — con zero capacità di comprendere ciò che stanno facendo — intelligence. Gli esseri umani sono, in questo momento, gli unici a possedere l'unione delle due cose. Lì sta la differenza fondamentale.
L'IA non è una nuova forma di vita. È una nuova forma di idraulica dell'informazione straordinariamente efficiente. Un modello linguistico non "scrive": computa la probabilità della parola successiva.
Fin qui il libro. Ma il libro ha innescato uno strascico e prodotto qualcosa che nel libro non c'è.
Il Ribaltamento
Sulla dimostrazione all'Università sono stato un modello linguistico.
Producevo il token successivo corretto. Avevo agency senza intelligence, esattamente nella definizione di Floridi. Non c'era la comprensione dell'esercizio: semplicemente ero addestrato a ripetere i passaggi.
Quindi la separazione fra agire e capire non è l'anomalia della macchina. È una condizione che conosciamo benissimo, perché ci siamo passati tutti — ogni volta che abbiamo consegnato qualcosa di formalmente corretto senza sapere davvero cosa stavamo facendo. Ogni sviluppatore ha in curriculum almeno una classe Java, un modulo, un servizio che funziona e che non aveva capito.
La differenza fondamentale non è che la macchina non capisce. È che non capirà dopo.
Io ho avuto modo di metabolizzare e quella dimostrazione ha fatto switch, magari mentre pensavo a tutt'altro. L'LLM non ha un dopo, non ha sedimentazione, non ha il giorno in cui una cosa letta a vent'anni torna e finalmente si risolve. Chiude la sessione e non porta niente di là.
Cosa vogliamo fare?
Una prima osservazione emotiva la devo correggere.
Avevo scritto che la produzione di massa ha sempre degradato la qualità: le automobili moderne durano di meno, i frigoriferi nascono con la data di scadenza, la frutta non sa più di frutta, l'insalata in busta è da buttare prima di arrivare a casa. È una tesi che sentivo vera, e infatti l'ho scritta di getto in un momento emotivo.
Un'auto di oggi arriva a fine vita con il triplo dei chilometri di una degli anni Settanta, non si buca per la ruggine dopo sei anni, e la mortalità per incidente per chilometro percorso è crollata. La sicurezza alimentare non è mai stata così alta. L'obsolescenza programmata è documentata in casi specifici e sanzionati, non è una legge della scala.
Quindi la mia impressione era sbagliata.
Ciò che degrada con la scala non è la qualità. È la distanza fra chi produce e chi giudica. Nella bottega artigianale di una volta il calzolaio che attaccava la suola alle scarpe aveva di fronte il cliente che le avrebbe indossate. Il feedback immediato e personale era inevitabile e ascoltarlo un obbligo, pena rifare il lavoro. Su scala industriale la valutazione diventa una metrica aggregata, quante ne hai vendute. Non è la produzione di massa a essere colpevole: è il ciclo di ritorno diventato troppo lungo perché qualcuno se ne senta responsabile.
Questo è esattamente il rischio della rivoluzione che stiamo attraversando adesso — con una differenza che la rende più seria di tutte le precedenti. Questa non amplifica un settore, amplifica il metodo con cui si amplificano i settori. I ricercatori progettano e testano algoritmi più in fretta, gli ingegneri iterano più in fretta, gli sviluppatori non sono mai stati così produttivi, e la tecnologia comincia a spingere se stessa.
Ma un moltiplicatore ha una proprietà che tendiamo a dimenticare quando ci entusiasma: applicato a zero comprensione, restituisce zero.
È la domanda che mi porto dietro da mesi. Con un potere del genere, perché stiamo ancora scrivendo gestionali e ritoccando fotografie invece di affrontare i problemi veri? La risposta onesta non è che manchi l'ambizione, è che il moltiplicatore si applica solo a ciò che abbiamo già capito, e la comprensione arriva in ritardo — mentre la capacità di agire con l'uso degli harness è arrivata quasi istantanea.
Per la prima volta nella storia del nostro mestiere, il divario fra ciò che possiamo fare e ciò di cui abbiamo competenza non si misura più in anni di studio e esperienza, si misura in secondi. Dobbiamo essere questa volta attenti a produrre valore e a non sprecare il tempo in sciocchezze inutili.
Ora che abbiamo un superpotere: Cosa vogliamo fare per fare la differenza?
L'Auto Nuova
Ora stiamo guidando un'automobile nuova, la più veloce mai vista, ubriachi, di notte dopo dodici ore di lavoro.
La responsabilità non è dell'auto, non è della velocità, non è della notte né del lavoro, la responsabilità è solamente del pilota. Le macchine non hanno coscienza, quindi non possono avere responsabilità etica né giuridica: quella resta interamente in capo a chi le progetta e a chi le usa. Su questo Floridi non lascia scampo, ed è la parte del libro con cui è più difficile discutere e più facile essere d'accordo a parole.
Il punto è che il pilota dobbiamo esserlo tutti, ciascuno nel suo ambito specialistico. Perché la vera conoscenza umana non è una mediana statistica: è una somma condizionata di informazioni a valore aggiunto. Il valore sta esattamente in quello che sai tu e che non sta nella mediana di tutti.
Il pericolo reale negli scorsi mesi è stato chiamato in molti modi. Io lo chiamo convergenza statistica: un modello restituisce il centro della distribuzione di ciò che è già stato scritto, e chi si affida al modello scivola verso quel centro. Il rischio è che siamo noi a modificare il mondo — l'infosfera — per renderlo più facile da gestire alle macchine, semplificando i processi, appiattendo le ambiguità, riducendo il linguaggio, fino a infantilizzare noi stessi dentro un ambiente costruito su misura per chi non capisce.
Un ambiente ottimizzato per l'agire senza comprensione è un ambiente in cui la comprensione smette di essere richiesta. E ciò che non è richiesto, prima si atrofizza e poi si dimentica.
Conclusione: Il Tempo dell'Anima
Sant'Agostino si chiede che cosa sia il tempo e ammette di saperlo finché nessuno glielo domanda: sapere senza poter spiegare, in attesa di una comprensione che deve ancora arrivare.
La sua risposta, quando finalmente ci arriva, è che il tempo è distentio animi — una distensione dell'anima, tesa fra tre presenti: il presente del passato, che è memoria; il presente del presente, che è attenzione; il presente del futuro, che è attesa.
Ecco la differenza fondamentale, detta con parole di sedici secoli fa.
Un modello ha soltanto il secondo. La finestra di contesto è attenzione pura allargata oltre ogni misura umana. Non c'è una memoria che sedimenti e non c'è attesa di una comprensione che arriverà: solo esecuzione, molto veloce, molto sicura di sé.
Noi quella distensione ce l'abbiamo ancora. È lenta, è imprecisa, ci fa passare esami senza aver capito e ci restituisce il senso di un teorema vent'anni dopo, quando ormai non serve più a nessuno tranne che a noi.
È l'unica cosa che abbiamo e che il moltiplicatore non moltiplica. Vale la pena difenderla.
Con gli harness abbiamo dato all'IA la capacità di agire e il superpotere che ci è stato consegnato ci permette di fare tutto.
Ha senso farne qualcosa.
Ha molto più valore saper scegliere che cosa.