Il tutto è più (e meno) della somma delle parti

Avevo otto anni quando ho smontato la sveglia di casa per capire come funzionava. Il risultato: quarantadue pezzi sul tavolo, ciascuno perfettamente comprensibile, e nessuno di loro che segnava l'ora. Mio padre, giustamente, non l'ha presa bene.

Ripetuta per qualche secolo su scala planetaria, questa scena è più o meno la storia del pensiero moderno. Poi è arrivata l'IA, con una notizia buona e una cattiva. Quella buona: i pezzi te li produce lei, lucidati, in quattro secondi. Quella cattiva: l'ora continua a non segnarla nessuno. E nel frattempo tu hai smesso di ricordarti come si rimontava.

Il patto che abbiamo firmato senza leggere

Qualche secolo fa abbiamo stretto un patto con noi stessi: dividere ogni problema in pezzi abbastanza piccoli da poterli capire. Cartesio ne fece un metodo, Adam Smith una fabbrica di spilli, Frederick Taylor un cronometro. E funzionò in modo spettacolare. Medicina, microchip, aerei, vaccini: quasi tutto ciò che ci rende la vita comoda viene da qualcuno che ha passato vent'anni su un pezzetto minuscolo di qualcosa.

Ma nei patti ci sono sempre le clausole in piccolo, e questa diceva più o meno: tu ottieni competenza, e in cambio nessuno è più responsabile del tutto. Non l'abbiamo letta, perché i primi decenni di vantaggi erano troppo belli. Oggi il conto arriva, e con l'IA arriva con gli interessi.

Dove vivono i problemi

Il pensiero sistemico nasce nel Novecento tra biologi, ingegneri e matematici che non si parlavano (von Bertalanffy, Wiener, Forrester, poi Donella Meadows), ma che sostenevano tutti la stessa cosa: i problemi seri non abitano dentro le parti, abitano tra le parti. Nelle interfacce, nei passaggi di consegna, nel punto in cui il reparto A finisce, il reparto B comincia, e in mezzo c'è un territorio di nessuno.

Quando un ospedale funziona male, di rado è perché i cardiologi non sanno gestire un cuore: è perché cardiologia, radiologia e amministrazione ottimizzano ciascuna il proprio indicatore, e il paziente è l'unico a dover attraversare tutto. Quando una città soffoca nel traffico, ogni singolo pezzo (un parcheggio, una strada, un centro commerciale) è sensato e spesso funziona benissimo. Il disastro emerge dalla somma, senza che nessuno lo abbia deciso.

La sensazione la conosciamo tutti: «non è colpa di nessuno, eppure non funziona». Ecco, quello è un sistema.

Russell Ackoff amava un esperimento mentale: prendi il miglior motore del mondo, il miglior cambio, i migliori freni, ciascuno da un'auto diversa, e assemblali. Non ottieni l'auto migliore, ottieni un mucchio costosissimo di rottami, perché i pezzi non sono fatti per parlarsi. Migliorare ogni parte separatamente può distruggere il tutto.

E il mondo è pieno di versioni reali di questo giochino. Nella Cina del 1958 si fece guerra ai passeri, accusati di mangiare i semi; ma mangiavano anche gli insetti, le locuste prosperarono, e il disastro agricolo contribuì a una carestia terribile (insieme a molte altre decisioni, perché i sistemi complessi non hanno mai una causa sola, ed è proprio questo il punto). Alla Wells Fargo obiettivi di vendita tanto aggressivi quanto irrealistici spinsero i dipendenti ad aprire milioni di conti che nessuno aveva chiesto; lo scandalo esplose nel 2016 e si chiuse nel 2020 con un accordo da 3 miliardi di dollari. Gli incentivi sono un modo di parlare a un sistema, e i sistemi rispondono in modo letterale e pessimo.

Nessuna di queste è una storia di stupidità. Sono storie di intelligenza locale, brillante, applicata nel punto sbagliato.

Il conto, versione 2025

Ora prendete l'IA e guardatela con questi occhi: è il migliore specialista che l'umanità abbia mai costruito. Sa tutto di ogni pezzo e non ha mai visto la sveglia.

Nel 2025 il MIT Media Lab ha pubblicato un preprint dal titolo programmatico, Your Brain on ChatGPT: Accumulation of Cognitive Debt. Cinquantaquattro persone con l'elettroencefalogramma in testa, a scrivere saggi in tre modi: con ChatGPT, con Google, a mente nuda. Chi usava ChatGPT mostrava la connettività cerebrale più debole e faticava a ricordare cosa aveva scritto pochi minuti prima.

«Debito cognitivo»: prendi in prestito capacità di pensiero futura in cambio di comodità presente.

Prima che qualcuno si strappi i capelli, un po' di igiene: è un preprint, non è stato validato da una revisione tra pari, il campione è piccolo (solo diciotto persone hanno completato l'ultima sessione) e nessuno può onestamente dire che l'IA «danneggi il cervello». Chi lo scrive nei titoli ha fretta, o ha qualcosa da vendere.

Ma dentro lo studio c'è un dettaglio molto più interessante dell'allarme. Chi partiva da solo e poi usava l'IA recuperava un'attività cerebrale forte. E in altri lavori, gli studenti che chiedevano risposte già pronte andavano peggio quando lo strumento spariva, mentre quelli che chiedevano suggerimenti andavano come chi non l'aveva mai usato. Stesso strumento, effetti opposti. Il problema è l'architettura della relazione tra la macchina e chi la usa.

Cioè, di nuovo, un sistema. Il debito cognitivo ne ha tutte le caratteristiche: uno stock che si accumula, un ritardo (non senti niente finché non devi fare a meno dello strumento) e un ciclo che si autorinforza, perché meno sforzo significa meno competenza, che significa più dipendenza. Funziona come un mutuo a tasso variabile: va tutto benissimo, finché non devi rinegoziarlo.

L'aviazione lo sa da decenni. Si chiama automation complacency: i piloti che si affidano troppo al pilota automatico perdono la manualità e la vigilanza. La risposta non è stata togliere l'automazione, che sarebbe stato stupido: è stata progettare il sistema uomo-macchina, con regole su quando si vola a mano e quando no. Nessuno ha dato la colpa all'autopilota. Né al pilota.

Tre idee che sembrano tecniche e sono filosofia

Le cose importanti stanno in mezzo. Nessuna molecola d'acqua è bagnata, nessun neurone è cosciente: le proprietà più interessanti del mondo nascono dalle relazioni, non dai mattoni. E nessun paragrafo generato è un'idea: l'idea sta nel modo in cui i paragrafi si tengono insieme, ed è esattamente il lavoro che ci stiamo disabituando a fare.

Cercare il colpevole è pigrizia. Il pensiero ordinario ragiona in linea retta: A causa B, quindi la colpa è di A. Nei sistemi B retroagisce su A, C modifica entrambi, e la struttura produce il suo comportamento a prescindere da chi la occupa. Metti persone ottime in un sistema pessimo e vincerà il sistema. Non è colpa dell'IA e non è nemmeno tua: è che tutto, dalle scadenze alle metriche alla fretta, ti spinge ad accettare la prima risposta. Invece di cercare il cattivo, si guarda il disegno.

Chi osserva fa parte della scena. I confini di un sistema non sono scritti nella natura: li traccia chi guarda. Dove finisce «il compito» e dove comincia «la persona che dovrebbe imparare qualcosa facendolo»? Ogni mappa è una scelta, e ogni scelta lascia fuori qualcosa. «La mappa non è il territorio», diceva Korzybski; e George Box, più sardonico: tutti i modelli sono sbagliati, ma alcuni sono utili.

Queste intuizioni hanno un sapore antico: le ritroviamo in Eraclito, nel taoismo, in tutte le tradizioni che vedono il mondo come una rete di relazioni più che come un deposito di oggetti. Forse l'Occidente, avendo scelto di smontare la sveglia, ha dovuto aspettare tre secoli per accorgersi di ciò che aveva smesso di guardare.

Le leve, e dove le cerchiamo

Donella Meadows, in un saggio del 1999 diventato leggendario, scrisse che nei sistemi complessi esistono punti in cui un piccolo sforzo produce grandi cambiamenti, e che quasi sempre li cerchiamo nel posto sbagliato. Le leve più deboli sono i numeri: budget, quote, aliquote. Più potenti sono i flussi di informazione (chi vede cosa) e le regole del gioco. Ancora più su stanno gli obiettivi che il sistema persegue, e in cima c'è il paradigma, la storia che una società racconta su sé stessa.

Applichiamola al nostro caso. Misurare «ore risparmiate» o «output per persona» è la leva più debole, il numero. Decidere cosa non delegare mai è una regola. Chiedersi se vogliamo persone che producono più documenti o persone che capiscono di più è un obiettivo. E il paradigma? Quello che dice che pensare è un costo da eliminare, non la cosa per cui esistiamo.

Un'azienda che premia solo la velocità sta pagando i dipendenti per accumulare debito, e poi si stupisce quando non c'è nessuno in grado di dire se la risposta della macchina è sbagliata.

L'ironia finale

Il pensiero sistemico può diventare l'ennesima specializzazione chiusa: un gergo (loop, stock, punti di leva) che separa iniziati e profani, un modo di dire «complessità» per non sporcarsi le mani con i fatti. Esistono consulenti che disegnano diagrammi bellissimi, con frecce ovunque, e non hanno mai riparato nulla.

E adesso quei diagrammi li genera l'IA in quattro secondi. Un diagramma dei cicli causali che nessuno ha pensato è la forma più pura di debito cognitivo: la mappa senza il viaggio, il sistema senza averci abitato.

Per questo la regola è semplice e un po' antipatica, perché richiede fatica: zoom in, zoom out. Prima pensi tu, con la tua testa, anche male. Poi chiami la macchina. Poi riscrivi con parole tue e ti sporchi le mani nel dettaglio. Infine ti chiedi dove si incastra quel pezzo con tutti gli altri. Il primo e l'ultimo passo sono quelli che nessuno può farti al posto tuo, e sono, guarda caso, quelli che il sistema ti invoglia a saltare.

La visione d'insieme senza profondità è chiacchiera; la profondità senza visione d'insieme è efficienza cieca. Il pensiero sistemico, in fondo, è l'unica disciplina che non si può delegare, perché il tutto, per definizione, non sta in nessun pezzo: nemmeno in quelli generati.

Puoi farti dare tutti i pezzi che vuoi. Ma l'ora, per il momento, la devi segnare tu.

Per approfondire

Donella Meadows, Pensare per sistemi e Leverage Points: Places to Intervene in a System; Peter Senge, La quinta disciplina; Russell Ackoff, Re-creating the Corporation; Ludwig von Bertalanffy, Teoria generale dei sistemi; Nataliya Kosmyna et al., Your Brain on ChatGPT (preprint, 2025).