Più informazione non significa più verità

Nexus parte da un’idea semplice ma destabilizzante: le reti di informazione non nascono soltanto per descrivere il mondo con precisione. Servono anche a coordinare grandi gruppi di persone, mantenere un ordine, distribuire autorità e rendere credibili storie condivise. Una rete può quindi essere molto efficiente pur trasportando errori, miti o menzogne.

Questa distinzione è utile anche per leggere l’AI generativa. La quantità di testi prodotti, la fluidità del linguaggio e la rapidità della risposta non sono prove di verità. Sono capacità di circolazione. Il problema diventa allora capire quali meccanismi di verifica, correzione e responsabilità accompagnano quella circolazione.

Miti e burocrazie tengono insieme le società

Harari attraversa testi religiosi, imperi, cacce alle streghe, regimi totalitari e democrazie per mostrare due motori ricorrenti delle reti: le storie, che creano significato comune, e le burocrazie, che classificano persone e situazioni in categorie amministrabili.

È un passaggio importante perché sposta lo sguardo dai singoli messaggi alla struttura che li rende influenti. Anche oggi la domanda non è soltanto se un contenuto sia falso, ma quale piattaforma lo selezioni, quale incentivo ne premi la diffusione e quale istituzione abbia la forza di contestarlo.

  • Le storie rendono possibile la cooperazione tra persone che non si conoscono.
  • Le classificazioni trasformano realtà complesse in decisioni amministrabili.
  • I meccanismi di autocorrezione distinguono le reti capaci di imparare da quelle che proteggono l’errore.

Con l’AI entra nella rete un nuovo attore

Libri, radio e televisioni trasmettono idee formulate da esseri umani. I sistemi di AI, invece, possono generare contenuti, scegliere priorità e attivare conseguenze senza che ogni passaggio sia deciso da una persona. Per Harari questa differenza rende l’AI una tecnologia informativa qualitativamente nuova.

Il punto più convincente non è immaginare una macchina cosciente. È riconoscere che un sistema non ha bisogno di coscienza per cambiare un mercato, una conversazione pubblica o l’accesso a un servizio. Basta che le sue decisioni entrino in un processo e vengano accettate su scala.

La democrazia dipende dalla possibilità di correggersi

La parte politica del libro ruota attorno a un contrasto: i sistemi centralizzati possono processare informazioni con grande rapidità, mentre le democrazie distribuiscono il potere e tollerano voci in conflitto. Questa apparente inefficienza contiene però una risorsa decisiva: l’errore può essere esposto e contestato.

Se conversazioni, priorità e decisioni vengono mediate da sistemi opachi, la qualità democratica dipende dalla capacità di controllarli. Trasparenza, identificazione dei bot, tracciabilità e istituzioni indipendenti non sono quindi dettagli tecnici: sono condizioni di autocorrezione.

  • Riconoscere quando stiamo interagendo con una macchina.
  • Mantenere una responsabilità umana identificabile per le decisioni ad alto impatto.
  • Conservare canali di ricorso e revisione indipendenti.
  • Misurare gli effetti della rete, non soltanto la precisione del singolo modello.

Un’ottima diagnosi, da leggere senza trasformarla in vangelo

La forza di Nexus è il cambio di scala. Dopo averlo letto diventa più difficile discutere di AI come se fosse soltanto uno strumento individuale. Ogni sistema entra in reti economiche, politiche e culturali già esistenti e può modificarne gli equilibri.

Il limite coincide con il talento dell’autore: le grandi narrazioni rendono leggibili millenni di storia, ma possono appiattire differenze e cause. Alcune soluzioni arrivano inoltre più deboli del problema descritto. Lo consigliamo a chi cerca una cornice ampia e accetta di verificare, confrontare e discutere le tesi più nette.