L’AI non vive nel cloud: è un’industria materiale

Crawford parte da ciò che il linguaggio tecnologico tende a nascondere. I sistemi di AI richiedono minerali, chip, cavi, data center, acqua ed energia. La metafora del cloud rende tutto leggero; la filiera reale è geograficamente localizzata e distribuisce costi ambientali in modo diseguale.

Guardare questa infrastruttura cambia anche la valutazione di un prodotto. La qualità non può coincidere soltanto con velocità e precisione: dovrebbe includere consumo di risorse, provenienza dell’hardware, durata del sistema e impatto nei territori che lo alimentano.

L’automazione è spesso sostenuta da lavoro nascosto

Dietro molti sistemi automatici ci sono persone che etichettano immagini, moderano contenuti, verificano risultati e gestiscono le eccezioni. Il lavoro non scompare: viene frammentato, esternalizzato e presentato come semplice input della macchina.

Questa osservazione è ancora più importante con l’AI generativa. Parlare di autonomia senza descrivere chi prepara i dati, valuta le risposte e assorbe il contenuto più problematico produce una rappresentazione incompleta sia dei costi sia delle responsabilità.

  • Annotazione e pulizia dei dati.
  • Moderazione di immagini e testi dannosi.
  • Valutazione umana delle risposte del modello.
  • Gestione manuale dei casi che l’automazione non risolve.

I dati non sono materia grezza e neutrale

Raccogliere dati significa scegliere che cosa conta, come nominarlo e quali categorie usare. I dataset incorporano quindi storia, convenzioni e rapporti di potere. Quando un sistema apprende da quelle raccolte, non si limita a fotografare il mondo: rende operative le classificazioni ricevute.

Per Crawford il bias non è soltanto un difetto da correggere aggiungendo esempi. Occorre chiedere chi abbia definito le categorie, con quale consenso e per quale finalità. Un sistema tecnicamente più equilibrato può restare ingiusto se automatizza una pratica che non dovrebbe esistere.

Dalle emozioni allo Stato: il problema è il potere

Il libro analizza i sistemi che pretendono di dedurre emozioni dai volti e mostra quanto siano fragili le basi scientifiche di alcune applicazioni. Quando queste inferenze entrano in scuola, lavoro, sicurezza o controllo dei confini, una teoria discutibile può diventare una decisione con effetti reali.

Lo stesso vale per l’uso pubblico e militare dell’AI. L’attenzione etica al singolo modello rischia di arrivare troppo tardi se non si osservano appalti, infrastrutture, obiettivi istituzionali e possibilità di ricorso. La domanda centrale diventa chi può classificare chi, e con quali conseguenze.

  • Verificare la solidità scientifica dell’inferenza promessa.
  • Limitare gli usi nei contesti con forti asimmetrie di potere.
  • Documentare provenienza e consenso dei dati.
  • Garantire contestazione e rimedio alle persone coinvolte.

Una mappa critica che deve entrare nelle decisioni

Né intelligente né artificiale non è un manuale per scegliere un modello o scrivere una policy. È un atlante che allarga il perimetro della valutazione. Dopo la lettura, prestazioni e costi economici non bastano più: diventano rilevanti filiera, lavoro, energia, consenso, classificazioni e concentrazione del potere.

La prospettiva è fortemente orientata e offre più diagnosi che soluzioni. È però proprio ciò che serve quando il dibattito parte da un’immagine troppo pulita dell’automazione. Lo consigliamo a chi decide acquisti, prodotti o politiche AI e vuole porre domande che una demo non può mostrare.