Quando nel 1865 William Stanley Jevons pubblica The Coal Question (“La questione del carbone”) l’argomento è apparentemente paradossale; sotto la lente della riflessione appare invece come puramente logico. Più diventa efficiente l’uso del carbone (motori a vapore migliori, processi industriali ottimizzati), più aumenta quantitativamente il suo consumo. La ragione è semplice: l’aumento di efficienza riduce il costo unitario per unità di resa, il costo unitario abbassato apre nuove applicazioni economiche, le nuove applicazioni assorbono e poi superano in numerosità il risparmio generato dalla quantità di prodotto risparmiato. Quel che si lucra in efficienza, si scialacqua in espansione. Jevons era preoccupato dell’esaurimento delle miniere inglesi e la sua diagnosi è stata letta, per un secolo, come misura di ecologia tecnocratica ottocentesca: è diventata invece la più precisa descrizione disponibile della dinamica capitalistica nel suo rapporto con qualunque risorsa; efficienza e accumulazione si tengono, e ogni miglioramento tecnico è già implicitamente l’ascesa a un livello superiore del problema che si voleva risolvere.
Vediamo ora il paradosso applicato alla macchina cognitiva contemporanea. La materia prima dell’intelligenza artificiale generativa non è il carbone, è il dato. E il dato, nella sua forma primaria, è lavoro vivo del genere umano oggettivato in testo, immagine, suono, comportamento. I modelli di linguaggio diventano sempre più efficienti nel processarlo (una general purpose technology, nella divulgazione di Brynjolfsson e McAfee): addestramento più rapido, parametri più densi, capacità di sintesi più sofisticate. Ma l’efficienza algoritmica, esattamente come quella industriale ottocentesca, non riduce la domanda di materia prima; la espande. Più i modelli sono efficienti, più si trovano applicazioni che li impiegano (assistenti vocali sui comodini, moderazione contenuti, generazione di codice, sostituzione del lavoro impiegatizio, sorveglianza nelle strade), più aumenta la domanda di dati per addestrarli, riaddestrarli, validarli, ottimizzarli. Il paradosso di Jevons si trasferisce al campo dell’apprendimento automatico de plano: maggiore efficienza nell’estrazione del dato umano significa maggiore consumo totale di dato umano.
A questo paradosso “esterno” si aggiunge una contraddizione interna che il dato condivide con il carbone solo in parte. Il carbone, una volta bruciato, è bruciato; il dato, una volta estratto, come d’altronde il software, può essere riusato, merce cognitiva avvolta nel feticismo; nonostante ciò, il dato umano originario resta una risorsa finita. La quantità di testo scritto, di immagini prodotte e di voci registrate dal genere umano è storicamente determinata: quel volume può apparire enorme, ma non è inesauribile, e la velocità con cui i modelli lo ingoiano supera ormai la velocità con cui il genere umano lo produce. Quando il giacimento originario si esaurisce o si riduce sotto la soglia di addestramento richiesta dalla complessità dei modelli, la macchina cognitiva passa al dato sintetico, cioè al dato generato da altre macchine cognitive. È a questo punto che si manifesta il fenomeno che la letteratura tecnica chiama model collapse (“collasso del modello”): la qualità del modello degrada progressivamente perché si nutre dei propri scarti, che riproducono e amplificano le sue distorsioni in un movimento autoreferenziale.
Kate Crawford ha formulato la diagnosi giusta: “autofagia”. Il termine non è metaforico, è clinico (riprende il vocabolario della biologia cellulare per indicare la condizione in cui la cellula digerisce i propri componenti per mancanza di nutrienti esterni). Trasferito al campo: la macchina cognitiva del capitalismo computazionale, spinta dalla legge dell’accumulazione a divorare ogni residua riserva di dato umano e poi a digerire i propri prodotti sintetici, finisce per consumare le proprie condizioni materiali di esistenza. Il general intellect umano oggettivato, che è la materia prima storica della macchina, viene esaurito dal capitale e sostituito con un prodotto sintetico del capitale stesso: e il movimento è strutturalmente irreversibile.
Il paradosso di Jevons riformulato per il dato, mostra che la frattura metabolica del capitalismo computazionale non è solo esterna (estrazione di litio, consumo idrico, emissioni di CO₂), è anche interna alla logica stessa dell’accumulazione algoritmica. La macchina cognitiva non sta solo divorando il pianeta nelle sue condizioni fisiche di esistenza; sta divorando il sapere accumulato della specie nelle sue condizioni cognitive di esistenza; quando, fra qualche anno, i modelli generativi inizieranno a collassare nei loro ricicli interni di dati sintetici, ci si chiederà come una tecnologia “così promettente” abbia manifestato così repentinamente il proprio limite. La risposta era già scritta in The Coal Question: il paradosso era prevedibile dal 1865, e applicato all’IA già percepibile dal 2024 quando hanno cominciato a circolare i primi paper sul model collapse.
Marx, nel Frammento sulle macchine, individua nel capitalismo una contraddizione crescente tra la misura del valore fondata sul tempo di lavoro e la ricchezza prodotta dallo sviluppo dello general intellect, cioè del sapere sociale incorporato nelle macchine; da qui emerge una tensione storica che può aprire la possibilità del superamento dello stato di cose presente; egli aveva visto la contraddizione fra il tempo di lavoro come misura del valore e la ricchezza prodotta dallo “stato generale della scienza”. Quel che non poteva vedere è la forma autofaga con cui questa contraddizione, nel capitalismo computazionale, si manifesta, e cioè come consumo accelerato del general intellect stesso da parte del capitale fisso che lo cristallizza in intelligenza artificiale. Il paradosso di Jevons applicato all’autofagia dei dati è la traduzione contemporanea della legge tendenziale della caduta del saggio del profitto: il capitale, per sostenere il proprio incremento di plusvalore algoritmico, deve consumare le condizioni cognitive di possibilità della produzione di valore stessa. Il capitalismo digitale è un sistema che, lasciato a sé, divora il proprio fondamento materiale e simbolico insieme. Non c’è via d’uscita dall’autofagia senza socializzazione del general intellect; ridurla a proposta “etica” è solo cosmesi di sostenibilità digitale.
Corretto , ma alla fine si scivola nell’indifferenza o non importanza de: “Non c’è via d’uscita dall’autofagia senza socializzazione del general intellect; ridurla a proposta “etica” è solo cosmesi di sostenibilità digitale”. Qui non sono d’accordo perchè tutti i sistemi d’arma stanno convergendo verso l’uso, l’utilizzo o sono completamente automatizzati e macchinizzati, e cio’ non va affatto bene , visti i risultati a Gaza, Libano e in giro per il mondo. Secondo , l’uso della A.I. nella scuola , per insegnanti o per discenti, sta già provocando impoverimento intellettivo e critico, figuriamoci tra 10 anni , anche se si mangiasse da solo e implodesse avrebbe già garantito deficienza umana per almeno due generazioni, qui nel nostro splendido occidente. Se non ci siamo mai fidati della natura della merce, (almeno io) del suo reale valore, dei suoi fini , di chi la usa per il suo accumulo , nel mercato capitalista , tanto meno dobbiamo restare rapiti da un nuovo insediativo ed espropriativo macchinario da comprare e consumare che ci vede come cavie da ridurre sia nelle capacità lavorative, che ricreative della nostra formazione e riproduzione (merce nel capitale). La sfida sarà restare umani (aggettivo e sostantivo) con il nostro residuo di immanenza non ancora macchinizzabile. E se poi tutto questo macchinario imploderà da solo , sarà solo di sollievo per le future generazioni.
L’articolo è scritto bene e l’analogia con Jevons è stimolante. Ma c’è un elefante nella stanza che non viene mai nominato: la premessa che i dati umani originari siano una risorsa finita e in esaurimento non è un fatto, è un’ipotesi — e non è affatto ovvia.
Due scenari alternativi che l’autore non considera:
1. Se la realtà è inesauribile (e tutto indica che lo sia: nuovi eventi, nuove scoperte, nuove produzioni culturali accadono ogni giorno e continueranno ad accadere), allora il “giacimento originario” si rigenera in modo continuo. Il problema non è la scarsità del dato, ma la velocità di raccolta — un problema ingegneristico, non ontologico.
2. Se invece si accetta la premessa che i modelli “divorino” i dati più velocemente di quanto vengano prodotti, allora si apre una domanda che l’articolo evita: cosa succede quando un modello comprende abbastanza bene un dominio da generare dati sintetici di qualità superiore a quelli umani in quel dominio? In fisica, in matematica, in chimica questo sta già accadendo. Il “collasso” non è l’unico esito possibile: c’è anche la soglia oltre la quale il modello diventa esso stesso generatore di conoscenza nuova, non semplice estrattore di quella esistente.
Mi sembra una visione un po’ piatta. Nel ciclo descritto l’uomo non compare. Ora, a me sembra che qualunque opera dell’ingegno debba passare attraverso 3 fasi, l’ideazione, la produzione e la verifica d’uso. La fase di ideazione e di verifica rimangono tipicamente umane (scrivo qualcosa perché qualcuno la legga e ne dia un giudizio di valore), mentre la produzione può essere delegata alla macchina (scrivi quanto ho ideato come lo farebbe Catarella, l’agente di Montalbano). Nella fase di ideazione si immette esentropia, la produzione si occupa della forma, la fruizione / validazione della mancata rispondenza rispetto alla specificazione iniziale e ponendosi il problema genera anch’essa esentropia.
Del resto gli ingegneri del software questo lo hanno sempre saputo. In altre parole in questa visione l’uomo viene sollevato dal lavoro ripetitivo e lo si pone a presidio delle fasi più nobili del processo. Non a caso una volta c’erano gli analisti e i programmatori (e poi la perforatrici, mansione guarda caso tipicamente femminile).
E’ un po’ come se le miniere di carbone di Jevons ad ogni ciclo di estrazione venissero rifornite di carbone nuovo. A proposito, alla fine si sono esaurite o no?