Tutti contro l'ia

A developer explores the intersection of Karl Popper's philosophy with thinkers like Arendt, Adorno, Horkheimer, Wiener, Foucault, Harari, Morozov, and Latour to critique artificial intelligence. The analysis argues that AI risks creating closed societies by eliminating public space, reducing reason to instrumental calculation, and producing normalized subjectivities. The developer concludes that AI must remain open to falsification and democratic control to avoid becoming a form of technological dogma.

Il pensiero di Popper si intreccia con diversi autori in modi che illuminano il rapporto tra tecnologia, potere e libertà. Arendt condivide con Popper l'attenzione per la società aperta, ma la declina in termini di azione politica piuttosto che epistemologici. Dove Popper vede la chiusura come rifiuto della falsificazione, Arendt la vede come perdita dello spazio pubblico dove gli individui appaiono come agenti plurali. L'AI che automatizza decisioni politiche o sociali rischia di eliminare proprio questo spazio di apparizione — non c'è più un "chi" che agisce, ma un "cosa" che calcola. Il banale della tecnocrazia, per Arendt, può essere altrettanto pericoloso del male radicale. La Dialettica dell'illuminismo offre un intreccio più critico con Popper. I due della Scuola di Francoforte vedevano la ragione strumentale — quella che calcola mezzi per fini prefissati — come il germe del dominio moderno. Popper difendeva invece la ragione critica come antidoto al totalitarismo. Il punto di tensione è rilevante per l'AI: se l'intelligenza artificiale è pura ragione strumentale ottimizzata, rientra nella diagnosi frankfurtiana più che in quella popperiana. La risposta popperiana sarebbe che l'AI può essere strumento di criticismo se aperta alla confutazione e al controllo democratico. Il fondatore della cibernetica condivide con Popper la preoccupazione per i sistemi che sfuggono al controllo umano. Wiener, già negli anni Cinquanta, avvertiva che le macchine intelligenti potrebbero imporre obiettivi incompatibili con i valori umani. Popper avrebbe riconosciuto in questo un caso di teoria non falsificabile: un sistema che apprende senza possibilità di essere corretto dall'esterno è un dogma tecnologico. Entrambi insistono sul human-in-the-loop , anche se Wiener lo motiva in termini di stabilità dei sistemi, Popper in termini di libertà. Foucault aggiunge una dimensione che Popper lascia in ombra: il potere non si esercita solo attraverso la negazione della critica, ma attraverso la produzione di soggettività . I sistemi di AI che profilano, predicono e normalizzano il comportamento non vietano semplicemente certe opinioni — le rendono impensabili, irrilevanti o inefficienti. La società chiusa popperiana diventa, con Foucault, una società di controllo diffuso dove non c'è più bisogno di un censorre centrale. L'intreccio è che Popper ci dice che cosa perdiamo la critica , Foucault come lo perdiamo attraverso la disciplina algoritmica . Harari, pur non essendo un filosofo nel senso accademico, riprende esplicitamente Popper quando parla di Homo Deus e del rischio che l'AI crei una "classe inutile" privata di agency politica. La sua tesi è che l'algoritmo, presentato come neutrale, diventa una forma di autorità non contestabile — proprio il contrario della falsificabilità popperiana. Harari spinge oltre Popper: non si tratta solo di difendere la società aperta, ma di rinegoziare cosa significhi essere umani in un sistema dove la decisione è delegata alla macchina. Il critico tecnologico recupera Popper in chiave concreta: la retorica della "soluzione" algoritmica ai problemi sociali è una forma di pensiero utopico chiuso . Ogni problema complesso viene tradotto in un problema di ottimizzazione, e chi contesta la soluzione viene etichettato come ostacolo al progresso. Morozov chiama questo "tecnosoluzionismo" e lo collega direttamente alla critica popperiana dell'utopismo storico: entrambi producono violenza contro la contingenza e la pluralità. Latour offre un intreccio più sottile. La sua critica alla distinzione netta natura/cultura, soggetto/oggetto, mette in discussione il presupposto popperiano di un osservatore esterno che confuta teorie. Se l'AI è un attore ibrido che modella il mondo mentre lo osserva, la falsificabilità diventa più complicata. Tuttavia, Latour condivide con Popper l'impegno per la democrazia estesa : gli oggetti tecnici, inclusi gli algoritmi, devono essere "portati in assemblea" e sottoposti a dibattito pubblico, non lasciati a decidere in segreto. Quello che emerge da questi intrecci è una tensione costante: Popper offre la norma la società aperta, la critica, la falsificabilità , mentre gli altri autori descrivono i meccanismi concreti attraverso cui la tecnologia minaccia quella norma. Wiener ci dice come i sistemi sfuggano al controllo, Foucault come producano soggettività docili, Morozov come la retorica tecnologica chiuda il dibattito, Harari come l'agency umana venga erosa. Popper rimane il riferimento etico-politico; gli altri forniscono la cartografia dei rischi specifici dell'AI.