Addio al cakeismo e benvenuto nell’era del possibile

Non puoi sempre ottenere quello che vuoi, cantava una volta un giovane. È un semplice aforisma, ma vale la pena ricordarlo. Boris Johnson è stato ampiamente – e giustamente – deriso nel 2016 per aver annunciato che “la nostra politica è avere la nostra torta e mangiarla”. È stato un disonesto rifiuto di ammettere che il referendum sulla Brexit aveva obbligato il governo del Regno Unito a prendere decisioni dolorose. Ma non è sempre così facile vedere quando è in gioco la massima di Mick Jagger.

Considera la questione se gli algoritmi prendano decisioni eque. Nel 2016, un team di giornalisti di ProPublica, guidato da Julia Angwin, ha pubblicato un articolo intitolato “Machine bias”. Era il risultato di oltre un anno di indagine su un algoritmo chiamato Compas, ampiamente utilizzato nel sistema giudiziario statunitense per formulare raccomandazioni in materia di condizionale, detenzione preventiva e condanna. Il team di Angwin ha concluso che Compas era molto più propenso a valutare gli imputati bianchi come a rischio inferiore rispetto agli imputati neri. Inoltre, “gli imputati neri avevano il doppio delle probabilità di essere classificati come a rischio più elevato ma non di recidiva. E gli imputati bianchi avevano il doppio delle probabilità di essere accusati di nuovi crimini dopo essere stati classificati come a basso rischio”.

Sembra brutto. Northpointe, i creatori di Compas, ha sottolineato che gli imputati bianchi e neri a cui è stato assegnato un grado di rischio di, diciamo, 3 avevano le stesse possibilità di essere nuovamente arrestati. Lo stesso valeva per gli imputati in bianco e nero con una valutazione del rischio di 7 o qualsiasi altra valutazione. I punteggi di rischio significavano la stessa cosa, indipendentemente dalla razza.

Poco dopo che ProPublica e Northpointe hanno prodotto le loro scoperte, confutazioni e contro-confutazioni, diversi team di accademici hanno pubblicato articoli che sottolineavano un punto semplice ma sorprendente: ci sono diverse definizioni di cosa significhi essere “onesti” o “imparziali”, ed è aritmeticamente impossibile essere onesti in tutti questi modi contemporaneamente. Un algoritmo potrebbe soddisfare la definizione di equità di ProPublica o potrebbe soddisfare quella di Northpointe, ma non entrambe le cose.

Ecco Corbett-Davies, Pierson, Feller e Goel: “In realtà è impossibile che un punteggio di rischio soddisfi entrambi i criteri di equità contemporaneamente”.

Oppure Kleinberg, Mullainathan e Raghavan: “Formalizziamo tre condizioni di equità . . . e dimostriamo che, tranne in casi speciali altamente vincolati, non esiste alcun metodo che possa soddisfare simultaneamente queste tre condizioni.”

Questo non è solo un dato di fatto sugli algoritmi. Indipendentemente dal fatto che le decisioni sulla libertà condizionale siano prese da giudici umani, robot o scimpanzé che lanciano freccette, si applicherebbe la stessa implacabile aritmetica.

Abbiamo bisogno di più controllo e meno credulità sulla magia che cambia la vita del processo decisionale algoritmico, quindi per accendere i riflettori sull’automazione dei giudizi più gravi, l’analisi di ProPublica è stata preziosa. Ma se vogliamo migliorare il processo decisionale algoritmico, dobbiamo ricordare l’aforisma di Jagger. Queste decisioni non possono essere “eque” su ogni possibile metrica. Quando è impossibile avere tutto, dovremo scegliere ciò che conta davvero.

Le scelte dolorose sono, ovviamente, il pane e il burro dell’economia. C’è un tipo particolare che sembra affascinare gli economisti: la “trinità impossibile”. La più saggia di tutte le trinità impossibili sarà ben nota ai fan di More Tales of the City (1980) di Armistead Maupin. È la “Legge di Mona”: puoi avere un lavoro figo, un amante figo e un appartamento figo, ma non puoi averli tutti e tre contemporaneamente.

In economia, le trinità impossibili sono più prosaiche. Il più famoso è che mentre potresti volere un tasso di cambio fisso, la libera circolazione dei capitali attraverso le frontiere e una politica monetaria indipendente, nella migliore delle ipotesi devi sceglierne due. Un altro, coniato dall’economista Dani Rodrik, è più informale: puoi stabilire regole a livello nazionale, puoi essere altamente integrato economicamente o puoi lasciare che il voto popolare determini la politica, ma non puoi fare tutte e tre le cose insieme. Una tecnocrazia nazionale economicamente integrata è possibile; questa è una politica democratica a livello sovranazionale. Se non ti piace nessuno di questi, devi porre dei limiti alla globalizzazione economica.

Proprio come la Legge di Mona, queste trinità impossibili sono più simili a regole empiriche che a dimostrazioni matematiche. Potrebbero esserci delle eccezioni, ma non illuderti.

I matematici chiamano tali scoperte “prova di impossibilità” o semplicemente “risultati di impossibilità”. Alcuni sono elementari: non troveremo mai il numero primo più grande, perché non c’è un numero primo più grande da trovare, né possiamo esprimere la radice quadrata di due come frazione.

Altri sono più profondi e più strabilianti. Forse il più profondo è il teorema di incompletezza di Gödel, che nel 1931 dimostrò che, per qualsiasi sistema matematico, ci saranno affermazioni vere in quel sistema che non possono essere provate. La matematica è quindi incompleta e le legioni di matematici che cercavano di sviluppare un sistema matematico completo e coerente stavano perdendo tempo. Al termine del seminario in cui Gödel fece esplodere questa bomba intellettuale, il grande John von Neumann osservò laconicamente: “è tutto finito”.

A nessuno piace sentirsi dire che non possono avere tutto, ma una verità dolorosa è più utile di una bugia confortante. Il teorema di incompletezza di Gödel è stata una delle verità dolorose che ho studiato da giovane logico insieme a Liz Truss. Forse ha finalmente assorbito la lezione. È importante capire quando qualcosa è impossibile. Quella verità ci libera dal tentativo infruttuoso di ottenere sempre ciò che vogliamo e ci consente invece di concentrarci sull’ottenere ciò di cui abbiamo bisogno.

Scritto e pubblicato per la prima volta sul Financial Times il 28 ottobre 2022.

Il tascabile di The Data Detective è stato pubblicato il 1° febbraio negli Stati Uniti e in Canada. Titolo altrove: How To Make The World Add Up.

Ho creato una vetrina su Bookshop negli Stati Uniti e nel Regno Unito. I collegamenti a Bookshop e Amazon possono generare commissioni di riferimento.

Leave a Reply

Your email address will not be published. Required fields are marked *