Darwin e le macchine: l’intelligenza artificiale prenderà il sopravvento? di Mara Antonaccio

Era il 1863 quando Samuel Butler, giovane inglese trasferitosi in Nuova Zelanda per allevare pecore, inviò al quotidiano The Press di Christchurch una lettera firmata con lo pseudonimo di Cellarius, nella quale applicava alle macchine la teoria che Charles Darwin aveva reso pubblica appena quattro anni prima e immaginava che anch’esse, come gli organismi viventi, potessero evolversi, perfezionarsi di generazione in generazione e un giorno, forse, emanciparsi da chi le aveva costruite fino a rovesciare il rapporto di forza, relegando l’uomo al ruolo di servitore premuroso di creature che non avrebbero più avuto bisogno di lui. L’ipotesi di Butler era radicale, quasi profetica nella sua esagerazione, perché proponeva di dichiarare loro una guerra senza quartiere prima che fosse troppo tardi, e lo scriveva in un’epoca in cui la macchina più sofisticata che si potesse concepire era il telaio meccanico o la locomotiva a vapore: ma quanto fu premonitrice questa idea?

Sono passati più di centosessant’anni e quella provocazione, che allora poteva sembrare il divertissement di un intellettuale annoiato ai confini del mondo, oggi ci appare anticipatrice, perché viviamo una fase della storia in cui l’intelligenza artificiale sta evolvendo a una velocità che ha sorpreso persino coloro che l’hanno progettata, e in cui sistemi capaci di scrivere, tradurre, dipingere, comporre musica, programmare e conversare con una naturalezza disarmante, sono entrati nelle nostre case, nei nostri uffici e nelle nostre tasche senza chiedere permesso, insinuandosi nelle abitudini quotidiane con la discrezione di un ospite che, a poco a poco, finisce per diventare il padrone di casa: lo diventerà?

È dunque legittimo avere paura? La domanda non è modaiola e non va liquidata con un’alzata di spalle, perché a porsela non siamo soltanto noi boomers nostalgici del mondo analogico da cui proveniamo o gli autori di romanzi distopici, ma anche alcuni tra i padri fondatori di questa tecnologia, scienziati che hanno dedicato la vita alle reti neurali e che negli ultimi anni hanno sentito il bisogno di mettere in guardia l’opinione pubblica sui rischi di sistemi sempre più potenti e sempre meno comprensibili, sviluppati da poche grandi aziende in una competizione che lascia poco spazio alla prudenza. Quando chi conosce un fenomeno dall’interno sente il bisogno di lanciare un allarme, il minimo che possiamo fare è ascoltarlo con attenzione, senza cedere al panico dei titoloni roboanti, ma senza rifugiarci in un ottimismo di comodo.

da oltre quarant’anni vivo e lavoro in ambienti scientifici e ho visto i cambiamenti assolutamente impensabili, direi impossibili se visti qualche anno fa, dell’evoluzione della tecnologia, e io per prima, ne sono spaventata, ma credo che la paura vada analizzata con metodo scientifico, perché dietro questa parola si nascondono timori molto diversi, alcuni concreti e immediati, altri vaghi e cinematografici, ed è proprio la loro confusione a impedirci di affrontarli con lucidità: c’è la paura che le macchine diventino coscienti e decidano di sbarazzarsi di noi, figlia di decenni di fantascienza e di robot ribelli, e c’è invece la paura, assai più concreta, che l’intelligenza artificiale venga usata da esseri umani per manipolare l’informazione, sorvegliare i cittadini, falsificare voci e volti, sostituire il lavoro di milioni di persone senza che nessuno si preoccupi di cosa ne sarà di loro, concentrare un potere enorme nelle mani di pochi; ed è forse questa seconda paura, meno spettacolare ma più vicina, quella che dovrebbe tenerci svegli la notte (non sta già accadendo?).

Il vero rischio, a mio parere, non è tanto che la macchina prenda il sopravvento con un atto di ribellione improvviso, come “Hal 9000 in “2001 Odissea nello spazio”, quanto che siamo noi a cederle il passo un po’ alla volta, per pigrizia, per convenienza, per quella seduzione sottile che esercita tutto ciò che ci risparmia fatica, delegando prima i compiti noiosi, poi le scelte difficili, infine il pensiero stesso, fino a perdere l’abitudine di dubitare, di verificare, di sbagliare e di imparare dai nostri errori. Butler, che all’epoca non immaginava neppure nei suoi voli pindarici più audaci quel che sarebbe accaduto, aveva intuito semplicemente questo quando osservava che l’uomo, nutrendo e curando le proprie macchine, finiva per adattarsi a loro più di quanto loro si adattassero a lui. Per natura l’Uomo opera transfer su persone, cose, fantasie, per ricercare il proprio piacere, inteso come soddisfazione dei propri desideri e Butler lo sapeva bene, solo che non sapeva fin dove si sarebbe spinto.

Non si tratta allora di dichiarare guerra alle macchine, come proponeva provocatoriamente Cellarius, né di abbandonarsi a un rifiuto ideologico che la storia ha sempre punito, perché ogni grande innovazione, dalla stampa all’elettricità, arrivando all’IT, ha suscitato timori simili e ha poi trasformato la vita umana in modi che nessuno aveva previsto, nel bene come nel male; si tratta piuttosto di pretendere regole chiare, trasparenza su come questi sistemi vengono addestrati e utilizzati, responsabilità precise per chi li sviluppa e li commercializza, e soprattutto di investire nell’unica risorsa che nessun algoritmo potrà mai sostituire davvero, cioè la capacità critica delle persone, l’educazione a distinguere, a interrogare, a non accettare passivamente ciò che uno schermo ci restituisce con tanta sicurezza.

La mia paura è legittima, per me necessaria, perché la intendo come una forma di vigilanza, un campanello d’allarme che deve impedirci di correre a occhi chiusi verso un futuro di cui non conosciamo i contorni; non deve trasformarsi in fatalismo, diventerebbe paralizzante e produrrebbe la convinzione che tutto sia già deciso e che a noi non resti che subire. L’intelligenza artificiale non ha intenzioni proprie, non desidera, non ambisce, non odia: riflette, amplifica e purtroppo talvolta distorce i desideri, le ambizioni e i pregiudizi di chi la costruisce e di chi la usa, ed è per questo che la domanda più urgente non è se le macchine prenderanno il sopravvento, ma che tipo di esseri umani vogliamo essere mentre impariamo a convivere con loro. Ricordiamo inoltre che abbiamo pur sempre lo scettro del comando per togliere loro la forza: staccare la spina!