Le società occidentali individualiste sono costruite sull’idea che nessuno conosce i nostri pensieri, i nostri desideri o le nostre gioie meglio di noi. E così mettiamo noi stessi, piuttosto che il governo, al comando delle nostre vite. Tendiamo a concordare con l’affermazione del filosofo Immanuel Kant secondo cui nessuno ha il diritto di imporre a noi la propria idea di buona vita.
L’intelligenza artificiale (IA) cambierà tutto questo. Ci conoscerà meglio di quanto noi conosciamo noi stessi. Un governo armato di intelligenza artificiale potrebbe pretendere di sapere cosa vuole veramente il suo popolo e cosa lo renderà davvero felice. Nel migliore dei casi lo utilizzerà per giustificare il paternalismo, nel peggiore dei casi, il totalitarismo.
Ogni inferno inizia con una promessa di paradiso. Il totalitarismo guidato dall’ AI non sarà diverso. La libertà diventerà obbedienza allo Stato. Solo gli irrazionali, i maligni o i sovversivi potranno scegliere la propria strada.
Per evitare una tale distopia, non dobbiamo permettere che gli altri sappiano più di noi stessi di quanto ne sappiamo noi. Non possiamo permettere che si crei un vuoto di conoscenza di sé.
Indice degli argomenti
L’intelligenza artificiale che vede tutto
Nel 2019, l’investitore miliardario Peter Thiel ha affermato che l’AI era “letteralmente comunista”. Egli ha sottolineato che l’IA permette ad un potere centralizzatore di monitorare i cittadini e di sapere più di quanto essi sappiano di loro stessi. La Cina, ha osservato Thiel, ha abbracciato con entusiasmo l’IA.
Conosciamo già il potenziale dell’AI di sostenere il totalitarismo fornendo un sistema orwelliano di sorveglianza e controllo. Ma l’IA dà anche ai totalitaristi un’arma filosofica. Finché ci conosciamo meglio del governo, il liberalismo può tenere a bada gli aspiranti totalitaristi.
Ma l’IA ha cambiato il gioco. Le grandi aziende tecnologiche raccolgono grandi quantità di dati sul nostro comportamento. Gli algoritmi di apprendimento automatico utilizzano questi dati per calcolare non solo quello che faremo, ma anche chi siamo.
Oggi, l’intelligenza artificiale può prevedere quali film ci piaceranno, quali notizie vorremmo leggere e chi vorremmo come amici su Facebook. Può prevedere se le coppie rimarranno insieme e se tenteremo il suicidio. Dai nostri “mi piace” su Facebook, AI può prevedere le nostre opinioni religiose e politiche, la nostra personalità, l’intelligenza, l’uso di droghe e la felicità.
L’accuratezza delle previsioni di AI non potrà che migliorare. In un futuro non troppo lontano, come ha suggerito lo scrittore Yuval Noah Harari, AI potrebbe dirci chi siamo prima che noi stessi lo sappiamo.
Questi sviluppi hanno implicazioni politiche sismiche. Se i governi possono conoscerci meglio di noi, si apre una nuova giustificazione per intervenire nella nostra vita. Ci tiranneggeranno in nome del nostro bene.
La libertà attraverso la tirannia
Il filosofo Isaiah Berlin lo aveva previsto nel 1958. Egli individuò due tipi di libertà. Un tipo, avvertì, avrebbe portato alla tirannia.
La libertà negativa è la “libertà da“. È la libertà dall’ingerenza di altre persone o del governo nei suoi affari. La libertà negativa è il fatto che nessun altro è in grado di trattenerti, purché tu non violi i diritti degli altri.
Al contrario, la libertà positiva è “libertà di“. È la libertà di essere padrone di se stessi, la libertà di realizzare i propri veri desideri, la libertà di vivere una vita razionale. Chi non lo vorrebbe?
Ma cosa succede se qualcun altro dice che non stai agendo nel tuo “vero interesse”, anche se sa come potresti farlo. Se non vuoi ascoltare, potrebbero costringerti a essere libero, costringendoti ad essere libero per il tuo “bene”. Questa è una delle idee più pericolose mai concepite. Ha ucciso decine di milioni di persone nell’Unione Sovietica di Stalin e nella Cina di Mao.
Si dice che il leader comunista russo Lenin abbia detto che i capitalisti gli avrebbero venduto la corda con cui li avrebbe impiccati. Peter Thiel ha sostenuto che, nell’ AI, le aziende tecnologiche capitaliste della Silicon Valley hanno venduto al comunismo uno strumento che minaccia di minare la società capitalista democratica. AI è la corda di Lenin.
Combattere per noi stessi
Possiamo prevenire una tale distopia solo se nessuno può conoscerci meglio di noi stessi. Non dobbiamo mai idealizzare chi cerca un tale potere su di noi con le migliori intenzioni. Storicamente, tutto questo è finito solo con una tragedia.
Un modo per evitare che si crei un vuoto di conoscenza di sé è quello di alzare gli scudi della privacy. Thiel, che ha etichettato AI come comunista, ha sostenuto che “il cripto è libertario“. Le criptomonete possono essere “abilitanti della privacy”. La privacy riduce la capacità degli altri di conoscerci e quindi di usare questa conoscenza per manipolarci a proprio vantaggio.
Eppure, conoscere meglio se stessi attraverso l’IA offre potenti vantaggi. Potremmo essere in grado di usarla per capire meglio ciò che ci renderà felici, sani e ricchi. Può aiutare a guidare le nostre scelte di carriera. Più in generale, l’IA promette di creare la crescita economica che ci tiene lontani l’uno dalla gola dell’altro.
Il problema non è l’IA che migliora la nostra conoscenza di noi stessi. Il problema è una disparità di potere in ciò che si sa di noi. La conoscenza di noi esclusivamente nelle mani di qualcun altro è potere su di noi. Ma la conoscenza di noi nelle nostre mani è potere per noi.
Chiunque elabori i nostri dati per creare conoscenza su di noi dovrebbe essere legalmente obbligato a restituirci quella conoscenza. Dobbiamo aggiornare l’idea di “niente di noi senza di noi” per l’età dell’intelligenza artificiale.
Quello che l’intelligenza artificiale ci dice di noi stessi spetta a noi decidere se usarlo o meno, non agli altri, per trarre profitto dall’abuso. Ci dovrebbe essere sempre e solo una mano sulla barra della nostra anima. E dovrebbe essere la nostra.
Autore
Simon McCarthy-Jones, Associate Professor in Clinical Psychology and Neuropsychology, Trinity College Dublin
This article is republished from The Conversation under a Creative Commons license. Read the original article.
Photo by Morning Brew on Unsplash
