La follia della “coscienza macchina”

Nov 11, 2023

La coscienza sorge solo negli esseri biologici? Oppure è possibile che un computer che osserva, interagisce e rappresenta il proprio stato interno possa anche dare origine alla coscienza? Queste sono alcune delle domande poste a Bernardo Kastrup, Susan Schneider e Donald Hoffman in un recente dibattito per lo IAI, 'La coscienza nella macchina'. Bernardo Kastrup riflette sul dibattito e sul suo disaccordo con Susan Schneider.

Recentemente ho preso parte a un dibattito organizzato dallo IAI – con la partecipazione di Donald Hoffman e Susan Schneider, oltre al sottoscritto – sulla questione se i computer in silicio che eseguono software di intelligenza artificiale (AI) diventeranno mai coscienti. Come idealista metafisico, credo che la coscienza non sia generata da alcun substrato, biologico o altro, poiché è primaria. Ma la vita interiore privata e cosciente, apparentemente separata dal resto della natura e delineata dai confini di un’entità fisica, è chiaramente qualcosa che è emerso insieme alla biologia. Quindi, per me la domanda si traduce in: la coscienza privata può potenzialmente verificarsi in associazione con i computer al silicio?

Questa domanda mi sta molto a cuore, perché sono stato un ingegnere informatico per molto più tempo di quanto non fossi un filosofo. Per me, l'ipotesi di un'“intelligenza artificiale cosciente” è plausibile quanto quella del Flying Spaghetti Monster (FSM). Certo, non posso confutare categoricamente l'ipotesi, per lo stesso motivo per cui non posso confutare categoricamente il FSM. Ma proprio come il FSM, non credo che abbiamo alcuna buona ragione per prendere sul serio l’ipotesi. Ecco perché.

LETTURA CONSIGLIATA La grande tecnologia non vuole che l'intelligenza artificiale diventi cosciente Di Susan Schneider

Posso eseguire una simulazione dettagliata della funzione renale, estremamente accurata fino al livello molecolare, proprio sull'iMac che sto usando per scrivere queste parole. Ma nessuna persona sana di mente penserà che il mio iMac possa improvvisamente urinare sulla mia scrivania dopo aver eseguito la simulazione, non importa quanto quest'ultima sia accurata. Dopo tutto, una simulazione della funzione renale non è la funzione renale; è una sua simulazione, incommensurabile con la cosa simulata. Comprendiamo tutti senza difficoltà questa differenza nel caso della produzione di urina. Ma quando si tratta di coscienza, alcuni improvvisamente rinunciano alla loro capacità di ragionamento critico: pensano che una simulazione dei modelli di flusso delle informazioni in un cervello umano potrebbe effettivamente diventare cosciente come il cervello umano. Che strano.

Da dove viene questo abbandono di un sano senso di verosimiglianza? Coloro che prendono sul serio l’ipotesi di un’intelligenza artificiale cosciente lo fanno sulla base di una nozione spaventosamente distorta di isomorfismo – una corrispondenza di forma o somiglianza – tra il modo in cui gli esseri umani pensano e i computer dell’intelligenza artificiale elaborano i dati. Per trovare questa somiglianza, tuttavia, è necessario compiere diversi passi di astrazione dalla realtà concreta ed empirica. Dopotutto, se metti un vero cervello umano e un vero computer in silicio aperti su un tavolo davanti a te, rimarrai sopraffatto da quanto sono diversi, strutturalmente e funzionalmente. Un cervello umido è basato sul carbonio, brucia ATP per produrre energia, funziona attraverso il metabolismo, elabora dati attraverso il rilascio di neurotrasmettitori, ecc. Un computer secco, d'altro canto, è basato sul silicio, utilizza un differenziale nel potenziale elettrico per produrre energia, funziona tramite spostando le cariche elettriche, elabora i dati attraverso l'apertura e la chiusura di interruttori elettrici chiamati transistor, ecc.

Il vago isomorfismo tra computer AI e cervelli biologici si trova solo a livelli molto elevati di astrazione puramente concettuale – abbastanza disconnessi dalla realtà concreta ed empirica – in cui vengono confrontati modelli disincarnati di flusso di informazioni. Pertanto, per credere nell’“intelligenza artificiale cosciente” è necessario respingere arbitrariamente le schiaccianti differenze a livelli più concreti e poi, altrettanto arbitrariamente, scegliere di prendere in considerazione solo un livello di astrazione molto specifico e elevato in cui si possono trovare alcune vaghe somiglianze. Questo può essere descritto come qualcosa di diverso da un pio desiderio?