Il computer e l'anima

Il caso

Un signore seduto dietro lo schermo di un computer, è in attesa di completare lo schermo vuoto e distratto dal figlio Tommaso, inizia a pensare che lui saprebbe cosa farci con quelle pagine vuote. Gira e rigira, il padre chiede al figlio se ha voglia di provare a giocare con il computer, Tommaso senza pensarci due volte corre. Il bambino preme freneticamente i tasti e il padre per scherzare gli chiede di fare paino perché altrimenti il computer si fa male. Questa cosa colpisce subito il bambino perché sa benissimo che è un oggetto inanimato e non può provare dolore fisico e infatti afferma in maniera certa che il computer non sente niente. 

Analisi

Come può un bambino, in questo caso Tommaso, essere sicuro del fatto che il computer non sente nulla?

Il computer non esprime la sua opinione, non sappiamo costa prova in determinate circostanze, noi intratteniamo una conversazione con lui, gli chiediamo delle informazioni, ci sono dei casi in cui è il computer che ci chiede informazioni e casi dove addirittura la comunicazione viene interrotta da un problema elettrico. In tutto questo scambio di informazioni e di dati, il computer non ci ha mai detto che cosa prova, non si lamenta, non può farlo perché non ha il mezzo, non ha il linguaggio adatto, parla la lingua che noi gli abbiamo programmato e siccome non ci interessa sapere come sta, ma ci interessa che fornisca dati utili, questa capacità di linguaggio non gli è stata inserita. Per ipotesi, possiamo immaginare che premere i tasti in maniera feroce, faccia davvero male al computer e sia controproducente per lui, quindi sarebbe nostro interesse smettere di premere i tasti in quel modo. "[…] Che cosa ci sarebbe di strano se gli insegnassimo invece a dire, in casi analoghi: <<Attento, mi fai male>> […] Magari non sente nel modo in cui sentiamo noi, ma perché dovrebbe? Sente nel modo che gli è più appropriato e ce lo dice, ora che sa dircelo".

Ogni cosa che fa il computer, ogni tipo di "conversazione" che intrattiene con noi, non può essere definita parlare, perché parlare non significa semplicemente emettere suoni in modo del tutto arbitrario. Bencivenga immagina di combinare arbitrariamente delle parole di una lingua totalmente sconosciuta o addirittura inventata da noi, suppone che quelle parole abbiano davvero un senso in quella lingua e che ci sia una persona davanti a noi che le capisca. "Vogliamo forse dire che le abbiamo parlato?" 

Non basta fare qualcosa, occorre voler far quel qualcosa, farlo in modo consapevole per ottenere il miglior risultato possibile. Nel caso del computer, lui non ha intenzioni, non vuole fare tutto quello che fa, lo fa perché è costretto a farlo, è uno strumento nelle nostre mani.

Problema metafisico

Il problema metafisico di cui si occupa questo paragrafo è il solipsismo, "termine filosofico, derivato dalle parole latine solus "solo" e ipse "stesso", e designante perciò l'atteggiamento mentale e speculativo che il soggetto assume quando risolve ogni realtà in sé medesimo, o dal punto di vista pratico o da quello gnoseologico-metafisico" .

In questo caso Bencivenga, si pone la domanda sull'esistenza o meno di altre menti, altre intelligenze, parliamo di intelligenza artificiale che è una versione speculare di quella classica. Il problema in passato è stato risolto con il sistema cartesiano, Cartesio ha diviso la cosa estesa (il mondo), dalla cosa pensante (il soggetto, cosciente e intenzionale).

La sua considerazione è nata per dimostrare l'esistenza di Dio ed è piuttosto limitante perché nega ogni forma di conoscenza anche agli animali. Sarebbe troppo semplice limitarci a questa definizione di spontaneità del soggetto, la maggior parte delle cose che facciamo, sono del tutto inconsapevoli, come il computer ha bisogno di energia elettrica per ricaricarsi, noi abbiamo bisogno di mangiare e di bere, come il computer fornisce dati in maniera inconsapevole, anche noi spesso ci comportiamo in maniera del tutto inconsapevole. Se però, ammettiamo l'esistenza di un intenzione implicita e guardiamo a cosa c'è dietro a certi comportamenti apparentemente inconsapevoli, allora siamo di nuovo punto e a capo.

Bisogna ricordarsi però dell'inconscio, il nostro lato inconsapevole, molte volte crediamo di fare o pensare o volere qualcosa, ma in realtà il nostro inconscio dice altro, in questo caso solo lo psicoanalista può dirci quello che realmente ho intenzione di fare. "Io sono convinto di non avere alcuna intenzione, di non voler fare niente quando, ad esempio, mi gratto la barba o canticchio un motivetto sotto la doccia, […] ma per un interprete di tendenze freudiane tutti questi incidenti sarebbero altamente significativi: per lui io starei davvero parlando, […] anche se non me ne rendo conto, anche se non voglio rendermene conto" .

Possiamo quindi mettere da parte il linguaggio e soffermarci sul perché il computer non sente dolore, la risposta più ovvia è: perché non è un organismo vivente. La formica ad esempio, proverà dolore se decidessimo di staccarle le zampe, questo perché da sempre, ci hanno insegnato che il mondo si divide in tre regni: 

"Ci sono il regno animale, il regno vegetale e il regno minerale: i membri del primo nascono, crescono, si riproducono, muoiono e inoltre sono dotati (in generale) della capacità di muoversi indipendentemente, i membri del secondo fanno tutte le stesse cose tranne l'ultima e i membri del terzo non ne fanno nessuna" .

Secondo Bencivenga sono proprio queste certezze che dovrebbero essere messe in discussione, come anche il fatto che pensiamo che il computer sia una semplice scatola, dobbiamo tenere presente che il computer anima la scatola, non è la scatola, anche il computer nasce, cresce e può anche morire con un virus. Al contrario possiamo trovare altre analogie, l'uomo è ha un programma genetico, ricevuto dall'esterno, dai propri genitori, quindi bisogna non essere frettolosi e cercare di andare oltre le solite definizioni.

Il dolore

"Il dolore impone attenzione, tacita ogni interesse, esige che ci si muova con urgenza" .

Il dolore mi spinge ad eliminarne subito la causa, se mi schiaccio malauguratamente il dito nella porta, il dito viene levato immediatamente, non importa tutto il resto, non importa se stavo facendo altro, il dolore diventa priorità. Secondo una teoria psicoanalista, noi proiettiamo sugli altri quello che proviamo, se noi non riusciamo a immaginare il dolore del computer, perché crediamo sia immune a dolori fisici, potrebbe essere perché siamo noi ad essere freddi nei suoi confronti. Ad esempio il signore, proprietario del computer, è molto empatico nei confronti del figlio Tommaso, quando si fa male lui, sente il dolore anche il padre. Dobbiamo precisare che molto spesso proviamo sensazioni, ma diverse; Tommaso cade e prova dolore fisico, il padre soffre nel vederlo soffrire ed è preoccupato.

Questo perché usiamo un criterio di somiglianza, per cui più qualcosa è simile a me, più le attribuisco le mie stesse sensazioni, il computer, evidentemente è troppo diverso da me ed è normale non riuscire ad immedesimarsi. Purtroppo questo tipo di ragionamento, soprattutto in passato è stato fatto su persone ritenute diverse, come le donne, ritenute inferiori o gli ebrei e così via; sono state legittimate pratiche oppressive, sfruttamenti e stermini. Anche gli animali, sono trattati da molti in modo sgradevole perché giustificati dal fatto che non hanno un'anima, non sentono come noi. Fortunatamente c'è stata, c'è e ci sarà tanta gente che lotta per le discriminazione, per la tutela degli animali ecc., "dove condurranno questi sviluppi? Arriveranno a includere i computer? […] come possiamo essere sicuri adesso che il computer sia freddo e imperturbabile? Che non abbia un'anima? Che non senta dolore?" 

Bencivenga è riuscito a mostrarci come da un semplice racconto, si incastrano una serie di ragionamenti più profondi, un argomento ne tira fuori un altro e cosi`, mescolando le carte, abbiamo giocato con la filosofia. Abbiamo messo in discussione le cose, vengono viste in maniera diversa in base all'epoca in cui ci troviamo, nel XX secolo le cose cambiano in maniera veloce, le cose che sembravano giuste un tempo, non lo sono più o viceversa, tutto può cambiare e non siamo in grado di prevederlo, tutto può entrare in crisi.