Un'etica per i robot

di Vittorio Bertolini [1], 14 Aprile 2004

Nella pagina delle Segnalazioni è stato inserito l'annuncio [2] di due convegni, promossi dalla Scuola di Robotica dell'Università di Genova, aventi per tema la "Roboetica", un neologismo coniato dal Prof. Gianmarco Veruggio, Fondatore del Robotlab del CNR a Genova. In precedenza, a fine gennaio, Gianmarco Veruggio, è stato animatore di un convegno analogo che ha riunito a San Remo, esperti da tutto il mondo, e in questa occasione è stato intervistato da Chiara Palmerini di Panorama. Si veda "Diamo una morale ai robot [3]". I robot al centro del convegno di Sanremo e quelli, prossimi, di Genova, non sono gli umanoidi per cui Asimov nel 1942 postulava:

'Un robot non può recare danno a un essere umano né può permettere che, a causa del proprio mancato intervento, un essere umano riceva danno. Un robot deve obbedire agli ordini impartiti dagli esseri umani...'.

Si tratta di macchine, infatti, capaci (almeno allo stato attuale dell'arte) di compiere funzioni, nella maggior parte dei casi di tipo decisionale (la scelta del percorso più agevole o la ricerca di oggetti con particolari caratteristiche) che, anche se umane, rispondono, sempre e comunque, alla logica programmatoria imposta dal costruttore. Si legge, infatti, in un passo dell'intervista di Veruggio:

'Quando si parla di intelligenza per i robot, sarebbe un successo dargliene quanta una formica. Eppure, non ci siamo arrivati'.

Pur con queste limitazioni, sono delle macchine un po' speciali, che possono, vista la loro autonomia nel prendere decisioni, presentare problemi di rischio non sempre riconducibili agli standard di fabbricazione. Scrive Veruggio:

'Ci sono norme e legislazioni da rispettare per chi fabbrica un ascensore. Nessuno però si preoccupa di quali problemi esistano per una macchina che agisce in modo autonomo. Se mando un robot a compiere una missione e questo uccide un uomo, la colpa di chi è? Della macchina, di chi l'ha progettata, di chi l'ha costruita? Anche senza arrivare a parlare di intelligenza umana o di coscienza per i robot, il problema è molto più immediato di quanto si pensi'.

Esiste poi il possibile condizionamento dell'uomo nel suo rapporto con i prodotti della robotica.

'Da un robot servizievole, intelligente, che sembra sapere tutto si può rimanere soggiogati psicologicamente. Del resto, si sono avuti casi di bambini che si sono suicidati quando è morto il loro Tamagochi'.

Un tema, quello del rapporto uomo-robot che merita più di una riflessione. Infatti come afferma Veruggio: