Tre principi per governare il rapporto uomo – macchina

Li prospetta Violante in questa intervista ad “Atlantide”: la macchina non deve mai essere autonoma rispetto all’uomo; l’uomo deve poterla spegnere in qualsiasi momento; devono essere sempre noti il finanziatore, il costruttore e chi detiene la capacità di governo della macchina. La questione di fondo è il rapporto tra pensante umano e pensante non umano La democrazia diretta grazie al digitale? “Se sostitutiva di quella rappresentativa è una frode”

Atlantide. Siamo immersi nella rivoluzione tecnologica e guardando alla storia non è sicuramente la prima volta che l’umanità affronta simili capovolgimenti. Cosa ci hanno insegnato le grandi rivoluzioni del passato (la rivoluzione industriale, l’avvento dell’energia elettrica o della macchina a vapore)?

Luciano Violante. Le grandi rivoluzioni tecnologiche comportano anche profondi mutamenti sociali, culturali e negli stili di vita. Non bisogna lasciarsi sorprendere, occorre prevedere e governare i cambiamenti.

Atlantide. L’evoluzione delle tecnologie viene guardata con soddisfazione per i miglioramenti che apporta alle condizioni di lavoro e di vita, ma di pari passo aumentano le preoccupazioni legate al ruolo sempre più importante rivestito dalla “macchina”. Condivide queste preoccupazioni o ritiene che siano alimentate da una generale ignoranza o da una sottovalutazione delle capacità di controllo da parte dell’uomo?

Violante. Sono sbagliati tanto atteggiamenti demonizzatori quanto stupide esaltazioni. Occorre far funzionare la ragione. A mio avviso la questione di fondo è il rapporto tra pensante umano e pensante non umano. Vanno affermati tre principi: a) la macchina non deve mai essere autonoma rispetto all’uomo; b) l’uomo deve poterla spegnere in qualsiasi momento; c) devono essere sempre noti il finanziatore, il costruttore e chi detiene la capacità di governo della macchina.

Atlantide. Si stanno affermando, sia nel mondo del lavoro, sia nella normale vita quotidiana, sistemi con elevato grado di autonomia e con grande capacità decisionale (dagli smart robot in fabbrica alle self driving car e così via). Ritiene possibile evitare che compiano azioni disastrose e distruttive?

Violante. È inevitabile che il rischio aumenti. Le auto producono incidenti. Le gru possono spezzarsi. Gli aerei precipitano. Il Titanic affondò. Tuttavia si continua a usare l’auto, la nave e l’aereo. E le gru continuano a sollevare carichi. Si deve ridurre il rischio ai minimi termini, ma è illusorio pensare che il rischio possa essere eliminato del tutto.

Atlantide. Nel caso di conseguenze dell’operato di una macchina autonoma che si rivelino negative o indesiderate o legalmente perseguibili, come attribuire e valutare le responsabilità?

Violante. Molti giuristi stanno studiando questi problemi, soprattutto nel mondo anglosassone. Occorrono chiari parametri legislativi, altrimenti la responsabilità sarà disciplinata dai contratti tra produttori e compratori e in quei contratti è facile prevedere che prevarrà la non responsabilità della parte più forte e meglio assistita, cioè del produttore.

Atlantide. Ritiene che la tecnologia, fornendo a chi detiene il potere nuovi e più potenti strumenti di controllo sulla società e sulla persona, finisca per diminuire gli spazi di autentica libertà, pur alimentando l’illusione di una maggiore capacità conoscitiva e di azione da parte dei singoli?

Violante. La tecnologia è un mezzo, non è un mito. Se usata razionalmente espande gli spazi di libertà e di conoscenza. Un altro principio che i tecnologi dovrebbero osservare è che non si può eticamente fare tutto quello che si può fare materialmente. Su questi temi però la discussione è cristallizzata, non va avanti.

Atlantide. L’utilizzo dell’informatica come strumento di consultazione della volontà popolare è un alleato dei processi democratici e aumenta il tasso di democrazia diretta, oppure rappresenta una insidia perché tende a “tagliare fuori” la mediazione dei partiti tradizionali?

Violante. La democrazia diretta come sostitutivo di quella rappresentativa è una frode. Può invece utilmente integrare per singole determinate questioni la democrazia rappresentativa. L’informatica, una volta che ne sia garantita la sicurezza e ne siano compresi i limiti, è un sussidio utilissimo.

Atlantide. I processi di automazione possono aiutare a diminuire il gap economico tra il Nord e il Sud del mondo o viceversa rischiano di aumentarlo?

Violante. Possono aiutare perché chi è più indietro salta alcune generazioni di innovazioni tecnologiche e approda direttamente nella modernità.