Ezra Klein di Vox ha intervistato Yuval Harari, autore di Sapiens e, più recentemente, di Homo Deus. Parlando di AI, Harari distingue fra intelligenza e coscienza — che vanno di pari passo negli umani, ma non per forza devono coesistere (o la seconda deve essere necessaria affinché la prima esista) in un’intelligenza artificiale:
Intelligence is not consciousness. Intelligence is the ability to solve problems. Consciousness is the ability to feel things. In humans and other animals, the two indeed go together. The way mammals solve problems is by feeling things. Our emotions and sensations are really an integral part of the way we solve problems in our lives. However, in the case of computers, we don’t see the two going together.
Over the past few decades, there has been immense development in computer intelligence and exactly zero development in computer consciousness. There is absolutely no reason to think that computers are anywhere near developing consciousness. They might be moving along a very different trajectory than mammalian evolution. In the case of mammals, evolution has driven mammals toward greater intelligence by way of consciousness, but in the case of computers, they might be progressing along a parallel and very different route to intelligence that just doesn’t involve consciousness at all.
Un passaggio importante del libro è la possibilità che, come conseguenza dell’automatizzazione, una larga fetta dell’umanità possa perdere la sua valenza economica (e di conseguenza politica) — ovvero diventare ‘inutile’ per lo stato e l’economia. Quando e se questo succederà, il sistema perderà anche l’incentivo di investire su questa classe di persone (la ragione per cui abbiamo università, assistenza sanitaria, etc. etc. è che queste cose ci rendono produttivi).
A questo punto che facciamo? Una possibilità spesso menzionata è che si finisca col nascondersi e col cercare di dare un significato alla propria esistenza tramite la realtà virtuale. Scenario triste, ma non nuovo, dice Harari: sono migliaia di anni che troviamo conforto, significato e modelliamo la nostra esistenza attorno a realtà virtuali che fino ad oggi abbiamo chiamato ‘religione’:
You can think about religion simply as a virtual reality game. You invent rules that don’t really exist, but you believe these rules, and for your entire life you try to follow the rules. If you’re Christian, then if you do this, you get points. If you sin, you lose points. If by the time you finish the game when you’re dead, you gained enough points, you get up to the next level. You go to heaven.
People have been playing this virtual reality game for thousands of years, and it made them relatively content and happy with their lives. In the 21st century, we’ll just have the technology to create far more persuasive virtual reality games than the ones we’ve been playing for the past thousands of years. We’ll have the technology to actually create heavens and hells, not in our minds but using bits and using direct brain-computer interfaces.
