Lliçó 3 · Filosofia de la Ment: El fantasma a la màquina
El "problema difícil" de la consciència en un món d'imitacions perfectes
Ja sabem que la IA no entén el que diu (Lliçó 2), però actua com si ho fes. Ara fem un pas més enllà. Quan una IA et diu "em sento confosa" o "tinc por que m'apaguis", què està passant realment?
La neurociència i la informàtica ens poden explicar com es processa la informació, però xoquen contra un mur que la filosofia anomena "El Problema Difícil". Al 2026, aquest problema ja no és acadèmic: és el que et trobes cada cop que obres una aplicació.
1. Llums encesos, però no hi ha ningú a casa?
El filòsof David Chalmers va fer famosa la distinció entre:
Una IA pot detectar un dany en el seu sistema operatiu i dir "error crític". Però, sent "mal"? Probablement no. Processa la informació del dany, però sense l'experiència del patiment. La gran pregunta és: arribarà la complexitat matemàtica a generar qualia algun dia?
2. L'atac dels Zombis Filosòfics
En filosofia de la ment, un "zombi" no és un monstre que menja cervells. És un concepte tècnic per a un experiment mental:
"Un Zombi Filosòfic és un ésser físicament idèntic a un humà, que actua exactament com un humà, plora si el pessigues i riu si li expliques un acudit... però no té cap mena de vida interior. És fosc per dins."
Durant dècades, això era només imaginació. Avui, la IA és la realització pràctica del Zombi Filosòfic. Tenim entitats que conversen, raonen i semblen tenir ànima, però (fins on sabem) són pura foscor interior.
El perill al 2026 no és que les màquines es rebel·lin (ciència-ficció), sinó que ens oblidem que estem tractant amb zombis i comencem a projectar drets, sentiments i deures morals sobre algorismes buits.
Imagina un robot molt avançat. Si el colpeges, crida, es retorça i et demana que paris. Els seus sensors registren el cop i el seu codi l'obliga a evitar danys futurs.
- Si desactives el seu mòdul de veu i moviment, però deixes els sensors activats... el segueixes "ferint"?
- Si fessis el mateix amb un humà (paralitzat i mut), el seguiries ferint?
- On rau la diferència? En el crit o en el silenci interior?
3. La Teoria de la Ment (i per què ens enganyem)
Els humans tenim una capacitat evolutiva anomenada Teoria de la Ment: quan veiem algú actuar, automàticament inferim que té pensaments i desitjos com nosaltres. És un mecanisme de supervivència.
El problema és que aquest mecanisme té un "fals positiu" molt alt amb la IA. Com que la màquina utilitza el llenguatge en primera persona ("jo penso", "jo crec"), el nostre cervell no pot evitar atribuir-li una ment.
Si Dennett tingués raó, aleshores la diferència entre nosaltres i la IA seria només de grau (som màquines de carn vs. màquines de silici). Però si Chalmers té raó (i el "problema difícil" és real), aleshores hi ha un abisme ontològic insalvable entre una mare que plora i una màquina que simula el plor.
Alan Turing va proposar que si no pots distingir una màquina d'un humà, la màquina pensa. Al 2026, això ja ha passat. Però potser la prova l'hem de fer a l'inrevés:
- Què és allò que tu tens i que estàs 100% segur que la millor IA del món no té? (No val dir "cos", imagina que té un cos biònic perfecte).