Lliçó 8 · Filosofia Política: El Panòptic Algorítmic
Quan el governant és invisible, opac i matemàtic
La IA no només genera textos i imatges; també pren decisions sobre les nostres vides. Algoritmes que decideixen qui rep un préstec, qui és sospitós de crim, qui és contractat. Estem passant del govern de les lleis al govern dels models predictius.
1. Foucault i el Panòptic Digital
Michel Foucault va descriure el Panòptic: una presó on els vigilants poden veure a tothom, però els presos no saben quan estan sent mirats. La conseqüència és que el pres s'autocontrola permanentment.
Avui, la IA és el Panòptic perfecte. Les nostres dades (mòbil, compres, clics) són analitzades constantment. La IA pot predir el nostre comportament abans que nosaltres mateixos.
2. La Caixa Negra de la Democràcia
Un principi bàsic de la democràcia és que la llei ha de ser pública i comprensible. Si un jutge et condemna, ha d'explicar per què. Però les Xarxes Neuronals Profundes (Deep Learning) són Caixes Negres.
Sovint, ni tan sols els enginyers saben exactament per què la IA ha pres una decisió concreta. Ha trobat una correlació matemàtica invisible. Podem acceptar viure en una societat on les decisions importants són "inexplicables"?
Si l'algoritme és opac, no hi ha possibilitat d'apel·lació. I sense apel·lació, no hi ha justícia, només administració.
3. El risc de la Tecnocràcia Total
La temptació política del 2026 és forta: "Deixem que la IA governi, serà més eficient i menys corrupta que els polítics humans". És la utopia tecnocràtica.
Però la política no va d'eficiència; va de valors i de conflicte. La IA vol optimitzar una funció (per exemple, maximitzar el PIB). Però potser nosaltres volem sacrificar PIB per tenir més igualtat o més temps lliure. La IA no entén el sacrifici ni el valor moral, només l'optimització numèrica.
Imagina que el govern implementa una IA ("El Jutge Just") que resol tots els judicis petits en segons amb un 99% de precisió estadística.
- Acceptaries ser jutjat per ella per estalviar-te 3 anys d'espera?
- Si fossis aquell 1% on la màquina s'equivoca (un cas excepcional que l'estadística no preveu), a qui reclamaries?
- És la ineficiència humana (el temps, el debat, el dubte) una característica necessària de la justícia?
Tancament
La llibertat política al 2026 consisteix a defensar el dret a ser "il·legible" per a l'algoritme. Reclamar espais on no siguem dades, sinó ciutadans amb drets, encara que això ens faci menys eficients.
I finalment, l'última frontera. Si la política gestiona la vida, la tecnologia ara vol modificar-la. A la Lliçó 9: Transhumanisme, ens preguntarem si estem a punt de deixar de ser humans.