Este texto es la transcripci\u00f3n de una intervenci\u00f3n en el foro interno de <\/i>Espai Marx con motivo de un debate suscitado por las reacciones a la publicaci\u00f3n<\/i> [1]; el autor ha a\u00f1adido al texto un p\u00e1rrafo y las referencias bibliogr\u00e1ficas, para sustentar algunas afirmaciones.<\/i><\/p>\n
Un art\u00edculo reciente [1] ha causado, al parecer, revuelo en ciertos medios. En \u00e9l se pretende predecir la ideolog\u00eda de las personas a partir de an\u00e1lisis facial con instrumentos de inteligencia artificial (IA en lo que sigue). Hay varias cuestiones relacionadas que me parecen de inter\u00e9s. No entro en las que me parecen negligibles y despreciables.<\/p>\n
Que \u00abla cara es el espejo del alma\u00bb es un refr\u00e1n de la sabidur\u00eda popular, y que ciertas configuraciones faciales traducen, no el alma sino el esfuerzo y la naturaleza del trabajo, es muchas veces cierto (al fin y al cabo, somos sistemas materiales). La ideolog\u00eda se encarg\u00f3 despu\u00e9s de asociar la naturaleza de ese trabajo con caracter\u00edsticas del \u00abalma\u00bb (con prop\u00f3sitos de legitimaci\u00f3n). Esta mi interpretaci\u00f3n \u2018materialista\u2019 no descarta que, como en el exquisito poema de Brecht sobre la m\u00e1scara japonesa que colgaba en su pared, el \u00abesfuerzo que cuesta ser malvado\u00bb se pueda traducir en rasgos faciales (Brecht, La m\u00e1scara del mal<\/i>)…<\/p>\n
Pero esto son an\u00e9cdotas. El asunto importante son las capacidades y el uso de la IA. Obviamente, la primera circunstancia a tener en cuenta es que los instrumentos accesibles de IA son desarrollos y propiedad de unas pocas megaempresas privadas. Pero no es de esto de lo que voy a tratar. Las posibilidades, no infinitas, pero s\u00ed imprevisibles de esta tecnolog\u00eda son, tal vez, uno de nuestros pr\u00f3ximos retos pol\u00edtico-culturales m\u00e1s importantes. La IA se alimenta y aprende de bases de datos obtenidas de determinada manera y organizadas de determinada manera. Y sobre esas bases de datos, con algoritmos determinados, produce resultados, que pueden ir desde escribir una canci\u00f3n (letra y m\u00fasica) o una novela [2] (ojo: \u00a1originales!) en base a unas pocas directrices, hasta reconocer formas y personas o \u00abreconocer\u00bb delincuentes, pasando por escribir informes o hacer diagn\u00f3sticos m\u00e9dicos [3, 4]. Todo esto existe ya. Unos colegas, especialistas en la materia, publicaron hace poco una alerta sobre el peligro de la opacidad de todo el proceso a la hora de interpretar y validar los resultados [5], que impide reconocer sesgos en los procedimientos. Una aplicaci\u00f3n para reconocer delincuentes por las calles identificaba sistem\u00e1ticamente a las personas \u00abde color\u00bb como delincuentes…\u00a0 porque hab\u00eda sido alimentada y ense\u00f1ada con bases de datos de las c\u00e1rceles USA, donde, en efecto, \u00a1la mayor parte de la poblaci\u00f3n reclusa es afroamericana! Y as\u00ed, pod\u00e9is imaginar infinidad de ejemplos. Sabr\u00e9is que otros especialistas han alertado incluso sobre \u00abel peligro de extinci\u00f3n de la humanidad\u00bb si no se regula bien el asunto [6, 7].<\/p>\n
No soy un especialista en el tema. Pero me surgen preguntas-sin-respuesta sobre las consecuencias de la aplicaci\u00f3n masiva de la IA:<\/p>\n
– sobre el impacto en el empleo (la transformaci\u00f3n de los empleos que conocemos (la ense\u00f1anza y otros oficios), la desaparici\u00f3n de otros, m\u00e1s la creaci\u00f3n de una poblaci\u00f3n excedente que no podr\u00e1 nunca aspirar a emplearse)<\/p>\n
– sobre la invisibilidad (opacidad) de las fuentes, que hace intrazable el camino desde las conclusiones a sus presupuestos… \u00a1Pero esa trazabilidad es el principio de toda posibilidad de cr\u00edtica! Y, consiguientemente, la inidentificabilidad de la (posible) manipulaci\u00f3n<\/p>\n
– sobre la convergencia progresiva de los resultados hacia unos puntos de vista uniformes, hacia \u00abversiones recibidas\u00bb que pasar\u00e1n por \u00abla verdad\u00bb, puesto que el sistema ir\u00e1 progresivamente recibiendo como alimento para su aprendizaje sus propios resultados, ya sesgados de principio*) [un ejemplo abajo].<\/p>\n
Y otras.<\/p>\n
Por otra parte, desde un punto de vista filos\u00f3fico son muchas las cuestiones interesantes que suscita la IA. Dejo aparte las \u00e9ticas (todo un mundo ellas solas, sobre el que ya hay mucha gente trabajando en las instituciones [8, 9]), y me centro en las ontol\u00f3gicas y epistemol\u00f3gicas, quiz\u00e1 antropol\u00f3gicas. A otros se les ocurrir\u00e1n otras [10].<\/p>\n
El salto cualitativo de la IA producido en los dos \u00faltimos a\u00f1os es una ilustraci\u00f3n, donde las haya, de lo que Marx (antes que Engels) llam\u00f3 \u00abla ley dial\u00e9ctica\u00bb de la conversi\u00f3n de cambios meramente cuantitativos en diferencias cualitativas (Kapital<\/i> I, MEW 23, pp 326-7). En efecto: la IA existe desde hace m\u00e1s de cuatro d\u00e9cadas, pero su progreso hab\u00eda sido lento e imperceptible. Ha sido, por un lado, el enorme crecimiento de la capacidad de computaci\u00f3n, y, por otro, el de las bases de datos (convenientemente organizadas por matem\u00e1ticos e inform\u00e1ticos para hacerlas ordenadamente accesibles) lo que posibilit\u00f3 cambiar de paradigma rector en la IA (no puedo entrar en ello aqu\u00ed) y, como consecuencia, ha provocado lo que estamos empezando a ver desde hace un par de a\u00f1os (y lo que vendr\u00e1). Si yo fuera \u017di\u017eek<\/span>, recordar\u00eda aqu\u00ed la pel\u00edcula Terminator<\/em>, en la que, si os acord\u00e1is, llegado un momento de acumulaci\u00f3n cuantitativa de la red de ordenadores \u00e9sta \u00abcobra conciencia\u00bb …y ah\u00ed empieza la pel\u00edcula. Lo mismo.<\/p>\n El desarrollo de la IA y las transformaciones sociales que acarrear\u00e1 es tambi\u00e9n, a mi modo de ver, una ilustraci\u00f3n de la potente intuici\u00f3n marxiana resumida en su tan denostado \u00abpr\u00f3logo de 1859\u00bb, resumen de urgencia de su \u00abmaterialismo hist\u00f3rico\u00bb. Mientras el g\u00e9nero humano no regule conscientemente su metabolismo socio-natural, es el desarrollo de las \u2018fuerzas productivas\u2019 (porque convendremos que la IA lo es) el que, de manera \u00abciega\u00bb, \u00abf\u00e9rrea\u00bb (met\u00e1foras recurrentes de Marx), provoca una secuencia de cambios de todo tipo para acomodarse a la nueva realidad de ese metabolismo abierta por las nuevas fuerzas productivas. Y ello es as\u00ed porque las \u00abfuerzas productivas\u00bb son la intercara del humano con el humano y con la naturaleza, y tienen siempre una componente de imprevisibilidad debido a la creatividad humana (ni Boulton & Watt hicieron la m\u00e1quina de vapor para las locomotoras, ni Einstein hizo la Relatividad Especial para la bomba (por lo de E=mc2<\/sup>), ni la IA se hizo para todo lo que dar\u00e1 lugar y a\u00fan no sabemos). La conjunci\u00f3n de esa imprevisibilidad y la falta de coordinaci\u00f3n consciente del comportamiento social hace emerger consecuencias que se nos imponen con la \u00abnecesidad de una ley natural\u00bb (m\u00e1s met\u00e1foras de Marx). En la F\u00edsica sucede algo parecido: John Archibald Wheeler lo llam\u00f3 la \u00abley sin ley\u00bb [11], la emergencia de \u2018leyes\u2019 a nivel colectivo a partir de su \u00abausencia\u00bb (el \u00abcaos\u00bb) a nivel molecular. Para Kant y para Hegel (quienes ya hab\u00edan entrevisto este mecanismo de emergencia) esa caoticidad convierte a los individuos en agentes involuntarios del curso de la historia hacia sus \u00abmetas naturales\u00bb (Kant [12]); es la \u00abastucia de la raz\u00f3n\u00bb (die List der Vernunft<\/i>) mediante la que se abre paso el \u00abesp\u00edritu del mundo\u00bb (el Weltgeist<\/i>) en la historia (Hegel [13]). Para Marx y Engels (pues de \u00e9ste es la idea original, que Marx le reconoce [14]), por contra, no hay tales \u00abmetas naturales\u00bb de la historia ni \u00abesp\u00edritus universales\u00bb sirvi\u00e9ndose del hacer inconsciente del conjunto de \u00e1tomos<\/i>; la acci\u00f3n consciente y coordinada de \u00e9stos puede dirigir el curso de la historia. Es necesario para ello una revoluci\u00f3n social<\/i>.<\/p>\n Y acabo con una especulaci\u00f3n antropol\u00f3gica. Desde Tales de Mileto (por poner un comienzo convenido en alg\u00fan lugar) y la sistematizaci\u00f3n que contin\u00faa con Plat\u00f3n y Arist\u00f3teles y llega hasta Newton, la plasticidad de nuestras conexiones neurales es conformada por una educaci\u00f3n de un cierto tipo, que hace que distingamos \u2018conocimiento\u2019 y \u2018mito\u2019. El primero se fundamenta en explicar los fen\u00f3menos no en base a unos relatos transmitidos, sino en base a \u2018causas\u2019 (o \u2018esencias\u2019, seg\u00fan la tradici\u00f3n plat\u00f3nica) que, una vez encontradas, nos permiten reconstruir los fen\u00f3menos \u00abcomprendi\u00e9ndolos\u00bb, y no s\u00f3lo los primeros (los que sirvieron para encontrar las causas), sino otros muchos distintos de ellos. Este doble movimiento (de los \u2018fen\u00f3menos\u2019 a las \u2018esencias\u2019 y de \u00e9stas a los \u2018fen\u00f3menos\u2019) es lo que Plat\u00f3n llamaba \u2018dial\u00e9ctica\u2019 (Hegel y Marx tambi\u00e9n), pero que simplemente podemos llamar \u2018raz\u00f3n\u2019, o \u2018logos\u2019. Ortega, deslumbrado, dice \u00abEsta plat\u00f3nica fuga para acercarse <\/i>me parece la invenci\u00f3n m\u00e1s genial que en el orden teor\u00e9tico se ha hecho en el planeta, sin que quepa compar\u00e1rsele ninguna otra\u00bb (en La idea de principio en Leibniz<\/i>). Para ver si hemos dado con las \u2018causas\u2019 es esencial que con ellas podamos \u00abreconstruir\u00bb los fen\u00f3menos que sirvieron de problema de partida (por eso Marx no se cansa de insistir en que lo importante en la ciencia es lo que \u00e9l, en 1857, llama el \u00abascenso de lo abstracto a lo concreto\u00bb, es decir, de las \u2018esencias\u2019 a los \u2018fen\u00f3menos\u2019). Pero, ya digo, ni Hegel ni Marx inventaron la cosa, que fue aclar\u00e1ndose desde Arist\u00f3teles hasta el aristotelismo v\u00e9neto del siglo XVI. La potencia de este \u00abm\u00e9todo\u00bb es enorme: ya Eudoxo y Euclides pudieron reemplazar la memorizaci\u00f3n de miles de soluciones de problemas geom\u00e9tricos por la de unos pocos principios, definiciones y reglas de inferencia. Se posibilita as\u00ed la transmisi\u00f3n del conocimiento, y se pasa de su car\u00e1cter \u2018aristocr\u00e1tico\u2019 (que siempre ha de descansar en capacidades innatas como la \u00abintuici\u00f3n\u00bb) a su car\u00e1cter \u2018democr\u00e1tico\u2019 (todo el mundo puede aprender a razonar).<\/p>\n Pues bien. La IA se basa en todo lo contrario. Si nuestra mente procede \u00abde arriba abajo\u00bb y no descansa hasta encontrar \u2018causas\u2019 o \u2018razones\u2019 por las que las cosas son como son, la IA procede al rev\u00e9s: estableciendo correlaciones entre los datos (fen\u00f3menos), sin preguntarse por las causas. Es como si uno quisiera inventar dos m\u00e1quinas que pudieran hablar, basadas en sendos principios diferentes: a una le mete las reglas de la gram\u00e1tica y un diccionario; a la otra le mete todas las conversaciones y libros existentes. La segunda es la triunfante. Ese es el cambio de paradigma que se produjo en la IA. Naturalmente, para que triunfe, el conjunto de \u2018conversaciones\u2019 y \u2018libros\u2019 a introducir no puede ser reducido, ha de ser suficiente para que la mera correlaci\u00f3n sea un proceso autocorrectivo, de \u00abaprendizaje\u00bb (n\u00f3tese que \u00abaprender\u00bb ahora ya no implica conocer la \u2018gram\u00e1tica\u2019). La situaci\u00f3n recuerda en cierto modo a aquel relato de Borges en el que, en un conjunto de monos situados frente a m\u00e1quinas de escribir, alguno de ellos llega a escribir \u00abEl Quijote\u00bb, por tecleo aleatorio. Naturalmente, el conjunto de monos-con-m\u00e1quinas ha de ser infinito.<\/p>\n \u00bfQu\u00e9 consecuencias a la larga tendr\u00e1 sobre las mentes (sobre el cableado neuronal) una mutaci\u00f3n del sistema de aprendizaje basado en la IA?<\/p>\n *) Un ejemplo que escuch\u00e9 en la TV local la semana pasada. Se le pas\u00f3 el examen de selectividad en Historia<\/i> al chatGPT, y el resultado se le pas\u00f3 a uno de los profesores que corrigen. El tema era la guerra civil espa\u00f1ola. Al profesor-corrector no le hab\u00eda gustado que el chatGPT llamase \u00abnacionales\u00bb a los sublevados, y que \u00abequiparase la violencia en ambos bandos\u00bb… Es decir, \u00a1la m\u00e1quina hizo un examen correcto, pero \u2018ideol\u00f3gico\u2019! Esto sucede ahora. Imaginemos qu\u00e9 pasar\u00e1 cuando este examen y otros como \u00e9l, y en multitud de temas, se hayan convertido en nuevos inputs<\/em> para el algoritmo…<\/p>\n Referencias<\/strong><\/p>\n [1] Klemmensen et al<\/i>, \u00abUsing deep learning to predict ideology from facial photographs: expressions, beauty, and extra\u2011<\/span>facial information\u00bb. Scientific Reports<\/i> 13 (2023) 5257<\/p>\n [2] S Halpern, \u00abWhat we still don\u2019t know about how A.I. is trained\u00bb. The New Yorker. <\/i>https:\/\/www.newyorker.com\/news\/daily-comment\/what-we-still-dont-know-about-how-ai-is-trained<\/a><\/p>\n [3] Silfat, \u00abChatGPT and the future of health policy analysis: potential and pitfalls of using ChatGPT in policymaking\u00bb. Annals of Biomedical Engineering<\/i> 51 (2023) 1357\u20131359<\/p>\n [4] Cheng et al<\/i>, \u00abPotential use of Artificial Intelligence in infectious disease\u00bb. Annals of Biomedical Engineering<\/i> 51 (2023) 1130\u20131135<\/p>\n [5] Burnell et al<\/i>, \u00abRethink reporting of evaluation results in AI\u00bb. Science<\/i> 380, 14 april 2023, issue 6641<\/p>\n [6] Statement on AI Risk<\/i>. https:\/\/www.safe.ai\/statement-on-ai-risk#signatories<\/a><\/p>\n