Proyecto para una inteligencia. Conversaciones desde el Panóptico

“El avance de la Inteligencia Artificial en nuestra vida ha dado una relevancia a la Filosofía inédita hasta el momento. No cabe duda que los últimos desarrollos tecnológicos vinculados con la IA han generado una preocupación sobre cuál debe ser su encaje en nuestras vidas”. Una de las ventajas de aplicar determinados algoritmos de inteligencia artificial para la generación de conceptos es que el sistema tiende a detectar patrones y luego aplicarlos sobre un mar de datos, con el objetivo de predecir y conseguir nuevos contenidos. Detectar patrones es un aspecto clave de este proceso de IA. Hay que entrenar a la máquina para que vaya aprendiendo, primero en una fase supervisada por humanos y, posteriormente, con un modelo de aprendizaje autosupervisado, dada la ingente cantidad de información a digerir. A partir de aquí, este sistema de inteligencia artificial tendría que ser capaz de generar abundantes propuestas de conceptos. Un ejemplo, el programa Lavender se utiliza para identificar a terroristas, pero no sabemos lo que entiende por terrorista. En el caso del ataque al convoy del chef José Andrés, han declarado que fue un error de identificación. El peligro no es la IA sino la inteligencia humana que es la que en este caso ha utilizado el programa Lavender. En 2018 el Parlamento Europeo promulgó un reglamento sobre la IA que se ha denominado “derecho a la explicación”. El derecho a la explicación se refiere al derecho del usuario a conocer cómo funciona un sistema de IA y cómo llega a sus conclusiones. Este derecho implica que las decisiones tomadas por sistemas automatizados deben ser transparentes y comprensibles para los usuarios​. O sea, hay que introducir en la IA un nivel autocrítico. Conclusión: La única forma de aliviar nuestra vulnerabilidad es desarrollando nuestro pensamiento crítico.

“Los humanos no somos libres: estamos movidos por deseos y emociones que no controlamos, pero podemos aprender a ser libres desarrollando las funciones ejecutivas del cerebro” Aprendemos con facilidad, y podemos anticipar situaciones y premios, y hacer proyectos. Pero no somos libres. Estamos, en efecto, movidos por deseos, motivaciones, emociones que no controlamos. Ocurre, sin embargo, que hemos concebido el “proyecto de ser libres”, de liberarnos. Es un proyecto que enlaza con motivaciones muy profundas –el deseo de autonomía lo siente ya el niño cuando quiere soltarse de la mano– que prestan la energía suficiente para irlo poco a poco realizándolo. Hay, pues, que aprender a ser libres. Y unas personas lo hacen con mayor eficacia que otras. Tienen que aprender a liberarse de la ignorancia, del miedo, de la pulsión pasional, de las respuestas automáticas. Todo eso lo conseguimos gracias al desarrollo de las funciones jecutivas, que se encarga de las funciones que se atribuían a lo que tradicionalmente la llamábamos “voluntad”. Ahora prefiero llamarla “inteligencia ejecutiva”.  Y a toda la gigantesca maquinaria no consciente, la denomino “inteligencia generadora”. Son dos términos correlativos que deberían utilizar todos los estudiosos de la inteligencia. Inteligencia generadora, no consciente, e inteligencia ejecutiva.

Muchos avances que se producen en tecnología resultan útiles y atractivos, pero también producen cierta desconfianza. Un ejemplo es la inteligencia artificial (IA) generativa, que puede almacenar y combinar grandes cantidades de información, y razonar con ellas o sobre ellas, destacando el éxito de la aplicación ChatGPT, que lo hace extraordinariamente bien. Llama la atención que una máquina sea capaz de expresarse de forma tan natural y espontánea, como lo haría una persona, aunque en ocasiones falle en su contestación. El avance en la Inteligencia Artificial nos obliga a distinguir dos tipos de comprensión: una consciente y otra no consciente. “Dentro de cinco años nos veremos invadidos por sistemas de inteligencia artificial muy baratos y potentes, y debemos saber qué hacer con ellos” Su impacto se desconoce y sus riesgos también. Algunos ya proponen pausar o regular esta tecnología hasta que se aclaren algunos aspectos esenciales de su diseño y operativa, con tal de poder ofrecer una respuesta ajustada y apropiada.

“Pensar es el proceso de enlazar coherentemente información para conseguir un fin. Nuestra conciencia es una corriente continua de información, pero conviene reservar la palabra “pensar” para ese proceso activo de alcanzar una meta”.   ¡Qué ustedes lo piensen bien!

Hemos conversado de cómo cada persona va creando su mundo personal. Cómo va la inteligencia humana creando una imagen de la realidad, una especie de mapa multidimensional, con recuerdos, emociones, percepciones, palabras, a partir de la cual organiza su conducta. Pero lo más importante es resolver cómo deberíamos ayudar al niño a construir su propio mundo. Debemos organizarle el mundo para que se limite a adaptarse a él? ¿Debemos, al contrario, cuidar el desarrollo de su inteligencia para que sepa tomar decisiones libres, aunque eso signifique cambiar el mundo recibido? ¿Podemos saber cómo debería ser el mundo ideal que el niño debería ir construyendo? Hay algunas cosas que podemos decir con seguridad. Es preferible que viva en un mundo rico en posibilidades y en valores, que le anime a hacer proyectos, a tener una vida activa y resuelta. Estos son temas de gran importancia vital, que exigen para resolverlos una ciencia que sobrevuele las demás ciencias. A eso se dedica la Filosofía.

El tema se puede resumir en una frase: TODOS VIVIMOS EN LA MISMA REALIDAD, PERO EN DISTINTOS MUNDOS. Lo importante es que cada sistema perceptivo, cada cerebro, genera una manera especial de ver el mundo. La experiencia propia, el temperamento, los intereses han ido produciendo en cada una de las personas un modo de contemplar la realidad. Nos estamos moviendo en un simulacro de verdad o en “verdades privadas”, que solo tienen valor dentro de ese mundo. Y que debemos dar más valor a las “verdades universales”, es decir, que deben valer para todos los mundos. Y esta idea de “verdades universales” está siendo atacada desde todos los flancos.

Los problemas de la convivencia humana son universales, pero han dado lugar a soluciones culturales diversas, lo que llamamos “morales”. Shweder ha organizado esta diversidad en tres grupos, elaborados alrededor de tres grandes conceptos: autonomía, comunidad, divinidad. “Hay un juego de querer imponer mis deseos y de protestar contra el dolor o la incomodidad. La experiencia de la injusticia suele ser anterior a la experiencia de la justicia. La gente que se siente maltratada, ofendida, discriminada, protesta. Es esa búsqueda de la justicia la que he contado en varios de mis libros. Me parece la gran historia de la humanidad. Y creo que se rige por la Ley del progreso ético de la Humanidad que dice así: La inteligencia social, cuando se libera de cinco obstáculos- la pobreza extrema, la ignorancia, el fanatismo, el miedo al poder y la insensibilidad hacia los otros- evoluciona convergentemente hacia un modelo ético que reconoce los derechos individuales, la resolución racional de los enfrentamientos, la no discriminación, la participación en el poder, las garantías procesales y las políticas de ayuda. Todas las morales se ven aquejadas de alguna limitación, por lo que se plantea la necesidad de una moral transcultural, capaz de seleccionar en cada caso las mejores soluciones, y a la que me gusta llamar ética”.

Encontrar soluciones es una necesidad de todos los seres vivos. ¿Cómo se puede distinguir cuál es la mejor solución en cada caso? Volvemos a la misma cuestión desde el comienzo de estos Microargumentos: ¿Cómo sé lo que es verdad? ¿Cómo sé lo que es bueno? ¿Cómo sé lo que es una buena solución? “Creo que la función principal de la inteligencia es resolver problemas, aunque con demasiada frecuencia lo que hace es crearlos”. Para ello debemos fortalecer sus herramientas. De eso se encargará la VACUNA CONTRA LA ESTUPIDEZ”. Los seres humanos somos conflictivos, por lo que siempre van a aparecer enfrentamientos, choques de deseos o de intereses. Pues bien, vamos a llamar “justicia” a la mejor solución de esos problemas. Poco a poco, a partir de la experiencia iremos comprobando cuales son las mejores soluciones. Se trata de un proceso de “justificación”.

Talento es la capacidad de seleccionar bien los problemas y movilizar la información, gestionar las emociones, y activar las funciones ejecutivas necesarias para resolverlos. El talento político es el que se dedica a los problemas que resultan del hecho de vivir en la polis, en la ciudad.   La competencia política más importante en una democracia, el talento político originario, es la capacidad del votante para resistir las trampas de la propaganda, de la excitación emocional, de la manipulación de las creencias. Permitiría que los políticos no tuvieran que apelar a técnicas de persuasión y de propaganda poco recomendables, como estamos viendo en la actualidad. El primer obstáculo para describir el ‘talento político’ es que se ha escindido en dos actividades distintas: conseguir el poder y gobernar.  “Hay una “sociedad gobernante” y una “sociedad gobernada”. Y ambas tienen poder político”. “En mi próximo libro, que se va a titular “Historia universal de las soluciones”, voy a proponer la creación de un ACADEMIA DEL TALENTO POLÍTICO.  Tendría dos escuelas separadas, aunque con algunas asignaturas comunes. La Escuela de gobernantes y la Escuela de gobernados”.

"Estos MICROARGUMENTOS comenzaron tratando el tema de la posibilidad de verdad, y llegamos a la conclusión de que la VERDAD era el final nunca alcanzado del todo de un proceso de VERIFICACIÓN. Vamos tanteando la fuerza de nuestras evidencias para hacerlas más y más verdaderas. Pues creo que deberíamos emprender un proceso paralelo respecto de lo JUSTO. Lo justo es lo que va apareciendo en un proceso de JUSTIFICACIÓN".  JUSTIFICAR  es mostrar que la solución dada a un problema, en especial a un problema práctico, es la mejor entre las posibles.  En estos momentos estamos presenciando imágenes aterradoras de la guerra entre Hamas e Israel. ¿En qué consiste la objetividad?¿En mostrar los hechos externos o en mostrar que ese paisaje de destrucción tiene un componente moral muy fuerte, que es también objetivo?

En el podcast anterior dejamos planteado el tema de si el periodismo puede ser objetivo. Sobre todo, en Estados Unidos se ha levantado una polémica sobre este asunto, negando valor a algo que para todos los estudiantes de periodismo parecía irrenunciable: la objetividad.  Suele decirse que la nota definitoria del periodismo es la búsqueda de la «objetividad», de la «verdad» sobre todas las cosas. La objetividad como la verdad son procesos continuamente perfectibles. La verificación, la transparencia, la posibilidad de ir hacia evidencias compartidas, intersubjetivas, van fortaleciendo a ambas: a la objetividad y a la verdad.  ¿Podemos ser objetivos? ¿Conviene que lo seamos?  En este podcast vamos a precisar lo que significa la palabra OBJETIVIDAD, que se solapa con otras: VERDAD, IMPARCIALIDAD, NEUTRALIDAD, TRANSPARENCIA. Muchas de las discusiones se deben a que se utilizan palabras imprecisas.

¿Podemos conocer la verdad o cada uno de nosotros está encerrado irremediablemente en su modo de ver las cosas? Se habla de que vivimos en la era de la “postverdad”. No es la era de las fake news. Los engaños han existido siempre. Es la era en que la posibilidad de llegar a la realidad se ha desvanecido. ¿Qué significa vivir en un mundo que ha dejado atrás la verdad, en el que la verdad puede resultar un anacronismo? Algunas ideas están ejerciendo un influjo importante en nuestra cultura actual, en el modo de interpretar la educación, la acción social, la sexualidad. Parece un mal influjo porque es una mala filosofía, exagerada y fragmentaria. Sigue sorprendiendo que movimientos reivindicativos se apoyen en una ideología relativista, que relativiza también sus propias reivindicaciones. Si no hay ninguna apelación posible a la verdad, no pueden unas reivindicaciones ser más verdaderas que las contrarias. Su única justificación es que se impongan por la fuerza.

Bienvenidos al estreno de la segunda temporada de Proyecto para una inteligencia. Conversaciones desde El Panóptico. Cada vez más personas están dejando de leer, no porque les disguste, sino porque no pueden concentrarse, o más bien porque estamos perdiendo la capacidad de comprender textos medianamente largos. Por eso es por lo que voy a comenzar esta serie de MICROARGUMENTOS. Una de las razones es que las nuevas tecnologías están colaborando al descrédito del argumento de otra manera. Fomentan los mensajes cortos, la respuesta inmediata, una especie de hiperactividad digital. Nos da pereza argumentar. Pero debemos estar atentos a que el argumento es nuestra primera línea de defensa. Es uno de los componentes básicos de la “vacuna contra la estupidez” en la que trabajo. Así mismo, vivimos en la época de la postverdad, de la realidad alternativa, dentro de poco de la realidad virtual. Lo que llamamos “verdad” es el resultado de un proceso de verificación. Una afirmación se hace verdadera cuando se verifica, cuando se comprueba su fortaleza. Lo analizaremos en el siguiente episodio.

Quiero presentarles una nueva ciencia: la inmunología cultural. Puesto que existe una teoría científica de la inteligencia, debería haber otra igualmente científica de la estupidez. El primero de ellos vacunarnos contra la tontería, profilaxis de urgente necesidad, pues es un morbo del que todos podemos contagiarnos. Lo que en términos coloquiales llamamos estupidez es en realidad una serie de fracasos de la inteligencia. La inteligencia fracasa cuando es incapaz de ajustarse a la realidad, de comprender lo que pasa o lo que nos pasa, de solucionar los problemas afectivos o sociales o políticos; cuando se equivoca sistemáticamente, emprende metas disparatadas, o se empeña en usar medios ineficaces; cuando desaprovecha las ocasiones; cuando decide amargarse la vida; cuando se despeña por la crueldad o la violencia; cuando se niega a aceptar la evidencia. Hace unos diez años describí una patología comunitaria que denominé “síndrome de inmunodeficiencia social”. Las sociedades, igual que los individuos, tienen un sistema inmunitario que las defiende del ataque de elementos patógenos, por ejemplo, del fanatismo, de la corrupción, del odio. Pero en ocasiones, ese sistema no funciona bien. No reconoce los antígenos y no produce los anticuerpos necesarios. Esa era la enfermedad que detectaba en España. De nuevo soñaba con una vacuna que nos protegiera de ella. ¿Es posible encontrar la vacuna contra la estupidez?

Un ejemplo de los graves problemas de nuestra política, es decir de los políticos españoles, es que están pensando en el conflicto cuando tenían que centrarse en los problemas, que son los que pueden ser resueltos. Los conflictos se pueden aplacar, lo que se resuelve son los problemas. Investigar como solucionamos los problemas posiblemente nos enseñe algo sobre como deberíamos formar la inteligencia para seguir haciéndolo. La inteligencia resuelta” emerge, así como un salvavidas y también como un proyecto educativo.

El mundo se hace cada vez más complejo e incierto y es en la actualidad, dada la velocidad de propagación de las campañas debido a los medios digitales, cuando más acuciante resulta. En los últimos años se ha acelerado tanto el flujo de información como el de desinformación. Estamos muy preocupados, y con razón, por la facilidad de difundir bulos, fake news, Deep fake news que no podemos distinguir de las verdaderas., Pero el problema más agobiante es que incluso las informaciones verdaderas son tan numerosas que no sabemos qué hacer con ellas. Es decir, no sabemos dónde mirar. Marina nos habla de un método que tiene dos partes. Una, interpretar bien la situación, identificar las fuerzas y debilidades, tener el sentimiento de peligro. Pero la segunda es la percepción de las oportunidades. De esta manera el gran político, que ya ha detectado los problemas, tiene que saber encontrar las oportunidades, las soluciones. Y encontrarlas en el momento oportuno. Aprovechar la “ocasión”. Kissinger decía algo parecido: “El gran estadista es el que ante una situación difícil encuentra oportunidades, salidas, soluciones”. Vamos a descubrirlas.

Nadie influye más en la sociedad que los gobernantes y, sin embargo, es un oficio que carece de un modo claro de formación.  Una de las críticas que se hace al gobernante es que toma medidas políticas pensando solo en perpetuarse en el poder. El poder produce un cambio de mentalidad. El respetuoso Kant ya lo advirtió: “No hay que esperar que los reyes filosofen ni que los filósofos sean reyes, como tampoco hay que desearlo, porque la posesión del poder daña inevitablemente el libre juicio de la razón” . Numerosas investigaciones han constatado una especial “insensibilidad del poder”.  Se trata de un automatismo que funciona invariablemente, cómo funcionan los sesgos afectivos o las ilusiones visuales, y que solo se pueden controlar con un esfuerzo crítico y reflexivo. Tanto los gobernantes -para evitarlos- como los gobernados -para impedirlos- deberían conocer muy bien estos mecanismos perturbadores. Por ello, José A. Marina habla en este episodio de una “escuela de gobernantes”. No se trata de conocer su relación con los conocimientos sino con el poder. Necesitamos pensar qué tipo de conocimientos y de virtudes debería tener un político para que confiásemos en él. Vamos a escuchar a Marina… Más información en www.joseantomniomarina.net

Las nuevas tecnologías -por ejemplo, el Metaverso- nos dan acceso a una “realidad expandida”. Para poder hacerse cargo de esa posibilidad necesitamos desarrollar una "inteligencia expandida”. La inteligencia artificial puede encargarse de ampliar la inteligencia humana lo que supondría una gran ventaja. Pero parece que no es eso lo que pensamos. La historia demuestra que desconfiamos de la tecnología. “Vivimos en una época en la que la aplicación del principio de precaución está causando graves problemas en el mundo, dice un experto. Lo que da realmente miedo es que suplante a la inteligencia humana. «El miedo a la novedad se une al miedo al cambio», dice José Antonio Marina, para quien las novedades técnicas provocan en el ser humano una doble ansiedad: «Primero porque no se conocen bien los efectos que van a producir y, segundo, porque quienes no saben manejarlas también temen no ser capaces de aprender a hacerlo o ser desplazados por nuevas generaciones que sí están adiestradas». Por ello, continua Marina, tenemos que educar a la Generación Centauro, que ya ha nacido. A la que va a tener que aprender a prolongar las capacidades de la inteligencia natural con la inteligencia artificial. Debemos trabajar sobre el modelo de inteligencia humana más potente que tenemos: la teoría de la inteligencia dual. La solución para la Generación Centauro es que aprendan a manejar la inteligencia artificial como si fuera una ampliación de su Inteligencia Generadora.

La guerra se ha considerado una de las grandes desdichas de la humanidad. ¿Por qué no hemos sido capaces de acabar con ellas? ¿Por qué en vez de considerarla irracional y repulsiva, hemos tendido a glorificarla, ensalzarla, mitificarla, incluso a hablar de “guerras santas”? ¿Por qué los gobernantes pueden querer la guerra? Barbara Tuchman, una brillante historiadora, ha identificado cuatro razones de la “demencia política”: la tiranía, la ambición excesiva, la incompetencia y la insensatez. En Biografía de la Inhumanidad Marina describe la “ebriedad de la misión”. La historia de la atrocidad está llena de personas que se creyeron investidas de una misión, por la que fueron capaces de sacrificarlo todo y de sacrificar a todos. La insensibilidad provocada por esas “guerras iluminadas”, las que se hacen en nombre de valores considerados superiores, como la gloria de la nación, o la implantación de una religión, es bien conocida. La voluntad de poder -al igual que la ambición o la codicia- no tienen sistemas de frenado. Llegan hasta donde pueden. Putin también. Respecto a la incompetencia o insensatez, en el caso de la guerra de Ucrania se ha manifestado en la torpeza de los cálculos de Putin. Pensó en una guerra rápida, sin gran desgaste, que humillara a Occidente. Tal como suceden las cosas, parece que todo depende de la decisión que tome Xi Jinping. Puede optar por atraer a Rusia a su órbita, prestándole la financiación que el resto del mundo le niega, dejándole que se debilite con la guerra y mostrando que Rusia no es una potencia global, o puede expandir su ideología política convirtiéndose en el mediador de la paz, frenando a Putin y poniendo en práctica la tianxia.

En tiempos de incertidumbre y ante el auge de la desinformación a través de las redes sociales, entre otros, José Antonio Marina invita a fomentar el pensamiento crítico. En este episodio asegura que los cambios que están sucediendo plantean unas posibilidades y también unos problemas que no estamos seguros que la tradicional inteligencia sea capaz de resolverlos. Es por lo que ante una realidad expandida necesitamos una inteligencia expandida. Es el nuevo modo de inteligencia, que va más allá de la digitalización. Nuestra inteligencia avanza comparando. De ahí su insistencia en la necesidad de que la Ciencia de la evolución de las culturas se imparta en todos los niveles educativos porque nos permitiría comprendernos como individuos y comprender también los problemas, las expectativas, los proyectos que nos han movido a lo largo de la historia. En el caso concreto que comenta del libro de Henrich, se han encendido muchos centros de información: lo que pretende el autor es lo mismo que Marina pretende en la Ciencia de la evolución de las culturas; la explicación que da de los cambios que se producen en el cerebro al aprender a leer y a escribir, la expansión que tuvo ese aprendizaje en los países protestantes, y el modo como cambia la psicología individual es un ejemplo de la influencia biológica que tienen los aprendizajes culturales.