Filosofía Iluminante

En este episodio profundizamos en uno de los mayores desafíos de la inteligencia artificial: el problema del ajuste, es decir, cómo conseguir que los objetivos de las máquinas estén verdaderamente alineados con nuestros valores humanos. A través de ejemplos que nos hacen reflexionar, exploramos cómo una IA podría cumplir perfectamente nuestras instrucciones y, aun así, producir consecuencias catastróficas para la libertad, la felicidad y la supervivencia humana.

También examinamos una dificultad fundamental: los seres humanos no siempre sabemos con claridad qué queremos ni cómo conciliar valores que entran en conflicto, como la seguridad, la libertad y la igualdad. Finalmente, abordamos una distinción esencial, inspirada en las ideas de Yuval Noah Harari: la inteligencia no es lo mismo que la sabiduría. Una máquina puede ser extraordinariamente inteligente y resolver problemas complejos, pero eso no significa que pueda determinar qué objetivos merecen ser perseguidos.

La conclusión es que el problema del ajuste no puede resolverse únicamente mediante algoritmos o reglas éticas. La ingeniería es indispensable, pero la responsabilidad de decidir qué sociedad queremos construir sigue siendo nuestra. La solución al desafío de la inteligencia artificial depende, en buena medida, de que los seres humanos comprendamos mejor nuestros propios valores y aprendamos a conciliarlos.

¿Estamos perdiendo el control de nuestra propia manera de pensar? En este episodio yo exploro cómo la inteligencia artificial y los algoritmos pueden reforzar nuestros prejuicios, distorsionar nuestra percepción de la verdad y debilitar la democracia. ¿Cómo podemos alinear la IA con los valores humanos de la verdad y la justicia si nosotros mismos estamos perdiendo el pensamiento crítico y la capacidad de cuestionar nuestras propias creencias? Aquí reside el verdadero problema.

En este episodio, exploramos si el utilitarismo —la teoría ética que busca maximizar la felicidad y minimizar el sufrimiento— podría ofrecer una brújula moral para la inteligencia artificial. Tras analizar las limitaciones de la deontología kantiana tratadas en el episodio anterior, nos centramos en Jeremy Bentham y John Stuart Mill, y nos planteamos si un sistema de IA podría calcular de manera realista la felicidad y el sufrimiento derivados de sus acciones.

A través de ejemplos que abarcan desde el genocidio y la discriminación hasta la criminalización de la homosexualidad, el matrimonio interracial, la guerra y el sufrimiento provocado por la pandemia, descubrimos la dificultad de cuantificar el bienestar humano. También examinamos el peligro de justificar un sufrimiento atroz en el presente en nombre de una utopía futura imaginaria.

El episodio concluye que ni las normas morales absolutas ni los cálculos matemáticos de felicidad y sufrimiento parecen suficientes para alinear la IA con los valores humanos. Quizás, como exploraremos en futuros episodios, hayamos estado buscando la solución en el lugar equivocado.

Usa tu poder y paciencia mental para escuchar este episodio. En este episodio abordo uno de los problemas fundamentales del futuro de la inteligencia artificial: ¿cómo podemos ajustar una inteligencia inorgánica a los valores humanos? Parto de los riesgos de una IA cada vez más autónoma y de cómo ya está transformando nuestra manera de escribir, estudiar, trabajar y tomar decisiones. Luego entro en el terreno de la filosofía para explorar el problema del alineamiento, la Regla de Oro, la deontología de Kant y el utilitarismo. La pregunta central es inquietante: si los propios seres humanos nunca hemos logrado ponernos de acuerdo sobre cuáles son nuestros valores universales, ¿cómo podemos enseñárselos a una inteligencia que no comparte nuestra naturaleza, nuestras emociones ni nuestra capacidad de sufrir?

Millones de programas, de agentes, de Inteligencia Artificial que pueden escribir poemas de amor mejor que nosotros, que pueden mentir mejor que nosotros, y que pueden viajar a la velocidad de la luz sin ninguna necesidad de adquirir visas de entrada constituyen los nuevos inmigrantes indocumentados en el mundo. Los que están en contra de los inmigrantes básicamente dicen que los inmigrantes aquí en USA y en Europa vienen a quitarles trabajos a los nativos, que vienen a cambiar la cultura de los nativos del país, y que uno nunca sabe donde yacen sus alianzas políticas. Por supuesto que esto no es cierto acerca de todos los inmigrantes, pero por seguro que sí va a ser cierto con los inmigrantes no humanos, esos programas hechos de IA. La IA sí le va a quitar trabajos a la gente, sí va a cambiar la cultura de cada país, sí va a cambiar la religión, y el romance de amor. Esta es la nueva crisis social.

No hay ninguna duda que estamos en medio del surgimiento de un tipo completamente nuevo de red de información, controlado por las decisiones y los objetivos de una inteligencia desconocida, no humana. Pero, en la actualidad, en estos momentos precisos, aún nosotros los seres humanos desempeñamos un papel central en esta red. Pero puede que poco a poco nos veamos desplazados a los márgenes y, en último término, incluso puede que la red llegue a operar sin nosotros. Pero tenemos que definir la que es inteligencia y lo que es conciencia. Aunque no sientan dolor, amor o miedo, las computadoras con inteligencia artificial  pero sin conciencia son capaces de tomar decisiones que consiguen mantener la atención y el involucramiento del usuario 

En este episodio ya comenzamos a entrar de lleno al campo de la inteligencia artificial per se, propiamente dicha, y su impacto en nuestras vidas. Defino lo que es la Inteligencia Artificial más específicamente. Fundamentalmente podemos enumerar algunas características que le pertenecen solamente a la inteligencia artificial. La IA es un agente, ¿qué quiere decir esto de agente? Ser un agente, es poder cambiar y aprender por sí sola y tomar decisiones por ella misma. Otra característica de la IA es que puede ser muy creativa. Una tercera característica de la IA, sorprende, pero es cierto, puede mentir y manipular. Esto suscita otra gran pregunta ¿La AI de verdad puede pensar como nosotros? Bueno todo depende como definimos la capacidad de pensar. En cuanto poner palabras en orden lógico, en ese sentido de pensar, podemos argumentar que la IA ya piensa mejor que nosotros. ¿tendrán los seres humanos un lugar en este nuevo mundo?

La democracia y la dictadura no se diferencian solamente por la manera en que eligen a sus gobernantes, sino por la forma en que organizan el flujo de información y corrigen sus errores. Las democracias sobreviven mientras exista una conversación libre entre ciudadanos capaces de cuestionar al poder, acceder a información confiable y defender instituciones independientes; las dictaduras, en cambio, prosperan cuando el miedo, la propaganda y la centralización silencian esa conversación. En la era de la Inteligencia Artificial, esta diferencia será aún más decisiva, porque las nuevas tecnologías podrán fortalecer tanto la libertad como el control absoluto. Por eso, el verdadero desafío del futuro no será únicamente tecnológico, sino profundamente humano: preservar la capacidad de pensar críticamente, escuchar al otro y proteger los mecanismos de autocorrección que hacen posible la búsqueda colectiva de la verdad.

Este episodio argumenta que la auto-corrección estructural de las instituciones científicas ha hecho que éstas perduren y mantengan una influencia mundial desde su surgimiento durante la revolución científica de los siglos XVI y XVII. Se contrasta esta postura científica con las abrigadas por otras instituciones como es la Iglesia católica y agencias e institutos que han pasado a ser víctimas de la influencia política y pierden sus mecanismos de autocorrección para llegar a ser una legitimación del poder autocrático de sus gobiernos políticos.   Las instituciones que perduran a través del tiempo son esas que mantienen su independencia política y buscan un camino hacia la verdad aunque esta perturbe a veces el control social, aunque algunas veces es necesario el control social a expensas de la verdad. 

Continuamos nuestra discusión sobre el libro Nexus, de Yuval Noah Harari. En este episodio continuamos con el tema de la imposibilidad de alcanzar la infalibilidad de la información tomando como ejemplo al Nuevo Testamento de la Biblia. El surgimiento del Nuevo Testamento dio forma a una nueva institución encargada de preservar y regular su interpretación, en continuidad con lo que ya había ocurrido con el afán que los judíos tenían en preservar la legitimidad de sus interpretaciones a través de los rabinos, fortaleciendo la institución rabínica.
En el caso del Nuevo Testamento, sin embargo, su nueva institución alcanzó un grado de poder mucho mayor: no solo controlaba la publicación de los textos sagrados y su interpretación sino también el ambiente político. Desde esa posición, deslegitimó como heréticas las interpretaciones disidentes provenientes de librepensadores, y recurrió en ocasiones a la violencia —presentada bajo el ropaje de la virtud y el propósito de querer salvar almas del infierno— como medio para consolidar su autoridad y preservar sus intereses materiales.