Este podcast fue realizado íntegramente Inteligencia Artificial recorriendo documentación de UNESCO y navegando las profundas implicaciones de la inteligencia artificial (IA) en las sociedades humanas, la economía, el mercado laboral y, especialmente, en la educación y el aprendizaje a lo largo de la vida. Se reconoce la complejidad, el rápido desarrollo, las múltiples interpretaciones y los desafíos éticos que plantea la IA.
La UNESCO ha asumido un papel de liderazgo en la orientación ética de la IA en todos los sectores:
• Consenso de Beijing (2019): Es un documento clave que revisa las tendencias de la IA y su impacto en los sistemas educativos. Subraya la necesidad de promover políticas adecuadas para integrar la IA en la educación, con el fin de innovar la enseñanza y el aprendizaje, y acelerar la consecución del Objetivo de Desarrollo Sostenible (ODS), que busca una educación inclusiva, equitativa y de calidad, así como oportunidades de aprendizaje permanente para todos. Se propone el establecimiento de una plataforma sobre "IA para la educación" y el desarrollo de directrices y recursos para su uso eficaz y equitativo.
• Recomendación de la UNESCO sobre la Ética de la IA (2021): Es el primer instrumento normativo global sobre la ética de la IA. Se centra en la dignidad humana y los derechos humanos, la igualdad de género, la justicia social y económica, el bienestar y la protección del medio ambiente. Promueve valores y principios éticos como la transparencia y la explicabilidad de los sistemas de IA, que son fundamentales para garantizar los derechos humanos y la posibilidad de impugnar decisiones algorítmicas.
También enfatiza la responsabilidad y rendición de cuentas de los actores de la IA, con mecanismos de supervisión y auditoría. En cuanto a la educación, propone la sensibilización y formación pública en ética de la IA, alfabetización mediática e informacional para comprender y mitigar riesgos como la desinformación y el discurso de odio.
• Marco de Universalidad de Internet (principios DAAM): La UNESCO evalúa el desarrollo de la IA a través de estos cuatro principios: Derechos humanos (libertad de expresión, privacidad, no discriminación), Apertura (conocimiento, datos, mercados), Acceso para todos (investigación, recursos humanos, datos, hardware) y Participación de Múltiples Actores en la gobernanza.
Los documentos también abordan desafíos específicos y la necesidad de una "nueva educación" ante la IA:
• Uso de ChatGPT en educación superior: Se reconoce su potencial para mejorar la enseñanza, el aprendizaje, la investigación y la administración. Sin embargo, plantea retos como la integridad académica, la falta de regulación, la protección de datos, el sesgo cognitivo, las brechas de género y diversidad, y la accesibilidad.
• Redefinición de la educación: Ante la capacidad de la IA para realizar tareas de resumen y redacción, la educación debe fomentar el pensamiento crítico, la imaginación, la curiosidad y la creatividad, que son cualidades inherentemente humanas. Esto implica repensar las evaluaciones para que los estudiantes analicen y evalúen la IA, en lugar de solo usarla.
• Impacto en la democracia: La IA, especialmente la generativa, plantea preocupaciones sobre la desinformación y la manipulación, lo que requiere una gobernanza democrática y transparencia de los algoritmos que influyen en la conversación pública y las decisiones.
En resumen, la UNESCO promueve un desarrollo y uso de la IA que sea ético, centrado en el ser humano y alineado con los derechos humanos y el desarrollo sostenible, enfatizando la transparencia, la responsabilidad, la participación de múltiples actores y la adaptación de los sistemas educativos para preparar a los ciudadanos para la era digital.
Fuente: https://www.unesco.org/es/artificial-intelligence