Altruismo Eficaz

Con motivo de su cuadragésimo cumpleaños, Lewis Bollard ofrece cuarenta opiniones breves sobre la cría intensiva de animales y el movimiento que trabaja para ponerle fin. Sostiene que los principales obstáculos son la escasa visibilidad pública del problema y la inercia, más que una industria cárnica todopoderosa, y que un futuro sin cría intensiva de animales probablemente combinará las proteínas alternativas con la ganadería de pastoreo. Defiende las reformas de bienestar animal frente a las críticas tanto de los activistas abolicionistas como de los grupos de presión de la industria, y advierte que los argumentos de salud y clima contra la carne roja pueden aumentar el sufrimiento animal al desplazar el consumo hacia el pollo. También aborda la promoción del veganismo, el bienestar de los animales salvajes, las virtudes y los defectos del altruismo eficaz y la gestión interna del movimiento de defensa de los animales. Concluye con motivos para el optimismo: el peso económico de la ganadería se está reduciendo, el financiamiento para la defensa de los animales de granja está creciendo y casi nadie sin intereses económicos en juego defiende el trato que la cría intensiva da a los animales.

La disposición del altruismo eficaz a tomarse en serio ideas aparentemente extrañas, cuando está moderada por el sentido común, constituye una parte importante del valor que el movimiento puede ofrecer. La mayor parte de lo que hace el movimiento no suscita controversia, como destinar cientos de millones de dólares a programas de salud global y conseguir compromisos empresariales que han librado a unos 100 millones de gallinas de las peores formas de confinamiento en jaulas. Varias ideas que en su momento parecían descabelladas, como la preocupación por las pandemias y por los peligros de la inteligencia artificial, resultan hoy clarividentes y son compartidas por muchos de los principales expertos. La historia del progreso moral muestra que ideales que hoy valoramos, como la abolición de la esclavitud y la igualdad de derechos, fueron considerados en otro tiempo extravagantes o peligrosos, por lo que las ideas deben examinarse por sus méritos en lugar de descartarse porque suenen absurdas. Los teoremas de imposibilidad de la ética de la población muestran que toda posición ética tiene alguna implicación aparentemente repugnante, lo que exige reflexionar sobre tales implicaciones sin actuar conforme a ellas de maneras que la mayoría de las concepciones morales condenarían. En condiciones de incertidumbre moral, conviene dar peso a muchas concepciones morales, respetar las prohibiciones del sentido común y evitar la búsqueda obstinada de un único objetivo; el movimiento se fortaleció precisamente porque estuvo dispuesto a ser extraño. – Resumen generado por IA.

¿Qué gravedad podría alcanzar la desalineación de la IA? Prácticamente la máxima posible.

El altruismo eficaz ha acabado tratando las campañas de bienestar de los animales de granja como la opción estratégicamente seria y ha dejado de lado la liberación animal y la promoción del cambio de dieta por considerarlas enfoques que ya se intentaron y fracasaron. Friedrich sostiene que esa lectura es precipitada: lo que fracasó fueron versiones concretas de esas estrategias en unas condiciones que ya no se dan. Ofrece cinco razones para financiar el trabajo de liberación y de cambio de dieta junto con el de bienestar. Primera: la afirmación moral que está en el centro del movimiento —que comer animales significa pagar por un trato que a casi cualquiera le resultaría repugnante— es verdadera y debería enunciarse en lugar de ocultarse. Segunda: otros movimientos de justicia que tuvieron éxito no escondieron sus compromisos éticos fundamentales. Tercera: la creencia en la liberación animal es lo que atrae y retiene a buena parte del talento del activismo y del sector de las proteínas alternativas. Cuarta: es plausible que la defensa de la liberación animal ampliara la ventana de Overton que hizo ganables las propias reformas de bienestar. Quinta: los avances en IA y el aumento previsto de los recursos filantrópicos cambian lo que la promoción del cambio de dieta puede intentar ahora, incluida la saturación de las universidades de élite con argumentos de ética animal. El autor es explícito en que las organizaciones de bienestar no deberían adoptar ellas mismas el marco de la liberación: lo que sostiene es que el ecosistema en su conjunto debería financiar una cartera de estrategias que refleje lo que sus miembros realmente creen. – Resumen generado por IA.

Richard Ngo sostiene que la distinción convencional entre el uso impropio de la IA y la desalineación carece de utilidad tanto a efectos técnicos como de gobernanza: a medida que los sistemas adquieren mayor capacidad de agencia, la forma de hacer un uso impropio de una IA consiste, en esencia, en ordenarle que actúe de forma autónoma, lo que difumina la frontera entre ambas categorías. Propone sustituir esta dicotomía por el concepto de \emphcoaliciones desalineadas —grupos de seres humanos y sistemas de IA que persiguen conjuntamente la adquisición ilegítima de poder— y sugiere que este nuevo enfoque da cabida a diversas perspectivas sobre las amenazas, desde los riesgos de la descentralización hasta las preocupaciones sobre la concentración de poder, lo que podría unificar a las comunidades de investigación sobre seguridad, actualmente fragmentadas. – Resumen generado por IA.

Panorámica de cómo los avances en IA y biología sintética están reduciendo las barreras técnicas para crear patógenos de nivel pandémico. Aunque los modelos de frontera estadounidenses han implementado salvaguardas para consultas biológicas de doble uso, los modelos chinos líderes ofrecen protecciones mucho más débiles y muchas herramientas de diseño biológico de alto riesgo son de código abierto. El artículo reclama cribado obligatorio de síntesis de ADN y una preparación pandémica más robusta. – Resumen generado por IA.

La tercera entrada de una serie de reflexiones breves de Neel Nanda sobre la productividad y la agencia. Nanda argumenta que alcanzar objetivos exige no sólo planificar, sino la habilidad más difícil y a menudo pasada por alto de actuar sobre esos planes, y que muchas personas sufren una brecha mental entre reconocer que deberían hacer algo y hacerlo. Enmarca el convertirse en un «agente» que actúa como una habilidad entrenable que se construye mediante decisiones pequeñas y coherentes en el día a día, y subraya que la formación de hábitos importa más que la toma de decisiones perfectas.

Resumen de la tesis del ``desempoderamiento gradual'': incluso sin un evento catastrófico de desalineación, la automatización incremental por IA de la producción económica, la producción cultural y la gobernanza podría erosionar silenciosamente la influencia que hoy da peso a las preferencias humanas. Los autores sostienen que, cuando la participación económica, cultural y democrática deja de requerir aporte humano, las instituciones pueden dejar de responder a los intereses de las personas. – Resumen generado por IA.

Este artículo explica los conceptos clave que surgen en el contexto de la alineación de la IA. Estos términos no son más que intentos de esbozar las ideas subyacentes, y la importancia radica precisamente en esas ideas. No existe un consenso estricto sobre qué nombre debe corresponder a cada idea, y cada persona utiliza los términos de forma diferente.1 Este artículo explica cómo utilizamos estos términos en nuestro curso sobre alineación de la IA y cómo la investigación sobre la alineación contribuye a la seguridad de la IA.

A medida que los modelos de lenguaje de vanguardia mejoran su capacidad para responder a consultas químicas y biológicas, la preocupación por el bioterrorismo impulsado con IA ha vuelto a ocupar un lugar destacado en el debate general sobre seguridad. Basándose en el Informe Internacional sobre Seguridad de la IA y en recientes demostraciones de chatbots que aconsejan a los usuarios cómo planear ataques utilizando nuevas bacterias, virus y toxinas, el artículo evalúa la plausibilidad real de que extremistas u otros actores no estatales malintencionados puedan utilizar estas capacidades como arma para promover causas ideológicas. Sostiene que la competencia entre las grandes potencias por la IA de vanguardia está desviando la atención de los responsables políticos de la amenaza más inmediata que plantean los grupos terroristas, y aboga por que se preste una atención renovada a las medidas de bioseguridad en los sistemas de IA de uso general. – Resumen generado por IA.