Crecí en otro mundo. En ese mundo no había inteligencias artificiales, grokipedia, teléfonos inteligentes, ni internet. En ¿cuántos años ese mundo se va a estudiar en los libros de historia como se estudia la prehistoria? En ese mundo pasaron 27 años entre el momento en el que tuve mi primera calculadora electrónica y mi primera booknote. Ahora, los cambios en la tecnología, gracias a las IA, se miden a lo largo de ¿semanas, o de días? ¿De horas?
¡Por supuesto que las IA traerán consigo cambios profundos y hasta civilizacionales!…y la cuestión es sobre qué principios se apoyarán esos cambios.
El mundo cambió de la época de las calculadoras, a la de las inteligencias artificiales.
Estas meditaciones las motivó la encíclica Magnifica Humanitas, de John Prevost, con la colaboración de, entre otros , Christopher Olah, cofundador de la empresa de inteligencia artificial Anthropic (Cloud).
En ese documento, el dirigente de la iglesia católica expone que la persona humana está en el centro de todo progreso tecnológico; el gran desafío de nuestro tiempo no es tecnológico, sino moral; ninguna inteligencia artificial puede reemplazar totalmente la experiencia humana; la verdad es un bien que debe ser protegido, la libertad puede estar amenazada por nuevas formas invisibles de control. Personalmente estoy convencido de que las IA son una grande cosa, me maravillo cada vez que alguien me cuenta una novedad útil al respecto o la descubro, pienso que el siglo XXI es un tiempo fascinante para estar vivo y aprender; y veo miles de nuevas puertas y ventanas abriéndose para una infinidad de posibilidades no imaginadas aún. En ese contexto comparto aquellas perspectivas de Prevost.
Pero el edificio argumentativo del Papa se apoya en posibilidades inquietantes, a saber: que el interés colectivo debe prevalecer sobre los derechos individuales; y que se necesita una autoridad mundial para controlar las IA. Ninguno de esos principios es novedoso entre las encíclicas que han precedido a Magnifica Humanitas, ni en otras formas de comunicación por parte de los predecesores de Prevost.
La idea de que los intereses colectivos prevalecen sobre los derechos individuales, en Magnifica Humanitas se manifiesta en frases como que la doctrina social reconoce el potencial positivo del mercado y de la iniciativa privada sólo si se mantienen subordinados a la ley moral y guiados por el principio de solidaridad (39). Obvio que el mercado y la iniciativa privada no deben escapar a los principios morales; pero a principios morales racionales que protejan la vida, la libertad y la propiedad, no a cualesquiera principios morales. Como el mercado es lo que ocurre cuando se intercambia voluntaria y pacíficamente propiedad, no es posible tener un mercado si aquellos intercambios son condicionados por una supuesta virtud que consiste en la determinación firme y perseverante de empeñarse por el bien de todos y de cada uno, porque todos somos verdaderamente responsables de todos, como escribió Karol Wojtyla en Solicitudo rei socialis (38), como si la sociedad o kosmos, fuera una familia, taxis.
La valoración positiva de la iniciativa privada, en Magnifica Humanitas, se desactiva cuando el documento dice que cuando un poder de tal magnitud [el de las IA y las empresas que las desarrollan] se concentra en pocas manos, tiende a hacerse opaco y a eludir el control público*, y crece el riesgo de un desarrollo distorsionado que provoca nuevas dependencias, exclusiones, manipulaciones y desigualdades (95), como si el poder en manos de políticos y burócratas fuera inmune a tales defectos. ¿Es posible que Prevost no haya leído nada de análisis económico de las decisiones públicas? La pregunta viene a que el Papa lamenta que en el pasado, eran principalmente los estados los que impulsaban y orientaban la innovación. Hoy, en cambio, los principales motores del desarrollo son actores privados, a menudo transnacionales, dotados de recursos y capacidad de acción superiores a los de muchos gobiernos (5) y lamenta que el nuevo sistema económico-financiero mundial, caracterizado por una gran movilidad de los capitales y los medios de producción, ha reducido el poder político de los estados y su capacidad para orientar los procesos económicos (40). La encíclica sostiene que los estados y las instituciones supranacionales están llamados a garantizar reglas justas y mecanismos de protección eficaces para que las comunidades locales, los cuerpos intermedios, las escuelas y las universidades, así como las realidades eclesiales y asociativas puedan tener voz y contribuir al discernimiento de las decisiones que inciden en la vida de las personas: trabajo, acceso a los servicios, gestión de los datos y ambientes digitales. En las decisiones que se refieren a los flujos económicos, las plataformas digitales, la gestión de los datos y los algoritmos, no se puede dejar que pocos actores por sí solos orienten los procesos, sino que es necesario construir formas de cooperación que respeten los diversos niveles de la comunidad mundial y los hagan corresponsables del bien común (71).
Prevost, cree, de verdad que un orden social justo en la era digital es aquel que garantiza a todos un acceso igualitario a las oportunidades…de modo que el criterio no sea sólo el beneficio sino la dignidad de cada persona y el bien de los pueblos (80).
En Magnifica Humanitas, Leon XIV hace un llamado a que gobiernos y entidades supranacionales (el sector coercitivo de las sociedades) resuelvan la opacidad y las condiciones de acceso que no le gustan en el mercado porque es necesario reconocer un aspecto decisivo, que ya he mencionado antes: en muchos casos, en el contexto digital, el control de las plataformas, las infraestructuras, los datos y la capacidad de cálculo no es prerrogativa de los estados, sino de grandes actores económicos y tecnológicos que, de hecho, determinan las condiciones de acceso, las reglas de visibilidad y las mismas posibilidades de participación(95).
La política tiene la tarea de orientar las dinámicas económico-tecnológicas (163), se lee en la encíclica; y la política se basa en el poder y la coacción, a diferencia del mercado que se basa en relaciones pacíficas y voluntarias.
Dicho lo anterior, en el contexto papal no es extraño un clamor por un involucramiento de gobiernos y organismos supranacionales (la política) en las relaciones que deberían ser privadas y contractuales, en vez de ser coactivas. En 2011, Dominique Mamberti secretario de la Santa Sede para la Relación con los Estados declaró no puede haber una separación de la iglesia y la política.
En Caritas in veritatis, Joseph Ratzinger. Escribió que para gobernar la economía mundial…urge la presencia de una verdadera “autoridad política mundial” (67). En la misma encíclica, Ratzinger escribió que el proceso de globalización, adecuadamente entendido y gestionado, ofrece la posibilidad de una gran redistribución de la riqueza a escala planetaria como nunca se ha visto antes (42).
Tanto el papa conservador, como Prevost parecen ignorar que aquellos mismos políticos que conocemos por corruptos, irresponsables, incapaces, arbitrarios, muchas veces tiránicos, y demasiadas veces asesinos, son los que se harían cargo de la autoridad política mundial que tanto los entusiasma. Porque, leyendo un poco de análisis económico de las decisiones públicas, ¿de dónde iban a salir políticos distintos a los que ya hay? ¿Por qué es que los políticos encargados del gobierno mundial iban a ser distintos a los políticos que roban y mal administran a niveles nacionales?
Entre la doctrina social de la iglesia católica en general y las ideas de Magnifica Humanitas en particular, y el liberalismo clásico hay convergencias superficiales que podrían ser interesantes:
Tanto Ludwig von Mises, como Friedrich A. Hayek y la doctrina social de la iglesia católica coinciden en que la sociedad es un tejido de acciones humanas interconectadas. Para ambos el mercado es un proceso de cooperación social.
La doctrina social de la iglesia católica y los liberales clásicos coinciden en que la sociedad no es un agregado de átomos aislados; y por supuesto que la solidaridad cristiana puede leerse como deseo de reducir sufrimiento y promover florecimiento compartido.
La encíclica critica la concentración privada de poder tecnológico; y los liberales también la critican cuando esa concentración se debe a privilegios estatales como monopolios concedidos, barreras regulatorias.
Pero…
La doctrina social de la iglesia católica sostiene que la sociedad es un tejido de acciones humanas interconectadas en el cual es necesario un tejedor desde la política; y que aquella cooperación es un juego de suma cero, cuando no participa el poder político. De ahí que las convergencias sean superficiales y que las tensiones sean más profundas e irreconciliables:
Para Ludwig von Mises la solidaridad forzada vía control público distorsionaría el cálculo económico y la coordinación espontánea. La verdadera cooperación social surge del intercambio voluntario y el interés propio bien entendido. Imponer “bien común” definido desde la política generaría intervenciónes que reducirían la prosperidad para todos, especialmente para los más vulnerables.
Para Friedrich A. Hayek, el riesgo mayor es la coerción arbitraria disfrazada de solidaridad. El control público sobre datos y algoritmos tiende a convertirse en planificación central discrecional. Hayek defendería reglas generales de derecho (protección de propiedad, contratos, responsabilidad); pero rechazaría que el Estado oriente el desarrollo tecnológico según una concepción sustantiva del bien común. El orden espontáneo genera más solidaridad efectiva (en forma de riqueza, conocimiento y oportunidades) que cualquier diseño consciente.
Finalmente, para Ayn Rand, que no es liberal clásica; pero su filosofía Objetivista valora grandemente la dignidad humana, los derechos individuales y la racionalidad entiende que la solidaridad como virtud cristiana implica altruismo, que es sacrificar el interés propio por los de los demás. Rand lo rechaza radicalmente. La verdadera benevolencia hacia otros surge del egoísmo racional que es nada menos que valorar la vida humana, comerciar voluntariamente y respetar derechos. El control público en nombre de la solidaridad es inmoral porque viola derechos de propiedad (datos, algoritmos, capital intelectual) y convierte al innovador en siervo del colectivo. La grandeza de la persona humana (90) a la que alude Magnifica Humanitas no se logra subordinando al individuo al control público, sino liberándolo.
Desde una ética de la liberad
La doctrina social de la iglesia católica en Magnifica Humanitas ve la solidaridad como un deber moral y político que legitima la intervención política correctiva. La tradición liberal clásica y Objetivista ve la cooperación voluntaria (emergente del respeto a derechos individuales) como la única solidaridad genuina y sostenible. El control público aparentemente bien intencionado suele abrir la puerta a nueva concentración de poder (ahora político-tecnocrático), que daña precisamente a quienes pretende proteger porque suele terminar en colectivismo y autoritarismo, cuando no en totalitarismo.
Puntos de diálogo fructífero podrían surgir por el placer de la conversación y para explorar ideas; pero entre la doctrina social de la iglesia católica y el liberalismo y Objetivismo la diferencia antropológica es decisiva: ¿el hombre es un ser inherentemente social que no puede encontrar su propia plenitud si no es en la “entrega” sincera de sí mismo (48), o un agente racional que florece mediante la razón, la productividad y la cooperación social voluntaria? A estas alturas la discusión no es si las IA son buenas, o malas. La cuestión es quién las controla y qué antropología acarrean.
Antonio Gramsci explicó que el poder no se sostiene solo por la coerción (ejército, policía, leyes); sino principalmente por el consenso. Desde esa perspectiva, quienes ejercen el poder logran que su visión del mundo sea percibida como sentido común, como algo natural y universal. Cuando la mayoría acepta como normales las ideas, valores y jerarquías de los poderosos, ya no hace falta reprimir tanto. La hegemonía se ejerce sobre todo en la sociedad civil en la escuela, medios, iglesia, familia, arte, universidades, sindicatos..e inteligencias artificiales.
Muchos de los que desconfían de la iniciativa privada le entregan sin problema cantidades masivas de datos y poder a políticos y burócratas (electos, o no). En ese contexto son preocupantes los esfuerzos por conseguir que las IA sean controladas por políticos y burócratas que consigan la capacidad de redefinir qué significa ser humano. Y esa es la conversación a la que invitan Magnifica Humanitas y estas líneas. ¿Te apuntas?
*Mi cuate, Andrés, sostiene que hay una diferencia sustancial entre lo público y lo estatal. Coincido con él en esta idea; pero creo que ni el en Vaticano, ni en el cuchubal se hace esta diferenciación que es muy importante. Lo público, no nesariamente es lo estatal.
