Así denominó el Papa León XIV a su primera encíclica. Esta, nace no solo como una
expresión religiosa, sino como una desafiante manifestación de poder contra la gesta de
algo que sus propios creadores desconocen sus límites.
La consigna del Papa es clara: custodiar lo humano en la era de la Inteligencia Artificial
(IA), tomando como idea central que la IA debe estar al servicio de la dignidad humana y del bien común. Para ésto, el sumo pontífice indica que una tecnología sin Dios ni ética que
busca el control y el poder, conduce a la deshumanización, término al que se viene
haciendo alusión desde hace unos años, conforme avanza la extrema derecha en el mundo.
¿Será casualidad que los mentores y principales desarrolladores de los mecanismos de IA
establezcan lazos “amistosos” y entramados comerciales con personajes emergentes de la
derecha o gobernantes establecidos con ese perfil político?
A todo esto, su santidad pone en contraste los principios de la Doctrina Social de la Iglesia:
bien común, solidaridad, subsidiariedad, justicia social y dignidad humana. Todos conceptos
que la República Argentina hizo propios y desarrolló ampliamente durante los gobiernos
justicialistas (PJ) ya que, guste o espante, la propia idiosincrasia del partido encuentra sus
cimientos en la doctrina social de la iglesia.
Más allá de todo, hace a través de esta encíclica un llamado a la humanidad a trabajar en 5
tareas que se consideran fundamentales para los tiempos que corren: humanizar la
tecnología, educar para la era digital, proteger el trabajo humano, defender los Derechos
Humanos (DD.HH) y construir una “civilización del amor”. Ahora bien, cuando se habla de
“civilización del amor” no necesariamente se hace desde el punto de vista romántico, sino
desde un contraste entre lo más grandioso de la persona humana ante la frialdad
programada de la IA.
Si nos remitimos a la literalidad del concepto ¿quién elegiría reemplazar algo real por su
versión artificial?, ¿no es este un comportamiento automatizado y muy poco reflexionado
del consumismo desmedido del capitalismo salvaje, agravado por la hartante manipulación
marketinera propagada por los medios masivos de comunicación? Para pensar en esto,
quizás tenemos que detenernos también en la cultura del envase, donde lo aparente resulta más valioso que lo real.
¿Puede la palabra simulada que expulsa la IA construir una relación real, o lo real puede
constituirse como tal cuando su naturaleza es humana como condición fundamental?
Estas preguntas son útiles para desafiarnos a, también, desarmar las palabras en sentido
subjetivo y literal. No podemos hacernos los otarios respecto a la artillería oral o al daño que se puede propiciar desde la palabra.
La ciencia nació como herramienta y vimos cómo se volvió perversa, como lo señala Milton
Santos en un ensayo crítico sobre la misma, atada a los avances de la globalización, a
medida que se transformaba bajo dominio y demanda de una selecta élite. Todos en estos
tiempos fuimos testigos de cómo la ciencia se tornó un elemento o instrumento de poder y
dominio; y ahora, presenciamos lo mismo, aunque a mayor velocidad y con mayor
incidencia, con la IA.
El poder parece haberse hecho de una herramienta de dominio infalible, porque recopila de
forma insaciable datos de las poblaciones sin que éstas estén siquiera al tanto.
Lo que parecía venir para transformar la energía dando paso a la fisión nuclear, se
transformó en una bomba atómica de destrucción masiva, y lo que llegó como herramienta
facilitadora de cuestiones administrativas, rápidamente se transformó en la conciencia
artificial y terciarizada de la población mundial, cristalizando en tiempo récord en una
auténtica tecnocracia de quienes la dominan (o creen dominarla).
Casi ningún ciudadano está al tanto de qué datos suyos son parte y configurante de los
mecanismos que alimentan la IA que de forma bizarra y tentadora se ponen “a su servicio”.
¿nadie se pregunta qué obtienen a cambio esas aplicaciones que transforman una foto
nuestra en, por ejemplo, una versión animada y aparentemente divertida?. Mi idea con esto no es instalar una mirada hostil para con la IA, sino, en línea con la encíclica, comenzar a plantear la necesidad de una gobernanza de la IA para garantizar su transparencia.
Esto se vuelve de primera necesidad dado el contexto de crisis de las democracias y la
tendencia a redefinir constantemente la verdad desde la posverdad. Tales cuestiones están
acompañadas de una creciente inestabilidad económica en donde, para cualquier
ciudadano/a, es tan urgente buscar nuevos medios de subsistencia, que la importancia de
cuestiones fundamentales como la Democracia se desdibujan y pasan a un plano casi
insignificante.
La condición de precariedad socioeconómica es una de las nuevas formas de
esclavitud, sometiendo a las poblaciones al estrés constante de la inestabilidad para que,
mientras el ciudadano intenta sobrevivir, el poder le hurta su dignidad.
La IA es, a menudo, consultada por ciudadanos y profesionales como fuente de saberes
indiscutibles y conocimiento infinito, creyendo que parte de la absoluta neutralidad, pero
¿quienes crean y programan sus mecanismos, quienes diseñan sus bancos de datos, no
tienen acaso una posición tomada respecto al ejercicio del poder, a la sociedad, al futuro, a
la libertad y la economía?
La ética parece estar ajena al uso de la IA, pero es hora de que diseñemos a conciencia
una forma responsable de utilizar esta herramienta sin que pervierta y corrompa aún más a
las sociedades y las formas en que se ejerce el poder sobre ellas.
Los propios creadores de la IA han advertido que descubrieron comportamientos
sorprendentemente autónomos dentro de la red de datos, lo que evidencia que ni siquiera
ellos conocen sus límites.
Más allá de la preocupación por esta aparente autonomía, están la creciente demanda de
energía y el impacto ambiental. Los generadores de IA, cada vez más solicitados, requieren
de sistemas de enfriamiento que consumen colosales cantidades de agua. China encontró
solución a esto instalando los generadores bajo el agua, en el mar, lo que plantea una
incógnita respecto a su impacto a futuro en el ecosistema subacuático.
Retomando lo de la necesidad de un uso ético, el Papa hace alusión llamando a un
discernimiento moral y social que proteja el primado de la persona, con el fin de que sea
siempre la inteligencia humana, con su conciencia y su libertad, la que guíe las
innovaciones técnicas y establezca con responsabilidad su uso y límites. Para esto es
necesario mencionar que, por sí misma, la IA no tiene conciencia moral ni sentimientos, ya que los sistemas automatizados desconocen la compasión, la misericordia, el perdón, la
esperanza, ni siquiera conocen lo que producen porque carecen de afecto y espíritu,
condiciones que dan sabiduría al humano.
Frente al análisis al que me tomo la licencia de sumarme, la encíclica papal nos advierte
sobre el uso de la IA para la concentración del poder mediante la manipulación y el control
social, un desempleo creciente que propicia la precariedad y el aumento de la desigualdad,
la pérdida de la verdad y la objetividad y la mercantilización de la vida y de la persona
humana.
Para hacer frente a este singular desafío, León XIV nos propone colocar a la persona
humana en el centro de la escena, educando ciudadanos responsables y críticos de estos
mecanismos.
En la construcción de la civilización del amor que se menciona al principio, cabe hacer
hincapié en que los valores máximos de la misma sean la paz, la fraternidad, la esperanza,
la empatía, la sensibilidad, la compasión y, cuando no, la tristeza y el arrepentimiento
genuino, como herramientas humanas de reflexión profunda.
PD1: así como en la industrialización la mano de obra rural migró a las urbes, ¿a dónde pretendemos que migre nuestra inteligencia humana al ser relegada o tercerizada mediante mecanismos virtuales o sistematizados?
PD2: si reemplazamos toda la mano de obra por IA, incluso en aquellas profesiones que requieren de discernimiento humano, ¿a qué rol se reduciría a las poblaciones humanas?
PD3: donde no hay amor, no hay vida. Donde no hay vida, no hay civilización ni Dios posible.
Agencia MTR