Desarmando la inteligencia artificial

El tercer gran tema de la Encíclica “Magnifica Humanitas” de Pablo VI entra en una zona delicada: la técnica, el dominio y la grandeza de la persona humana ante las promesas de la inteligencia artificial. La encíclica no presenta la tecnología como enemiga. Sería absurdo. La técnica cura enfermedades, conecta familias migrantes, mejora servicios públicos y facilita aprendizajes.

El punto es otro: cuando la tecnología deja de ser instrumento y se convierte en criterio supremo, algo se desordena por dentro. Más poder no significa necesariamente más humanidad. Suena simple, casi obvio. Pero la verdad es que nuestro tiempo parece fascinado con lo contrario.
Vivimos rodeados de soluciones que prometen controlarlo todo: el tráfico, las compras, el rendimiento laboral, las emociones en redes, los riesgos financieros, incluso las preferencias políticas. Y claro, hay beneficios. Un hospital puede ordenar citas con sistemas inteligentes. Una escuela puede detectar rezagos de aprendizaje. Una empresa puede reducir errores.

Pero, además, aparece una tentación: creer que todo lo humano puede traducirse en dato, puntaje, patrón o predicción. Y es que no todo cabe en una tabla. Una persona desempleada no es solo una estadística. Que un adulto mayor no sepa usar una aplicación bancaria no necesariamente se debe a una “resistencia al cambio”. Un estudiante que no entrega una tarea no siempre es irresponsable; quizá está siendo responsable en otras tareas, como cuidar a un hermano, trabajar por las tardes o afrontar una situación familiar difícil. Ahí es donde la tecnología necesita corazón, contexto y supervisión humana.

La encíclica advierte sobre el paradigma tecnocrático: esa lógica que deja que la eficiencia, el control y el lucro gobiernen decisiones personales, sociales y económicas. Cuando esa mirada domina, las personas empiezan a ser valoradas por su rendimiento, productividad o capacidad de adaptarse. Quien no encaja, estorba. Quien no produce rápido, preocupa. Quien no se actualiza, queda atrás.

En nuestra región esto se nota con crudeza. Hay bancos que digitalizan servicios, pero muchos usuarios todavía necesitan orientación cara a cara. Hay gobiernos que modernizan trámites, pero miles de ciudadanos no tienen internet estable. Hay empresas que piden “talento innovador”, aunque no siempre invierten en formación. En fin, se exige adaptación, pero no siempre se crean condiciones justas para adaptarse.

La UNESCO ha insistido en que la inteligencia artificial debe desarrollarse sobre principios de derechos humanos, dignidad, transparencia, justicia y supervisión responsable. Esa no es una preocupación decorativa. Es una advertencia muy concreta: si el poder digital queda sin límites, puede producir exclusión con apariencia de modernidad.

Uno de los puntos más interesantes de este tercer tema es su crítica a las narrativas del transhumanismo y el posthumanismo, que imaginan al ser humano como algo que debe ser mejorado, potenciado o incluso superado por la tecnología. Hay ahí una promesa brillante: cuerpos más fuertes, mentes más rápidas, decisiones sin error, vidas más largas.

Pero cuidado. Una cosa es usar la ciencia para sanar, aliviar y acompañar. Otra muy distinta es mirar la fragilidad como defecto. Porque una sociedad que desprecia la fragilidad termina despreciando también a los frágiles: enfermos, ancianos, pobres, migrantes, personas con discapacidad, niños que aprenden a otro ritmo, trabajadores que necesitan volver a empezar. La humanidad no se mide solo por su capacidad de avanzar, sino por su manera de cuidar.

Algunas prácticas pueden marcar diferencia:
1. Preguntar qué impacto tendrá una tecnología en las personas más vulnerables.
2. No delegar decisiones sensibles únicamente en algoritmos.
3. Formar equipos humanos antes de exigir transformaciones digitales.
4. Revisar sesgos en procesos automatizados de contratación, crédito, educación o atención ciudadana.

La inteligencia artificial puede ser una ayuda extraordinaria, sí. Pero no puede convertirse en una torre de Babel, levantada con datos, poder y vanidad. El progreso verdadero no consiste en volvernos invulnerables, sino en seguir siendo humanos en medio de tanta promesa de perfección.

Porque al final, lo que salva a una sociedad no es tener más tecnología, sino conservar la capacidad de mirar un rostro y reconocer en él a alguien, no a una función.

Tulio Magaña - Consultor, investigador y conferencista