Hace unos días, el papa León XIV publicó Magnifica humanitas, encíclica dedicada a uno de los temas más complejos de nuestra época: la inteligencia artificial (IA). El documento advierte sobre los riesgos de concentración de poder tecnológico, vigilancia masiva y pérdida de dignidad humana en una sociedad cada vez más dominada por algoritmos.
Uno de los conceptos centrales de la encíclica es el “bien común”. Y justamente ahí aparece una de las discusiones más profundas que enfrentaremos durante las próximas décadas. Porque, es paradójico, una de las mayores virtudes de la inteligencia artificial es que podría ayudarnos a dejar atrás la lógica del “promedio”.
Durante décadas, gran parte de la medicina moderna funcionó buscando soluciones generales para la mayoría de las personas. El problema es que muchas veces esa medicina promedio invisibilizó a millones de individuos. La enorme mayoría de los estudios genéticos mundiales se desarrolló históricamente en poblaciones europeas o caucásicas. Como consecuencia, muchos biomarcadores, algoritmos diagnósticos y modelos predictivos no funcionan en latinoamericanos, africanos, indígenas o poblaciones mestizas. En otras palabras, la medicina del siglo XX muchas veces asumió que todos los cuerpos humanos eran suficientemente parecidos como para responder igual.
Y no es verdad.
Pensemos en algo concreto. Dos personas pueden recibir el mismo medicamento y reaccionar de manera distinta debido a variaciones genéticas. Un ejemplo clásico ocurre con la warfarina, uno de los anticoagulantes más utilizados en el mundo. Algunas personas poseen variantes genéticas que hacen que se metabolice más lento, aumentando el riesgo de hemorragias severas incluso con dosis consideradas normales. También existen ejemplos claros en IA médica. Estudios internacionales han mostrado que algoritmos dermatológicos entrenados con imágenes de piel clara pueden detectar con menor precisión cáncer de piel en personas con piel más oscura. Uno de los estudios más influyentes fue liderado por Roxana Daneshjou y colaboradores en Stanford. Su trabajo demostró que algoritmos dermatológicos de última generación presentaban caídas importantes de desempeño cuando se evaluaban en pieles oscuras y enfermedades poco frecuentes.
El problema se vuelve todavía más evidente en enfermedades raras. Hay niños que pasan años recorriendo hospitales sin recibir un diagnóstico correcto, porque sus variantes genéticas no aparecen en las bases de datos internacionales. Para muchas familias latinoamericanas, el desafío no es sólo acceder a tecnología avanzada, sino lograr que esa tecnología haya sido construida considerando la diversidad biológica real de la humanidad. Ahí es donde la IA y la medicina de precisión podrían cambiar las reglas del juego.
Por primera vez comenzamos a construir sistemas capaces de reconocer diferencias biológicas, ancestrales y sociales entre individuos y poblaciones. La medicina deja lentamente de tratar a todos igual para empezar a entender que no todos enfermamos igual, no todos respondemos igual a los tratamientos, y no todos tenemos los mismos riesgos. Eso puede ser valioso para grupos históricamente ignorados por la investigación biomédica global.
La IA permite analizar millones de datos de forma simultánea para encontrar patrones que antes eran invisibles. Y eso representa algo profundamente esperanzador, la posibilidad de democratizar la individualidad biológica. Sin embargo, ahí aparece también la gran tensión ética de nuestro tiempo. Porque la misma tecnología que puede incluir minorías también podría fragmentar a la sociedad ¿Cómo evitamos que la hiperpersonalización termine produciendo nuevas formas de desigualdad?
La IA puede personalizar la medicina. Pero también podría personalizar la discriminación. Una aseguradora podría utilizar riesgo genético para aumentar primas. Un sistema financiero podría correlacionar salud y acceso a crédito. Una empresa podría considerar información biológica al momento de contratar personal. Incluso los sistemas de salud podrían terminar tomando decisiones basadas sólo en eficiencia algorítmica y costo-beneficio. Ahí es donde la discusión deja de ser nada más tecnológica y se vuelve humana. El problema potencial se traslada a quien diseña los algoritmos, quien controla los datos y con qué valores serán utilizados.
México no está fuera de esta conversación. El país posee una diversidad genética extraordinaria y algunos proyectos muy relevantes comienzan a construirse alrededor de datos biomédicos mexicanos y latinoamericanos. Eso es importante porque la IA es tan buena como los datos con los que se entrena. Si América Latina no construye sus propias plataformas biomédicas, corremos el riesgo de depender tecnológicamente de modelos diseñados para otras poblaciones.
Pero incluso si resolvemos el desafío tecnológico, la pregunta ética permanecerá intacta ¿Cómo construir tecnologías capaces de reconocer nuestras diferencias sin destruir la idea de humanidad compartida?
Quizá ahí se encuentra el verdadero centro de la discusión planteada por el papa León XIV. El reto no consiste en elegir entre la IA o el bien común. El desafío será construir sistemas capaces de ampliar el bien común reconociendo la diversidad biológica y social de las personas. Porque quizá el mayor riesgo de esta nueva era no sea que las máquinas piensen como humanos. Quizá el verdadero riesgo sea que los humanos terminemos viéndonos unos a otros únicamente como datos, probabilidades o algoritmos.
