Septiembre de 2025
Inteligencia Artificial y Pueblos Indígenas: Desafíos, riesgos y principios éticos.J. Osvaldo Calle Quiñonez. Bolpress
El tema que vamos a abordar es el de "Pueblos indígenas e inteligencia artificial". Voy a comenzar haciendo un resumen de lo que creo que es la inteligencia artificial, el desafío más grande al que se enfrenta la humanidad, porque en este tiempo estamos ante el riesgo de que los seres humanos dejemos de ser necesarios en múltiples actividades, pero también estamos ante una oportunidad sin precedentes para avanzar en la realización misma del ser humano.
Hay que tomar en cuenta que la inteligencia artificial no es neutral, sino que su impacto depende de quién la diseña, con qué fines y bajo qué principios éticos. Está claro que si se sigue aplicando desde una lógica colonialista va a seguir reproduciendo esa lógica de exclusiones.
Sin embargo, quedar al margen del uso de la inteligencia artificial no solo implicará un retraso tecnológico, sino que conlleva un riesgo existencial.
Frente a ello, la recomendación es participar, meterse, utilizar la inteligencia artificial, pero bajo principios. El primer principio es el diálogo de saberes, que debe ser el principio base del diseño ético de la inteligencia artificial, porque los objetivos de estas inteligencias deben ir más allá del crecimiento económico.
Y si hablamos ya en la relación con los Pueblos Indígenas, la IA debe servir además para corregir los sesgos históricos y al mismo tiempo compartir sus beneficios.
Comencemos definiendo qué es la inteligencia.
Hay muchas definiciones sobre lo que es inteligencia, pero permítame quedarme con la definición de la Real Academia de la Lengua Española que dice en su segunda acepción que la inteligencia no es más que "la capacidad de resolver problemas".
En cuanto a la IA, la Comisión Europea la define como: "sistemas de software (y posiblemente también de hardware) diseñados por humanos que, ante un objetivo complejo, actúan en la dimensión física o digital percibiendo su entorno, a través de la adquisición e interpretación de datos estructurados o no estructurados, razonando sobre el conocimiento, procesando la información derivada de estos datos y decidiendo las mejores acciones para lograr el objetivo dado", o sea, resolviendo problemas.
¿Cómo funciona la inteligencia artificial?
En realidad, no hay una sola inteligencia artificial. Puede decirse que las inteligencias artificiales utilizan algoritmos y modelos matemáticos para procesar grandes cantidades de información y tomar decisiones basadas en patrones y reglas establecidas a través de un proceso automático, un aprendizaje automático, que es la capacidad de una máquina para aprender, para inferir, para interpolar datos de forma autónoma a partir de otros datos, sin estar específicamente programada para hacer este tipo de acciones.
Podríamos hablar sobre los tipos, las ramas de la inteligencia artificial, pero no nos alcanza el tiempo para esto. En cambio, déjenme decirles para qué sirve la inteligencia artificial: francamente, casi para todo, para la domótica, la traducción, compras online, automoción, transporte, ciberseguridad, casi para todo.
Pero hablemos de los factores necesarios para la inteligencia artificial.
Antes de la inteligencia artificial ha sido necesario desarrollar la internet. Básicamente, sin internet no estaríamos hablando de IA.
En cuanto a internet, tenemos que comenzar hablando de los factores habilitantes para la inteligencia artificial, esto es, la infraestructura que incluye la conectividad, la capacidad de cómputo y el acceso a dispositivos. Además, los datos, la disponibilidad, la capacidad de procesarlos y la gobernanza de esos datos. Se requiere también talento humano, porque alguien tiene que programar, incluso alguien tiene que saber cómo usarla lo cual requiere un par de capacidades.
Si hablamos de infraestructura (en este tema podemos hablar mucho, yo tenía para esta presentación 54 diapositivas, después subieron a 85 y luego tuve que cortar y cortar) hay dos datos que llaman la atención con relación a las suscripciones a banda ancha.
Si se fijan, según datos del Banco Mundial, las conexiones están creciendo de manera exponencial en el caso de Estados Unidos, mientras que los países más desarrollados de Latinoamérica, Uruguay, Costa Rica y Chile están aquí abajo. O sea, la brecha digital, esa tijera se va ampliando. Afortunadamente tenemos a la telefonía celular como un factor, como una oportunidad que nos está permitiendo equilibrar las cosas.
Podríamos hablar de más detalles como conectividad, o disponibilidad de computadoras y teléfonos inteligentes en hogares, pero quizás vale la pena hablar de esto: esta es una estadística sobre el tiempo que la gente pasa en el uso del internet.
En el año 2024, las personas que utilizaron internet en el mundo eran más de 5300 millones de personas. Casi todos diría, si quitamos a las personas menores de edad que todavía no pueden leer; pero lo interesante es saber que la mayoría se conectan a internet para ver TikTok, YouTube, Facebook. Eso debería llamarnos a razonar sobre el tema.
Hablando de datos, la inteligencia artificial funciona en base a datos, por lo que, cuantos más datos se tengan, mejor.
Es tan importante este tema que en este momento hay una especie de pelea, ya que todas las grandes compañías están usando los datos en línea públicos disponibles para desarrollar modelos de inteligencia artificial a un ritmo tal que parece que es más rápida la capacidad de procesar datos que la capacidad de producir nuevos datos. Incluso se llega a decir —este es un texto publicado en el New York Times— que probablemente los datos digitales de alta calidad se agotarán el 2026.
Y frente a eso, ¿qué hacen?, comienzan a recurrir a otro tipo de algoritmos, por ejemplo, YouTube que transcribe las presentaciones. Seguramente esta presentación o estas presentaciones en algún momento van a ser transcritas y luego serán procesadas por los modelos de inteligencia artificial para incorporarse a las bases de datos.
Este es una composición de datos de GPT-3 publicada por The New York Times: 410 000 millones de tokens originados en rastreo común, 12 000 millones de páginas de Wikipedia en inglés, 55 000 libros que OpenAI (no explicó el contenido) y 19 000 millones de páginas enlazadas desde Reddit.
También podemos hablar de la forma en la que se generan los datos. Y aquí hay un tema que llama la atención. En el mundo hay un montón de datos, pero en Latinoamérica no hay muchos datos. Aquí tenemos un problema con relación a la disponibilidad y el uso de datos. Es el caso de El Salvador, que según el Índice Latinoamericano de Inteligencia Artificial (ILIA-2024), parece problemático, lo mismo que Guatemala, que Honduras, en general hay problemas.
El entrenamiento de modelos de IA crece entre 4 y 5 veces por año. Podríamos ir viendo el detalle, pero en este momento los que están por adelante son los Meta. Por ahí tenemos a Deepseek, los de Chat GPT, estos son los de Gemini, estos de Mistral. Aquí está concentrada la capacidad de procesar datos en las grandes empresas tecnológicas. ¿Y dónde están los otros pueblos?, ¿qué posibilidades tienen de acceso?
Si hablamos del talento humano, ahí también tenemos problemas. En estos países, en los países hegemónicos, se están preparando datos, se está preparando el talento humano, pero en Latinoamérica parece que estamos en problemas. Argentina en la región parece ser el único país que tiene en este momento, según el ILIA-24, obligatoria la educación en ciencias y computación. Los otros países no.
Si nos fijamos en el tema género, en este momento de la población "alfabetizada" en IA el 23% es mujer y el 77% hombre. O sea, que hay ahí un desbalance de género.
Para hablar solo de la región, hay un índice latinoamericano del 2024 que muestra que en la región Chile, Brasil y Uruguay, en ese orden, están por delante de los otros países en cuanto al desarrollo de la Inteligencia Artificial. En el otro extremo tenemos a Bolivia, Guatemala, El Salvador y Honduras. Hay que tomar en cuenta, ya estoy marcado aquí, que Bolivia y Guatemala son los países que proporcionalmente, en cuanto a su población, mayor población indígena tienen.
Con todo esto, se está formando una sociedad que parece ser diferente, una sociedad en la que el talento humano está amenazado.
Aquí tenemos una publicación del Fondo Monetario Internacional que dice literalmente:
"A medida que, cada vez más, los sistemas de IA van realizando tareas complejas, el papel del talento humano se ve amenazado. El trabajo humano podría quedar restringido a un conjunto cada vez más reducido de tareas, mientras que ciertos talentos antes apreciados, como la capacidad de memorizar grandes cantidades de información, hablar varios idiomas o reconocer patrones intrincados, van perdiendo relevancia a medida que las máquinas superan a los humanos en esos campos".
Para hablar de manera práctica, en Alemania hace tiempo había mucha gente, muchos migrantes que venían para trabajar, entre otras cosas, de cargadores de maletas en los aeropuertos. Ese tipo de trabajos ahora ya se hacen de manera automatizada con la robótica.
Según previsiones, empleos como en los "call centers" o como en los asistentes jurídicos, prácticamente van a desaparecer. Tanto así que dicen que el 40% del empleo mundial en diversas ocupaciones puede ser afectado por la inteligencia artificial. Hay un informe de la OIT que dice que hasta el 50% podría ser afectado.
De tal manera que comienza a formarse una especie de futuro distópico. Si utopía es el futuro deseable, distopía es el futuro no deseable. En este futuro distópico ya hay en Shanghái un hospital, el "Agent Hospital", que está totalmente administrado por la inteligencia artificial.
Dario Amodei, el jefe de Anthropic, quien comenzó con OpenAI y que hoy en día dirige Claude, dijo algo así como que en el futuro el cáncer se va a curar, la economía va a crecer el 10%, el presupuesto va a estar equilibrado, pero el 20% de la población no va a tener trabajo.
Otros advierten que en el futuro el peligro no serán robots rebeldes, sino humanos manipulados por la inteligencia artificial y un colapso epistémico donde la información confiable desaparezca.
Por su parte, Eliezer Yudkowsky, cofundador del Instituto de Investigación de Inteligencia de Máquinas, afirmó que "la inteligencia artificial no te odia ni te ama, pero sabe que estás hecho de átomos que se pueden usar para otras cosas", o sea, repuestos para algo.
Es el futuro distópico, que ojalá no se produzca nunca.
Pero lo que sí se está produciendo es que estamos frente a una nueva sociedad, la sociedad de la inteligencia artificial en la que está aumentando la brecha digital, donde se está profundizando el marginamiento, donde se están reproduciendo el extractivismo —no solo el de datos—, que está contribuyendo a otro tipo de extractivismos, donde se está produciendo una ruptura epistemológica. Lo que se sabe, lo que se sabía, probablemente ya no sirve. Incluso algunos saberes son ya totalmente innecesarios.
Hay un pequeño grupo de gente que ya está en el entorno de la IA: los usuarios, los programadores y los dueños.
Los usuarios se están convirtiendo en consumidores. La gran mayoría, incluso nosotros, somos simplemente consumidores de la inteligencia artificial.
Entre estos usuarios está surgiendo una especie de endiosamiento de esta inteligencia artificial a tal punto que mucha gente —y lo han debido escuchar— repite, "la inteligencia artificial dice", como si fuera la última palabra, sin mayor crítica.
En ese grupo se está viviendo un colapso epistemológico. Estamos viviendo un mundo de la hipercultura en el que todos los límites se están disolviendo, se están destruyendo. Ya no hay marcos teóricos, ya no hay visiones, hay una globalización, hay una unificación, un discurso único.
En el medio están los críticos. Por ejemplo, nosotros debemos estar en una franja muy ligera entre los que dicen, "¿Por qué? ¿Para qué?"
En el otro lado están los dueños y los hacedores de la inteligencia artificial.
Ese grupo del que hasta hace poco se identificaba como del 1%. Créanme, el 1% va a ser demasiado grande cuando se hable de los hacedores de la inteligencia artificial. Yo les pregunto a ustedes: estoy seguro de que todos ustedes tienen un correo de Gmail, pero ¿alguno de ustedes conoce a uno de sus programadores? Se utiliza por millones, pero nadie los conoce.
¿Y los dueños de ese poder?, la concentración es enorme, con mucho poder. Ha sido ilustrativa la toma de posesión presidencial de Donald Trump: tenía al lado suyo a los dueños, a los magnates de las redes sociales, a los dueños de las inteligencias artificiales.
Esa es la sociedad que se está creando.
Pero, al mismo tiempo, quedar al margen de la inteligencia artificial puede ser todavía más peligroso porque se profundizaría la exclusión digital, se aumentaría la brecha digital, la brecha económica, incluso la democracia quedaría en riesgo por una falta de participación ciudadana en el diseño de la regulación de la IA.
Si nos quedamos al margen de la inteligencia artificial, la educación va a ser obsoleta.
En algunos países se piensa en que se puede hacer una escuela sin profesores, apenas con tutores, ya que el desarrollo de las clases estaría a cargo de la inteligencia artificial.
El otro peligro es la falta de representación de muchos sectores en los datos de entrenamiento de la inteligencia artificial, lo cual amplifica las discriminaciones.
Además, una dependencia tecnológica sin soberanía digital puede convertir a las sociedades, a los países vulnerables frente a corporaciones, ya no se diga gobiernos.
¿Y cómo vemos a los Pueblos Indígenas en estos tiempos de la inteligencia artificial?
Lo primero es que la exclusión digital intensificaría esa pérdida de soberanía cultural y conocimiento tradicional. Y hay una paradoja. ¿Qué pasa si los pueblos indígenas no presentan, no comparten sus datos? ¿Van a quedar borrados? No van a figurar o en el peor de los casos esos saberes van a aparecer de todas maneras, pero tergiversados, utilizados, víctimas del extractivismo. O pueden quedar directamente invisibilizados, lo cual puede ser incluso más dañino en este momento.
Pero ¿por qué no usar el potencial de la inteligencia artificial si puede servir para preservar la cultura, para mejorar la salud, para mejorar los sistemas de educación, para apoyar el desarrollo sostenible entre los pueblos indígenas? Sí, hay que hacer esto, hay que utilizar la inteligencia artificial, pero bajo determinados principios.
El primer principio, desde mi punto de vista, es el diálogo de saberes, que debería ser el eje central del diseño ético de la inteligencia artificial. Esto significa que todo este proceso se oriente hacia el vivir bien, para definir los objetivos éticos de la inteligencia artificial (más allá del crecimiento económico), para desarrollar el ser humano en su integralidad.
Si hablamos de los Pueblos Indígenas, todo tratamiento que se haga con la inteligencia artificial debe partir del principio del consentimiento libre, previo e informado, además de un respeto a la soberanía de datos indígenas. Y, en el lado del procesamiento, deberíamos comenzar a hablar de una especie de equidad algorítmica para redistribuir los beneficios y también para corregir los riesgos.
Estamos otra vez frente a un desafío existencial para la humanidad.
La inteligencia artificial puede llevarnos a la extinción misma como seres humanos si es que ya no somos útiles, pero al mismo tiempo, como nunca, esta tecnología trae la posibilidad de convertirse en un instrumento para hacer posible un futuro donde todos los saberes tengan voz en la construcción de un nuevo mundo, donde se avance hacia el bienestar integral del ser humano: el vivir bien.
Las máquinas ya están trabajando, ya son inteligentes. Es tiempo para que nosotros, para que los seres humanos, actuemos con sabiduría.
https://bolpress.com/2025/09/08/inteligencia-artificial-y-pueblos-indigenas-desafios-riesgos-y-principios-eticos/Visitas: 18
