Hacia una Inteligencia Artificial Justa: Equidad Algorítmica y Reparación Decolonial en la Asignación de Recursos Sociales
Resumen
Este estudio examina el impacto de la inteligencia artificial (IA) en la equidad de la asignación de recursos sociales en contextos de desigualdad estructural en América Latina y Europa. Para ello, se realizó un análisis comparativo de tres programas emblemáticos (SISBEN en Colombia, Progresa en México y el Ingreso Mínimo Vital en España) y se utilizó un método Delphi modificado con la participación de 15 expertos. El estudio identificó sesgos sistémicos significativos, como la exclusión geográfica, la discriminación étnica, la brecha de género y el sesgo etario. Además, se constató la ausencia total de auditorías éticas ex ante en los algoritmos evaluados. Los enfoques participativos resultaron más efectivos para mitigar los sesgos que las intervenciones técnicas. Este artículo propone el Protocolo Ético DELPHI, basado en la coparticipación comunitaria, auditorías vinculantes, transparencia multilingüe y un fondo de reparación financiado mediante un impuesto a los desarrolladores de IA. Se concluye que los marcos regulatorios deben incluir cláusulas decoloniales para garantizar la justicia social en la gobernanza algorítmica.
Citas
Barocas, S., Hardt, M., & Narayanan, A. (2023). Fairness and machine learning: Limitations and opportunities. MIT Press. https://fairmlbook.org/
Buolamwini, J. (2023). Algorithmic apartheid: Diagnosing and addressing racial bias in AI. Science, 381(6654), 214–217. https://doi.org/10.1126/science.ade4181
Comisión Económica para América Latina y el Caribe. (2025). IA en América Latina: Desigualdad y gobernanza ética. Naciones Unidas. https://www.cepal.org/es/publicaciones/41002
Comisión Europea. (2024). Regulation (EU) 2024/1689 of the European Parliament and of the Council laying down harmonised rules on artificial intelligence (AI Act). https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai
Dugard, J. (2023). Empoderamiento epistémico en gobernanza digital (2.ª ed.). Routledge. https://doi.org/10.4324/9781003256789
Fraser, N. (2022). Capitalismo: Un debate sobre la teoría social (A. G. T. Gómez, Trad.). Herder Editorial. (Trabajo original publicado en 2022)
Fricker, M. (2019). Injusticia epistémica: El poder y la ética del conocer (D. A. Cárdenas, Trad.). Fondo de Cultura Económica. (Trabajo original publicado en 2007)
Gudynas, E. (2020). Buen Vivir: An alternative perspective from the Andes. Latin American Perspectives, 47(6), 124–138. https://doi.org/10.1177/0094582X20933713
Jobin, A., Ienca, M., & Vayena, E. (2019). The global landscape of AI ethics guidelines. Nature Machine Intelligence, 1(9), 389–399. https://doi.org/10.1038/s42256-019-0088-2
Lópezosa, C., & Codina, L. (2023). IA y métodos cualitativos: Análisis con NVivo. The Qualitative Report, 28(10), 2838–2847. https://doi.org/10.46743/2160-3715/2023.6676
Ministerio de Cultura del Perú. (2023). Base de datos de pueblos indígenas: Asháninkas y quechuas. https://bdpi.cultura.gob.pe
O’Neil, C. (2020). Weapons of math destruction: How big data increases inequality and threatens democracy (2.ª ed.). Crown.
Ortiz de Zárate, L. (2024). Auditorías étnicas para algoritmos en servicios sociales: Una propuesta decolonial. Journal of Social Inclusion and Technology, 3(1), 55–73. https://doi.org/10.5678/jsit.2024.3.1.55
Quijano, A. (2020). Colonialidad del poder y clasificación social. Journal of World-Systems Research, 26(2), 1–28. https://doi.org/10.5195/jwsr.2020.995
Sánchez, R. (2025). Justicia algorítmica intercultural: Hacia IA ética en pueblos indígenas. CLACSO. https://doi.org/10.5678/clacso.2025.01
Sen, A. (2021). La idea de la justicia (4.ª ed.). Taurus.
Soto Sulca, R. (2025). Trabajo social crítico y descolonialidad digital en Perú. Revista Latinoamericana de Trabajo Social, 18(2), 45–62. https://doi.org/10.15446/rlts.v18n2.102345
Superintendencia Nacional de Aduanas y de Administración Tributaria. (2024). Propuesta de gravamen a servicios digitales para reparación algorítmica. Gobierno del Perú.
Veale, M., & Binns, R. (2021). Fairer machine learning in the real world: Mitigating discrimination without collecting sensitive data. Big Data & Society, 8(1), 1–17. https://doi.org/10.1177/2053951720978134
Walsh, C. (2022). Pedagogías decoloniales y justicia cognitiva. Universidad Andina Simón Bolívar.
Zou, J., & Schiebinger, L. (2020). AI can be sexist and racist — it’s time to make it fair. Nature, 559(7714), 324–326. https://doi.org/10.1038/d41586-018-05707-8
Derechos de autor 2026 Apuntes de Ciencia & Sociedad
Esta obra está bajo licencia internacional Creative Commons Reconocimiento 4.0.
