Explainable Artificial Intelligence in an application in Recommendation Systems | Inteligencia artificial explicable en una aplicación en sistemas de recomendación

Español; castellano. Este artículo se centra en el desarrollo de técnicas interpretativas para un sistema de recomendación basado en Inteligencia Artificial (IA) aplicado a procesos de contratación pública. El proyecto busca no solo implementar soluciones técnicas, sino también abordar desafíos estructurales y organizacionales en la contratación, mejorando la eficiencia y la justicia. Se destaca el crecimiento exponencial de la dependencia tecnológica en diversos sectores, impulsada por avances en IA y Machine Learning, y la adopción de la Inteligencia Artificial Explicable (XAI). A diferencia de la IA tradicional, la XAI equilibra la precisión con la interpretabilidad humana, crucial para su aplicación en sistemas de recomendación. Este enfoque holístico tiene como objetivo mejorar la transparencia, confianza y eficiencia en la selección de proveedores, abordando la opacidad y los riesgos de sesgo en la toma de decisiones automatizada, y resaltando la importancia de la XAI en la creación de sistemas más éticos y confiables.

Inglés. This article focuses on the development of interpretive techniques for an Artificial Intelligence (AI)-based recommendation system applied to public procurement processes. The project seeks not only to implement technical solutions, but also to address structural and organizational challenges in procurement, improving efficiency and fairness. It highlights the exponential growth of technological dependence in various sectors, driven by advances in AI and Machine Learning, and the adoption of Explainable Artificial Intelligence (XAI). Unlike traditional AI, XAI balances accuracy with human interpretability, crucial for its application in recommendation systems. This holistic approach aims to improve transparency, trust, and efficiency in supplier selection, addressing opacity and