En un momento de expansión vertiginosa de la inteligencia artificial (IA), el reciente informe de la ONU (A/HRC/59/53, mayo 2025) subraya con rigor la necesidad de consolidar un enfoque basado en los derechos humanos para su regulación, adquisición e implantación, tanto por los Estados como por las empresas.
Potencial Transformador pero acompañado de Riesgos Sistémicos
La ONU reconoce el potencial de la IA para avanzar en los Objetivos de Desarrollo Sostenible, como:
- aumentar la eficiencia financiera,
- mejorar la salud pública
- o combatir el hambre mediante agricultura de precisión.
Se identifican riesgos especialmente graves en el uso de IA para vigilancia masiva, manipulación de información, discriminación algorítmica y exclusión digital.
La ausencia de regulación adecuada agrava estos impactos y obstaculiza el acceso efectivo a mecanismos de reparación.
Estados: Doble Rol, Dobles Responsabilidades
Los Estados deben asumir su rol como garantes y como operadores de IA.
Como compradores, deben integrar salvaguardias contractuales desde la fase de licitación; como implantadores, deben anticiparse a los impactos negativos, no reaccionar una vez producidos.
El informe cita la necesidad de registros de algoritmos, evaluaciones de impacto en derechos fundamentales y formación especializada para funcionarios.
Además, la comunidad internacional debe atender las voces del Sur Global, frecuentemente excluidas de los debates normativos, para evitar que la IA refuerce desigualdades estructurales y geopolíticas.
Empresas: Diligencia Debida y Responsabilidad
Las empresas no pueden alegar neutralidad tecnológica.
La implantación de IA en sus procesos —desde la gestión de personal hasta la publicidad personalizada— exige un compromiso real con los Principios Rectores sobre las Empresas y los Derechos Humanos. Esto implica identificar riesgos, implementar mecanismos de reclamación eficaces, garantizar la transparencia y evitar externalizar responsabilidades.
El informe enfatiza que la IA utilizada en el ámbito laboral debe respetar la privacidad, evitar sesgos y ser supervisada por humanos. Asimismo, exige evaluar el impacto ambiental de estos sistemas, particularmente en cuanto a consumo energético.
Reparación y Transparencia: Claves del Marco Ético
La ONU subraya que sin mecanismos eficaces de reparación, la protección de los derechos humanos frente a la IA será ilusoria. Insta a establecer dependencias especializadas en derechos digitales, promover jurisprudencia garantista y desarrollar canales accesibles para reclamar daños provocados por sistemas algorítmicos.
Finalmente, el informe reclama líneas rojas absolutas: prohibiciones internacionales sobre prácticas como el reconocimiento facial en tiempo real, la puntuación social o la vigilancia predictiva.
Conclusión
Este informe de Naciones Unidas marca un antes y un después. Para quienes trabajamos en el ámbito del derecho público, la contratación administrativa o la gobernanza tecnológica, constituye una guía de referencia para integrar cláusulas éticas, salvaguardias normativas y mecanismos de control en la contratación de IA.
Es momento de que tanto Estados como empresas transiten del discurso al compromiso. La inteligencia artificial no puede estar por encima del Estado de Derecho.
Formación especializada en Contratación Pública:
¿Te gustaría aprender a redactar pliegos de condiciones técnicas y administrativas de forma práctica y entretenida? Nuestro curso es como una serie de Netflix, con más de 60 vídeos cortos, apuntes descargables en cada lección, test interactivos y casos prácticos reales.
- Descubre una nueva manera de entender la contratación pública.
- Accede gratis a una clase introductoria y comprueba cómo podemos ayudarte a dominar la redacción de pliegos.
