Más allá de la regulación fragmentada: hacia un Tratado Internacional sobre Inteligencia Artificial Generativa y la protección universal de los Derechos Humanos
Autor: Matheo José Dager De La Hoz
Año: 2026
Contactos: matheodager1@gmail.com
Embedded Files
Quienes deseen realizar una publicación deberán comunicarse a bitacoralegalenaccion@gmail.com
Resumen
Resumen
La expansión de la inteligencia artificial generativa plantea desafíos que difícilmente pueden ser solucionados exclusivamente desde las legislaciones nacionales. Sistemas capaces de producir textos, imágenes, códigos, decisiones o contenidos sintéticos pueden ser desarrollados en un Estado, utilizados en otro y generar consecuencias sobre personas ubicadas en múltiples jurisdicciones. Esta realidad plantea interrogantes sobre la capacidad del Derecho Internacional para establecer estándares comunes de protección de los derechos humanos.
El presente artículo analiza la regulación internacional existente y sostiene que, aunque se han producido avances importantes, continúa existiendo una fragmentación normativa que dificulta establecer obligaciones universales frente a determinados riesgos de la inteligencia artificial. Se examinan, entre otros instrumentos, la Recomendación de la UNESCO sobre la Ética de la Inteligencia Artificial, las resoluciones de la Asamblea General de las Naciones Unidas y el Convenio Marco del Consejo de Europa sobre Inteligencia Artificial y Derechos Humanos, Democracia y Estado de Derecho. La UNESCO, por ejemplo, ha establecido principios relacionados con dignidad humana, transparencia, responsabilidad, supervisión humana y no discriminación.
A partir de este análisis, se propone avanzar hacia un instrumento internacional de alcance universal que establezca obligaciones mínimas de prevención, supervisión y reparación. Como propuesta, se plantea un Sistema Internacional de Garantías Algorítmicas basado en seis pilares: transparencia, evaluación de impacto en derechos humanos, supervisión independiente, responsabilidad y debida diligencia, cooperación internacional y protección reforzada de grupos vulnerables.
Palabras clave: inteligencia artificial generativa; derechos humanos; Derecho Internacional; gobernanza algorítmica; transparencia; debida diligencia; regulación internacional.
Una tecnología que no respeta fronteras
Una tecnología que no respeta fronteras
La inteligencia artificial generativa dejó de ser una tecnología reservada para laboratorios o centros especializados. Actualmente puede producir textos, imágenes, audio, video, código informático y otros contenidos a partir de instrucciones realizadas por los usuarios. Su incorporación a la educación, las empresas, los medios de comunicación, los servicios públicos y la administración de información está transformando la manera en que las personas interactúan con la tecnología.
El problema jurídico aparece cuando se observa que estas tecnologías no funcionan necesariamente dentro de las fronteras de un solo Estado.
Una herramienta puede ser desarrollada por una empresa ubicada en un país, entrenada utilizando información procedente de múltiples Estados, alojada en servidores situados en otra jurisdicción y utilizada por una persona ubicada en un cuarto país. Si el sistema produce un resultado discriminatorio, difunde información falsa o afecta la privacidad de una persona, determinar quién debe responder puede convertirse en un problema jurídico considerable.
Esta característica transfronteriza obliga a formular una pregunta que ya no puede ser ignorada: ¿son suficientes las legislaciones nacionales para proteger los derechos humanos frente a una tecnología cuyo funcionamiento y efectos pueden superar las fronteras estatales?
La respuesta parece ser negativa, al menos cuando se trata de establecer estándares mínimos de alcance global.
El mundo ya tiene reglas sobre inteligencia artificial, pero están fragmentadas
El mundo ya tiene reglas sobre inteligencia artificial, pero están fragmentadas
Afirmar que la inteligencia artificial carece completamente de regulación internacional sería incorrecto. Durante los últimos años se han producido avances significativos.
La UNESCO adoptó en 2021 su Recomendación sobre la Ética de la Inteligencia Artificial, considerada el primer marco normativo global de esta naturaleza. El instrumento coloca la dignidad humana y los derechos humanos en el centro y desarrolla principios relacionados con proporcionalidad, seguridad, privacidad, responsabilidad, transparencia, supervisión humana, sostenibilidad y no discriminación.
La importancia de este instrumento es evidente. Por primera vez, los Estados miembros de la UNESCO adoptaron un marco común que reconoce que la inteligencia artificial debe ser desarrollada y utilizada de manera compatible con los derechos humanos.
Sin embargo, existe una diferencia fundamental entre establecer principios internacionales y crear obligaciones convencionales jurídicamente vinculantes.
La propia Recomendación de la UNESCO contempla la aplicación voluntaria de sus disposiciones por parte de los Estados. Esto significa que posee una enorme importancia normativa, política y ética, pero no equivale a un tratado internacional que imponga obligaciones convencionales a los Estados que lo ratifiquen.
Las Naciones Unidas también han avanzado en esta materia. En marzo de 2024, la Asamblea General adoptó por consenso la Resolución A/RES/78/265 sobre sistemas de inteligencia artificial seguros, protegidos y confiables para el desarrollo sostenible. El texto reconoce la necesidad de reducir las brechas digitales y promover sistemas de inteligencia artificial compatibles con el Derecho Internacional y, particularmente, con la Carta de las Naciones Unidas y la Declaración Universal de Derechos Humanos.
Estos avances demuestran que existe un consenso internacional creciente sobre la necesidad de gobernar la inteligencia artificial. Pero también revelan una dificultad: el consenso sobre principios no necesariamente significa consenso sobre obligaciones jurídicas.
El precedente europeo: un avance importante, pero no universal
El precedente europeo: un avance importante, pero no universal
Existe actualmente un avance especialmente relevante que debe ser tenido en cuenta.
El Consejo de Europa abrió en septiembre de 2024 a la firma el Convenio Marco sobre Inteligencia Artificial y Derechos Humanos, Democracia y Estado de Derecho. El propio Consejo de Europa lo identifica como el primer tratado internacional jurídicamente vinculante dedicado específicamente a esta materia. Su finalidad es garantizar que las actividades desarrolladas durante el ciclo de vida de los sistemas de inteligencia artificial sean compatibles con los derechos humanos, la democracia y el Estado de derecho.
Este instrumento representa un cambio importante: la discusión sobre inteligencia artificial comienza a desplazarse desde declaraciones de principios hacia obligaciones jurídicas internacionales.
Además, su relevancia continúa aumentando. La Unión Europea ratificó el Convenio el 15 de mayo de 2026.
Sin embargo, existe una diferencia fundamental entre un tratado internacional y un tratado universal.
El Convenio del Consejo de Europa tiene un alcance internacional que supera a los Estados miembros de la organización, pues permite la participación de determinados Estados no miembros y de la Unión Europea. No obstante, no constituye un tratado universal adoptado en el marco de una organización de composición prácticamente universal como las Naciones Unidas.
Esta diferencia importa porque los riesgos de la inteligencia artificial tampoco son exclusivamente europeos.
Un sistema desarrollado en Europa puede utilizarse en América Latina. Una empresa tecnológica ubicada en Estados Unidos puede prestar servicios a usuarios en África. Un modelo desarrollado en Asia puede ser integrado en servicios públicos de otro continente. Por ello, la existencia de estándares regionales es valiosa, pero no elimina la necesidad de discutir estándares universales.
¿Qué significa realmente una regulación fragmentada?
¿Qué significa realmente una regulación fragmentada?
La fragmentación normativa no significa que existan demasiadas normas. Significa que diferentes jurisdicciones pueden adoptar soluciones distintas frente a un mismo problema tecnológico.
Imaginemos que una empresa desarrolla una herramienta de inteligencia artificial capaz de analizar solicitudes de crédito. El sistema es entrenado con grandes cantidades de datos y posteriormente utilizado para determinar qué personas tienen mayor probabilidad de recibir financiación.
Si el sistema discrimina indirectamente a determinado grupo de personas, pueden surgir diferentes respuestas jurídicas dependiendo del Estado en el que se utilice.
En un país podría existir una obligación de realizar una evaluación de impacto sobre los derechos fundamentales. En otro podría no existir. En uno podría exigirse explicar las razones de una decisión automatizada. En otro podría permitirse una utilización mucho más opaca del sistema.
La consecuencia es evidente: la protección de un derecho puede depender del lugar donde se encuentre la persona afectada.
Esto resulta especialmente problemático cuando se trata de derechos que tienen reconocimiento universal.
La privacidad, la igualdad, la libertad de expresión, la dignidad humana y las garantías del debido proceso no deberían depender exclusivamente del territorio en el que una persona haya recibido los efectos de una tecnología.
Por supuesto, los Estados conservan su soberanía regulatoria. Un tratado internacional no debería eliminar la capacidad de cada país para establecer normas adicionales. Su función sería establecer un piso mínimo de protección, no necesariamente un techo máximo de regulación.
La inteligencia artificial generativa plantea riesgos particulares
La inteligencia artificial generativa plantea riesgos particulares
La discusión no puede limitarse a la inteligencia artificial en términos generales. La inteligencia artificial generativa presenta características que hacen necesario un análisis específico.
Una de ellas es la capacidad de producir contenidos sintéticos con apariencia de autenticidad.
Una imagen falsa puede representar a una persona realizando una conducta que nunca realizó. Un audio puede imitar la voz de una autoridad. Un video puede construir una situación inexistente. Un modelo lingüístico puede generar información incorrecta con una apariencia convincente.
El problema jurídico no consiste únicamente en que una máquina pueda equivocarse. El verdadero desafío aparece cuando esas equivocaciones o manipulaciones adquieren capacidad de producir consecuencias reales sobre los derechos de las personas.
Una información sintética puede afectar la honra. Una decisión automatizada puede profundizar una discriminación. La utilización masiva de datos puede comprometer la privacidad. Un contenido artificialmente generado puede interferir en el debate público.
Esto exige que la discusión sobre inteligencia artificial se conecte directamente con el sistema internacional de protección de los derechos humanos.
Del principio ético a la obligación jurídica
Del principio ético a la obligación jurídica
Uno de los principales desafíos de la gobernanza internacional de la inteligencia artificial consiste en determinar cuándo un principio ético debe convertirse en una obligación jurídica.
Decir que los sistemas de inteligencia artificial deben ser transparentes es importante. Pero una obligación jurídica requiere responder preguntas adicionales.
¿Qué información debe entregarse?
¿A quién?
¿En qué momento?
¿Quién debe verificarla?
¿Qué ocurre cuando el desarrollador se niega a proporcionar información?
¿Existe un mecanismo de reclamación?
¿Quién responde por los daños?
Estas preguntas muestran la diferencia entre una declaración de principios y un régimen jurídico efectivo.
La UNESCO ya reconoce principios como transparencia, responsabilidad, auditoría, evaluación de impacto, supervisión humana y no discriminación. El desafío consiste en convertir esos principios en obligaciones verificables y mecanismos institucionales capaces de producir consecuencias cuando sean incumplidos.
Por ello, un futuro tratado internacional no debería limitarse a afirmar que la inteligencia artificial debe respetar los derechos humanos. Debe establecer cómo hacerlo.
Hacia un Sistema Internacional de Garantías Algorítmicas
Hacia un Sistema Internacional de Garantías Algorítmicas
Una posible respuesta sería la creación de un Sistema Internacional de Garantías Algorítmicas, concebido como núcleo de un eventual tratado universal sobre inteligencia artificial y derechos humanos.
La propuesta podría estructurarse alrededor de seis obligaciones fundamentales.
Primera: transparencia algorítmica verificable
La transparencia no puede significar simplemente revelar que una empresa utiliza inteligencia artificial.
Debe existir información suficiente para determinar qué sistema se está utilizando, cuál es su finalidad, qué riesgos presenta, qué datos resultan relevantes para su funcionamiento y quién es responsable de su implementación.
Esto no significa obligar a las empresas a revelar necesariamente todos sus secretos comerciales o el código fuente de sus sistemas. La transparencia debe encontrar un equilibrio con otros derechos e intereses legítimos.
Lo fundamental es que una persona afectada por una decisión de alto impacto pueda conocer, al menos, los elementos esenciales que permitan cuestionarla.
Segunda: evaluación de impacto sobre los derechos humanos
Antes de desplegar sistemas de alto riesgo debería realizarse una evaluación de impacto sobre los derechos humanos.
La lógica es sencilla: si una empresa o una autoridad pública sabe que una determinada tecnología puede afectar la privacidad, la igualdad, la libertad de expresión o el debido proceso, la evaluación no debería producirse únicamente después del daño.
La prevención debe anteceder al despliegue.
Esta aproximación coincide con la orientación de la UNESCO, que contempla la evaluación de riesgos, la auditoría, la debida diligencia y los mecanismos de evaluación de impacto como elementos de una gobernanza responsable de la inteligencia artificial.
Tercera: supervisión internacional independiente
Los Estados no deberían ser los únicos responsables de controlar sistemas que pueden operar simultáneamente en diferentes jurisdicciones.
Un futuro tratado podría establecer una instancia internacional de cooperación y supervisión encargada de elaborar estándares técnicos, intercambiar información, emitir recomendaciones y facilitar investigaciones cuando un sistema genere riesgos transfronterizos.
No tendría que convertirse necesariamente en un organismo con competencias ilimitadas. Su función podría concentrarse en aquellos sistemas cuyos riesgos excedan la capacidad de respuesta de un solo Estado.
Cuarta: responsabilidad estatal y debida diligencia
La utilización de inteligencia artificial no debería convertirse en una excusa para diluir la responsabilidad.
Cuando una autoridad pública utiliza un sistema automatizado para adoptar decisiones que afectan derechos fundamentales, el Estado debe conservar la responsabilidad jurídica por garantizar que dicha utilización sea compatible con sus obligaciones internacionales.
La existencia de un algoritmo no puede transformar una decisión estatal en una decisión sin responsable.
La debida diligencia debería exigir que los Estados adopten medidas razonables para prevenir, identificar, mitigar y reparar las afectaciones derivadas de sistemas de inteligencia artificial utilizados dentro de su jurisdicción o bajo su control.
Quinta: cooperación científica y regulatoria
Los Estados con mayor capacidad tecnológica poseen una ventaja evidente frente a aquellos que carecen de infraestructura, conocimiento especializado o recursos suficientes para evaluar sistemas avanzados de inteligencia artificial.
Una regulación internacional que ignore esta desigualdad podría terminar profundizando la brecha tecnológica.
Por ello, un futuro tratado debería incorporar mecanismos de cooperación científica, transferencia de conocimiento, formación técnica y fortalecimiento institucional.
La gobernanza de la inteligencia artificial no debería convertirse en un espacio reservado exclusivamente a los Estados tecnológicamente más desarrollados.
Sexta: protección reforzada de grupos vulnerables
No todas las personas enfrentan los mismos riesgos.
Los niños, las personas con discapacidad, determinados grupos sociales, las comunidades con menor acceso tecnológico y quienes se encuentran en condiciones de especial vulnerabilidad pueden sufrir impactos desproporcionados.
Por ello, el principio de igualdad exige adoptar medidas diferenciadas cuando sean necesarias.
La protección de los derechos humanos frente a la inteligencia artificial no puede limitarse a una concepción abstracta del individuo. Debe considerar las desigualdades existentes y la posibilidad de que la tecnología las reproduzca o amplifique.
¿Un tratado universal frenaría la innovación?
¿Un tratado universal frenaría la innovación?
Una de las principales objeciones frente a una regulación internacional consiste en afirmar que podría ralentizar el desarrollo tecnológico.
La preocupación merece ser considerada.
Una regulación excesivamente rígida puede aumentar los costos de innovación, dificultar el desarrollo de nuevas tecnologías y generar barreras de entrada para empresas pequeñas o investigadores.
Sin embargo, de ello no se desprende que la ausencia de reglas sea la mejor alternativa.
La seguridad jurídica también puede favorecer la innovación. Cuando los desarrolladores conocen de antemano cuáles son las obligaciones que deben cumplir, disminuye la incertidumbre jurídica y aumentan las posibilidades de construir tecnologías compatibles con estándares comunes.
El objetivo de un tratado no debería ser prohibir la inteligencia artificial, sino establecer límites claros cuando su utilización pueda comprometer derechos humanos.
En otras palabras, la discusión no debería plantearse como una elección entre innovación y regulación. El verdadero desafío consiste en construir una regulación que permita innovar sin convertir a las personas en sujetos de experimentación tecnológica.
El reto para América Latina
El reto para América Latina
Esta discusión tiene especial relevancia para América Latina.
Los países de la región no necesariamente concentran el desarrollo de los modelos de inteligencia artificial más avanzados, pero sus poblaciones sí están expuestas a sus efectos.
Esto genera una asimetría que debe ser considerada por el Derecho Internacional.
Si las reglas globales fueran definidas exclusivamente por los países que desarrollan las tecnologías más avanzadas, existe el riesgo de que las necesidades de los Estados consumidores de inteligencia artificial tengan menor representación.
Por eso, cualquier eventual negociación de un tratado debería garantizar una participación efectiva de los países en desarrollo.
No se trataría solamente de incorporar derechos humanos al diseño de la inteligencia artificial, sino también de democratizar la construcción de las reglas internacionales
¿Es realmente necesario un tratado?
¿Es realmente necesario un tratado?
La respuesta requiere cierta cautela.
No sería correcto afirmar que el Derecho Internacional actual carece de herramientas para enfrentar los efectos de la inteligencia artificial. Existen normas generales de derechos humanos, instrumentos internacionales, estándares éticos, resoluciones de Naciones Unidas y, desde 2024, un tratado jurídicamente vinculante del Consejo de Europa específicamente relacionado con inteligencia artificial.
El problema es diferente.
Lo que todavía parece faltar es un instrumento de alcance verdaderamente universal que reúna obligaciones mínimas y comunes aplicables a los Estados frente a los riesgos de la inteligencia artificial, especialmente aquellos que pueden producir efectos transfronterizos.
Por eso, la discusión sobre un tratado internacional no debería partir de la idea de que todo lo existente es inútil. Al contrario: debería partir de lo que ya se ha construido.
La UNESCO aporta principios. Las Naciones Unidas aportan legitimidad universal y espacios de coordinación. El Consejo de Europa demuestra que es posible adoptar obligaciones jurídicamente vinculantes. Las legislaciones nacionales y regionales aportan experiencias prácticas.
El siguiente paso podría consistir en conectar esos avances dentro de una arquitectura internacional más amplia.
Conclusiones
Conclusiones
La inteligencia artificial generativa está modificando la relación entre tecnología, sociedad y poder. Sus beneficios son evidentes, pero también lo son los riesgos que puede producir sobre derechos fundamentales.
El principal desafío jurídico no consiste simplemente en decidir si debe existir regulación. La verdadera cuestión es determinar si las reglas existentes ofrecen una protección suficientemente homogénea frente a tecnologías cuyos efectos pueden atravesar las fronteras nacionales.
Los avances recientes muestran que el Derecho Internacional ya comenzó a responder. La Recomendación de la UNESCO estableció principios globales centrados en los derechos humanos; la Asamblea General de las Naciones Unidas ha reconocido la importancia de una inteligencia artificial segura, protegida y confiable; y el Consejo de Europa adoptó el primer tratado internacional jurídicamente vinculante dedicado específicamente a la relación entre inteligencia artificial, derechos humanos, democracia y Estado de derecho.
Sin embargo, estos avances no eliminan la fragmentación.
La existencia de diferentes niveles de regulación puede producir escenarios en los que una misma tecnología esté sometida a estándares de protección distintos dependiendo del lugar donde sea utilizada. En un contexto en el que los sistemas de inteligencia artificial pueden operar simultáneamente en múltiples jurisdicciones, esta situación plantea un problema que difícilmente puede resolverse exclusivamente mediante legislaciones nacionales.
Por ello, resulta jurídicamente defendible avanzar hacia la discusión de un tratado internacional de alcance universal.
Ese tratado no tendría que sustituir las regulaciones nacionales ni impedir que los Estados establezcan estándares superiores. Su función debería consistir en construir un mínimo común de protección basado en derechos humanos.
En este contexto, el Sistema Internacional de Garantías Algorítmicas propuesto constituye una posible arquitectura para ese futuro instrumento. La transparencia verificable, las evaluaciones de impacto, la supervisión independiente, la responsabilidad estatal, la cooperación internacional y la protección reforzada de grupos vulnerables podrían convertirse en elementos centrales de una nueva generación de obligaciones internacionales.
El desafío, en última instancia, no es decidir si la humanidad debe utilizar inteligencia artificial. Esa discusión ya quedó atrás.
La cuestión es determinar bajo qué condiciones debe hacerlo.
Si la tecnología puede cruzar fronteras, la protección de los derechos humanos también debe poder hacerlo. Y si los algoritmos pueden adquirir una capacidad creciente para influir en decisiones que afectan la vida de las personas, el Derecho Internacional debe asegurarse de que detrás de cada sistema continúe existiendo algo que ningún algoritmo puede reemplazar: una responsabilidad jurídica frente al ser humano.
Referencias
Referencias
Consejo de Europa. (2024). Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law (CETS No. 225). Consejo de Europa.
Consejo de Europa. (2026). European Union ratifies the Council of Europe Framework Convention on Artificial Intelligence. Consejo de Europa.
Naciones Unidas. Asamblea General. (2024). Seizing the opportunities of safe, secure and trustworthy artificial intelligence systems for sustainable development (A/RES/78/265). Naciones Unidas.
UNESCO. (2021). Recommendation on the Ethics of Artificial Intelligence. Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura.
Page updated
Google Sites
Report abuse