Inteligencia Artificial y Derechos
Humanos: directrices éticas
DOI: https://doi.org/10.70467/rqi.n12.1
quaestio iurisSumario
I.- Introducción. II.- El Estado de Derecho y la democracia
constitucional. III.- Los Derechos Humanos en el Estado
Constitucional de Derecho. IV.- Antecedentes de la Inteligencia
Artificial. V.- Inteligencia Artificial y discriminación. VI.- Derecho
al control humano. VII.- Principios éticos para la aplicación de
la IA. VIII.- Inteligencia artificial, algoritmos y discriminación.
IX.- Nuevas formas tecnológicas de administrar justicia. X.- IA
y protección de datos personales. XI.- IA y derecho al trabajo.
XII.-Conclusiones. XIII Lista de Referencias.
Resumen
El avance tecnológico en el mundo ha traído consigo la
consolidación de la Inteligencia Artificial (IA); sin embargo, este
drástico cambio en las sociedades, evidencia retos y desafíos,
sobre todo de alcance ético, en relación con los Derechos
Humanos, especialmente en el ámbito de la justicia, el empleo,
la privacidad y la igualdad.
En este trabajo académico se analizan las implicancias
derivadas de la aplicación de la IA en la vida cotidiana, bajo
un enfoque filosófico y ético, en donde los casos empíricos
no deben evaluarse aisladamente, sino por el contrario, de
manera cohesionada con el ordenamiento jurídico vigente;
del mismo modo, se proponen algunas posibles alternativas
para el abordaje de casos críticos, especialmente aquellos que
acarrean riesgo de transgresión de los Derechos Humanos de
los ciudadanos.
* Abogada. Maestra en Ciencias con mención en Derecho Laboral. Dra. Cs. Mención en Derecho.
Docente de pregrado y posgrado – Universidad Nacional de Cajamarca, Perú.
Correo electrónico: ccernap@unc.edu.pe
Código ORCID: https://orcid.org/0000-0002-9728-362X
** Doctora en Derecho, Coordinadora de la Maestría en Derecho Social y profesora- investigadora de la
Universidad Autónoma de Guerrero, México.
Correo electrónico: nascenciol@uagrovirtual.mx
Código ORCID: https://orcid.org/0000-0002-1499-8276
Inteligencia Artificial y Derechos Humanos:
directrices éticas
Artificial Intelligence and Human Rights: ethical
guidelines
CERNA PAJARES, Cinthya*
ASCENCIO LÓPEZ, Noemi**
Recibido el 3.6.2024
Evaluado el 10.7.2024
Publicado el 26.8.2024
I.- Introducción. II.- El Estado de Derecho y la democracia
constitucional. III.- Los Derechos Humanos en el Estado
Constitucional de Derecho. IV.- Antecedentes de la Inteligencia
Artificial. V.- Inteligencia Artificial y discriminación. VI.- Derecho
al control humano. VII.- Principios éticos para la aplicación de
la IA. VIII.- Inteligencia artificial, algoritmos y discriminación.
IX.- Nuevas formas tecnológicas de administrar justicia. X.- IA
y protección de datos personales. XI.- IA y derecho al trabajo.
XII.-Conclusiones. XIII Lista de Referencias.
Resumen
El avance tecnológico en el mundo ha traído consigo la
consolidación de la Inteligencia Artificial (IA); sin embargo, este
drástico cambio en las sociedades, evidencia retos y desafíos,
sobre todo de alcance ético, en relación con los Derechos
Humanos, especialmente en el ámbito de la justicia, el empleo,
la privacidad y la igualdad.
En este trabajo académico se analizan las implicancias
derivadas de la aplicación de la IA en la vida cotidiana, bajo
un enfoque filosófico y ético, en donde los casos empíricos
no deben evaluarse aisladamente, sino por el contrario, de
manera cohesionada con el ordenamiento jurídico vigente;
del mismo modo, se proponen algunas posibles alternativas
para el abordaje de casos críticos, especialmente aquellos que
acarrean riesgo de transgresión de los Derechos Humanos de
los ciudadanos.
* Abogada. Maestra en Ciencias con mención en Derecho Laboral. Dra. Cs. Mención en Derecho.
Docente de pregrado y posgrado – Universidad Nacional de Cajamarca, Perú.
Correo electrónico: ccernap@unc.edu.pe
Código ORCID: https://orcid.org/0000-0002-9728-362X
** Doctora en Derecho, Coordinadora de la Maestría en Derecho Social y profesora- investigadora de la
Universidad Autónoma de Guerrero, México.
Correo electrónico: nascenciol@uagrovirtual.mx
Código ORCID: https://orcid.org/0000-0002-1499-8276
Inteligencia Artificial y Derechos Humanos:
directrices éticas
Artificial Intelligence and Human Rights: ethical
guidelines
CERNA PAJARES, Cinthya*
ASCENCIO LÓPEZ, Noemi**
Recibido el 3.6.2024
Evaluado el 10.7.2024
Publicado el 26.8.2024
quaestio iurisPalabras clave
Derechos Humanos. Inteligencia Artificial. Avance tecnológico.
Privacidad. Justicia. Igualdad. Discriminación. Algoritmo.
Abstract
Technological advancement in the world has brought with it the
consolidation of Artificial Intelligence (AI); However, this drastic
change in societies shows challenges, especially of an ethical
scope, in relation to Human Rights, especially in the field of
justice, employment, privacy and equality.
In this academic work, the implications derived from the
application of AI in everyday life are analyzed, under a
philosophical and ethical approach, where empirical cases
should not be evaluated in isolation, but on the contrary, in
a cohesive manner with the current legal system. Likewise,
some possible alternatives are proposed for addressing critical
cases, especially those that carry a risk of transgression of the
Fundamental Rights of citizens.
Key words
Fundamental rights. Artificial intelligence. Technological
advance. Privacy. Justice. Equality. Discrimination. Algorithm.
I.- Introducción
La evolución y dinamismo de las sociedades, a lo largo del
tiempo, es un hecho innegable; en este escenario surge el
fenómeno de la Inteligencia Artificial (IA), revolucionando todos
los aspectos de la vida humana, lo cual ha implicado enormes
beneficios en la salud, educación, economía, entre otros.
Sin perjuicio de ello, este avance tecnológico plantea diversos
retos e interrogantes sobre el impacto creciente en los
Derechos Humanos de los ciudadanos. Por este motivo, frente
al acelerado progreso de la IA, resulta medular reflexionar
sobre el potencial riesgo de menoscabo de los derechos
de las personas, así como la asunción de mecanismos de
contingencia y protección frente a este inevitable fenómeno.
La IA se viene empleando en múltiples contextos jurídicos,
específicamente abordaremos los escenarios más críticos,
como, por ejemplo, justicia, empleo, discriminación y seguridad.
Los desafíos éticos derivados de esta problemática, tienen
sustento en la naturaleza iusfundamental de los derechos de
los ciudadanos, bajo un enfoque iusnaturalista racionalista;
lo cual advierte la necesidad de adecuar los mecanismos de
administración del poder público en el Estado Constitucional
de Derecho.
CERNA PAJARES, Cinthya
ASCENCIO LÓPEZ, Noemi
10
Derechos Humanos. Inteligencia Artificial. Avance tecnológico.
Privacidad. Justicia. Igualdad. Discriminación. Algoritmo.
Abstract
Technological advancement in the world has brought with it the
consolidation of Artificial Intelligence (AI); However, this drastic
change in societies shows challenges, especially of an ethical
scope, in relation to Human Rights, especially in the field of
justice, employment, privacy and equality.
In this academic work, the implications derived from the
application of AI in everyday life are analyzed, under a
philosophical and ethical approach, where empirical cases
should not be evaluated in isolation, but on the contrary, in
a cohesive manner with the current legal system. Likewise,
some possible alternatives are proposed for addressing critical
cases, especially those that carry a risk of transgression of the
Fundamental Rights of citizens.
Key words
Fundamental rights. Artificial intelligence. Technological
advance. Privacy. Justice. Equality. Discrimination. Algorithm.
I.- Introducción
La evolución y dinamismo de las sociedades, a lo largo del
tiempo, es un hecho innegable; en este escenario surge el
fenómeno de la Inteligencia Artificial (IA), revolucionando todos
los aspectos de la vida humana, lo cual ha implicado enormes
beneficios en la salud, educación, economía, entre otros.
Sin perjuicio de ello, este avance tecnológico plantea diversos
retos e interrogantes sobre el impacto creciente en los
Derechos Humanos de los ciudadanos. Por este motivo, frente
al acelerado progreso de la IA, resulta medular reflexionar
sobre el potencial riesgo de menoscabo de los derechos
de las personas, así como la asunción de mecanismos de
contingencia y protección frente a este inevitable fenómeno.
La IA se viene empleando en múltiples contextos jurídicos,
específicamente abordaremos los escenarios más críticos,
como, por ejemplo, justicia, empleo, discriminación y seguridad.
Los desafíos éticos derivados de esta problemática, tienen
sustento en la naturaleza iusfundamental de los derechos de
los ciudadanos, bajo un enfoque iusnaturalista racionalista;
lo cual advierte la necesidad de adecuar los mecanismos de
administración del poder público en el Estado Constitucional
de Derecho.
CERNA PAJARES, Cinthya
ASCENCIO LÓPEZ, Noemi
10
quaestio iurisSi bien estas novísimas tecnologías pueden acarrear la mejora
del acceso a la información, también se plantea una enorme
preocupación sobre la privacidad de los datos personales;
más aún, teniendo en cuenta que los algoritmos de IA pueden
recopilar y analizar grandes cantidades de datos personales,
lo cual implica un riesgo potencial respecto de los derechos
a la seguridad y privacidad de la información, acarreando
discriminación e injusticia.
Pese a los retos y riesgos, la IA también ofrece mejorar la
eficiencia y la equidad en la prestación de servicios públicos,
fortalecer la participación ciudadana y facilitar el acceso a la
justicia.
En ese sentido, resulta determinante adoptar un enfoque ético
en la implementación de sistemas de IA, buscando optimizar
los principios de igualdad, transparencia, equidad, privacidad
y no discriminación; lo cual precisa de la colaboración y
trabajo articulado entre el gobierno, el parlamento, el aparato
jurisdiccional, los actores académicos y la sociedad civil.
La alfabetización digital y el fortalecimiento de la conciencia
sobre los riesgos y beneficios de la IA, constituye una tarea
prioritaria por parte del Estado; solo de esta manera se
aprovechará el potencial del avance tecnológico en pro de una
sociedad más justa y humana para todos por igual.
II.- El Estado de Derecho y la democracia constitucional
La evolución del Estado constitucional de derecho ha permitido
que las personas sean capaces de defender sus derechos en
igualdad de condiciones, no obstante, sigue siendo necesario
atravesar por diversos procesos sociales como las luchas de
clases, a fin de establecer y consolidar un sistema equitativo.
El Estado constitucional de derecho surge bajo la prerrogativa
de que toda disposición contenida en una Constitución rígida
está jerárquicamente supraordenada a cualquier otra fuente del
ordenamiento jurídico (Witker, 2023). Con ello, evidenciamos
que si una norma se contrapone a lo establecido en el
ordenamiento constitucional, prevalece lo que dicta la Carta
Magna.
Para la existencia de un Estado constitucional es imprescindible
contar con una Constitución rígida (escrita, codificada y
resistente a modificaciones) que contenga un catálogo de
derechos humanos y principios iusfundamentales, permitiendo
la participación activa los actores sociales, políticos, culturales,
académicos y jurídicos; la segunda condición imprescindible
CERNA PAJARES, Cinthya
ASCENCIO LÓPEZ, Noemi
11
del acceso a la información, también se plantea una enorme
preocupación sobre la privacidad de los datos personales;
más aún, teniendo en cuenta que los algoritmos de IA pueden
recopilar y analizar grandes cantidades de datos personales,
lo cual implica un riesgo potencial respecto de los derechos
a la seguridad y privacidad de la información, acarreando
discriminación e injusticia.
Pese a los retos y riesgos, la IA también ofrece mejorar la
eficiencia y la equidad en la prestación de servicios públicos,
fortalecer la participación ciudadana y facilitar el acceso a la
justicia.
En ese sentido, resulta determinante adoptar un enfoque ético
en la implementación de sistemas de IA, buscando optimizar
los principios de igualdad, transparencia, equidad, privacidad
y no discriminación; lo cual precisa de la colaboración y
trabajo articulado entre el gobierno, el parlamento, el aparato
jurisdiccional, los actores académicos y la sociedad civil.
La alfabetización digital y el fortalecimiento de la conciencia
sobre los riesgos y beneficios de la IA, constituye una tarea
prioritaria por parte del Estado; solo de esta manera se
aprovechará el potencial del avance tecnológico en pro de una
sociedad más justa y humana para todos por igual.
II.- El Estado de Derecho y la democracia constitucional
La evolución del Estado constitucional de derecho ha permitido
que las personas sean capaces de defender sus derechos en
igualdad de condiciones, no obstante, sigue siendo necesario
atravesar por diversos procesos sociales como las luchas de
clases, a fin de establecer y consolidar un sistema equitativo.
El Estado constitucional de derecho surge bajo la prerrogativa
de que toda disposición contenida en una Constitución rígida
está jerárquicamente supraordenada a cualquier otra fuente del
ordenamiento jurídico (Witker, 2023). Con ello, evidenciamos
que si una norma se contrapone a lo establecido en el
ordenamiento constitucional, prevalece lo que dicta la Carta
Magna.
Para la existencia de un Estado constitucional es imprescindible
contar con una Constitución rígida (escrita, codificada y
resistente a modificaciones) que contenga un catálogo de
derechos humanos y principios iusfundamentales, permitiendo
la participación activa los actores sociales, políticos, culturales,
académicos y jurídicos; la segunda condición imprescindible
CERNA PAJARES, Cinthya
ASCENCIO LÓPEZ, Noemi
11
quaestio iurisde constitucionalización se consolida mediante garantías
jurisdiccionales (positivas, negativas, primarias y secundarias);
y, el tercero, tiene que ver con la existencia de una fuerza
vinculante de la Constitución en relación con los otros elementos
del orden jurídico (Lancheros-Gámez, 2009).
El Estado es responsable de fomentar la participación de los
distintos actores y sectores que lo conforman, ello se evidencia
mediante la denominada eficacia vertical (artículo 44 Const.); no
obstante, las personas también tienen la obligación de intervenir
de manera activa para incentivar el respeto de sus derechos y
la defensa de los mismos, ello, mediante la eficacia horizontal
(artículo 38 Const.); entonces, la colaboración cooperativa y
conjunta se convierte en un elemento indefectible.
Con el Estado constitucional de derecho nace un cambio de
paradigma, pasando por una notoria transición del Estado
Legal de Derecho hacia aquel, en donde la Constitución se
convierte en el mayor parámetro para invalidar y/o abrogar
todas aquellas normas de rango inferior que se contraponga
a sus principios, esto convierte al texto constitucional en un
mecanismo idóneo de organización, disciplina y regulador de
las relaciones entre el Estado y la población (Núnez, 2014).
El Estado constitucional de derecho se erige como un elemento
indispensable para la existencia de la democracia, pues,
permite que las personas ejerzan sus derechos humanos en
concordancia con lo señalado por la Norma Fundamental, que
es el máximo exponente de la tutela de derechos humanos en
términos de derecho interno (Martínez, 2023).
La democracia constitucional es un sistema de control político,
legitimación social y garantías, que establece y asegura la
participación política de todos los ciudadanos en igualdad de
condiciones, bajo los principios constitucionales, en donde
la división formal de poderes y los derechos humanos son
elementos imprescindibles (Restrepo & Gallo, 2021). Esta forma
de estado se caracteriza por la toma de decisiones colectivas
y mayoritarias, advirtiéndose que el ejercicio del poder político
regulado está limitado por los postulados constitucionales
(Córdova, 2011).
La democracia constitucional se consagra como una
manifestación de soberanía, es decir, que los ciudadanos,
quienes ostentan primigeniamente el poder, delegan las
funciones al gobierno, con la finalidad de que la toma de
decisiones sea en beneficio del pueblo, la forma de delegar
estas funciones es a través de la participación ciudadana en
CERNA PAJARES, Cinthya
ASCENCIO LÓPEZ, Noemi
12
jurisdiccionales (positivas, negativas, primarias y secundarias);
y, el tercero, tiene que ver con la existencia de una fuerza
vinculante de la Constitución en relación con los otros elementos
del orden jurídico (Lancheros-Gámez, 2009).
El Estado es responsable de fomentar la participación de los
distintos actores y sectores que lo conforman, ello se evidencia
mediante la denominada eficacia vertical (artículo 44 Const.); no
obstante, las personas también tienen la obligación de intervenir
de manera activa para incentivar el respeto de sus derechos y
la defensa de los mismos, ello, mediante la eficacia horizontal
(artículo 38 Const.); entonces, la colaboración cooperativa y
conjunta se convierte en un elemento indefectible.
Con el Estado constitucional de derecho nace un cambio de
paradigma, pasando por una notoria transición del Estado
Legal de Derecho hacia aquel, en donde la Constitución se
convierte en el mayor parámetro para invalidar y/o abrogar
todas aquellas normas de rango inferior que se contraponga
a sus principios, esto convierte al texto constitucional en un
mecanismo idóneo de organización, disciplina y regulador de
las relaciones entre el Estado y la población (Núnez, 2014).
El Estado constitucional de derecho se erige como un elemento
indispensable para la existencia de la democracia, pues,
permite que las personas ejerzan sus derechos humanos en
concordancia con lo señalado por la Norma Fundamental, que
es el máximo exponente de la tutela de derechos humanos en
términos de derecho interno (Martínez, 2023).
La democracia constitucional es un sistema de control político,
legitimación social y garantías, que establece y asegura la
participación política de todos los ciudadanos en igualdad de
condiciones, bajo los principios constitucionales, en donde
la división formal de poderes y los derechos humanos son
elementos imprescindibles (Restrepo & Gallo, 2021). Esta forma
de estado se caracteriza por la toma de decisiones colectivas
y mayoritarias, advirtiéndose que el ejercicio del poder político
regulado está limitado por los postulados constitucionales
(Córdova, 2011).
La democracia constitucional se consagra como una
manifestación de soberanía, es decir, que los ciudadanos,
quienes ostentan primigeniamente el poder, delegan las
funciones al gobierno, con la finalidad de que la toma de
decisiones sea en beneficio del pueblo, la forma de delegar
estas funciones es a través de la participación ciudadana en
CERNA PAJARES, Cinthya
ASCENCIO LÓPEZ, Noemi
12
quaestio iurisCERNA PAJARES, Cinthya
ASCENCIO LÓPEZ, Noemi
13 las jornadas electorales, mediante sufragio, delegando a los
representantes elegidos por el pueblo la administración del
poder público en armonía con la optimización de sus derecho y
en relación con el principio de proscripción de la arbitrariedad.
III.- Los Derechos Humanos en el Estado Constitucional de
Derecho
Después de explicar brevemente en qué consiste el Estado
Constitucional de Derecho y la democracia constitucional, se
advierte una necesaria relación entre ambos y los derechos
humanos, dado que, la plena vigencia y garantía tuitiva
constituye uno de los deberes primordiales del Estado,
priorizando la dignidad y el acceso a los servicios esenciales
en igualdad de condiciones.
El tipo de vínculo existente entre el Estado constitucional
democrático y los derechos humanos dependerá del enfoque
predominante de democracia que adopte el Estado, puede ser
democracia real o ideal, en la primera de ellas hay una tensión
entre la democracia y los derechos humanos, por medio de
los cuales se establecen efectos vinculantes al legislador;
mientras que en la democracia ideal los derechos humanos
son aprobados por todos y no cabe la posibilidad de que una
ley se contraponga a ellos (Alexy, 2000).
Los derechos humanos juegan un papel fundamental en
el Estado constitucional democrático, pues, mediante la
concreción de estos, se otorga protección a los ciudadanos,
quienes pueden ejercer la defensa de sus derechos mediante
mecanismos establecidos en el máximo ordenamiento, pero
cuando esto no es suficiente, o el Estado se extralimita en
sus funciones, las personas tienen la posibilidad de acceder
a la justicia por medio de los organismos internacionales
encargados de promover y vigilar a los Estados para que estos
cumplan con sus obligaciones.
IV.- Antecedentes de la Inteligencia Artificial
La inteligencia artificial (IA) es un término acuñado en 1955
por John McCarthy (2006), el primer miembro de la facultad
de IA de la Universidad de Stanford, quien la conceptualizó
como la ciencia y la ingeniería de hacer máquinas inteligentes,
especialmente programas informáticos inteligentes. Esta
avanzada tecnología brinda asistencia en múltiples rubros y
áreas, agilizando el desarrollo de los procesos con un gran
potencial para el desarrollo sostenible.
Sin embargo, así como se evidencian sus notorias e indiscutibles
ventajas, también se advierten riesgos potenciales respecto
ASCENCIO LÓPEZ, Noemi
13 las jornadas electorales, mediante sufragio, delegando a los
representantes elegidos por el pueblo la administración del
poder público en armonía con la optimización de sus derecho y
en relación con el principio de proscripción de la arbitrariedad.
III.- Los Derechos Humanos en el Estado Constitucional de
Derecho
Después de explicar brevemente en qué consiste el Estado
Constitucional de Derecho y la democracia constitucional, se
advierte una necesaria relación entre ambos y los derechos
humanos, dado que, la plena vigencia y garantía tuitiva
constituye uno de los deberes primordiales del Estado,
priorizando la dignidad y el acceso a los servicios esenciales
en igualdad de condiciones.
El tipo de vínculo existente entre el Estado constitucional
democrático y los derechos humanos dependerá del enfoque
predominante de democracia que adopte el Estado, puede ser
democracia real o ideal, en la primera de ellas hay una tensión
entre la democracia y los derechos humanos, por medio de
los cuales se establecen efectos vinculantes al legislador;
mientras que en la democracia ideal los derechos humanos
son aprobados por todos y no cabe la posibilidad de que una
ley se contraponga a ellos (Alexy, 2000).
Los derechos humanos juegan un papel fundamental en
el Estado constitucional democrático, pues, mediante la
concreción de estos, se otorga protección a los ciudadanos,
quienes pueden ejercer la defensa de sus derechos mediante
mecanismos establecidos en el máximo ordenamiento, pero
cuando esto no es suficiente, o el Estado se extralimita en
sus funciones, las personas tienen la posibilidad de acceder
a la justicia por medio de los organismos internacionales
encargados de promover y vigilar a los Estados para que estos
cumplan con sus obligaciones.
IV.- Antecedentes de la Inteligencia Artificial
La inteligencia artificial (IA) es un término acuñado en 1955
por John McCarthy (2006), el primer miembro de la facultad
de IA de la Universidad de Stanford, quien la conceptualizó
como la ciencia y la ingeniería de hacer máquinas inteligentes,
especialmente programas informáticos inteligentes. Esta
avanzada tecnología brinda asistencia en múltiples rubros y
áreas, agilizando el desarrollo de los procesos con un gran
potencial para el desarrollo sostenible.
Sin embargo, así como se evidencian sus notorias e indiscutibles
ventajas, también se advierten riesgos potenciales respecto
quaestio iurisCERNA PAJARES, Cinthya
ASCENCIO LÓPEZ, Noemi
14 de los derechos humanos, tema que debe ser abordado con
carácter prioritario por parte de todo Estado que se repute
constitucional.
La IA ha traído consigo la automatización de decisiones y gran
capacidad de procesamiento de datos, así como el reemplazo
del ser humano en tareas cotidianas o laborales; este
escenario, hace susceptible a la IA de evidenciar impactos a
gran escala sobre los derechos de las personas. Tal es el caso
de la libertad de expresión (derecho a comunicar y derecho
a recibir información libremente), derecho a la privacidad,
la proscripción de la discriminación, y el derecho a la tutela
judicial efectiva; entre otros.
Este fenómeno científico tiene una data de consolidación
desde el año 1950 con la intervención de Alan Turing (2009),
quien propulsa el “Test de Turing”, el cual es una herramienta
que permite realizar una evaluación del comportamiento y
capacidad que tienen las máquinas para demostrar inteligencia,
comparando su desarrollo con el pensamiento del ser humano.
A partir de este relevante hecho histórico, el desarrollo de la
Inteligencia Artificial empieza a generar gran interés y expectativa
para la humanidad, siendo así, en el año 1966 se puso a prueba
el primer programa de IA que simulaba una conversación
terapéutica (IA ELIZA), creado por Joseph Weizenbaum,
cuya función estaba orientada a brindar respuestas de forma
automática y coherente a las conversaciones (O’Regan, 2013).
A partir del año 2020, la IA se empieza a emplear en aplicaciones
de áreas que simplifican la vida cotidiana y laboral de los
sujetos, mediante reconocimiento facial, biometrías, asistentes
virtuales, predictores de rutinas y vehículos autónomos;
este escenario se refuerza con el desencadenamiento del
COVID-19, pues, se implementaron mecanismos de IA para el
área médica y de prevención con la detección de síntomas del
virus.
La Convención Americana de Derechos Humanos, en el año
1981, establece preceptos legales para la protección, promoción
y salvaguarda de los derechos humanos en América. Si bien
es cierto, este instrumento normativo no aborda taxativamente
el uso de la IA, se advierte que en algunos artículos se podrían
ver involucrados ciertos escenarios relacionados a la IA, tal es
el caso, del artículo 11 que busca salvaguardar el derecho a la
privacidad, incluyendo la recopilación de datos y la vigilancia.
En la actualidad, en el ordenamiento jurídico peruano no existe
un marco normativo específico para el uso de la IA como
ASCENCIO LÓPEZ, Noemi
14 de los derechos humanos, tema que debe ser abordado con
carácter prioritario por parte de todo Estado que se repute
constitucional.
La IA ha traído consigo la automatización de decisiones y gran
capacidad de procesamiento de datos, así como el reemplazo
del ser humano en tareas cotidianas o laborales; este
escenario, hace susceptible a la IA de evidenciar impactos a
gran escala sobre los derechos de las personas. Tal es el caso
de la libertad de expresión (derecho a comunicar y derecho
a recibir información libremente), derecho a la privacidad,
la proscripción de la discriminación, y el derecho a la tutela
judicial efectiva; entre otros.
Este fenómeno científico tiene una data de consolidación
desde el año 1950 con la intervención de Alan Turing (2009),
quien propulsa el “Test de Turing”, el cual es una herramienta
que permite realizar una evaluación del comportamiento y
capacidad que tienen las máquinas para demostrar inteligencia,
comparando su desarrollo con el pensamiento del ser humano.
A partir de este relevante hecho histórico, el desarrollo de la
Inteligencia Artificial empieza a generar gran interés y expectativa
para la humanidad, siendo así, en el año 1966 se puso a prueba
el primer programa de IA que simulaba una conversación
terapéutica (IA ELIZA), creado por Joseph Weizenbaum,
cuya función estaba orientada a brindar respuestas de forma
automática y coherente a las conversaciones (O’Regan, 2013).
A partir del año 2020, la IA se empieza a emplear en aplicaciones
de áreas que simplifican la vida cotidiana y laboral de los
sujetos, mediante reconocimiento facial, biometrías, asistentes
virtuales, predictores de rutinas y vehículos autónomos;
este escenario se refuerza con el desencadenamiento del
COVID-19, pues, se implementaron mecanismos de IA para el
área médica y de prevención con la detección de síntomas del
virus.
La Convención Americana de Derechos Humanos, en el año
1981, establece preceptos legales para la protección, promoción
y salvaguarda de los derechos humanos en América. Si bien
es cierto, este instrumento normativo no aborda taxativamente
el uso de la IA, se advierte que en algunos artículos se podrían
ver involucrados ciertos escenarios relacionados a la IA, tal es
el caso, del artículo 11 que busca salvaguardar el derecho a la
privacidad, incluyendo la recopilación de datos y la vigilancia.
En la actualidad, en el ordenamiento jurídico peruano no existe
un marco normativo específico para el uso de la IA como
quaestio iuris15 derecho humano. Pese a ello, se vienen proponiendo, a nivel
mundial, una serie de normas legales para abordar los desafíos
y escenarios entorno a la IA y los derechos humanos; uno de
ellos, es el establecido por el Instituto Alan Turing, denominado
el Marco de Garantía de Derechos Humanos, Democracia
y Estado de Derecho, para apoyar al Comité Ad Hoc sobre
Inteligencia Artificial del Consejo de Europa.
V.- Inteligencia Artificial y discriminación
En el año 2020, la red social Twitter fue blanco de delicadas
acusaciones relacionadas con el debido al funcionamiento
de una herramienta de previsualización de imágenes de
cada usuario. Sucedía que, dada la imposibilidad de colocar
una imagen completa en la página de inicio, el algoritmo
automatizado, seleccionaba una parte de cada imagen
para permitir a los usuarios previsualizar su contenido. Este
algoritmo que empleaba fotografías de personas, favorecía a
personas blancas antes que a personas de piel más oscura en
la previsualización; concluyéndose indefectiblemente que se
trataba de un algoritmo racista y excluyente.
El algoritmo fue estudiado y mejorado por un estudiante
universitario suizo, a pedido de Twitter; pero el resultado de
la investigación no fue para nada alentador, pues el algoritmo
prefería rostros más jóvenes, delgados y con pieles más claras
al recortar las imágenes para previsualizarlas.
Este controversial caso permite ahondar en cuestiones más
complejas sobre la relación que se sigue desarrollando entre
las nuevas tecnologías y los derechos humanos. El Comité
Asesor del Consejo de Derechos Humanos de las Naciones
Unidas, estableció que las nuevas tecnologías contribuyen
a empoderar a las personas y garantizar sus derechos y
libertades, brindando oportunidades especialmente a personas
vulnerables. Pese a ello, debemos reflexionar sobre los riesgos
que conllevan estas herramientas automatizadas, evitando
acciones justificatorias de discriminación (Fernández-Aller,
2022).
En ese mismo contexto, el derecho al trabajo también se ha
visto afectado en países en donde se han utilizado algoritmos
para seleccionar a postulantes a partir de los datos de otros
trabajadores considerados competentes, constituyendo
indiscutiblemente una muestra sesgada y excluyente de
determinados grupos raciales.
La tecnología es diseñada y empleada por seres humanos,
quienes tienen la capacidad de advertir y evitar potenciales
CERNA PAJARES, Cinthya
ASCENCIO LÓPEZ, Noemi
mundial, una serie de normas legales para abordar los desafíos
y escenarios entorno a la IA y los derechos humanos; uno de
ellos, es el establecido por el Instituto Alan Turing, denominado
el Marco de Garantía de Derechos Humanos, Democracia
y Estado de Derecho, para apoyar al Comité Ad Hoc sobre
Inteligencia Artificial del Consejo de Europa.
V.- Inteligencia Artificial y discriminación
En el año 2020, la red social Twitter fue blanco de delicadas
acusaciones relacionadas con el debido al funcionamiento
de una herramienta de previsualización de imágenes de
cada usuario. Sucedía que, dada la imposibilidad de colocar
una imagen completa en la página de inicio, el algoritmo
automatizado, seleccionaba una parte de cada imagen
para permitir a los usuarios previsualizar su contenido. Este
algoritmo que empleaba fotografías de personas, favorecía a
personas blancas antes que a personas de piel más oscura en
la previsualización; concluyéndose indefectiblemente que se
trataba de un algoritmo racista y excluyente.
El algoritmo fue estudiado y mejorado por un estudiante
universitario suizo, a pedido de Twitter; pero el resultado de
la investigación no fue para nada alentador, pues el algoritmo
prefería rostros más jóvenes, delgados y con pieles más claras
al recortar las imágenes para previsualizarlas.
Este controversial caso permite ahondar en cuestiones más
complejas sobre la relación que se sigue desarrollando entre
las nuevas tecnologías y los derechos humanos. El Comité
Asesor del Consejo de Derechos Humanos de las Naciones
Unidas, estableció que las nuevas tecnologías contribuyen
a empoderar a las personas y garantizar sus derechos y
libertades, brindando oportunidades especialmente a personas
vulnerables. Pese a ello, debemos reflexionar sobre los riesgos
que conllevan estas herramientas automatizadas, evitando
acciones justificatorias de discriminación (Fernández-Aller,
2022).
En ese mismo contexto, el derecho al trabajo también se ha
visto afectado en países en donde se han utilizado algoritmos
para seleccionar a postulantes a partir de los datos de otros
trabajadores considerados competentes, constituyendo
indiscutiblemente una muestra sesgada y excluyente de
determinados grupos raciales.
La tecnología es diseñada y empleada por seres humanos,
quienes tienen la capacidad de advertir y evitar potenciales
CERNA PAJARES, Cinthya
ASCENCIO LÓPEZ, Noemi
quaestio iurisescenarios de discriminación que de hecho existen en la
sociedad. Este aspecto debería ser el punto de partida para
impulsar el uso responsable de la IA.
VI.- Derecho al control humano
El control humano es una respuesta jurídica novedosa frente a
la necesidad de garantizar la tutela de los derechos e intereses
jurídicamente tutelados en escenarios de inteligencia artificial.
La capacidad de aprendizaje autónomo evidencia la necesidad
de implementar un control humano en los procesos de creación
y ejecución de la IA; esto con la finalidad de evitar la transgresión
derechos humanos, o, en el peor de los escenarios, buscar un
mecanismo de remediación.
En mérito al control humano, se imponen deberes al Estado
y a los ciudadanos, a fin de garantizar el nuevo derecho en
escenarios de IA. Esto implica una reestructuración institucional
al interior de los Estados para establecer quiénes serán los
encargados y responsables de la inspección, vigilancia y
sanción sobre los agentes que participan en la producción y
desarrollo de las nuevas tecnologías (Madrigal, 2020).
En síntesis, el reconocimiento del control humano como
derecho esencial en la inteligencia artificial es un campo aún
poco investigado; por lo que, resulta necesario propiciar la
discusión académica y jurídica alrededor de su reconocimiento.
VII.- Principios éticos para la aplicación de la IA
El desarrollo tecnológico, en cualquier ámbito, deber ser
guiado por la ética, la regulación normativa, y la tecnología en
sentido estricto. Las directrices éticas y el derecho constituyen,
un escenario altamente complejo; en cuanto a la IA, en primer
orden se debe considerar la técnica de los algoritmos y los
datos, en segundo lugar, la dimensión ética, y por último el filtro
legal y social. El aspecto medular, versa sobre el desarrollo
de un marco de derechos humanos para la IA, propiciando
mecanismos para hacer frente a la falta de eficacia de los
marcos éticos, permitiendo un desarrollo de tecnologías con
un anclaje más sólido en las consecuencias e impacto sobre
derechos humanos (Gascon, 2020).
Probablemente, los marcos éticos son ineficaces por ser
serviles y pasivos frente a la actual situación de concentración
de poder económico y tecnológico, sobre todo en contextos
de exclusión de los intereses de personas de países menos
desarrollados. Sumado a ello, estos marcos éticos no cuentan
marcos de observancia práctica, motivo por el cual, la ética en
el campo de la tecnología está muy lejos de ser agente drástico
de cambio.
16
CERNA PAJARES, Cinthya
ASCENCIO LÓPEZ, Noemi
sociedad. Este aspecto debería ser el punto de partida para
impulsar el uso responsable de la IA.
VI.- Derecho al control humano
El control humano es una respuesta jurídica novedosa frente a
la necesidad de garantizar la tutela de los derechos e intereses
jurídicamente tutelados en escenarios de inteligencia artificial.
La capacidad de aprendizaje autónomo evidencia la necesidad
de implementar un control humano en los procesos de creación
y ejecución de la IA; esto con la finalidad de evitar la transgresión
derechos humanos, o, en el peor de los escenarios, buscar un
mecanismo de remediación.
En mérito al control humano, se imponen deberes al Estado
y a los ciudadanos, a fin de garantizar el nuevo derecho en
escenarios de IA. Esto implica una reestructuración institucional
al interior de los Estados para establecer quiénes serán los
encargados y responsables de la inspección, vigilancia y
sanción sobre los agentes que participan en la producción y
desarrollo de las nuevas tecnologías (Madrigal, 2020).
En síntesis, el reconocimiento del control humano como
derecho esencial en la inteligencia artificial es un campo aún
poco investigado; por lo que, resulta necesario propiciar la
discusión académica y jurídica alrededor de su reconocimiento.
VII.- Principios éticos para la aplicación de la IA
El desarrollo tecnológico, en cualquier ámbito, deber ser
guiado por la ética, la regulación normativa, y la tecnología en
sentido estricto. Las directrices éticas y el derecho constituyen,
un escenario altamente complejo; en cuanto a la IA, en primer
orden se debe considerar la técnica de los algoritmos y los
datos, en segundo lugar, la dimensión ética, y por último el filtro
legal y social. El aspecto medular, versa sobre el desarrollo
de un marco de derechos humanos para la IA, propiciando
mecanismos para hacer frente a la falta de eficacia de los
marcos éticos, permitiendo un desarrollo de tecnologías con
un anclaje más sólido en las consecuencias e impacto sobre
derechos humanos (Gascon, 2020).
Probablemente, los marcos éticos son ineficaces por ser
serviles y pasivos frente a la actual situación de concentración
de poder económico y tecnológico, sobre todo en contextos
de exclusión de los intereses de personas de países menos
desarrollados. Sumado a ello, estos marcos éticos no cuentan
marcos de observancia práctica, motivo por el cual, la ética en
el campo de la tecnología está muy lejos de ser agente drástico
de cambio.
16
CERNA PAJARES, Cinthya
ASCENCIO LÓPEZ, Noemi
quaestio iurisVIII.- Inteligencia artificial, algoritmos y discriminación
Las herramientas tecnológicas usadas por IA, evidencian un
patrón que tiende a acrecentar las divisiones sociales y a
incrementar la desigualdad social, especialmente en colectivos
vulnerables. Un claro ejemplo de ello, se evidencia con el
envenenamiento de datos, este es un método de explotación
en el que un programador, puede manipular los datos de
entrenamiento de los algoritmos para alterar las decisiones
de un sistema. Este envenenamiento acarrea perniciosas
consecuencias vinculadas a la transgresión a la privacidad de
datos, o el riesgo de manipular y emplear los datos personales
en contra de los usuarios. Desde luego, este desafortunado
escenario profundiza los problemas de discriminación social e
injusticia. En este sentido, el real desafío ya no está evidenciado
por la innovación tecnológica y digital, sino por la gobernanza
y ética administración de estas tecnologías y su impacto en la
vida social (Almonacid, 2019).
Se ha advertido que asistentes virtuales como Alexa o Siri
(nombres de mujeres), evidencian un proceso de feminización
de la IA, donde las divisiones del trabajo por género se
normalizan reduciendo las tareas de la mujer únicamente a
la comunicación y obediencia, diseñados con personalidades
sumisas, bajo un criterio de domesticación de la IA, asociando
la feminidad como sinónimo de personalidad dócil y receptiva.
Esta nefasta realidad tiende a estigmatizar mucho más a las
mujeres, con el riesgo de quedar relegadas en ámbitos de la
vida económica, política y social, retrasando notoriamente el
progreso en materia de igualdad de género (Almonacid, 2019).
IX.- Nuevas formas tecnológicas de administrar justicia
La impartición de justicia tampoco es ajena al fenómeno de
expansión de la IA, sobre todo en el procesamiento de datos
y en los procesos de decisión, donde los prejuicios sociales
se agudizan dado que, el uso de modelos de aprendizaje
automático, se entrenan con datos policiales sesgados. De
esta manera, lejos de evitar el racismo, se buscan herramientas
para ocultarlo o disfrazarlo. Resulta bastante preocupante, en
algunos países de América, que se empleen herramientas de
IA para emitir fallos en aquellos casos considerados simples
o no complejos. Pues, es innegable el alto grado de error,
sumado a la discriminación, de los algoritmos utilizados.
Estas herramientas funcionan como una forma de lavado de
tecnología, donde una apariencia de objetividad cubre los
mecanismos que fomentan la discriminación en la sociedad.
Se advierten afirmaciones falsas sobre las capacidades reales
de la tecnología, que incluye desde transformaciones digitales
17
CERNA PAJARES, Cinthya
ASCENCIO LÓPEZ, Noemi
Las herramientas tecnológicas usadas por IA, evidencian un
patrón que tiende a acrecentar las divisiones sociales y a
incrementar la desigualdad social, especialmente en colectivos
vulnerables. Un claro ejemplo de ello, se evidencia con el
envenenamiento de datos, este es un método de explotación
en el que un programador, puede manipular los datos de
entrenamiento de los algoritmos para alterar las decisiones
de un sistema. Este envenenamiento acarrea perniciosas
consecuencias vinculadas a la transgresión a la privacidad de
datos, o el riesgo de manipular y emplear los datos personales
en contra de los usuarios. Desde luego, este desafortunado
escenario profundiza los problemas de discriminación social e
injusticia. En este sentido, el real desafío ya no está evidenciado
por la innovación tecnológica y digital, sino por la gobernanza
y ética administración de estas tecnologías y su impacto en la
vida social (Almonacid, 2019).
Se ha advertido que asistentes virtuales como Alexa o Siri
(nombres de mujeres), evidencian un proceso de feminización
de la IA, donde las divisiones del trabajo por género se
normalizan reduciendo las tareas de la mujer únicamente a
la comunicación y obediencia, diseñados con personalidades
sumisas, bajo un criterio de domesticación de la IA, asociando
la feminidad como sinónimo de personalidad dócil y receptiva.
Esta nefasta realidad tiende a estigmatizar mucho más a las
mujeres, con el riesgo de quedar relegadas en ámbitos de la
vida económica, política y social, retrasando notoriamente el
progreso en materia de igualdad de género (Almonacid, 2019).
IX.- Nuevas formas tecnológicas de administrar justicia
La impartición de justicia tampoco es ajena al fenómeno de
expansión de la IA, sobre todo en el procesamiento de datos
y en los procesos de decisión, donde los prejuicios sociales
se agudizan dado que, el uso de modelos de aprendizaje
automático, se entrenan con datos policiales sesgados. De
esta manera, lejos de evitar el racismo, se buscan herramientas
para ocultarlo o disfrazarlo. Resulta bastante preocupante, en
algunos países de América, que se empleen herramientas de
IA para emitir fallos en aquellos casos considerados simples
o no complejos. Pues, es innegable el alto grado de error,
sumado a la discriminación, de los algoritmos utilizados.
Estas herramientas funcionan como una forma de lavado de
tecnología, donde una apariencia de objetividad cubre los
mecanismos que fomentan la discriminación en la sociedad.
Se advierten afirmaciones falsas sobre las capacidades reales
de la tecnología, que incluye desde transformaciones digitales
17
CERNA PAJARES, Cinthya
ASCENCIO LÓPEZ, Noemi
quaestio iurisexageradas hasta la adopción de un lenguaje de marketing
engañoso (McGregor, 2019).
Algunos países sudamericanos que ya han desarrollado
softwares, y que los están utilizando como herramienta de
apoyo para la administración de justicia, ejemplo de ello lo
encontramos en Argentina con Prometea que desde 2017, la
Fiscalía de la Ciudad de Buenos Aires ha implementado para
elaborar dictámenes judiciales (Estevez, 2020) ; y Colombia con
Pretoria el cual desde el 2020, apoya y optimiza el proceso de
selección, análisis y estructuración de las sentencias de tutela
para revisión de la Corte Constitucional (Corte Constitucional,
2020).
X.- IA y protección de datos personales
El derecho a la protección de datos constituye el principio
de la relación entre el Derecho y la tecnología. Debemos ser
plenamente conscientes de los peligros que implica su uso
para los derechos de las personas. La protección de datos
se vincula indubitablemente al derecho a la privacidad y a la
intimidad.
La relación de la protección de datos con la IA es innegable,
pues, la IA recurre a datos personales y emplea tecnología
para extraer conclusiones a partir de datos mediante algoritmos
de una manera independiente de la voluntad humana. El
campo de la protección de datos está regulado jurídicamente;
sin perjuicio de ello, la IA ha ocasionado dificultades en la
aplicación de determinados principios propios de la protección
de datos, como la transparencia, el derecho de libre acceso a
la información, el derecho de información en sentido estricto,
entre otros (McGregor, 2019)
XI.- IA y derecho al trabajo
Los riesgos que el uso de la inteligencia artificial acarrea
para los derechos de los trabajadores son innegables; sobre
todo, aquellas herramientas utilizadas por el empleador en
los procesos de selección de personal y en el ejercicio de
sus poderes de dirección y control. El derecho a la intimidad,
el derecho a la protección de datos personales y el derecho
a la no discriminación son los derechos de los trabajadores
más vulnerables ante estas prácticas. De otro lado, se vienen
implementado cada vez con mayor asiduidad, herramientas
derivadas de la IA para someter a los trabajadores a vigilancia
permanente, acarreando implicancias perniciosas para su
intimidad y su salud (Batista, 2019).
18
CERNA PAJARES, Cinthya
ASCENCIO LÓPEZ, Noemi
engañoso (McGregor, 2019).
Algunos países sudamericanos que ya han desarrollado
softwares, y que los están utilizando como herramienta de
apoyo para la administración de justicia, ejemplo de ello lo
encontramos en Argentina con Prometea que desde 2017, la
Fiscalía de la Ciudad de Buenos Aires ha implementado para
elaborar dictámenes judiciales (Estevez, 2020) ; y Colombia con
Pretoria el cual desde el 2020, apoya y optimiza el proceso de
selección, análisis y estructuración de las sentencias de tutela
para revisión de la Corte Constitucional (Corte Constitucional,
2020).
X.- IA y protección de datos personales
El derecho a la protección de datos constituye el principio
de la relación entre el Derecho y la tecnología. Debemos ser
plenamente conscientes de los peligros que implica su uso
para los derechos de las personas. La protección de datos
se vincula indubitablemente al derecho a la privacidad y a la
intimidad.
La relación de la protección de datos con la IA es innegable,
pues, la IA recurre a datos personales y emplea tecnología
para extraer conclusiones a partir de datos mediante algoritmos
de una manera independiente de la voluntad humana. El
campo de la protección de datos está regulado jurídicamente;
sin perjuicio de ello, la IA ha ocasionado dificultades en la
aplicación de determinados principios propios de la protección
de datos, como la transparencia, el derecho de libre acceso a
la información, el derecho de información en sentido estricto,
entre otros (McGregor, 2019)
XI.- IA y derecho al trabajo
Los riesgos que el uso de la inteligencia artificial acarrea
para los derechos de los trabajadores son innegables; sobre
todo, aquellas herramientas utilizadas por el empleador en
los procesos de selección de personal y en el ejercicio de
sus poderes de dirección y control. El derecho a la intimidad,
el derecho a la protección de datos personales y el derecho
a la no discriminación son los derechos de los trabajadores
más vulnerables ante estas prácticas. De otro lado, se vienen
implementado cada vez con mayor asiduidad, herramientas
derivadas de la IA para someter a los trabajadores a vigilancia
permanente, acarreando implicancias perniciosas para su
intimidad y su salud (Batista, 2019).
18
CERNA PAJARES, Cinthya
ASCENCIO LÓPEZ, Noemi
quaestio iurisEn nuestro país, estos mecanismos de excesiva vigilancia, han
sido recientemente normados, con la última modificación de la
ley de teletrabajo, emitida por el Congreso de la República, que
busca instalar mecanismos de verificación y contabilización
de horas efectivas de labores de los trabajadores remotos,
lo cual indefectiblemente, acarreará daños en la salud de los
prestadores del servicio, por excesiva exposición frente al
computador.
La compleja relación entre los derechos laborales y la facultad
directriz del empleador amparada por la libertad de empresa,
precisa un equilibrio a través del principio de proporcionalidad;
más aún, considerando que el prestador de servicios es la
parte débil en una relación laboral.
En otro sentido, el uso de la inteligencia artificial en el trabajo
implica la automatización de las profesiones, considerándose
las más proclives a esto las que realizan actividades físicas
predecibles, como son, el procesamiento y la compilación de
datos. Por lo que socialmente nos obliga a prepararnos, no
solamente en la parte académica, sino en el desarrollo de
habilidades, destrezas y capacidades que nos permitan ser
más competitivos en el área laboral que se pretenda incursionar
(Aguilera, 2019).
Otro factor que es importante analizar, es la Seguridad Social,
ya que, mientras dicho derecho se encuentre condicionado
al trabajo, se encontrará afectado al incrementarse el uso de
la inteligencia artificial en las actividades laborales, ya que al
mismo tiempo que los procesos productivos verán reducción
en el margen de error inherente a la actividad humana, se irán
eliminando los límites a la jornada diaria de trabajo establecidos
en las legislaciones laborales (Selma, 2021).
Lo que nos obliga a reflexionar sobre los cambios a las
legislaciones laborales, que permitan armonizar las nuevas
formas y jornadas de trabajo, protegiendo a su vez la Seguridad
Social de los ciudadanos.
XII.- Conclusiones
La democracia constitucional constituye una consolidación
más firme para los Estados constitucionales de derecho, pues
a través de ella se garantiza la participación activa de los
gobernados en la toma de decisiones. Los derechos humanos
son la máxima expresión de la vida digna e igualitaria para los
seres humanos, el Estado Constitucional y democrático tiene
el deber de garantizar su plena vigencia.
El drástico cambio en las sociedades, como consecuencia de
19
CERNA PAJARES, Cinthya
ASCENCIO LÓPEZ, Noemi
sido recientemente normados, con la última modificación de la
ley de teletrabajo, emitida por el Congreso de la República, que
busca instalar mecanismos de verificación y contabilización
de horas efectivas de labores de los trabajadores remotos,
lo cual indefectiblemente, acarreará daños en la salud de los
prestadores del servicio, por excesiva exposición frente al
computador.
La compleja relación entre los derechos laborales y la facultad
directriz del empleador amparada por la libertad de empresa,
precisa un equilibrio a través del principio de proporcionalidad;
más aún, considerando que el prestador de servicios es la
parte débil en una relación laboral.
En otro sentido, el uso de la inteligencia artificial en el trabajo
implica la automatización de las profesiones, considerándose
las más proclives a esto las que realizan actividades físicas
predecibles, como son, el procesamiento y la compilación de
datos. Por lo que socialmente nos obliga a prepararnos, no
solamente en la parte académica, sino en el desarrollo de
habilidades, destrezas y capacidades que nos permitan ser
más competitivos en el área laboral que se pretenda incursionar
(Aguilera, 2019).
Otro factor que es importante analizar, es la Seguridad Social,
ya que, mientras dicho derecho se encuentre condicionado
al trabajo, se encontrará afectado al incrementarse el uso de
la inteligencia artificial en las actividades laborales, ya que al
mismo tiempo que los procesos productivos verán reducción
en el margen de error inherente a la actividad humana, se irán
eliminando los límites a la jornada diaria de trabajo establecidos
en las legislaciones laborales (Selma, 2021).
Lo que nos obliga a reflexionar sobre los cambios a las
legislaciones laborales, que permitan armonizar las nuevas
formas y jornadas de trabajo, protegiendo a su vez la Seguridad
Social de los ciudadanos.
XII.- Conclusiones
La democracia constitucional constituye una consolidación
más firme para los Estados constitucionales de derecho, pues
a través de ella se garantiza la participación activa de los
gobernados en la toma de decisiones. Los derechos humanos
son la máxima expresión de la vida digna e igualitaria para los
seres humanos, el Estado Constitucional y democrático tiene
el deber de garantizar su plena vigencia.
El drástico cambio en las sociedades, como consecuencia de
19
CERNA PAJARES, Cinthya
ASCENCIO LÓPEZ, Noemi
quaestio iurisla implementación de herramientas derivadas de la Inteligencia
Artificial, evidencia retos de alcance ético, en relación con los
Derechos Humanos.
La IA ha invadido varios escenarios jurídicos, como, por
ejemplo, justicia, empleo, discriminación y seguridad. Los
desafíos éticos derivados de esta problemática, tienen sustento
en el enfoque iusnaturalista racionalista; lo cual advierte la
necesidad de adecuar los mecanismos de administración del
poder público en el Estado Constitucional de Derecho.
Es indiscutible que las nuevas tecnologías acarrean la
mejora del acceso a la información, pero también se plantea
una enorme preocupación sobre la privacidad de los datos
personales; más aún, teniendo en cuenta que los algoritmos de
IA advierten alertas racistas y discriminatorias, acrecentando la
brecha contra ciudadanos en situación de vulnerabilidad.
La IA ha traído consigo la automatización de decisiones y gran
capacidad de procesamiento de datos, así como el reemplazo
del ser humano en tareas cotidianas o laborales; este escenario,
hace susceptible a la IA de evidenciar impactos a gran escala
sobre los derechos de las personas.
El control humano es una respuesta jurídica novedosa frente a
la necesidad de garantizar la tutela de los derechos e intereses
jurídicamente tutelados en escenarios de inteligencia artificial.
Los marcos éticos sobre la IA son ineficientes por ser pasivos
frente a la actual situación de concentración de poder económico
y tecnológico, además no cuentan marcos de observancia
práctica.
XIII.- Lista de Referencias
Aguilera Durán, J. (2019). Derecho al trabajo, automatización
laboral y derechos de afectación por el uso de tecnología. Revista
latinoamericana de derecho social, 29, 3-23. Epub 24 de abril de
2020. https://doi.org/10.22201/iij.24487899e.2019.29.13898
Alexy, R. (2000). La institucionalización de los derechos
humanos en el Estado constitucional democrático. Derechos
y Libertades: Revista del Instituto Bartolomé de las Casas, 8,
21-42. Obtenido de https://hdl.handle.net/10016/1372
Almonacid, J., Coronel, Y. (2019). “Aplicabilidad de la
inteligencia artificial y la tecnología blockchain en el derecho
contractual privado”. Revista de Derecho Privado. (38), 119-
142. Recuperado de https://doi.org/10.18601/01234366.n38.05
20
CERNA PAJARES, Cinthya
ASCENCIO LÓPEZ, Noemi
Artificial, evidencia retos de alcance ético, en relación con los
Derechos Humanos.
La IA ha invadido varios escenarios jurídicos, como, por
ejemplo, justicia, empleo, discriminación y seguridad. Los
desafíos éticos derivados de esta problemática, tienen sustento
en el enfoque iusnaturalista racionalista; lo cual advierte la
necesidad de adecuar los mecanismos de administración del
poder público en el Estado Constitucional de Derecho.
Es indiscutible que las nuevas tecnologías acarrean la
mejora del acceso a la información, pero también se plantea
una enorme preocupación sobre la privacidad de los datos
personales; más aún, teniendo en cuenta que los algoritmos de
IA advierten alertas racistas y discriminatorias, acrecentando la
brecha contra ciudadanos en situación de vulnerabilidad.
La IA ha traído consigo la automatización de decisiones y gran
capacidad de procesamiento de datos, así como el reemplazo
del ser humano en tareas cotidianas o laborales; este escenario,
hace susceptible a la IA de evidenciar impactos a gran escala
sobre los derechos de las personas.
El control humano es una respuesta jurídica novedosa frente a
la necesidad de garantizar la tutela de los derechos e intereses
jurídicamente tutelados en escenarios de inteligencia artificial.
Los marcos éticos sobre la IA son ineficientes por ser pasivos
frente a la actual situación de concentración de poder económico
y tecnológico, además no cuentan marcos de observancia
práctica.
XIII.- Lista de Referencias
Aguilera Durán, J. (2019). Derecho al trabajo, automatización
laboral y derechos de afectación por el uso de tecnología. Revista
latinoamericana de derecho social, 29, 3-23. Epub 24 de abril de
2020. https://doi.org/10.22201/iij.24487899e.2019.29.13898
Alexy, R. (2000). La institucionalización de los derechos
humanos en el Estado constitucional democrático. Derechos
y Libertades: Revista del Instituto Bartolomé de las Casas, 8,
21-42. Obtenido de https://hdl.handle.net/10016/1372
Almonacid, J., Coronel, Y. (2019). “Aplicabilidad de la
inteligencia artificial y la tecnología blockchain en el derecho
contractual privado”. Revista de Derecho Privado. (38), 119-
142. Recuperado de https://doi.org/10.18601/01234366.n38.05
20
CERNA PAJARES, Cinthya
ASCENCIO LÓPEZ, Noemi
quaestio iuris21 Batista Hernández, N., Navarrete Luque, C., León Segura, C.,
Real, M., Chiriboga Hungría, J., Estupiñán Ricardo, J.(2019). “La
toma de decisiones en la informática jurídica basado en el uso
de los Sistemas Expertos”. Revista Investigación Operacional.
40 (1), 131-139. Recuperado de https://bit.ly/3CcPKe3
Córdova, L. (2011). La democracia constitucional y el control
de las reformas constitucionales. En C. Astudillo, & L. Córdova,
Reforma y control de la Constitución, implicaciones y límites
(primera ed.). México: Universidad Nacional Autónoma de
México.
Corte Constitucional Republica de Colombia (2020). PRETORIA,
un ejemplo de incorporación de tecnologías de punta en
el sector justicia. Boletín No. 128. Recuperado de https://
www.corteconstitucional.gov.co/noticia.php?PRETORIA,-un-
ejemplo-de-incorporaci%C3%B3n-de-tecnolog%C3%ADas-
de-punta-en-el-sector-justicia-8970
Estevez, E., Linares Lejarraga, S. y Fillottrani, P. (2020).
PROMETEA: Transformando la administración de justicia con
herramientas de inteligencia artificial. Banco Interamericano
de Desarrollo. Recuperado de https://publications.iadb.org/es/
publications/spanish/viewer/PROMETEA-Transformando-la-
administracion-de-justicia-con-herramientas-de-inteligencia-
artificial.pdf
Fernández-Aller, Celia y Serrano Pérez, M.ª Mercedes (2022).
¿Es posible una Inteligencia artificial respetuosa con la
protección de datos? Doxa. Cuadernos de Filosofía del Derecho,
45, pp. 307-336. https://doi.org/10.14198/ DOXA2022.45.11
Gascon Marcen, Ana (2020). “Derechos Humanos e Inteligencia
Artificial”, en Setenta años de Constitución Italiana y cuarenta
años de Constitución Española, pp. 335-350. Centro de
Estudios Políticos y Constitucionales.
Lancheros-Gámez, J. (2009). Del Estado Liberal al Estado
Constitucional. Implicaciones en la Compresión de la Dignidad
Humana. Díkaion, Revista de fundamentación jurídica, 23(18),
247-267.
Madrigal, A. (2020). América Latina busca su propia ruta hacia
la Inteligencia Artificial (IA). En W. Weck y L. Salazar (eds.),
Inteligencia Artificial en Latinoamérica (pp. 105-131). Fundación
Konrad Adenauer.
CERNA PAJARES, Cinthya
ASCENCIO LÓPEZ, Noemi
Real, M., Chiriboga Hungría, J., Estupiñán Ricardo, J.(2019). “La
toma de decisiones en la informática jurídica basado en el uso
de los Sistemas Expertos”. Revista Investigación Operacional.
40 (1), 131-139. Recuperado de https://bit.ly/3CcPKe3
Córdova, L. (2011). La democracia constitucional y el control
de las reformas constitucionales. En C. Astudillo, & L. Córdova,
Reforma y control de la Constitución, implicaciones y límites
(primera ed.). México: Universidad Nacional Autónoma de
México.
Corte Constitucional Republica de Colombia (2020). PRETORIA,
un ejemplo de incorporación de tecnologías de punta en
el sector justicia. Boletín No. 128. Recuperado de https://
www.corteconstitucional.gov.co/noticia.php?PRETORIA,-un-
ejemplo-de-incorporaci%C3%B3n-de-tecnolog%C3%ADas-
de-punta-en-el-sector-justicia-8970
Estevez, E., Linares Lejarraga, S. y Fillottrani, P. (2020).
PROMETEA: Transformando la administración de justicia con
herramientas de inteligencia artificial. Banco Interamericano
de Desarrollo. Recuperado de https://publications.iadb.org/es/
publications/spanish/viewer/PROMETEA-Transformando-la-
administracion-de-justicia-con-herramientas-de-inteligencia-
artificial.pdf
Fernández-Aller, Celia y Serrano Pérez, M.ª Mercedes (2022).
¿Es posible una Inteligencia artificial respetuosa con la
protección de datos? Doxa. Cuadernos de Filosofía del Derecho,
45, pp. 307-336. https://doi.org/10.14198/ DOXA2022.45.11
Gascon Marcen, Ana (2020). “Derechos Humanos e Inteligencia
Artificial”, en Setenta años de Constitución Italiana y cuarenta
años de Constitución Española, pp. 335-350. Centro de
Estudios Políticos y Constitucionales.
Lancheros-Gámez, J. (2009). Del Estado Liberal al Estado
Constitucional. Implicaciones en la Compresión de la Dignidad
Humana. Díkaion, Revista de fundamentación jurídica, 23(18),
247-267.
Madrigal, A. (2020). América Latina busca su propia ruta hacia
la Inteligencia Artificial (IA). En W. Weck y L. Salazar (eds.),
Inteligencia Artificial en Latinoamérica (pp. 105-131). Fundación
Konrad Adenauer.
CERNA PAJARES, Cinthya
ASCENCIO LÓPEZ, Noemi
quaestio iuris22 Martínez, J. (2023). Estado Constitucional de Derecho, Poder
Judicial y derechos humanos. ENFOQUES JURÍDICOS,
REVISTA MULTIDISCIPLINAR DEL CEDEGS(07), 35-53.
doi:DOI: https://doi.org/10.25009/ej.v0i07.2596
McCarthy, J., Minsky, M. L., Rochester, N., & Shannon, C. E.
(2006). A proposal for the dartmouth summer research project
on artificial intelligence, august 31, 1955. AI magazine, 27(4),
12-12. https://doi.org/10.1609/aimag.v27i4.1904.
McGregor, L., Murray, D. y Ng, V. (2019). International Human
Rights Law as a framework for algorithmic accountability, en
International and Comparative Law Quarterly, vol. 68 n. 2,
2019, pp. 309–343. Disponible en: http://doi.org/10.1017/
S0020589319000046
Núnez, J. I. (2014). Estado Constitucional de Derecho y
Ponderación: Hacia la superación de la falsa disyuntiva entre
libertad y satisfacción de los derechos sociales fundamentales.
Vniversitas(128), 153-172. doi:10.11144/Javeriana.VJ128.ecdp
O’Regan, G., & O’Regan, G. (2013). Joseph Weizenbaum.
Giants of Computing: A Compendium of Select, Pivotal
Pioneers.
Restrepo, J., & Gallo, J. (2021). Razón Pública y Justicia
Democrática: Los fundamentos teóricos de la democracia
constitucional en el pensamiento político de John Rawls.
Derecho Global, Estudios sobre Derecho y Justicia, VI(18),
171-197. doi:https://DOI.org/10.32870/dgedj.v6i18.412
Selma Penalva, A. (2021). Inteligencia Artificial y Derecho del
Trabajo. IUS ET SCIENTIA, Vol. 7(2), 29-40. https://dx.doi.
org/10.12795/IETSCIENTIA
Turing, A. M. (2009). Computing machinery and intelligence
(pp. 23-65). Springer
Países Bajos.
Witker V., J. (2023). Juicios Orales y Derechos Humanos
(Primera ed.). México: Universidad Nacional Autónoma de
México, Instituto de Investigaciones Jurídicas.
CERNA PAJARES, Cinthya
ASCENCIO LÓPEZ, Noemi
Judicial y derechos humanos. ENFOQUES JURÍDICOS,
REVISTA MULTIDISCIPLINAR DEL CEDEGS(07), 35-53.
doi:DOI: https://doi.org/10.25009/ej.v0i07.2596
McCarthy, J., Minsky, M. L., Rochester, N., & Shannon, C. E.
(2006). A proposal for the dartmouth summer research project
on artificial intelligence, august 31, 1955. AI magazine, 27(4),
12-12. https://doi.org/10.1609/aimag.v27i4.1904.
McGregor, L., Murray, D. y Ng, V. (2019). International Human
Rights Law as a framework for algorithmic accountability, en
International and Comparative Law Quarterly, vol. 68 n. 2,
2019, pp. 309–343. Disponible en: http://doi.org/10.1017/
S0020589319000046
Núnez, J. I. (2014). Estado Constitucional de Derecho y
Ponderación: Hacia la superación de la falsa disyuntiva entre
libertad y satisfacción de los derechos sociales fundamentales.
Vniversitas(128), 153-172. doi:10.11144/Javeriana.VJ128.ecdp
O’Regan, G., & O’Regan, G. (2013). Joseph Weizenbaum.
Giants of Computing: A Compendium of Select, Pivotal
Pioneers.
Restrepo, J., & Gallo, J. (2021). Razón Pública y Justicia
Democrática: Los fundamentos teóricos de la democracia
constitucional en el pensamiento político de John Rawls.
Derecho Global, Estudios sobre Derecho y Justicia, VI(18),
171-197. doi:https://DOI.org/10.32870/dgedj.v6i18.412
Selma Penalva, A. (2021). Inteligencia Artificial y Derecho del
Trabajo. IUS ET SCIENTIA, Vol. 7(2), 29-40. https://dx.doi.
org/10.12795/IETSCIENTIA
Turing, A. M. (2009). Computing machinery and intelligence
(pp. 23-65). Springer
Países Bajos.
Witker V., J. (2023). Juicios Orales y Derechos Humanos
(Primera ed.). México: Universidad Nacional Autónoma de
México, Instituto de Investigaciones Jurídicas.
CERNA PAJARES, Cinthya
ASCENCIO LÓPEZ, Noemi