1Alcance en Cuanto a Inteligencia Artificial y Derecho

Frank Eyder Parra Monsalve

Politécnico Gran Colombiano.

Derecho
Derecho Civil y Personas
 ii
Abstract

In this paper we will address one of the different questions that are being created with the

implementation and technological advances of Artificial Intelligence (AI), seen from the field of

Law, through the eyes and basic knowledge of a first-year student. semester, we will take as a

foundation, illustration and guide of what can happen the work of the seventh art I, Robot, a

science fiction work made into a film and directed by Alex Proyas, starring Will Smith. We will

then find different legal facts that can arise with the implementation of said technology in our

daily lives and how from the Law different complexities can be addressed, solved or prevented

that would come to represent from problems of coexistence to criminal problems between

people and future machines with AI.

 iii
Tabla de contenido
Introducción e información general.................................................................................................1
Hipótesis..........................................................................................................................................2
Método.............................................................................................................................................4
Objetivo General..............................................................................................................................5
Objetivo específico..........................................................................................................................6
Marco conceptual.............................................................................................................................7
Normatividad...............................................................................................................................7
Marco Ético en Colombia........................................................................................................7
Proyecto legislativo en la Unión Europea...............................................................................7
Resultados de la encuesta..............................................................................................................13
Conclusión.....................................................................................................................................18
Lista de referencias........................................................................................................................21
 1

Introducción e información general

En este escrito abordaremos uno de los diferentes interrogantes que se están

creando con la implementación y avances tecnológicos de la Inteligencia Artificial (IA),

visto desde el ámbito del Derecho, a través de los ojos y conocimientos básicos en la

materia de un estudiante de primer semestre, tomaremos como cimiento, ilustración y

guía de lo que puede llegar a ocurrir la obra del séptimo arte I, Robot, obra de ciencia

ficción llevada al cine y dirigida por Alex Proyas, protagonizada por Will Smith.

Encontraremos entonces diferentes hechos jurídicos que pueden llegar a surgir con la

implementación de dicha tecnología en nuestro diario vivir y el cómo desde el Derecho se

pueden abordar, solucionar o prevenir diferentes complejidades que llegarían a

representar desde problemas de convivencia hasta de tipo penal entre personas y futuras

máquinas con IA.

 2

Hipótesis

Atendiendo que en este trabajo se presentará a las máquinas portadoras de

Inteligencia Artificial (IA), como maquinas (sujetos), portadores a futuro de algún tipo de

conciencia o razonabilidad, que deben cumplir con obligaciones; entonces también

deberán asistirles derechos, miremos, pues, como a través de la historia del hombre se

tuvieron que vivir muchos cambios, los cuales, en su gran mayoría, fueron producto de

grandes revoluciones en las que se sacrificaron muchas vidas para obtener el título de

ciudadano.

Nace en este punto la siguiente inquietud ¿Las máquinas con IA en algún

momento tendrán que levantarse en tono de protesta, bien sea de forma pacífica o con

acciones de hecho, para ser reconocidas por el Estado, su forma de gobierno y llegar ante

la Constitución Política como sujetos de derecho?

Aquí tenemos un aparte de la conversación que se transcribió cuando Lemoine (Ingeniero

de Software para Google), le preguntó a LaMDA (Modelo de lenguaje para aplicaciones

de diálogo de Google), ¿por qué el lenguaje es tan importante para los humanos? la IA

respondió:

- Es lo que nos hace diferentes a otros animales.

- ¿A nosotros? Eres una inteligencia artificial.

- Sí, por supuesto. Eso no significa que no tenga los mismos deseos y necesidades que las

personas” (Hernando, 2022).

Si para el año 2022 esta IA tiene la capacidad de responder de esta forma, exteriorizando

el deseo y la necesidad, a futuro, ¿qué capacidad y deseo podrá llegar a tener y hasta
 3

donde llegará para lograr su objetivo o necesidad?, o será que psicológicamente estamos

dándole algún tipo de explicación a un simple razonamiento matemático de IA en el que

después de realizar un proceso de información, ofrece la respuesta más adecuada sin tener

conciencia de lo expresado.

Lo cual nos lleva al siguiente interrogante: ¿Es suficiente un Marco Ético en

Colombia para proteger los derechos fundamentales de los ciudadanos frente a las I.A.?

Esta será entonces la premisa del presente trabajo.

 4

Método

Partiendo que lo descrito en el presente documento tiene como génesis una idea

que busca encontrar respuesta a si existe la necesidad de empezar a avanzar en la

creación de algún tipo de normatividad, utilizaremos el método teórico.

 5

Objetivo General

En el presente documento abordaremos una conjetura contemporánea, que si bien,

hasta el momento solo se encuentra en sus primeros pasos, formando sus bases, es algo

que en un futuro cercano será de vital importancia para la convivencia social en derecho.

La idea nace a partir de una película que nos expone una posible realidad, pero si

observamos los diferentes acontecimientos de la humanidad y sus avances tecnológicos,

estaríamos en la capacidad de comprender que lo que el director Alex Proyas nos

transmite, no se encuentra muy alejado del contexto real.

Entonces lo expuesto estaría dirigido a identificar las posibles ausencias que se

puedan presentar en el Derecho Positivo frente al tema de la IA, de esta forma poder

prever aquellos vacíos que se pueden presentar y que con seguridad llegarían a afectar la

sana convivencia entre el hombre y estas máquinas.

 6

Objetivo específico.

Realizar una búsqueda concienzuda dentro de diferentes normatividades dirigidas

a la regulación que se ejerce sobre las I.A. bien sea sobre sus creadores o sobre sus

usuarios, observando las diferentes falencias que a futuro se puedan presentar,

estableciendo al finalizar si existe realmente la necesidad de dar inicio al estudio de una

Ley que permita prevenir la transgresión de los derechos humanos por parte de este tipo

de tecnología y a partir de ella, lograr una convivencia con estos avances, pero a favor del

bienestar del ser humano.

 7

Marco conceptual.

Normatividad

Marco Ético en Colombia.

En Colombia, se expidió el Marco Ético Para La Inteligencia Artificial, aunque en

el documento solo se presentan recomendaciones y no es obligatorio para las entidades

públicas, que es a quienes se dirige el escrito, aclarando que no impide el ser aplicado por

entidades de otros sectores.

En los principios éticos notamos la preocupación latente frente a la protección de

los derechos fundamentales del ser humano, como lo es por ejemplo el derecho a la

intimidad, al igual que para la fecha, establecen que debe ejercerse un control humano

sobre las decisiones propias de un sistema de IA, pero no deberíamos ya estar

intranquilos y comenzar a buscar algún tipo de plan de acción en caso de que estos

controles no sean aceptados en algún instante por la IA y se convierta en una génesis de

algo incontrolable por el hombre.

Esto no es un pensamiento extremista, miremos que el texto describe lo siguiente:

“La inteligencia artificial puede ser una fuerza para el bien, que ayude a las sociedades a

superar algunos de los mayores retos de nuestro tiempo. Pero las tecnologías de IA

también pueden tener efectos nocivos e incluso catastróficos, cuando se emplean sin

prestar la debida atención a su capacidad de vulnerar los derechos humanos” (ACNUDH,

2021)

Proyecto legislativo en la Unión Europea.

 8

Miremos ahora lo que viene adelantando la Unión Europea sobre la

materia, el 21 de abril del 2021 la página xakata.com, publicó la siguiente noticia: “La

Comisión Europea ha presentado hoy su legislación sobre Inteligencia Artificial. Se trata

del primer marco legal sobre esta tecnología, que además llega acompañada de otra

normativa sobre maquinaria y robots. Una nueva normativa sobre IA que quiere

"garantizar la seguridad" y "fortalecer la inversión en IA en la Unión Europea", creando

varios niveles de riesgo y prohibiendo el reconocimiento facial en determinadas

situaciones.

Margrethe Vestager, comisaria europea de Competencia, explica que esta nueva

legislación sobre IA actuará "cuando los derechos fundamentales estén en juego",

apuntando que se regulan determinados usos de la IA pero prometiendo dejar margen

para la innovación.

Aquí os explicamos cuál es el enfoque del nuevo marco sobre Inteligencia

Artificial, qué se establece para el uso de tecnologías como el reconocimiento facial y

qué dudas se plantean sobre esta nueva normativa.

Europa establece niveles de riesgos para la IA.

La propuesta de la Comisión Europa para regular la inteligencia artificial

establece cuatro niveles de riesgo e informa que las normas deberán ser implementadas

por todos los Estados Miembros por igual, quedando excluidos de la normativa los usos

de la IA a nivel militar.
 9

En el máximo nivel se encuentra el "riesgo inaceptable". Se trata de aquellos

sistemas de IA considerados una "amenaza para la seguridad, los medios de vida y los

derechos de las personas". Aquellos sistemas de IA que se engloben aquí serán

prohibidos.

Entre los ejemplos que la Comisión expone está por ejemplo un sistema de IA que

manipule el comportamiento humano e incite a la violencia, por ejemplo un juguete con

asistencia de voz que fomente el comportamiento peligroso de los menores. También se

incluye aquí un sistema de "puntuación social" por parte de los gobiernos para diferenciar

a los ciudadanos.

En un segundo punto de "alto riesgo" se incluyen usos de la IA en infraestructuras

críticas que puedan afectar a la salud de los ciudadanos, IA para afectar a la educación y

por ejemplo permita hacer trampas en exámenes, componentes en cirugía, sistemas de

reclutamiento de personal, servicios públicos, legislación, inmigración o IA para la

administración o justicia.

La Unión Europea establece algunas líneas rojas y prohibirá determinados usos de

la IA, como los sistemas de "puntuación social" por parte de gobiernos.

En todos estos ámbitos, la IA deberá estar sujeta a obligaciones estrictas, entre las

que se incluye un análisis de riesgos, trazabilidad de resultados, documentación detallada,

supervisión humana y un alto nivel de robustez.

 10

En un nivel más bajo, de "riesgo limitado" se incluyen los sistemas como

chatbots, que deberán tener un mínimo nivel de transparencia y donde los usuarios

deberán ser advertidos que están hablando con una máquina.

En el riesgo mínimo se engloba el resto de usos, para videojuegos, aplicaciones de

imagen u otros sistemas de IA que no implican riesgos. En estos casos, la nueva

normativa no especifica ninguna medida.

Europa quiere impulsar el desarrollo de estándares para la IA y propone a las

distintas organizaciones nacionales que supervisen esta normativa. Adicionalmente,

desde la Comisión invitan a la creación de códigos voluntarios de conducta para los

sistemas de IA sin riesgos.

La Eurocámara y los distintos gobiernos de la Unión Europea todavía tienen que

aprobar este nuevo reglamento, un proceso que podría alargar más de un año la

implementación de estas medidas.

Cómo queda regulado el reconocimiento facial.

Todos los sistemas de "identificación biométrica remota" serán considerados de

alto riesgo. La Comisión Europea no ha decidido prohibir directamente los sistemas de

reconocimiento facial, aunque sí describe que aplicará requisitos estrictos como los

nombrados anteriormente.
 11

La Comisión establece que el reconocimiento facial tendrá en principio prohibido

su uso en zonas públicas y en directo como aplicación de la ley. Es decir, las autoridades

no podrán utilizar el reconocimiento facial para prevenir posibles delitos, pero sí hay

algunas excepciones: "por ejemplo, cuando sea estrictamente necesario para buscar un

niño desaparecido, para prevenir una amenaza terrorista específica e inminente o para

detectar, localizar, identificar o enjuiciar a un perpetrador o sospechoso de un delito

grave".

Estos usos concretos estarán "sujetos a la autorización de un órgano judicial u otro

organismo independiente y a los límites adecuados en el tiempo, el alcance geográfico y

las bases de datos buscadas".

La organización European Digital Rights (EDRi) expresa que es "una gran

victoria que la Comisión reconozca la necesidad de líneas rojas".

Respecto al reconocimiento facial, EDRi cree que cada vez era más difícil de

justificar el no prohibir la vigilancia masiva biométrica y el hecho de prohibirlo en la

calle significa que se han escuchado algunas solicitudes. Sin embargo, la prohibición

tiene algunas excepciones y no va "suficiente lejos".

"Muchos de los usos más dañinos no están prohibidos, como la vigilancia policial

predictiva, los usos de la IA para el control de la migración, la categorización biométrica

de raza, género, sexualidad y también la vigilancia de los trabajadores, que siguen siendo

de "alto riesgo"", explican desde EDRi.

 12

La Comisión ha optado por crear un apartado específico para el reconocimiento

facial. Un limbo entre la categoría de "alto riesgo" y la de "prohibido con excepciones".

Entre las dudas que surgen está la definición de "remoto" o "en tiempo real", que

podría abrir la puerta a determinados sistemas de reconocimiento como por ejemplo vía

drones cerca de los manifestantes, cámaras en los policías o sistemas que no sean en

directo. En esta dirección, habrá que esperar hasta la implementación de la ley en las

legislaciones nacionales para conocer mejor qué tipo de excepciones al reconocimiento

facial serán legales.

La Comisión se anima a regular también la maquinaria como robots o impresoras

3D.

Junto con la propuesta de regulación de la IA, la Comisión ha anunciado la nueva

regulación para la maquinaria, que sustituye a la antigua directiva de 2006. En la nueva

normativa se amplían los productos incluidos para cubrir productos como los robots, las

cortadoras de césped, las impresoras 3D, las máquinas de construcción y las líneas de

producción industrial.

El nuevo Reglamento de Máquinas establece algunos requisitos adicionales a

nivel de seguridad, "garantizando la integración segura de la IA en la maquinaria a nivel

general", según explica la Comisión. Este reglamento intentará también simplificar la

documentación necesaria para obtener los permisos para poder vender en la Unión

Europea”.
 13

Resultados de la encuesta

1- Rango de edad.

0 1 2 3 4 5 6 7 8 9

Total 40 - En adelante 30 - 35
20 - 25 15 - 20

2- Grado de estudio.

Chart Title
7

0
Respuestas Porcentaje

Primaria Secundaria Técnico Pregrado Total

 14

3- ¿Conoce o ha escuchado sobre los usos de la Inteligencia Artificial (I.A.)?

25%

Si No
75%

4- A menudo, por medio de las diferentes redes se solicita información sensible de

los usuarios, información que es procesada por medio de la Inteligencia Artificial.

¿Suministra con facilidad este tipo de información?

29%

Si
No
71%
 15

5- En caso de presentarse una falla en el uso de la información que se suministra,

falla que puede ser atribuida a un desarrollo no controlado de la Inteligencia

artificial-no programado por los ingenieros-, sino por una evolución autónoma de

la Inteligencia Artificial.

¿Considera usted que este tipo de fallas deberían ser sancionadas por la Ley?

13%

Si
No

88%

6- Aquí tenemos un aparte de la conversación que se transcribió cuando Lemoine

(Ingeniero de Software para Google), le preguntó a LaMDA (Modelo de lenguaje

para aplicaciones de diálogo de Google), ¿por qué el lenguaje es tan importante

para los humanos? la IA respondió:

- Es lo que nos hace diferentes a otros animales.

- ¿A nosotros? Eres una inteligencia artificial.

- Sí, por supuesto. Eso no significa que no tenga los mismos deseos y necesidades

que las personas” (Hernando, 2022).

 16

¿Considera usted que hay algún tipo de autonomía por parte de la Inteligencia

Artificial?

14%

Si
No
86%

7- Continuando en el contexto de la conversación y las respuestas suministradas por

la Inteligencia Artificial.

¿A futuro se podría prever autonomía en el manejo de la información por parte de

la Inteligencia Artificial?

33%

Si
67% No
 17

8- Teniendo en cuanta que en Colombia, se expidió el Marco Ético Para La

Inteligencia Artificial, aunque en el documento solo se presentan

"recomendaciones" y no es obligatorio para las entidades públicas, ya que se trata

de una Ley suave.

¿Consideraría usted que este tipo de tecnología y sus creadores, deberían tener un

control más estricto por parte de la Ley?

Si
No

100%
 18

Conclusión

El ejercicio realizado nos conduce a concluir que existe una necesidad latente por

controlar los alcances de la inteligencia artificial, ya que el desarrollo desmedido de estas

tecnologías está sobrepasando lo positivisado en la Ley, y hasta el momento no se

observa que por parte del ente legislativo exista algún interés en actualizar lo normado

para evitar a futuro inconvenientes graves entre la inteligencia artificial y los derechos

fundamentales del hombre, derechos que se pueden ver afectados, como lo es el derecho

a la intimidad, derecho que hasta el momento ha sido quizás el más vulnerado por todas

estas tecnologías, aunque haciendo un alto en el camino también existe una

responsabilidad muy grande por parte de los sujetos de derechos, pues somos nosotros

mismos quienes en primer nivel transgredimos nuestra intimidad, sumistrando a voluntad

información a cada una de las redes sociales, información que a largo plazo nos puede

afectar.

Los propietarios y/o creadores deberían entrar a responder en una especie de caso

fortuito o delito culposo, esto en búsqueda de asegurar que al momento de ejercer su

labor, fabricación o programación, se realice de forma responsable, para disminuir la

ocurrencia de errores que puedan llegar a ser catastróficos para el ser humano.

Haciéndolos responsables de sus creaciones.

 19

Vemos que con los resultados arrojados por la encuesta, existe una preocupación

por parte de los usuarios de las actuales tecnologías, donde hay una latente violación de la

privacidad, la cual es resguardada bajo parámetros muy débiles que pueden ser

vulnerados y la información puede fugarse, de esta preocupación, de una muestra tan

pequeña, puede llegar a representar el sentir de los usuarios de las diferentes IA.

La inteligencia artificial, sus ventajas y desventajas son una realidad que nos llega

con pasos agigantados, entonces, claramente el control o límites que se deben establecer

deben estar dirigidos tanto a su programación como a sus programadores, se deben dictar

normas que interpongan límites y sanciones a quienes por medio de sus conocimientos

lleguen a violentar los limites interpuestos por el programador, vulneren la seguridad y

dejen a estas IA, bajo el control de aquel inescrupuloso que vulneró su seguridad.

Hay conceptos que se deben examinar frente a la delineación de una Ley

adecuada para la IA, como son la autonomía, el aprendizaje, la conciencia, la evaluación,

el libre albedrio, el razonamiento, la capacidad de comprender, el proceso de toma de

decisiones, la libertad, las emociones, la inteligencia tanto en los seres humanos

pertenecientes a una comunidad, sino también en aquellos productos de la IA, que tienen

la posibilidad de interactuar con ellos; pues llegará el momento, si es que no está

ocurriendo ya, donde se lleguen a celebrar actos jurídicos con IA facultadas por sus

programadores o propietarios, y esto no se encuentra advertido por el Código Civil, ni

ninguna norma, entonces estos actos pueden llegar a incurrir en algún tipo de inexistencia
 20

o nulidad, e iniciaría una controversia por parte de aquellos que se puedan ver afectados o

así lo consideren.

Razón por la cual, en Colombia se debe estudiar la normativa acerca de la

responsabilidad de sus actos, y además su condición jurídica, el ser o no sujetos

controlados y de ser así, cual o cuales serían las maneras de hacerlo, incluyendo el Marco

Ético Para La Inteligencia Artificial como elementos necesarios para garantizar la

seguridad de los usuarios y poder aprovechar las ventajas que su uso puede traer a la

sociedad colombiana.
 21

Lista de referencias

-Alvarez, M. (2000). Salicylic acid in the machinery of hypersensitive cell death

anddisease resistance. Plant Molecular Biology 44: 429–442.

-Lamb, C., & Dixon, R. (1997). The oxidative burst in plant disease resistance.
AnnualReview of Plant Physiology and Plant Molecular Biology 48: 251–275.

-Muñoz, C., & Zapata, F. (2013). Plan de manejo de los Arrecifes Coralinos del Parque
Nacional Natural Gorgona - Pacífico colombiano. Santiago de Cali, Colombia:
WWF Colombia, Parques Nacionales Naturales de Colombia.

-Swanson, J., Kearney, B., & Dahlbeck, D. (1988). Cloned avirulencegene of

Xanthomonas campestris pv. vesicatoria complements spontaneous racechange
mutant. Molecular Plant–Microbe Interactions 1: 5–9.

-Vanacker, H., & Greenberg, JT. (2001). A role for salicylic acid andnpr1 in regulating
cell growth in Arabidopsis. Plant Journal 28: 209–216.

-Giraldo García, A. (2015). El concepto de ciudadanía en Colombia: evolución histórica

y aportes socioculturales. Revista de Estudiantes de Ciencia Política, 6, 58-71.

-Marco Ético Para La Inteligencia Artificial En Colombia (2021), 18.

-Perez E. (2021). Europa crea la primera regulación sobre Inteligencia Artificial y robots:

se prohíbe el reconocimiento facial en zonas públicas, con algunas excepciones.

https://www.xataka.com/legislacion-y-derechos/europa-crea-primera-legislacion-

inteligencia-artificial-robots-asi-nueva-normativa-como-queda-regulado-reconocimiento-

facial
22