Enfoque
La Unión Europea ha marcado un hito histórico al presentar, consensuar y acordar la primera normativa global sobre inteligencia artificial (IA), conocida como IA Act. Aunque el proceso legislativo todavía no ha finalizado, queremos analizar los pros y contras de esta ley que marca un antes y un después en el manejo de esta tecnología. Muchos son los aspectos polémicos y que generan incertidumbre en la ciudadanía, como es el caso de los sistemas de identificación biométrica al servicio del control gubernamental, así como también todas las disposiciones que pueden poner en riesgo los derechos tradicionales reconocidos constitucionalmente a los ciudadanos. Teniendo en cuenta principalmente los trabajos de Larsson (2020), Masseno (2022), de Ebers (2023), en este trabajo realizamos un análisis crítico de la ley IA Act y el futuro marco jurídico europeo de la inteligencia artificial. A la luz hermenéutica del humanismo cívico como paradigma ético político, presentamos las fortalezas, vacíos, dilemas éticos y retos que plantea esta ley europea, así como también una propuesta para futuras leyes sobre inteligencia artificial.
Raúl López Fernández
Comentó el 14/04/2024 a las 00:46:34
Excelente presentación. A la luz de la hermenéutica y del humanismo cívico como paradigma ético político ¿Cuáles sería los vacíos más prominente que pueda tener la ley que ustedes refieren?
Ennio Jesús Mérida Córdova
Comentó el 14/04/2024 a las 00:41:53
Sin duda alguna un gran aporte. Felicitaciones. ¿Cuál sería el impacto negativo de la IA en poblaciones vulnerables?
Elizabeth Esther Vergel Parejo
Comentó el 14/04/2024 a las 00:39:03
Excelente aporte. Un Ley de regulación para un buen comienzo. ¿Cómo se pude relacionar estás normativas con la guia UNESCO Para el uso de IA generativa en educación e investigación?
https://cutt.ly/Yw4tJFNo
Juan Antonio Perteguer Muñoz
Comentó el 12/04/2024 a las 23:17:47
Estimados Javier y Pablo, el tema que planteáis es complejo y muy actual. Se me ocurren un par de preguntas. ¿El exceso de regulación de la Unión Europea no está impidiendo el desarrollo de la IA en Europa por ejemplo en medicina?. ¿No les parece que la regulación limita mucho el uso de reconocimiento de rostros, imágenes y datos a particulares y empresas y sin embargo da vía libre a su uso casi indiscriminado por parte de los gobiernos?
Un saludo,
Juan Antonio Perteguer Muñoz
Doctorando Universidad Politécnica de Madrid
Pablo Álamo Hernández
Comentó el 13/04/2024 a las 00:24:23
Estimado Juan Antonio, gracias por su comentario, que valoramos mucho viniendo de un experto en la materia como es usted. Respecto a sus preguntas:
1) Sin duda sí, y de hecho la Unión Europea lo reconoce, y, como mencionamos en nuestro trabajo, afectará negativamente al desarrollo y competitividad de las empresas europeas;
2) Sin duda sí a la limitación a particulares y empresas, aunque no tengo tan claro que permita su uso indiscriminado por parte de los gobiernos. Esta cuestión que usted plantea nos obliga a repasar la norma, pues la idea que yo tengo es que la ley europea restringe su uso público, también a los gobiernos. Más bien son China y otros países que son ejemplo de un uso indiscriminado, cosa que Europa ha criticado y no creo que vaya a ponerse al mismo nivel.
Afectuoso saludo y muchas gracias.
Pablo Álamo Hernández
Comentó el 13/04/2024 a las 02:47:46
¿No cree que el exceso de burocracia y control que persiguen ciertas regulaciones asfixia la competitividad y la innovación, estimado Juan Antonio?
Manfred Sanabria Ávila
Comentó el 12/04/2024 a las 03:37:55
Muchas gracias por compartir, en lo personal desconocía el tema de regulación, de hecho esta semana en Costa Rica ha sido noticia un fraude que se esta realizando por medio de IA con aplicativos que doblan la voz de las personas, utilizándolo como medio de extorción (me permito poner Link https://www.nacion.com/economia/banca/bn-advierte-de-nuevo-tipo-de-estafa-con-uso-de/VXGROL2XXJASJBI52FOPGJ46R4/story/ ) Bajo este contexto me nace ¿la duda si la UE va a tipificar como delito penal los usos inadecuados de la Inteligencia Artificial, como este que me permito citar?
Aprovecho para citar que en mi país aun no existe normativa oficial sobre este tema, solamente tenemos un proyecto presentado para análisis.
Sofía Estellés-Miguel
Comentó el 12/04/2024 a las 17:25:04
Si el tema de utilizar los dobladores de voz con IA, tanto en audio como en vídeo es muy controvertido, espero que se normativice en los distintos países.
Pablo Álamo Hernández
Comentó el 12/04/2024 a las 17:30:23
Controvertido. Y a la vez hay tanto material extraordinariamente bueno. Gran dilema y reto hacer un buen uso de esa posibilidad tecnológica.
Pablo Álamo Hernández
Comentó el 12/04/2024 a las 17:29:17
Muchas gracias, Manfred. Sería interesante hacer un estudio comparativo con el proyecto presentado en su bello país. Desconozco cuándo la UE tipificará penalmente ciertos malos usos de la I.A., pero el voluntad es que sí.
Pablo Álamo Hernández
Comentó el 13/04/2024 a las 00:26:40
Estimado Manfred, si tiene el documento de proyecto de ley que se está redactando en Costa Rica, le agradeceré que me lo haga llegar por mail o en todo que conversemos por si podemos hacer un trabajo de análisis conjunto. Atento saludo
Manfred Sanabria Ávila
Comentó el 13/04/2024 a las 03:44:06
claro don Pablo ya se lo remití, interesante que el proyecto de ley también fue redactado con inteligencia artificial, en el mail le remití mi dirección para una eventual investigación
saludos cordiales.
Eduardo Fernández García
Comentó el 11/04/2024 a las 20:50:30
Muchas gracias por la comunicación. Muy interesante, especialmente por la inmediatez en relación con la aprobación de la norma.
Mi pregunta es doble, pero con una misma base. Como ya hemos visto en relación con la protección comunitaria en otras áreas de la digitalización, cuando se incorpora a un reglamento (como en la protección de datos o en la resiliencia) hay una uniformidad en la respuesta jurídica y una homogeneidad en la protección, pero cuando se queda en directivas (como sucedió en la NIS y NIS2) que luego tienen que trasponerse a los ordenamientos nacionales hay más dispersión. Pero aún en el mejor de los casos ¿no se queda esta protección como una isla frente al resto del mundo que no adopta estándares tan altos de exigencia? Y en ese sentido ¿les parece esta norma suficientemente completa y robusta como para ser un modelo para otros lugares y sistemas jurídicos?
Muchas gracias
Enhorabuena
Javier Nicolás González
Comentó el 11/04/2024 a las 21:12:36
Tiene mucha razón, profesor: Europa es una isla frente al resto del mundo que no adopta estándares tan altos de exigencia en I.A. Sin embargo, creemos que es una norma suficientemente sólida para servir de inspiración a las naciones comprometidas realmente con el estado de derecho y el bien común. Muchas gracias.
Pablo Álamo Hernández
Comentó el 12/04/2024 a las 02:14:28
Estimado Javier, ¿cómo ha legislado Italia este asunto? ¿Alguna buena práctica que nos pueda compatir?
Sofía Estellés-Miguel
Comentó el 12/04/2024 a las 17:25:45
Parece ser que en la Comunidad Económica Europea hay algo. Habría que revisarlo.
Javier Nicolás González
Comentó el 12/04/2024 a las 02:33:05
Don Eduardo: la norma tuvo su recorrido y precedentes, trayecto que se intensificó desde el 2021, y de hecho todavía no ha finalizado totalmente su aprobación. ¿Cómo es su nivel de confianza en la capacidad de la Unión Europea de sacar una ley que sea referente para el resto de los países comprometidos con el estado de derecho?
Alicia Leon-Pozo
Comentó el 11/04/2024 a las 19:53:28
Excelente aportación. Podrían comentar más sobre sus hallazgos relacionados a los principales desafíos éticos y legales que plantea la IA Act de la Unión Europea, especialmente en lo que respecta a la protección de los derechos individuales frente al uso de sistemas de identificación biométrica y otras disposiciones que podrían impactar en las libertades constitucionales de los ciudadanos.
Pablo Álamo Hernández
Comentó el 11/04/2024 a las 21:18:10
La ley contempla una serie de prácticas prohibidas entre las que incluye el uso de sistemas de identificación de biometría remota en tiempo real en espacios de acceso público con algunas excepciones, y plantea un escenarios de "alto riesgo" para la salud, seguridad o derechos fundamentales. Además considera unos requisitos exigentes de homologación. Por todo ello, consideramos que lo que plantea la ley europea es razonable aunque, como es lógico, no podrá impedir un mal uso de la tecnología, como sucede con el resto de ellas.
Javier Nicolás González
Comentó el 11/04/2024 a las 21:21:04
Saludos, Dra. Leon-Pozo.
Adicionalmente a lo que menciona el profesor Álamo, es importante destacar que los sistemas de I.A. tendrán que cumplir una serie de requisitos y procedimientos exigentes de homologación antes de poder introducirse en el mercado de la Unión. Es decir, la ley intenta garantizar la fiabilidad de la I.A., lo cual nos parece positivo.
¡Gracias!
Javier Nicolás González
Comentó el 11/04/2024 a las 21:35:11
Una coalición de más de 155 organizaciones ha pedido que se garantice la prohibición total de uso del reconocimiento facial retrospectivo y en tiempo real en lugares accesibles públicamente, incluidas las zonas fronterizas y alrededor de centros de detención, sin excepciones. No estamos seguros de que sea lo mejor, aunque entendemos que se pueden dar abusos en el uso de los sistemas de reconocimiento facial produciendo un control excesivo y una discriminación contraria a los derechos fundamentales. Por ejemplo, Israel usa el reconocimiento facial para vigilar y controlar a la población palestina, limitando su libertad de circulación y su capacidad para acceder a derechos individuales, y este escenario plantea si las restricciones del uso de la mencionada tecnología tiene excepciones, como las amenazas terroristas o contextos de conflicto armado. ¿Usted qué opina al respecto?
Pablo Álamo Hernández
Comentó el 12/04/2024 a las 02:15:42
Sin duda el caso de Israel es paradigmático, pero también países nórdicos, Rusia y sobre todo China plantean con radicalidad el alcance y sus riesgos.
Pablo Álamo Hernández
Comentó el 13/04/2024 a las 02:49:48
En los extremos no suele estar la mejor decisión. No comparto la posición de la prohibición total, estimado Javier.
Pablo Álamo Hernández
Comentó el 12/04/2024 a las 21:13:20
Muchas gracias, doctora Alicia. Me uno al comentario del profesor Álamo.
Roger Sanz González
Comentó el 11/04/2024 a las 19:29:23
Estimados ponentes,
Excelente estudio que, sin duda alguna, tiene futuras derivadas de investigación tremendamente interesantes. Totalmente de acuerdo con los aspectos positivos de la nueva normativa y un buen comienzo para una regulación justa en la Unión Europea.
Dentro de las visiones más críticas de la EU AI Act ha sido la de OECD [1] relacionado con la definición extremamente conceptual de aspectos clave que afectarían a derechos humanos dentro del ámibot de la aplicación de la ley. En otras palabras, parece muy positivo la preocupación europea por algunos aspectos y sorprendente que no se contemplen otros.
¿Qué aspectos específicos, de acuerdo con su estudio consideran que no han sido abordados adecuadamente en la futura ley? El concepto necesario de solidaridad me parece muy relevante, como bien han indicado.
[1] https://oecd.ai/en/wonk/eu-ai-act-manipulation-definitions
Pablo Álamo Hernández
Comentó el 11/04/2024 a las 21:05:22
Muchas gracias, estimado profesor. Respondiendo a la cuestión que plantea, considerando la preocupación creciente por los Deepfakes, y teniendo en cuenta las posibilidades de divulgación masiva de este contenido falso, entendemos que la Unión Europea debería generar nuevos tipos penales específicos que regularen y sancionen estas conductas y permitan a las fuerzas de seguridad intervenir con contundencia y eficacia porque la ley les ampara. Adicionalmente, creemos que otra oprtunidad de mejora de la ley está en la fundamentación ética y por eso proponemos en nuestro trabajo incluir principios de acción como es el de la solidaridad. ¡Saludos!
Javier Nicolás González
Comentó el 11/04/2024 a las 21:28:54
Saludos, Doctor Sanz.
Adicionalmente a lo que menciona el profesor Álamo la ley europea podría centrarse más en los problemas reales existentes que en las amenazas existenciales que representa la inteligencia artificial. La UE podría formular leyes que aborden los problemas existentes, por ejemplo, el uso de las tecnologías para tomar decisiones discriminatorias o facilitar que se produzcan daños a las comunidades marginadas en una escala y a una velocidad mucho mayores. Es posible que la ley se centre desproporcionadamente en las amenazas en lugar de regular y acordar sanciones a problemáticas concretas derivadas o relacionadas con esas amenazas reconocidas en la ley.
¡Gracias!
Pablo Álamo Hernández
Comentó el 12/04/2024 a las 21:12:20
Muchas gracias, estimado Doctor. Me consta que la OECD está trabajando en el tema.
Javier Nicolás González
Comentó el 11/04/2024 a las 18:28:17
Muchas gracias, doctor Álamo, por la oportunidad de participar en este Congreso. Sin duda, la Ley europea tiene fortalezas y oprtunidades de mejora, como exponemos en nuestro trabajo. Saludos desde Italia.
Deja tu comentario
Lo siento, debes estar conectado para publicar un comentario.
Organizan
Colaboran
Configuración de Cookies
Utilizamos cookies para mejorar su experiencia y las funcionalidades de esta web. Ver política de cookies