Living with the Algorithm: Estudiantes de IE Law desarrollan un innovador proyecto de sensibilización sobre las nuevas tecnologías

El objetivo de la clínica jurídica de IE es permitir que los estudiantes participen en actividades pro bono con las que adquirir experiencia práctica a la vez que contribuyen a un proyecto de índole social. Recientemente, un equipo de estudiantes de IE Law School ha participado en el proyecto Algorithms, un encargo del Foro de la Sociedad Civil, que ha contado con la representación de Pablo García Mexía de Counsel, Ashurst LLP. Bajo la supervisión del profesor Argyri Panezi, los estudiantes de la clínica legal de IE han colaborado con el Foro de la Sociedad Civil, lo que ha supuesto una valiosa oportunidad de aprendizaje y la posibilidad de originar un impacto real con su trabajo.

El proyecto ha tenido dos fases. Comenzó en enero de 2019 con un equipo inicial más numeroso formado por Aurora Dell’Elce (LLB-IR), Luis Ignacio Gil Palacios (LL.M.), Amanda Matesanz (LLB-IR), Ellie Sande (LLB), Adam Wilson-Barnes (LLB) y Tugce Altunalan (LL.M.), y siguió durante el presente año académico con el equipo de redacción compuesto por Aurora Dell’Elce (LLB-IR), Jimena López-Navarro (LLB-BBA) y Aleksandra Smajevic (LLB-IR).

Una guía de algoritmos para todos

El resultado final de este proyecto fue Living with the Algorithm - Toward a New Social Contract in the Age of AI (Vivir con el algoritmo: hacia un nuevo contrato social en tiempos de la inteligencia artificial), cuyo objetivo es ofrecer a los ciudadanos un entendimiento útil y completo sobre el papel de los algoritmos en el día a día. En esta guía se explica el funcionamiento de los algoritmos, sus principales áreas de aplicación y su impacto en nuestro trabajo, nuestra privacidad y nuestras relaciones. La publicación aborda discusiones contemporáneas sobre varios temas y también introduce principios para un uso bueno y sostenible de los datos.

¿Qué son los algoritmos?

Los algoritmos son conjuntos de instrucciones o reglas bien definidas que se utilizan para solucionar problemas y hacer cálculos. Se usan en varios sectores para aumentar la eficiencia y la precisión, así como para permitir la toma de decisiones automatizada. También son objeto de los debates actuales sobre tecnología, automatización e inteligencia artificial.

Aunque son inmensamente útiles en términos de eficiencia, precisión y velocidad, los algoritmos presentan varios desafíos que, debido a la velocidad de la innovación tecnológica, no son fáciles de regular. Por ejemplo, los algoritmos pueden reforzar los prejuicios y la discriminación existentes en la sociedad, lo que lleva a la controversia e incluso a la injusticia. Esto conduce a la premisa principal de la guía: la necesidad de contar con datos “buenos” y sostenibles, tal y como se describe en la publicación.

Un ejemplo de algoritmos que no funcionaron

En octubre de 2019, la agencia de empleo de Austria, AMS, introdujo un algoritmo de clasificación que asignaba a cada solicitante de empleo una puntuación de empleabilidad y lo colocaba en una determinada categoría. Según registros de empleo anteriores, el algoritmo asignó a las mujeres y las personas con discapacidad puntuaciones más bajas, lo que las colocaba en categorías inferiores incluso teniendo las mismas calificaciones que los hombres o las personas sin discapacidad. Aunque el algoritmo aumentó la eficiencia, fue criticado por fomentar la discriminación y porque la agencia no hizo públicos los modelos estadísticos en los que se basaba.

En respuesta a casos como este, se introdujeron una serie de iniciativas a nivel nacional y supranacional. Su objetivo era desarrollar directrices para evitar que esta situación volviera a ocurrir y se tuvieran en cuenta los principios de transparencia, responsabilidad, seguridad, igualdad y no discriminación.^[1]

El objetivo del proyecto es ayudar a los ciudadanos a ser más conscientes de la importancia de los algoritmos en la sociedad moderna. Living with the Algorithm - Toward a New Social Contract in the Age of AI, es una guía informativa que explica cómo se utilizan los algoritmos y detalla las oportunidades y los desafíos que presentan.

¿Cómo se puede hacer frente a los problemas que presentan los algoritmos?

Si se utilizan correctamente, los algoritmos son una herramienta poderosa que puede mejorar la vida y el trabajo de las personas. La propuesta principal del proyecto Algorithms se basa en la necesidad de tener datos buenos y sostenibles. La participación de la sociedad civil es fundamental para garantizar que las políticas pertinentes promuevan estándares éticos y legales y protejan los derechos fundamentales de las personas.

Con esto en mente, el proyecto trata de ayudar a los ciudadanos a ser más conscientes de la importancia de los algoritmos en la sociedad moderna. Living with the Algorithm - Toward a New Social Contract in the Age of AI, es una guía informativa sobre este tema. En ella se explica cómo se utilizan los algoritmos y se detallan las oportunidades y los desafíos que presentan.

¿Cómo ha sido formar parte de este proyecto?

A continuación, tres de los estudiantes participantes en el proyecto Algorithms comparten sus experiencias. Explican hasta qué punto su colaboración con la clínica legal de IE ha influido en su vida y su trayectoria profesional y el gran valor que les ha aportado este ejercicio. Descubre sus historias.

Aurora Dell’Elce (LLB-IR)

 “La llegada de la inteligencia artificial está motivando una revolución digital cuyas consecuencias todavía son difíciles de medir”.

La inteligencia artificial, como cualquier tecnología nueva, trae progreso e innovación a la sociedad y a los ciudadanos: solo hay que pensar en sus posibles aplicaciones en sectores como la sanidad, el transporte, el desarrollo sostenible o los recursos humanos. Pero también genera riesgos y peligros, tanto éticos como legales, que se deben comprender mediante un cuidadoso estudio de su regulación.

Por un lado, este análisis es esencial para cuestionar tanto los mecanismos reguladores existentes como su habilidad para adaptarse a esta nueva forma de inteligencia y a sus múltiples aplicaciones. Por otro lado, también es vital para cuestionar la relevancia de las nuevas regulaciones, permitiendo que la inteligencia artificial se desarrolle en un entorno que proteja a las personas. Este tema universal merece un enfoque interdisciplinario, tanto desde una perspectiva legal como económica, que cuente con el apoyo de especialistas en ciencias informáticas, medicina, humanidades y ciencias sociales.

Por este motivo y a partir de una petición específica del think tank del Foro de la Sociedad Civil, Legal Clinic decidió contribuir activamente a este proyecto. Es de admirar la continua dedicación de IE a la exploración de este territorio desconocido y su pertenencia a un grupo reducido de pioneros en este campo innovador. Hay mucho en juego, por lo que un enfoque totalmente teórico no es suficiente.

Nuestra tarea ha consistido en la divulgación de estos conceptos, trasladándolos a un nivel que todo el mundo pudiera entender. Para ello, hemos desarrollado una guía que el público general pudiese comprender.

En la primera parte de la guía se proporciona una definición pragmática de los algoritmos y la inteligencia artificial. Se muestran sus usos principales, especialmente aquellos que más atraen la atención pública como la gig economy y los contratos inteligentes. En la segunda parte de la guía se ofrece una respuesta práctica a las preocupaciones éticas, filosóficas, históricas y sociológicas que generan los algoritmos.

Es fácil darse cuenta de lo increíblemente interesante que es este tema. Desde el comienzo de nuestro recorrido (que aún no ha terminado), hemos sido conscientes del inmenso valor de esta oportunidad para contribuir a un proyecto tan importante. Además, el apoyo continuo y constante de nuestro profesor durante todo el año ha sido de gran valor.

Todo empezó con innumerables sesiones de lectura e investigación para identificar todos los detalles de este mundo nuevo. El objetivo era proporcionar una visión general para considerar la posible necesidad de cambios, formalizados como propuestas. Después, a todos los estudiantes se nos asignó un estudio de caso concreto. El mío se centraba en el uso de blockchains en los contratos inteligentes y su impacto en los mercados financieros. Otros estaban relacionados con áreas como la gig economy.

Personalmente, me encantó la parte de investigación jurídica del proceso, especialmente en relación con un tema que está en constante evolución. Las nuevas tecnologías son prometedoras, pero también plantean varias cuestiones que tienen que ver con poder determinar la naturaleza jurídica de la inteligencia artificial. Es la ley la que tiene que definir esta naturaleza y los problemas que plantea, así como entender sus consecuencias éticas.

Además, el proyecto ha sido una oportunidad increíble para colaborar con otros estudiantes de Madrid en un tema muy interesante. Todos hemos podido tener contacto directo con el cliente y hemos compartido un objetivo común: afrontar con éxito el desafío de cumplir con una petición real.

Esta experiencia también ha hecho crecer mi interés por los proyectos innovadores como este, no solo desde una perspectiva personal, sino también en lo que se refiere a mi desarrollo académico. Además, todos sabemos que el trabajo en equipo te permite adquirir conocimientos de una manera divertida. Y, creedme, el contacto directo con el cliente, en nuestro caso con un think tank, ha sido solo la guinda del pastel.

El proyecto nos ha permitido mejorar nuestros conocimientos y experiencia durante nuestros estudios de grado. En pocas palabras, hemos podido poner en práctica las lecciones aprendidas en las clases de derecho casi inmediatamente, mejorando así la interacción con el cliente y facilitando nuestra habilidad para realizar las tareas requeridas.

Por último, el laboratorio Legal Clinic ha sido una oportunidad increíble y única para adquirir experiencia, un viaje motivador y un avance del trabajo que está por venir. Como he dicho antes, el tema me llamó la atención de inmediato. Estoy convencida de si los ciudadanos cuentan con información correcta, será más fácil sensibilizar a generaciones futuras y a los arquitectos y usuarios de estas nuevas tecnologías. Se trata de algo fundamental para garantizar la inclusión, la diversidad y la combinación de disciplinas que requiere la inteligencia artificial.

Desde un punto de vista legal, se debe seguir explorando la utilidad de estas tecnologías innovadoras. Enmarcar sus efectos económicos, sociales y políticos será, sin duda, uno de los proyectos más importantes de los próximos años.

 Aleksandra Smajevic (LLB-IR)

“He descubierto una nueva percepción de la velocidad y la medida en que los algoritmos y la tecnología en general están cambiando nuestro día a día”.

En la clínica legal de IE he disfrutado de una experiencia maravillosa La mayoría de los estudiantes de primer curso no tienen la oportunidad de trabajar con despachos de abogados, y mucho menos de una manera que les permita aprender tanto y obtener experiencia con documentos legales. Los proyectos de la clínica legal en los que he participado me han aportado ambas cosas.

Primero colaboré con DA Lawyers, un despacho de abogados de Madrid que tenía como cliente a Kimple, una ONG que ofrece a los estudiantes la formación que necesitan para convertirse en ciudadanos del siglo XXI. Ayudamos a Kimple a disponer de las plantillas de propiedad intelectual que necesitaba para utilizar el material educativo de otras empresas.

La experiencia me sirvió para familiarizarme con los conceptos más importantes de la ley de propiedad intelectual. También aprendí cómo funciona la estructura básica de los contratos, y tuve la oportunidad de leer y editar acuerdos contractuales. Por último, pude ver cómo son las reuniones con los clientes y cómo se responde a sus necesidades. Me sentí como un auténtico miembro de un despacho de abogados.

Después de trabajar con DA Lawyers, pasé a formar parte del proyecto Algorithms. Para mí, fue una experiencia muy enriquecedora en muchos sentidos. Antes, yo no sabía qué eran los algoritmos, cómo se usaban o cuál era su impacto en las instituciones sociales. Desde que empecé a trabajar en el proyecto, he ido adquiriendo conocimientos para comprender la era digital. Ahora sé cuáles son las ventajas que los algoritmos y la inteligencia artificial ofrecen a los distintos sectores, pero también los desafíos que presentan. Y, lo que es más importante, voy a seguir teniendo presentes estos desafíos durante mis estudios en derecho.

De este proyecto me llevo una gran experiencia de aprendizaje. He contribuido al mismo leyendo y escribiendo sobre la gig economy, las plataformas en línea y las leyes de la UE, concretamente sobre el Reglamento General de Protección de Datos (RGPD). Este trabajo me ha permitido descubrir casos prácticos y ramas específicas del derecho de gran interés antes de que las estudiáramos en clase.

Por último, debo añadir que con este proyecto también he adquirido experiencia trabajando en un gran equipo y en un proyecto académico a largo plazo. Me he relacionado con muchas personas, lo que me ha permitido adquirir habilidades interpersonales de comunicación y colaboración, y he aprendido a trabajar con textos académicos con mucho contenido.

En general, ha sido muy satisfactorio poder ver cómo crecía y evolucionaba un proyecto del que formaba parte. Nunca antes había tenido la oportunidad de profundizar tanto en un tema de mi interés y explorarlo desde tantos puntos de vista. Es muy enriquecedor sentir que he adquirido un conocimiento y comprensión de un tema concreto, especialmente de algo tan importante y de actualidad.

 Jimena López-Navarro (LLB-BBA)

“No solo aprendí cosas sobre un tema del que sabía muy poco: también sentí que mi trabajo era valorado”.

Legal Clinic ha sido una experiencia única y enriquecedora. Participé con Aleksandra en nuestro primer trabajo para Kimple, un proyecto que me permitió familiarizarme con el derecho contractual y la ley de propiedad intelectual. Tuvimos el privilegio de conocer a nuestro cliente y colaborar con él en el proyecto. Me sentí casi como una abogada profesional. Después de eso, también trabajamos juntas en el proyecto Algorithms.

En los dos proyectos se dejó claro desde el principio que se nos había dado la gran responsabilidad de llevar a cabo un trabajo valioso, lo que fue un honor inmenso. Sin embargo, en el segundo proyecto me di cuenta de una triste realidad: sabía menos sobre tecnología de lo que pensaba. Y, por desgracia, no era la única en esta situación. Por eso, son muchas las personas que se pueden beneficiar con la lectura de la guía que hemos desarrollado.

A mí me tocó escribir sobre los “datos buenos”. Este concepto se refiere a recopilar datos de forma ética, en una época en la que los gobiernos y las empresas están recogiendo enormes cantidades de datos de los ciudadanos mediante métodos cada vez más cuestionables. Los principios de los datos buenos tienen como objetivo proteger a los ciudadanos y garantizar que las empresas no se aprovechen de su falta de conocimiento sobre los algoritmos o sobre cómo se procesan sus datos (por ejemplo, cómo se recopilan, con qué objetivo, en qué condiciones y durante cuánto tiempo).

Este proyecto ha sido gratificante en muchos sentidos, y me ha ayudado a mejorar mis habilidades de investigación y de trabajo en equipo. A pesar de que al principio fue un reto, he aprendido a trabajar de forma independiente en un artículo académico con mucho contenido y a largo plazo. En conclusión, estoy encantada de que mi primera experiencia profesional haya sido dentro del ámbito de la clínica legal de IE: ha sido una oportunidad fantástica y nos han tratado como si fuéramos profesionales desde el primer día.

Un mensaje del profesorado: Argyri Panezi

Trabajar con equipos de estudiantes de IE Law en la clínica legal es un privilegio y una responsabilidad. En IE tenemos la suerte de contar con estudiantes de origen e intereses muy diversos que están matriculados en grados derecho y dobles grados. Este grupo de estudiantes multilingües y multidisciplinarios aporta unas habilidades extraordinarias. Saben familiarizarse rápidamente con distintas jurisdicciones y participan en debates globales, analizando las leyes y políticas relevantes en contextos locales, nacionales y globales.

El proyecto Algorithms es un ejemplo fantástico de un proyecto multidisciplinario y global, que ha ayudado a nuestros estudiantes a participar en un debate crítico y contemporáneo sobre la tecnología. Les ha permitido trabajar con una asociación civil para redactar una guía dirigida a los ciudadanos de dentro y fuera de España. Estamos muy orgullosos del trabajo de nuestros estudiantes. Seguiremos aprendiendo con ellos y observando su trayectoria profesional una vez finalizada su etapa en IE.

Living with the Algorithm - Toward a New Social Contract in the Age of AI está disponible aquí

Equipo:

Argyri Panezi, supervisor del proyecto, en representación del equipo de profesores de Legal Clinic

Francisco de Elizalde, profesor de Derecho Privado, director de Legal Clinic

Sara Sánchez, profesora adjunta de Derecho Comercial, directora de Legal Clinic

Michail Risvas, profesor adjunto de Derecho Internacional

^[1] Kayser-Bril Nicolas, “Austria’s employment agency rolls out discriminatory algorithm, sees no problem”, Algorithm Watch, 11 de octubre de 2019. https://algorithmwatch.org/en/story/austrias-employment-agency-ams-rolls-out-discriminatory-algorithm/