Tecnología y (des)confianza en la inteligencia artificial

Celebrada los días 2 y 3 de octubre bajo el lema "Technology and (Dis)Trust: AI Between Confidence and Controversy", Lawtomation Days 2025 ofreció un espacio de reflexión sobre el papel del Derecho en la gobernanza digital y en la legitimidad de las decisiones mediadas por IA. Expertos, académicos y estudiantes debatieron sobre la delgada línea entre la confianza social y el escepticismo tecnológico. 

El evento, organizado por el Centro de Excelencia Jean Monnet de Derecho y Automatización, se celebró en la IE Tower de Madrid. La sesión inaugural, presidida por Antonio Aloisi, profesor de IE Law School y codirector de Lawtomation, contó con las ponencias de Michèle Finck, profesora de derecho e inteligencia artificial en la Universidad de Tubinga, y Veena B. Dubal, profesora de derecho en la Irvine School of Law de la Universidad de California. La presentación de Finck, titulada "La Ley de IA como desregulación: una perspectiva constitucional sobre el enfoque regulador de la UE en relación con la IA", ofreció una visión provocadora de la Ley de IA como una herramienta potencialmente desreguladora. 

Finck compartió que, lejos de ser una solución sólida, la Ley de Inteligencia Artificial podría causar cierta desregulación y transferir sutilmente el poder de las instituciones públicas a los poderes privados. "La percepción general es que la Ley de IA se considera una excepción internacional por su enfoque estricto para regular la inteligencia artificial. Mi opinión es que, en realidad, es desreguladora, ya que supone una prelación del control de la IA por parte de los estados miembros", señaló Finck en su ponencia.   

También destacó como la Ley de IA se limita a proporcionar normas armonizadas para la comercialización, la puesta en servicio y el uso de sistemas de IA. La principal intención de los legisladores era impedir que los estados miembros adoptaran sus propias normas en relación con la IA de una manera muy amplia. Finck sostiene que esta consideración se ha subestimado en las discusiones sobre la Ley de Inteligencia Artificial, y explica que la "naturaleza abierta" y los "términos legales indefinidos" son sinónimo de que existe una incertidumbre significativa con respecto a su aplicación a nivel nacional. Por último, concluye que serán "los factores políticos los que determinarán cómo se desarrollarán las cosas en los próximos años". 

La ponencia de la profesora Veena B. Dubal, "Los derechos de los datos en el trabajo: una perspectiva comparativa", exploró el creciente impacto de la gestión algorítmica y las tecnologías de vigilancia en los derechos laborales. Su presentación se centró en el desequilibrio de poder entre empleadores y empleados en los lugares de trabajo digitales, y en ella reflexionó sobre cómo la recopilación de datos y la toma de decisiones algorítmicas pueden influir negativamente en la autonomía y la dignidad. 

Por ejemplo, en el caso de los trabajadores de la economía de trabajos ocasionales en San Francisco, observó cómo los algoritmos que deciden los salarios cambiantes de los empleados también cambian constantemente. Ahora que los algoritmos están diseñados deliberadamente para modificar comportamientos, con salarios u objetivos fluctuantes, los cimientos de las leyes tradicionales de protección de datos, que se basan en garantizar que los trabajadores entiendan cómo se les evalúa, son insuficientes: "Comprender colectivamente la lógica de los sistemas de toma de decisiones no les ayudará a avanzar en sus trabajos, ya que los sistemas pueden estar diseñados para conocer y tratar a las personas de manera diferente". 

El panel de clausura, presidido por Francesca Palmiotto, profesora de IE Law School, contó con la participación de Mathias Siems, profesor del Instituto Universitario Europeo. En él, se exploraron los desafíos y las oportunidades que plantea la IA en la investigación jurídica. Siems propuso un marco de evaluación de riesgos para el uso de la IA en el mundo académico, comparándolo con los sistemas de etiquetado de alimentos de la UE, que utilizan una escala codificada por colores para diferentes prácticas. En lugar de prohibir la IA, las universidades deben fomentar la adquisición de conocimientos, la responsabilidad individual y la diversidad disciplinaria, para ayudar a los académicos a evaluar cuándo es apropiado el uso de la IA. 

Otro de los participantes, Ignacio Cofone, profesor de la Universidad de Oxford, trató también temas similares a los que se destacaron a lo largo de la conferencia. Por ejemplo, habló sobre la naturaleza relacional de los datos modernos: "Cuando descargas una aplicación y la usas durante un minuto, las empresas obtienen información sobre ti porque te perfilan según los patrones de comportamiento de las personas que han usado antes esa aplicación". En la práctica, "las empresas ahora pueden deducir tu sexualidad a partir de tus hábitos de compra". 

Por lo tanto, "en un mundo de inferencias impredecibles, el modelo de dar a las personas el poder de elegir se rompe", ya que no hay forma de que los individuos sepan cómo se agregan los elementos individuales. Así pues, como argumentaba Cofone, los legisladores tienen que replantearse su enfoque de la responsabilidad: "La protección de datos no solo debe regular las elecciones individuales, sino que debe garantizar que aquellos con poder se responsabilicen de las consecuencias de sus acciones". Concluyó que, en la práctica, cualquier afirmación creíble que pudiese afectar a las vidas de las personas debería estar sujeta a una legislación. 

A medida que los sistemas de IA se arraigan más profundamente en nuestras sociedades, una cosa está clara: el sector legal tiene el deber de adaptarse, y rápido. Las ideas que se compartieron en esta edición de Lawtomation Days tendrán un papel importante en la configuración de una respuesta que priorice la dignidad humana y la confianza.