Informe sobre Inteligencia Artificial Responsable

Con motivo de la presentación del último informe del Observatorio "Inteligencia artificial responsable: visión y estrategia para impulsar el uso de la IA responsable desde las asesorías jurídicas", IE Law School celebró el pasado jueves 11 de abril de un evento sobre la materia. En la cita se dieron encuentro profesionales del mundo jurídico especializados en Inteligencia Artificial, Protección de Datos, Compliance...

El informe se basa en las conclusiones de un focus group realizado con miembros de equipos jurídicos de importantes empresas pertenecientes a diversos sectores. En este foro de trabajo realizado el pasado 7 de marzo, se compartieron conocimientos y opiniones sobre el tema, y se expusieron los principales retos y necesidades/oportunidades que identifican desde sus respectivas posiciones. 

Carlos Rivadulla, Manager IP/IT en ECIJA, fue el encargado de la presentación del informe elaborado por este último focus group del Observatorio. El documento presentado pretende resumir el interesante debate originado entre los profesionales del grupo de trabajo, y recoger los argumentos, ideas y comentarios compartidos durante la sesión.

Tras la presentación del citado informe tuvo lugar una interesante mesa redonda donde participaron responsables de asesorías jurídicas de empresas líderes en sus sectores. La mesa redonda estuvo moderada por Asier Crespo, Legal Director en Microsoft Spain & Portugal. En ella participaron Rosana Viejo, Legal Manager en Bankinter; Antonio Muñoz, Data Protection Technical Director, Global DPO Office en Telefónica; Ana Regidor, Chief Privacy Officer en Amadeus IT Group.

Rosana Viejo reflexionó sobre la idea de que el DPO no es solo un controller, porque a la vez que controla los riesgos también asesora. Los responsables de Inteligencia Artificial de las empresas no solo deben hacer esta labor de control y revisión, sino que además deben asesorar al resto de departamentos de la organización y por supuesto deben estar cerca del negocio. 

"Hay que empezar a pensar en la distribución de responsabilidades en las relaciones contractuales y no solo a ser los primeros".
Rosana Viejo, Legal Manager en Bankinter

Antonio Muñoz a su vez comentó que debe quedar bien establecido el proceso de toma de decisiones para la supervisión de la eficiencia y control en la gobernanza de datos. Modelo similar al de gobierno de la privacidad, grupo de coordinadores y normativa de cumplimiento. Va a haber muchos casos donde no podremos asegurar el correcto funcionamiento de los sistemas de IA, sin saber dónde recae la responsabilidad.

"En IA cualquier usuario de la organización puede hacer grandes cosas sin llamar a IT, por lo que es más difícil hacer un análisis de riesgos".
Antonio Muñoz, Data Protection Technical Director, Global DPO Office en Telefónica

Ana Regidor reflexionó sobre el papel de las asesorías jurídicas de empresa en este nuevo contexto de cambio, donde deberán asumir su rol de liderazgo o como contribuidor al proceso de adaptación. Continuó comentando que desde las áreas de compliance y riesgos se tendrán que tomar las riendas en este cambio.

"Ya se usaban algunas herramientas de IA en el back de la organización, ahora estamos viviendo una democratización de las mismas, donde cualquier en la empresa puede utilizarlas".
Ana Regidor, Chief Privacy Officer en Amadeus IT Group

Antonio Muñoz también apuntó que hay que dar una alternativa suficiente a los empleados para que no tengan que buscar por su cuenta herramientas para el desarrollo de documentos, imágenes, código, etc. Es importante que la IA Generativa esté adaptada al entorno corporativo de cada organización, que sea garantista con el tratamiento de la información y la protección de datos.

Ana Regidor comentó la necesidad de trabajar en guías de uso para empleados, sobre qué hacer y qué no, políticas, comunicación, formación y difusión interna del conocimiento. Hizo hincapié en el desarrollo de una política de comportamiento ético que va a ser la que gobernará tanto la utilización como el desarrollo de herramientas y sistemas de Inteligencia Artificial.

Observatorio de Derecho Digital IE - ECIJA

El Observatorio de Derecho Digital IE – ECIJA es una plataforma creada por IE Law School para facilitar el análisis y la investigación de los impactos de la economía digital en el mundo jurídico. El consejo asesor está formado por figuras destacadas del mundo jurídico y tecnológico, incluida la Decana de IE Law School Soledad Atienza. Además de la Inteligencia Artificial, los principales temas de trabajo del observatorio son la sostenibilidad, la ciberseguridad, el legaltech, el metaverso y la economía, y la gobernanza y la protección de datos.