1. I+D Legal en acción: ingenieros y abogados crean Fiabilito
Fiabilito es el resultado de la colaboración entre la Universidad Internacional de la Rioja (UNIR) y la firma de abogados Algoritmo Legal. Los ingenieros especializados en inteligencia artificial Yaiza Argudín Pérez, Alberto Martín Montero, Alejandro Núñez Valle y Carlos Simón Gallego junto con los abogados Ricardo Oliva León y Elena Almazán Salazar, han creado el chatbot Fiabilito. Se trata del primer chatbot en español que intenta medir la eticidad y fiabilidad de los algoritmos de inteligencia artificial del sector financiero.
En efecto, el objetivo de este chatbot es el de permitir a las empresas del sector financiero (y, particularmente, a los bancos) realizar una evaluación preliminar acerca de si sus productos o servicios que incorporan algoritmos de inteligencia artificial (IA) garantizan el uso de una inteligencia artificial ética y fiable. Para ello simplemente se debe iniciar una conversación con el chatbot pinchando la opción “Evaluar mi algoritmo (sector financiero)”. La evaluación se lleva a cabo por medio de un cuestionario de preguntas. Al finalizar la conversación, Fiabilito emite un informe en formato PDF con el resultado de la evaluación realizada. El chatbot se ubica en la parte inferior derecha de la web.
El ideólogo del proyecto ha sido Ricardo Oliva León. Los cuatro ingenieros se han encargado de la parte técnica del proyecto (la programación, el diseño y desarrollo en Dialogflow y lenguaje Python, y su posterior despliegue e integración en la página web). Por su parte, los abogados Ricardo Oliva León y Elena Almazán Salazar se han centrado en todos los aspectos jurídicos del proyecto (estudio a profundidad de la normativa europea e internacional sobre IA) y de alimentar al chatbot con suficiente información jurídica acerca de la inteligencia artificial lícita, ética y robusta. Abogados e ingenieros crearon el índice de fiabilidad del chatbot para medir el nivel de fiabilidad de los algorítmicos de IA en el sistema financiero. El desarrollo de la página web ha corrido a cargo del experto programador Óscar Domínguez Merino.
El equipo multidisciplinar ha trabajado durante seis meses ininterrumpidos en este proyecto. Algoritmo Legal proporcionó a los ingenieros la documentación necesaria para identificar los requisitos que debe cumplir un sistema de IA fiable en el sector financiero y elaboró una serie de preguntas clasificadas según el uso de la IA en el seno de los bancos. Estas preguntas han sido elaboradas siguiendo, particularmente, las Directrices Éticas para una Inteligencia Artificial fiable, publicadas por la Comisión Europea en junio de 2018, la Propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial de abril de 2021, y la Recomendación sobre la Ética de la Inteligencia Artificial aprobada por la UNESCO el 18 de noviembre de 2021.
¿Por qué Fiabilito evalúa algoritmos de inteligencia artificial aplicados al sector financiero? Una de las primeras cuestiones que se tuvo que decidir al inicio fue el sector concreto en el que el chatbot debía operar. Finalmente, se optó por el sector financiero debido a que el uso de algoritmos de IA en dicho sector es cada vez más común y la interacción directa con los usuarios resulta recurrente. Los principales usos de la IA en el sector bancario que se han analizado para la confección de las preguntas que el chatbot realiza a los usuarios, son los siguientes:
1. Robo advisors.
2. Trading algorítmico.
3. Scoring crediticio.
4. Onboarding financiero.
5. Sistemas de gestión de riesgo.
6. Compliance en materia de prevención del blanqueo de capitales.
¿Cómo funciona Fiabilito? Para determinar si un algoritmo puede considerarse fiable, el chatbot procede a calcular un índice que mide el grado de fiabilidad y ética de los sistemas de IA implantados por una empresa del sector financiero. A cada una de las preguntas que realiza el chatbot se le ha asignado un peso de importancia, de manera objetiva, teniendo en cuenta las posibles vulneraciones a derechos fundamentales que podrían darse.
El chatbot distingue así entre preguntas de importancia alta, media y baja. Las preguntas cuya importancia se considera alta tienen un valor asignado de 1, las de importancia media tienen un valor de 0,6 y las de importancia baja puntúan con 0,25. Este valor asignado a cada una de las preguntas en función de su importancia será utilizado a modo de penalización en caso de que la respuesta correspondiente sea negativa. Por lo tanto, si se responde con un NO, el chatbot calcula el índice sumando el valor correspondiente a la importancia de esa pregunta. Al final, el índice se calcula sumando todas las penalizaciones obtenidas de las respuestas negativas y, si el resultado es mayor o igual que 1, significará que el algoritmo evaluado no supera el test, por lo que no podrá considerarse ético. Obsérvese que las respuestas a todas las preguntas consideradas de importancia alta deben ser siempre SÍ para poder hablar de IA fiable. Fiabilito, finalmente, resume los resultados del cuestionario en un PDF que se genera automáticamente conforme registra las preguntas que son enviadas en el propio cuadro conversacional, de manera que queda disponible para su descarga inmediata por el usuario.
Fiabilito es un proyecto pionero de I+D legal que demuestra las potentes sinergias que pueden surgir cuando los abogados trabajan de la mano con los ingenieros y científicos de datos.
2. Nace la primera firma de abogados española especializada en Derecho de la Inteligencia Artificial
Con Fiabilito, Algoritmo Legal predica con el ejemplo, refuerza su área de Derecho de la Inteligencia Artificial y se posiciona como una firma pionera e internacional de abogados especializados en inteligencia artificial.
Algoritmo Legal cuenta en su equipo con experimentados abogados expertos en Derecho de la Propiedad Intelectual, Derecho del Software, Protección de Datos y Privacidad, Derechos Humanos y Derecho Mercantil, todos los cuales poseen experiencia nacional e internacional. A diferencia de las perspectivas reduccionistas, esta firma aborda la problemática de la IA y diseña sus soluciones jurídicas desde una visión holística. Ricardo Oliva León, Elena Almazán Salazar, Anne-Sophie Firion, Lorena Pérez-Campillo y Alejandro Sánchez del Campo Redonet integran el equipo de abogados expertos en Derecho e Inteligencia Artificial de la firma, todos ellos competentes juristas con experiencia nacional e internacional y excelentes personas.
La firma cuenta además con un cualificado equipo de ingenieros y científicos de datos especializados en Big Data e IA españoles que serán los responsables de la parte técnica del servicio de auditorías algorítmicas.
Un artículo de Juristas con Futuro
Artículo bajo licencia de Creative Commons Reconocimiento-NoComercial-SinObraDerivada 4.0 Internacional.
"NO REPRODUZCAS SIN CITAR LA FUENTE"
Querido lector: dispones del permiso del editor de Juristas con Futuro y del mismo autor de este artículo para reproducir todo o una parte del mismo, siempre que cites la fuente de origen y que no consideres importante que Google penalice tu web por tener contenido duplicado. Así que, simplemente copia lo siguiente:
Juristas con Futuro. Se estrena Fiabilito y nace la primera firma de abogados española especializada en inteligencia artificial [online]. Juristas con Futuro. 26/04/2022. https://www.juristasconfuturo.com/innovacion/imasdmasi-legal/nace-la-primera-firma-de-abogados-espanola-especializada-en-inteligencia-artificial/. Consulta: [indicar la fecha en que has consultado el artículo]
