TABLA DE CONTENIDO
1. Innovación en la Administración Pública española
En una nota de prensa publicada el 11.02.2021 en la página web del Ministerio de Inclusión, Seguridad Social y Migraciones de España se informa que la Tesorería General de la Seguridad Social ha implementado un “RPA” (acrónimo de “Robotic Process Automation” o Automatización de Procesos mediante Robótica) para la realización de las siguientes actividades:
1) La depuración de alta y bajas de trabajadores autónomos.
2) La gestión relativa a los trabajadores desplazados a la Unión Europea.
Se indica además que actualmente se está estudiando el “uso de bots con este software” en otros procesos como el relativo a la correcta asignación de la actividad económica a las empresas, cuestión relevante ya que va a determinar la cotización por las “contingencias profesionales» de sus trabajadores.
2. ¿Qué es exactamente un RPA?
En pocas palabras, se trata de un software instalable en cualquier servidor que utiliza “bots de inteligencia artificial” para realizar tareas rutinarias y repetitivas, tales como el procesamiento de formularios, entradas de datos, etc.
3. ¿Qué ventajas ha traído la implementación de un RPA en la Seguridad Social española?
Un ahorro de 43.000 horas de trabajo humano, indica la nota de prensa. En otras palabras, se destina menos funcionarios públicos a la realización de tareas rutinarias y repetitivas con la posibilidad de que dediquen su tiempo a realizar tareas de “mayor valor añadido”. Es innegable, por tanto, que la aplicación del RPA constituya un buen ejemplo de innovación.
4. Reflexiones personales sobre el uso de la inteligencia artificial en las administraciones públicas
No obstante, la “automatización” del trabajo y de los procesos productivos nos plantea algunas reflexiones insoslayables sobre los ciudadanos que son, en última instancia, los destinatarios finales del resultado obtenido con dicha “robotización”. Veamos:
1) Las tecnologías de inteligencia artificial deberían ser fácilmente explicables para los ciudadanos afectados. Esto garantizaría que se pueda realizar una revisión de los procesos técnicos que están detrás de estas tecnologías. La explicabilidad implica adoptar medidas de transparencia destinadas a presentar, siempre que sea técnicamente posible, explicaciones claras y comprensibles sobre los datos y los algoritmos utilizados por estas tecnologías, así como sobre su finalidad, sus resultados y sus riesgos potenciales.
El Informe del Parlamento Europeo con recomendaciones destinadas a la Comisión Europea sobre un marco de los aspectos éticos de la inteligencia artificial, la robótica y las tecnologías conexas, de 8 de octubre de 2020, recomienda que cuando las tecnologías de inteligencia artificial se consideren de “alto riesgo” deben cumplir con una serie de obligaciones, entre las cuales está la de garantizar la seguridad, transparencia y rendición de cuentas del desarrollo, la implementación y utilización de tales tecnologías.
El citado Informe define inteligencia artificial como todo sistema basado en programas informáticos capaz de recopilar y tratar datos, analizar e interpretar su entorno y pasar a la acción, con cierto grado de autonomía y, con el fin de alcanzar objetivos específicos. Por “inteligencia artificial de alto riesgo” entiende aquella que puede generar un riesgo significativo de causar lesiones o daños a las personas o a la sociedad, vulnerando los derechos fundamentales y/o las normas de seguridad de la Unión Europea. Entre los “sectores” de alto riesgo, el Informe incluye específicamente a los servicios de seguridad social. Por tanto, queda claro que un RPA utilizado por la Tesorería de la Seguridad Social española quedaría incluido en esta categoría.
Sobre la transparencia, el Informe alude a la obligación de “explicabilidad” detrás de la cual subyace la idea de que los ciudadanos tienen derecho al conocimiento y a la comprensión de los procesos técnicos de las tecnologías de inteligencia artificial les afecten, a fin de garantizar que puedan realizar una revisión de tales procesos.
Entonces, los ciudadanos afectados en este caso (que son los trabajadores autónomos y los trabajadores desplazados a otros países de la Unión Europea) deberían ser plenamente conscientes de que un “bot” que forma parte o interactúa con un sistema de inteligencia artificial procesa información que les afecta, por lo que resulta imprescindible conocer las capacidades, el grado de exactitud y las limitaciones de dicho software. La nota de prensa del Ministerio de Inclusión, Seguridad Social y Migraciones de España es más una interesante nota de marketing antes qué un documento explicativo sobre lo que exactamente se está haciendo con el RPA.
2) Las tecnologías de inteligencia artificial que implementan las administraciones públicas deberían estar diseñadas y construidas de un modo que se permita su evaluación, auditabilidad y trazabilidad, lo cual no sería posible sin la garantía previa de la explicabilidad.
En el caso que nos ocupa, la nota de prensa indica que el uso del RPA “ha disminuido la probabilidad de error humano”. Sin negar la verdad de esta afirmación, lo cierto es que todo software puede producir fallos o errores técnicos debido a problemas de diseño y programación.
3) Hay que recordar que según el artículo 22 del Reglamento General de Protección de Datos se reconoce un derecho de oposición a las decisiones individuales automatizadas (un RPA es un buen ejemplo de software que automatiza decisiones) y prohíbe cualquier decisión basada únicamente en el tratamiento automatizado, incluida la elaboración de perfiles, que produzca efectos jurídicos sobre la persona o le afecte significativamente.
Incluso, en el caso que los afectados hubieran dado su consentimiento para la realización del tratamiento automatizado, se establece que los responsables del tratamiento deberán adoptar “garantías adecuadas”, lo que incluye el derecho del interesado a obtener intervención humana por parte del responsable, el derecho a expresar su punto de vista y de poder impugnar la decisión automatizadas.
4) Finalmente, hay que recordar también que el Juzgado de lo Social número 10 de Las Palmas de Gran Canarias, por sentencia de fecha 23.09.2019, declaró improcedente el despido de una trabajadora para ser reemplazada por un RPA. Señalaba que “la automatización mediante bots o robots con la única excusa de reducir costes viene a significar lo mismo que reducir el derecho al trabajo para aumentar la libertad de empresa”.
Un funcionario público goza, prácticamente, de “estabilidad laboral absoluta” por lo que no podrá ser despedido ni mucho menos reemplazado por un RPA. Incluso, el uso de bots en las administraciones públicas, podría reducir la contratación de funcionarios para realizar tareas burocráticas y repetitivas de escaso valor añadido para el ciudadano.
Sin embargo, donde hay que volver la mirada es en los ciudadanos afectados. En aras de la transparencia, a ellos se les debería explicar cómo funciona el software de inteligencia artificial que procesa información que les afecta. Además, se les debe garantizar el ejercicio de su derecho de impugnación de la decisión automatizada y de poder exigir la intervención humana del responsable cuando la automatización pudiera producirle algún efecto jurídico o perjuicio significativo.
* Si buscas abogados expertos en derecho de la inteligencia artificial, te recomendamos contactar aquí.
No dejes de suscribirte a Juristas con Futuro si deseas leer artículos jurídicos de calidad y análisis sobre la legal tech y la innovación en el sector legal.
Un artículo de Ricardo Oliva León
Artículo bajo licencia de Creative Commons Reconocimiento-NoComercial-SinObraDerivada 4.0 Internacional.
"NO REPRODUZCAS SIN CITAR LA FUENTE"
Querido lector: dispones del permiso del editor de Juristas con Futuro y del mismo autor de este artículo para reproducir todo o una parte del mismo, siempre que cites la fuente de origen y que no consideres importante que Google penalice tu web por tener contenido duplicado. Así que, simplemente copia lo siguiente:
Ricardo Oliva León. Legalidad del RPA implementado por la Seguridad Social española [online]. Juristas con Futuro. 17/02/2021. https://www.juristasconfuturo.com/recursos/doctrina-juridica/legalidad-del-rpa-implementado-por-la-seguridad-social-espanola/. Consulta: [indicar la fecha en que has consultado el artículo]
