En octubre del año pasado el Parlamento Europeo publicó un paquete de tres propuestas normativas destinadas a regular la inteligencia artificial y la propiedad intelectual e industrial, la inteligencia artificial y la responsabilidad civil por daños, y el marco ético de la inteligencia artificial, respectivamente. Puedes leer un buen análisis sobre todas estas cuestiones relacionadas con el derecho de la inteligencia artificial en este enlace.
En esta oportunidad, y relacionado con lo anterior, te presentamos un artículo de Ángel Manuel Chavarría López donde analiza la problemática de la responsabilidad por negligencia que se puede imputar a un robot considerado «inteligente».
TABLA DE CONTENIDO
1. Responsabilidad, inteligencia artificial, robot y daños
En nuestra sociedad cada vez más avanzada, y donde la tecnología evoluciona rápidamente transformando nuestras vidas, comienzan a surgir problemas que no tienen una sencilla respuesta jurídica. El aprendizaje de muchos robots a través del contacto con el entorno es uno de ellos, tanto de robots industriales, como robots para uso doméstico, vehículos autónomos, etc.
Los robots con un sistema de inteligencia artificial más desarrollado y autónomo son capaces de interactuar con el entorno de forma impredecible, esto es, tomar decisiones y aplicarlas en el mundo exterior con independencia de cualquier control o influencia externa. Indica la profesora Carmen Núñez Zorrilla que dicha impredecibilidad y los actos que de esa actuación se deriven van a ser los que planteen los desafíos jurídicos más complejos.
El principal problema es dilucidar hasta qué punto el acto negligente cometido por el robot escapa a la responsabilidad del fabricante por defectos durante su fabricación, y qué soluciones ofrece la actual normativa jurídica.
2. Cauce legal actual de la responsabilidad en la robótica
La inminente entrada de vehículos autónomos en el espacio europeo y robots cada vez más inteligentes y con un mayor grado de autonomía hizo que la Comisión de Asuntos Jurídicos de la Unión Europea comenzase a redactar una Propuesta con recomendaciones para la Comisión. Posteriormente, se creó la Resolución del Parlamento europeo (2015/2013) sobre normas de Derecho civil sobre robótica, de 16 de febrero de 2017, en la cual, a falta de una concepción jurídica y definición precisa de robot, les introduce como productos, con las consecuentes repercusiones que tendría en el derecho, por ejemplo, en caso de daños (Considerando AC).
El fabricante será el responsable de los daños causados por los defectos del producto, tal como dispone en nuestra legislación el art. 135 del Texto Refundido de la Ley General para la Defensa de los Consumidores y Usuarios, y la Directiva 85/374/CEE en materia de responsabilidad por los daños causados por productos defectuosos, en su art. 1. Sin embargo, la propia Resolución deja entrever que la responsabilidad puede derivar del fabricante o de otros agentes (Considerando AD), como el desarrollador del software o el usuario.
Pero ¿puede tener un robot todo el peso de la responsabilidad? Sin entrar de lleno en el debate, existen juristas y expertos que plantean si un robot con inteligencia artificial debería tener capacidad jurídica o no, y así queda expuesta dicha duda en el Considerando AB de la anterior Resolución 2015/2013, el cual indica que cuanto más autónomos sean, más difícil será considerarlos como un instrumento.
Decía Carmen Vallejo de Hoyos, en su tesis final de grado que resulta bastante difícil pensar en una categoría intermedia entre la persona y la cosa, puesto que no es posible ser sujeto y a la vez objeto de una relación jurídica. En consecuencia, cabe preguntarse si, basándose la responsabilidad civil en general en la idea de la culpa, puede atribuirse algún tipo de culpa a los robots, entendiendo que la culpa exige, o bien una intención de causar un daño, o bien contemplar la posibilidad de que este daño pudiera darse, aunque no sea intencional, o bien la falta de cuidado o diligencia en su conducta, como puntualizaba Juan Gómez Riesco.
Si bien pueden darse situaciones en las que el fabricante, debido a la expiración del contrato y plazo de garantía del mismo, o que el daño ocasionado no sea por un defecto de fábrica, no se vea implicado como responsable, ni tampoco el usuario o desarrollador del software a través del cual va aprendiendo el robot autónomo. Situaciones a través de las cuáles es el propio aprendizaje erróneo del robot el que le lleva a actuar de una manera negligente, como puede ser el caso en el que un vehículo autónomo, por medio del mapeado a través de los sensores, no logra detectar a un peatón cruzando la calzada, y termina por arrollarle.
3. Incorporación de la Propuesta de resolución del Parlamento europeo con recomendaciones destinadas a la Comisión sobre un régimen de responsabilidad civil en materia de inteligencia artificial
Teniendo por presente la Resolución (2015/2013) y la Directiva 85/374/CEE, el Informe con la Propuesta de resolución del Parlamento europeo con recomendaciones destinadas a la Comisión sobre un régimen de responsabilidad civil en materia de IA sienta unas bases más sólidas sobre la propia responsabilidad en caso de negligencia de cualquier aparato cuya autonomía dependa de un sistema de inteligencia artificial.
En primer lugar, tiene en cuenta la dificultad que entrañan este tipo de dispositivos y la cantidad de agentes que participan sobre ellos. Indica que la Directiva 85/374, pese haber demostrado durante más de 30 años su eficacia, debe revisarse para adaptarse al nuevo mundo digital, y proporcionar una mayor seguridad jurídica tanto para consumidores como para empresas.
En segundo lugar, la responsabilidad recaería no sobre el fabricante, sino sobre el operador, sea inicial o final, siendo la figura que ha ejercido un control, o lo ejerce en el momento de haberse cometido el hecho negligente, respectivamente. Quedarán excluidos de responsabilidad únicamente en casos de fuerza mayor.
Por último, introduce el término “alto riesgo” para determinados sistemas de IA cuyo funcionamiento suponga un potencial significativo de causar daño, se enumeren en el Anexo, y cada seis meses se revise dicha lista, con las consecuentes modificaciones.
4. Solución y opinión a la falta de responsabilidad en los robots
La solución más llamativa en casos como el previamente señalado, donde no existe responsabilidad por parte del operador, sería la realización de un seguro de responsabilidad civil, para los sistemas de IA de alto riesgo, y que debe cubrir importes y alcance de la indemnización, recogido en su art. 5.
Como fuerza mayor, y en como caso en el que se vería reducida o anulada la responsabilidad del operador, sería cuando la persona afectada por el propio sistema hubiera sido la propia causante del perjuicio.
Con todo esto, se descarta la idea de una posible responsabilidad del propio robot, a través de un Registro de los mismos, y una indemnización para tales casos. Debido al todavía desarrollo de estos sistemas y la complejidad de su autonomía, debe permitirse su evolución sin dejar de proporcionar una seguridad jurídica.
* Si buscas abogados especialistas en derecho de la inteligencia artificial, te recomendamos contactar aquí.
No dejes de suscribirte a Juristas con Futuro si deseas leer artículos jurídicos de calidad y análisis sobre la legal tech y la innovación en el sector legal.
Un artículo de Ángel Manuel Chavarría López
Artículo bajo licencia de Creative Commons Reconocimiento-NoComercial-SinObraDerivada 4.0 Internacional.
"NO REPRODUZCAS SIN CITAR LA FUENTE"
Querido lector: dispones del permiso del editor de Juristas con Futuro y del mismo autor de este artículo para reproducir todo o una parte del mismo, siempre que cites la fuente de origen y que no consideres importante que Google penalice tu web por tener contenido duplicado. Así que, simplemente copia lo siguiente:
Ángel Manuel Chavarría López. ¿Puede incurrir en responsabilidad por negligencia un robot «inteligente»? [online]. Juristas con Futuro. 18/01/2021. https://www.juristasconfuturo.com/recursos/doctrina-juridica/puede-incurrir-en-responsabilidad-por-negligencia-un-robot-inteligente/. Consulta: [indicar la fecha en que has consultado el artículo]
