I. DE LA LITERATURA A LOS CÓDIGOS
Los robots ya están de aquí y han venido para quedarse. En realidad ya llevan entre nosotros, aplicados a numerosos procesos de producción industrial muchos años. Pero lo cierto es que se trataba de tecnología muy especializada, integrada en las industrias o en los sistemas tecnológicos y de alguna manera, por ello, esos robots resultan invisibles a los ojos de la gente de la calle. No lo son sin embargo los de la nueva generación que llega ahora. Los nuevos autómatas y robots van a interactuar de un modo más directo y palpable en nuestras vidas. Coches sin conductor capaces de dirigirse de modo autónomo y sin incidencias entre el complejo tráfico; sistemas de inteligencia artificial con capacidad para, por ejemplo, prestar asistencia eficaz en el ámbito educativo o en el sanitario.
El escenario de muchas historias de ciencia ficción ya es, como tantas otras veces ha sucedido, una realidad. Si el punto de partida ya existe —robots entre nosotros, programados para hacernos la vida más fácil—, por qué no han de darse igualmente las consecuencias que se contemplan en alguna de esas historias. Me refiero a relatos como «Galáctica», «Sueñan los androides…»o el más conocido de «Terminator» en los que se contempla un escenario futuro donde los robots se rebelan contra sus creadores y toman el control del mundo. Y no lo hacen precisamente para ayudarnos. Parece, al menos de momento, muy improbable que eso pueda suceder (los robots aún no gozan de autoconciencia), pero en cambio sí empiezan a aumentar las probabilidades que sucedan eventos desagradables por culpa de las tecnologías autómatas a medida que su uso se generaliza en nuestras sociedades. Es, por tanto muy, importante dar el paso y tomarse este asunto en serio, comenzando a fijar unos parámetros de actuación en cuanto a límites, condiciones y responsabilidades. Es decir, estamos hablando de la necesidad actual de que el hecho tecnológico pase a convertirse también en un hecho jurídico mediante su regulación.
II. PROPUESTA DEL PARLAMENTO EUROPEO SOBRE ROBÓTICA
Esto es lo que pretende la reciente Propuesta en materia de robótica (1) aprobada el pasado 16 de febrero de 2017 por el Parlamento Europeo; una propuesta basada en la ponencia elaborada meses antes por la eurodiputada luxemburguesa MadyDelvaux.
La Propuesta sobre robótica elevada al Parlamento Europeo dirige a la Comisión Europea una serie de recomendaciones que han de seguirse para regular a corto plazo la creación, uso y efectos de la robótica en nuestras comunidades. Las primeras reglas sobre el uso de androides, o al menos las más conocidas, fueron promulgadas (en su relato Runaround) por el científico y divulgador Isaac Asimov. Recordemos:
- 1. Un robot no hará daño a un ser humano o, por inacción, permitirá que un ser humano sufra daño.
- 2. Un robot debe obedecer las órdenes dadas por los seres humanos, excepto si estas órdenes entrasen en conflicto con la 1.ª Ley.
- 3. Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la 1.ª o la 2.ª.
La ponencia que ha servido de base al acuerdo del Parlamento sigue básicamente este esquema, partiendo del hecho indiscutible de que «la humanidad se encuentra a las puertas de una era en la que robots, bots, androides y otras formas de inteligencia artificial cada vez más sofisticadas parecen dispuestas a desencadenar una nueva revolución industrial —que va a afectar probablemente a todos los estratos de la sociedad—, resulta de vital importancia que el legislador tenga en cuenta todas las consecuencias que ello entraña».
Qué consecuencias inmediatas se barajan en la ponencia. Pues son básicamente las siguientes:
- • Que los robots asuman gran parte del trabajo que ahora realizan los seres humanos.
- • Que la programación de un robot falle o sufra ataques intencionados provocando serios daños a las personas y sus bienes.
- • Que la protección de los datos personales y la privacidad estén en riesgo, habida cuenta de que las aplicaciones y los dispositivos se comunicarán entre sí sin intervención humana alguna,
- • Que en la medida en que los robots pueden prestar servicios asistenciales con relación directa con las personas, se ponga en riesgo el ámbito propio de la dignidad humana.
- • Que Europa se quede atrás en esta materia por ausencia de un marco legal fiable y cierto (en otros países como EE UU, Japón, Corea, ya se están tomando medidas regulatorias).
III. PROPUESTAS DE REGULACIÓN EN EL ÁMBITO DE LA ROBÓTICA
Para conjurar o paliar estos peligros y situaciones de riesgo, la ponencia sometida a debate en el Parlamento Europeo apuesta por la adopción de medidas legales (en concreto, una Directiva) en una serie de ámbitos y áreas básicas, dando lugar a marco legal claro y contundente de obligaciones y derechos dirigidos a los fabricantes de robots (se considera que estos fabricantes están sometidos plenamente a las citadas leyes de Asimov), a las instituciones, así como a los propietarios, usuarios y ciudadanos en general.
Los campos en los que se considera imprescindible actuar son los siguientes.
El primero de ellos es el más evidente y se refiere a la responsabilidad. Señala la ponencia que «el desarrollo de rasgos cognitivos y autónomos —como la capacidad de aprender de la experiencia y tomar decisiones independientes— ha hecho que estos robots se asimilen cada vez más a agentes que interactúan con su entorno y son capaces de modificarlo de forma significativa», por tanto resulta perentorio en este contexto determinar los elementos que configuren la responsabilidad jurídica derivada de una actuación perjudicial de un robot. Es una «cuestión crucial», remacha, con toda la razón, la Propuesta, invocando en este sentido la vigencia de las leyes de Asimov y añadiendo una nueva (que en el fondo es un matiz de la primera de las leyes): «un robot no debe hacer daño a la humanidad ni, por omisión, dejar que esta sufra un daño».
Citando a la declaración de Schuman del año 1950, la ponencia considera que la futura regulación en materia de responsabilidad por actos u omisiones de robots ha de centrarse en determinar cómo una máquina puede considerarse parcial o totalmente responsable de su conducta y si la misma puede subsumirse en alguna de las categorías jurídicas ahora existentes (es decir, si los robots «deben considerarse personas físicas, personas jurídicas, animales u objetos»). Tal vez, se sugiere, le resulte preciso al legislador crear «una nueva categoría, con sus propias características y repercusiones en lo que se refiere a atribución de derechos y obligaciones», teniendo en cuenta en todo caso que la mayor parte de las veces será posible remontarse hasta un agente humano concreto (fabricante, propietario o un usuario) y perfectamente imputable (responsable de lo ocurrido). En todo caso, la ponencia considera —es discutible— que cuando un robot pueda tomar decisiones autónomas, «la normativa tradicional —basada en la responsabilidad del fabricante por defectos de fabricación— no bastará para establecer su responsabilidad». Las medidas más plausibles que en el momento actual podrían adoptarse pasarían por medidas como la obligatoriedad de seguro (similar al existente para los automóviles) conforme al cual los fabricantes o los propietarios de robots estarían obligados a suscribir un contrato de seguro por daños a terceros; pasarían también por establecer un fondo de compensación para garantizar la reparación del daño causado por un robot (cuando la responsabilidad del seguro aparezca limitada) o sirva igualmente para financiar futuras investigaciones de mejora en inteligencia artificial; se recomienda asimismo la creación de un registro específico que permita identificar al robot, las personas de las que depende, la existencia del seguro, sus limitaciones, etc.; El Parlamento solicita también a la Comisión Europea, de modo concreto, que ofrezca una definición legal de robots autónomos «inteligentes»,teniendo en cuenta para ello la capacidad del ingenio para adquirir autonomía mediante sensores o el intercambio de datos con su interconectividad, la capacidad de aprender a través de la experiencia y la interacción, el soporte físico del robot y la capacidad de adaptar al entorno sus acciones.
Otra de las medidas que en este apartado se contempla es realmente llamativa, dado que supone la creación de un tertius genius en la calificación de sujetos de derecho: la persona jurídica electrónica, esto es, una personalidad jurídica específica para los robots, «de modo que al menos los robots autónomos más complejos puedan ser considerados personas electrónicas con derechos y obligaciones específicos».
Otro ámbito en el que resulta urgente legislar es en la creación de un código ético sobre robótica. «Un marco ético que sirva de orientación en materia de diseño, producción y uso de los robots» dirigido a salvaguardar la seguridad humana, la intimidad, la integridad, la dignidad, la autonomía y la propiedad de los datos. La Propuesta recomienda la elaboración de un código de conducta para los ingenieros en robótica y un código deontológico destinado a los investigadores, basados todos ellos en los principios de beneficencia (los robots deben actuar en beneficio del hombre), no maleficencia (la doctrina de «primero, no hacer daño», en virtud del cual los robots no deberían perjudicar a las personas) y autonomía (la capacidad de tomar una decisión con conocimiento de causa e independiente sobre los términos de interacción con los robot). Debe tenerse también muy presente la Carta de los derechos fundamentales de la Unión.
La ponencia Delvaux considera además con acierto que un ámbito de indiscutible riesgo sobre el que se debe efectuar una regulación es el referido a la protección de datos y protección de la propiedad intelectual. A tal fin la propuesta solicita a la Comisión Europea y a los Estados miembros «que velen por que, en la elaboración de cualquier política de la Unión en materia de robótica, se incorporen garantías relativas a la privacidad y la protección de datos».
El documento sometido a la aprobación del Parlamento Europeo realiza también unas propuestas muy específicas en los aspectos prácticos de la vida ordinaria en los que la nueva generación de robots ya está incidiendo con resultados tangibles. Se refiere la ponencia a los vehículos son conductor, los robots asistenciales, los drones y a los efectos que en el mercado laboral se espera que provoque la progresiva automatización de ciertos servicios (sector de producción que hoy por hoy, según Eurostat, da más empleo en Europa). Con respecto a lo que la ponencia denomina vehículos autónomos se considera que la regulación para esta actividad es urgente, tanto en el ámbito de la responsabilidad por daños como en lo que respecta a la circulación transfronteriza de los mismos. En cuanto a los Robots asistenciales (fundamentalmente los quirúrgicos o los que realizan diagnósticos) resulta preciso definir los requisitos de su intervención y solicita que se constituyan comités de ética sobre robótica en los hospitales y otras instituciones sanitarias, “encargados de examinar y contribuir a resolver problemas éticos inusuales y complejos relacionados con cuestiones que afectan al cuidado y tratamiento de los pacientes”. Por lo que se refiere a los drones , la Propuesta pide que se configure un marco legal que en todo caso garantice la seguridad y privacidad de los ciudadanos, con arreglo a la base que suponen las directrices contenidas en la Resolución del Parlamento Europeo, de 29 de octubre de 2015, sobre el uso seguro de los sistemas de aeronaves pilotadas de forma remota (RPAS) o vehículos aéreos no tripulados (UAV). La parte más llamativa –al menos desde el punto de vista político—es aquella en a que la ponencia Delvaux pide un análisis de los campos productivos se produce más destrucción de empleo por causa de la robotización. Además, se recomienda exigir a las empresas que informen sobre los efectos en su rendimiento económico de la automatización de sus procesos, vinculándose dichos resultados a un posible incremento de sus obligaciones fiscales y en materia de Seguridad Social. La Ponencia justifica esta recomendación por considerar que la reducción de empleo por causa de los robots conlleva una impacto muy perjudicial para los sistemas de seguridad social de los Estados miembros.
Consecuentemente con lo anterior, la Propuesta consideraba seriamente «la posibilidad de introducir una renta básica universal», una posibilidad que, finalmente, no ha sido incluida en la propuesta de regulación que el Parlamento ha dirigido a la Comisión Europea. Aunque lo cierto es que no todos los expertos coinciden en respaldar esta hipótesis. Por ejemplo, recientemente el diputado de Izquierda Unida y economista Alberto Garzón publicaba una reflexión en la que consideraba que la automatización de los sectores de producción va a erradicar muchos empleos (obsoletos) pero traer consigo otros muchos (de mayor valor añadido). La autora del informe ha mostrado públicamente su disgusto por el silencio que la propuesta dirigida a la Comisión Europea guarda en lo que respecta a dicha cuestión.
IV. LA ERA ASIMOV
En suma, tras la lectura del referido documento y sus propuestas (casi todas ellas absolutamente actuales y tangibles) es fácil percibir que tras o al amparo de la era digital viene, sin solución de continuidad, lo que podríamos llamar la era Asimov. Las grandes cuestiones existenciales planteadas en Yo Robot (también en la escena final de Bladeruner) de alguna manera están germinando ahora. La interesante Propuesta del Parlamento Europeo no llega a tanto (tampoco es su misión). Es más prosaica, más práctica (legislar para evitar perniciosos vacíos legales), pero en el fondo, tras la letra, sí se vislumbra el cambio de paradigma (persona jurídica electrónica; renta básica; ética androide) que toda modificación cultural trae consigo desde que el ser humano aprendió a tallar útiles de piedra.