Carlos B Fernández. La reciente propuesta del Parlamento Europeo a la Comisión para que elabore unas normas de Derecho Civil sobre robótica, incluye muchos elementos para la reflexión.
Entre los más relevantes se encuentra el principio de transparencia que debe aplicarse a los desarrollos basados en la inteligencia artificial.
Para comprender la importancia de este principio hay que trasladarse por un momento al concepto mismo de inteligencia artificial que se incluye en dicha propuesta (punto 1 de los Principios generales relativos al desarrollo de la robótica y la inteligencia artificial para uso civil).
Este concepto incluye como características de un sistema inteligente, a) la capacidad de adquirir autonomía mediante sensores y el intercambio y análisis de los datos capturados; b) la capacidad de autoaprendizaje a partir de la experiencia y la interacción y, c) la capacidad de adaptar su comportamiento al entorno.
Es decir, son sistemas capaces de aprovechar los datos recibidos para procesarlos y adoptar decisiones autónomas de actuación, mejorando su comportamiento de forma igualmente autónoma.
Pues bien, el principio de transparencia se dirige a permitir conocer el por qué de esas decisiones autónomas de actuación, a la lógica que soporta las decisiones adoptadas por la máquina. Ese principio de transparencia impone que dicha lógica de conducta deba ser visible y comprensible por los seres humanos, como analizamos a continuación.
Las premisas de la propuesta
La propuesta del Parlamento Europeo parte, entre otras, de la muy probable premisa de que “humanidad se encuentra a las puertas de una era en la que robots, bots, androides y otras formas de inteligencia artificial cada vez más sofisticadas parecen dispuestas a desencadenar una nueva revolución industrial” (Introducción, B).
Se considera que esta tendencia “apunta al desarrollo de máquinas inteligentes y autónomas, con capacidad para ser entrenadas para pensar y tomar decisiones de manera independiente” (*) (introducción, G).
Y esa futura capacidad requiere “que los implicados en el desarrollo y comercialización de aplicaciones en inteligencia artificial incorporen desde el principio características de seguridad y ética” (introducción, N).
El marco ético aplicable al desarrollo de la robótica y la inteligencia Artificial
A este fin, la propuesta incluye una relación de principios éticos relativos al desarrollo de la robótica y de la inteligencia artificial para uso civil, que comienzan por la asunción de que “el actual marco normativo de la Unión debe actualizarse y completarse, en su caso, por medio de directrices éticas que reflejen la complejidad del ámbito de la robótica y sus numerosas implicaciones sociales, médicas y bioéticas” a fin de disponer de “un marco ético claro, estricto y eficiente que oriente el desarrollo, diseño, producción, uso y modificación de los robots” (epígrafe 11).
El concepto de ética al que se refiere la propuesta del Parlamento puede extraerse tanto de la letra Q de su introducción (“… la evolución en la robótica y en la inteligencia artificial puede y debe concebirse de modo que preserve la dignidad, la autonomía y la autodeterminación del individuo …”), como, más precisamente, de la letra V de la misma, situada bajo el epígrafe de “Principios generales” que señala que: “…es necesario disponer de una serie de normas en materia de responsabilidad, transparencia y rendición de cuentas que reflejen los valores humanistas intrínsecamente europeos y universales que caracterizan la contribución de Europa a la sociedad…”).
Este marco ético incluye tres bloques de principios.
1. Unos incorporados directamente en la propia Propuesta (epígrafe 13): los principios de beneficencia, no maleficencia, autonomía y justicia.
El contenido de estos principios de detalla en el Preámbulo del Código de conducta ética para los ingenieros en robótica incluido en esta propuesta:
- Principio de beneficencia: los robots deben actuar en beneficio del hombre;
- Principio de no perjuicio, no maleficencia o doctrina de «primero, no hacer daño»: los robots no deberían perjudicar a las personas;
- Principio de autonomía: significa la capacidad de tomar una decisión con conocimiento de causa e independiente sobre los términos de interacción con los robots;
- Principio de Justicia: hace referencia a la distribución justa de los beneficios asociados a la robótica y la asequibilidad de los robots utilizados en el ámbito de la asistencia sanitaria a domicilio y de los cuidados sanitarios en particular.
2. Un segundo bloque son los principios consagrados en la
Carta de los Derechos Fundamentales de la Unión Europea (LA LEY 12415/2007)
: la dignidad humana, la igualdad, la justicia y la equidad, la no discriminación, el consentimiento informado, la vida privada y familiar y la protección de datos.
3. Y el tercer se refiere a “los demás valores inherentes al Derecho de la Unión”, como “la no estigmatización, la transparencia, la autonomía, la responsabilidad individual, y la responsabilidad social, sin olvidar las actuales prácticas y códigos éticos.”
El principio de transparencia en el desarrollo de la robótica y la inteligencia artificial
El principio de transparencia consiste, según el epígrafe 12 de esta propuesta en que “siempre ha de ser posible justificar cualquier decisión que se haya adoptado con ayuda de la inteligencia artificial y que pueda tener un impacto significativo sobre la vida de una o varias personas.”
Además, “siempre debe ser posible reducir los cálculos del sistema de inteligencia artificial a una forma comprensible para los humanos” y, por último, estima que “los robots avanzados deberían estar equipados con una «caja negra» que registre los datos de todas las operaciones efectuadas por la máquina, incluidos, en su caso, los pasos lógicos que han conducido a la formulación de sus decisiones” (§ 12).
Es decir, siempre que una acción realizada por un robot basada en técnicas de inteligencia artificial tenga o pueda tener un impacto significativo sobre la vida de una o más personas, se va a requerir:
a) Poder justificar por qué se ha adoptado una decisión (típicamente, la decisión se ha adoptado porque se consideró la mejor opción en función del cálculo realizado)
b) hacerlo de forma que el cálculo realizado sea comprensible (este cálculo se basó en los siguientes criterios y condiciones)
c) Guardar registro de los pasos lógicos seguidos (en este caso, los datos adquiridos y facilitados al sistema de cálculo fueron estos y, en consecuencia la decisión en base a los criterios de cálculo aplicados fue esta).
La lógica que parece subyacer tras estos principios es que la inteligencia artificial estará basada en unos criterios de cálculo para la toma de decisiones elaborados por humanos, y estos criterios son los que han de poderse conocer de forma comprensible por los humanos (aunque no se dice con qué nivel de formación y comprensión).
Alcance del principio para los diseñadores de robots
Este conjunto de principios se incluyen en la denominada “Carta sobre robótica” que forma parte de la propuesta aprobada por el Parlamento Europea y que deberá ser tenida en cuenta por la Comisión cuando formule sus propuestas legislativas relativas a la robótica.
Esta Carta sobre robótica incluye, además de un Código de conducta ética para los ingenieros en robótica y un Código deontológico para los comités de ética de la investigación, una denominada “Licencia para los diseñadores de robots” en la que establece los principios que los diseñadores deben aplicar en el desarrollo de estos sistemas:
En primer lugar, los diseñadores deberán garantizar que un robot funciona de modo conforme a los principios éticos y jurídicos a nivel local, nacional e internacional.
Para ello los diseñadores deberán asegurarse:
a) De que las etapas de toma de decisión del robot puedan ser objeto de reconstrucción y trazabilidad.
b) De que es conveniente (sic) una transparencia máxima en la programación de los sistemas robóticos, así como la previsibilidad del comportamiento de los robots.
c) Igualmente deberán analizar la previsibilidad de un sistema humano-robot teniendo en cuenta la incertidumbre en la interpretación y en la acción, así como los posibles fallos de los robots o del hombre.
d) Deberán desarrollar unos instrumentos de rastreo en la fase de concepción del robot que permitan tener en cuenta y explicar los comportamientos de los robots, aunque sea de forma limitada, en los distintos niveles previstos para los expertos, los operadores y los usuarios.
e) finalmente, los diseñadores deberán elaborar protocolos de concepción y evaluación, y colaborar con los usuarios y las partes interesadas potenciales para evaluar las ventajas y los riesgos de la robótica, incluido a nivel cognitivo, psicológico y medioambiental.
Parece claro que este principio y las pautas que le son aplicables están llamados a jugar un importantísimo papel en el desarrollo de la inteligencia artificial y en su aceptación por la sociedad. Por tanto, habrá que seguir muy de cerca el ritmo de los futuros acontecimientos al respecto.
(*) El subrayado es nuestro. Resulta muy llamativa esta referencia a “máquinas entrenadas para pensar”, de las que se ocupó magistralmente Alan Turing, en su precursor trabajo "
Computing Machinery and intelligence
" (Mind, Vol. LIX, Oct. 1950).
Turing anticipó que en un futuro que situó hacia finales del siglo XX, “el uso de las palabras y la opinión culta general se habrán modificado de tal manera que se podrá hablar de máquinas que piensan sin esperar que nos contradigan”.
Este comportamiento “supuestamente inteligente consiste en apartarse del comportamiento completamente disciplinado que entraña la computación, aunque de manera sutil, sin dar lugar a conductas aleatorias o a iteraciones repetitivas sin sentido.”
Sin embargo, advertía Turing en una referencia que guarda directa relación con el principio de transparencia, “una característica importante de una máquina que aprende es que con frecuencia su profesor ignorará gran parte de lo que sucede en el interior, aunque sea capaz de predecir en cierta medida el comportamiento de su alumno”. “La mayoría de los programas que podemos introducir en la máquina ocasionarán que haga algo que puede no tener sentido alguno para nosotros o que nos parecerá un comportamiento totalmente aleatorio.”