Blog

Derechos y tecnologías

La historia nos advierte y confirma que progreso moral y progreso científico no van necesariamente de la mano. Th. Pogge, comienza su libro, La pobreza en el mundo y los derechos humanos (Paídos 2005) con esta pregunta: “¿Cómo es posible que persista la pobreza extrema de la mitad de la humanidad a pesar del enorme progreso económico y tecnológico, y a pesar de las normas y de los valores morales ilustrados de nuestra civilización occidental enormemente dominante? Y es que resulta sorprendente que, en el siglo XXI, un siglo continuación del llamado siglo de la ciencia y que ha supuesto la explosión de la neurociencia, la inteligencia artificial y la robótica, siga existiendo una situación global de pobreza y de insatisfacción de necesidades básicas.

Esta sorpresa es si cabe aún mayor si tenemos en cuenta que el siglo XX ha sido también, por utilizar la famosa expresión de Norberto Bobbio, el “tiempo de los derechos”. En efecto, en el siglo pasado se ha producido la aprobación de los textos internacionales más importantes en materia de derechos y éstos han pasado a presidir los ordenamientos internos de buena parte de los países del mundo. Y esta tendencia se mantiene en el siglo XXI, a pesar del retroceso producido en materia de derechos amparado en el llamado terrorismo internacional y en la crisis económica.

Si utilizamos, como proponía N. Bobbio, a la protección real de la dignidad humana como indicador del progreso moral de la humanidad, la conclusión no puede ser otra: el progreso científico y el progreso normativo no implican progreso moral. Parece que no somos conscientes de que como ha escrito M. Sandel en Contra la perfección (Marbot 2007), “…la libertad consiste en cierto sentido en una negociación permanente con lo recibido”.

No obstante, esta tendencia puede cambiar. Pero para ello se necesita abordar de manera seria y rigurosa, de forma multidisciplinar, los retos (peligros, pero también, oportunidades) que nos plantean las llamadas tecnologías emergentes o convergentes. Y esa reflexión debe hacerse tomando como referencia los instrumentos que nos hemos dado para la emancipación y para el desarrollo de una vida humana digna: los derechos humanos.

En los últimos años ya se han producido respuestas en forma de reconocimiento de nuevos derechos. En el campo de la informática ha aparecido un nuevo derecho, el derecho a la autodeterminación informativa, existiendo una reflexión muy relevante sobre los datos personales y la privacidad. En el campo de la genética, se han aprobado importantes textos de carácter internacional y también se habla de nuevos derechos, como el derecho a la integridad genética o el derecho a la intimidad genética. La neurociencia se ha proyectado en el campo jurídico, sobre todo en el penal, y también en el discurso de los derechos donde se ha comenzado a hablar de la “libertad cognitiva”, como el derecho fundamental de toda persona a la autonomía sobre su propio estado del cerebro. Y, como no, la reflexión también se ha producido en el campo de la robótica, principalmente en el campo del Derecho internacional con la utilización de los drones y, recientemente, con los automóviles sin conductor.

Ahora bien, resulta más que probable que sea necesario realizar también una serie de cambios generales en lo referente a los rasgos de la teoría estándar de los derechos humanos para que pueda adaptarse a estos nuevos desafíos, sin que ello signifique perder su justificación principal que no es otra que la de servir para el logro de una vida humana digna.

Rafael de Asís

La máquina, boca muda…

No creo que en el campo jurídico haya quien se crea lo del juez como boca muda que pronuncia las palabras de la ley. Esta visión de los jueces, utilizada por Montesquieu para defender la separación de poderes y un poder judicial independiente e imparcial, sometido solo al imperio de la Ley, es defendida hoy por visiones simplistas, por parte algunos miembros del poder judicial, para justificar sus decisiones, o por la propia comunidad de juristas cuando queremos apelar a la idea de seguridad jurídica o cuando queremos dotar a nuestro trabajo de la aureola de cientificidad.

Y no es que esta idea carezca de sentido. El ideal de seguridad jurídica asociado al Derecho convive muy bien con esta afirmación. El juez está (y debe estar) sometido al Derecho, pero éste, y su máxima expresión, las normas, poseen un sentido indeterminado que obliga siempre (casi siempre) a quien decide, a optar. Eso sí, a optar por algo que pueda ser justificado apelando a las reglas y principios jurídicos. Esta opción, que describimos normalmente en términos de discrecionalidad, es mucho más evidente cuando se decide en cuestiones (y desde normas) constitucionales. En estos asuntos, existe una dimensión ética y política que inunda irremediablemente la jurídica.

Pero la visión de juez como boca muda, a pesar de ser irreal, está muy presente en la sociedad y en la visión del Derecho que se tiene desde otros campos de conocimiento, seguramente de nuevo por la relevancia que tiene la seguridad jurídica. No es extraño cuando estás en comisiones universitarias interdisciplinares que, cuando hay un problema jurídico, se busque en sus componentes jurídicos la solución al igual que si se tratara de un asunto de química o de matemáticas.

La técnica de la subsunción, asociada a esta visión del juez, que en su versión más burda implica la aplicación mecánica de las normas, está igualmente presente en estos ámbitos e incluso ha servido para justificar algunas propuestas que, si bien no han llegado a predecir la desaparición total del juez humano, han anunciado la aparición de máquinas que actuarán como jueces en determinados asuntos.

No voy a entrar aquí en discutir si eso ocurrirá o no (aunque en mi opinión, la existencia de máquinas que apoyan la labor de los jueces, con diferente alcance, es un hecho, y su presencia irá en aumento a medida que la tecnología avance), ni de las consecuencias y límites que esto puede tener en términos de responsabilidad. Me interesa destacar algo que, aunque ha sido subrayado por algunos, no es tenido en cuenta por parte de los que predicen esta situación.

Y es que, si los jueces no son (no pueden ser) la boca muda que pronuncia las palabras de la ley (por como es la ley), las máquinas tampoco lo podrán ser. En el caso del juez, la opción por una interpretación u otra de la norma, tiene que ver con valores y visiones del mundo que necesariamente deben poder encajar en el Derecho y superar la exigencia de imparcialidad. Y esto mismo es exigible a la máquina, donde la relevancia de su creador o, dicho en términos más simples, del algoritmo (y de quien está detrás suyo) es fundamental. Y claro está, en este punto, el algoritmo no es neutral y, con ello, la máquina tampoco lo será…

De ello podemos extraer muchas consecuencias, pero tal vez hay una que destaca sobre las demás en el campo de la formación: la necesidad de una formación en ética y en derechos en el campo de la tecnología, y de una formación tecnológica básica en el campo del Derecho.

Rafael de Asís

Blog de WordPress.com.

Subir ↑