Las leyes de la robótica por Isaac Asimov (1902-1992)
En la película El hombre bicentenario, el robot NDR Andrew, presenta las tres leyes de la robótica. Ellas son:
1) Un robot no puede dañar a un ser humano o permitir que un ser humano sufra daños debido a su falta de intervención;
(2) Un robot debe obedecer las órdenes dadas por los seres humanos, siempre que dichas órdenes no entren en conflicto con la Primera Ley;
3) Un robot debe proteger su existencia, siempre que su salvaguardia no entre en conflicto con la Primera o la Segunda Ley.
Una cuarta ley, añadida más tarde por el autor, la llamada Ley Cero: un robot no puede dañar a la humanidad y, por inacción, permitirle sufrir ningún daño.
¿Se aplicarían estas leyes en el contexto actual? Asimov, de alguna manera ya entiende la complejidad derivada de la acción de los robots, incluso de una manera incipiente, y elabora estas reglas considerando que algunas acciones de estas máquinas construidas con un nivel de inteligencia artificial, podrían alcanzar una cierta autonomía, dejando de lado la programación. misma. Luego formula estas leyes que, en conjunto, tienen un contenido ético. Obviamente, los tiempos han cambiado y el nivel de aplicación de estas leyes es muy limitado, ya que son intuitivas desde el contexto de la ciencia ficción. Incluso si estuvieran vigentes hoy, como toda ética, no resolverían todos los problemas y dilemas, pero abrirán la discusión en este campo.
Al comentar sobre las leyes de Asimov, el Consejo de Investigación de Ingeniería y Ciencias Físicas (EPSRC sigla en inglés: Engineering and Physical Sciences Research Council) declara: ‘Aunque son un punto de partida útil para el debate, las reglas de Asimov son dispositivos imaginarios. No fueron escritas para su uso en la vida real y no sería práctico hacerlo, porque simplemente no funcionan en la práctica. (Por ejemplo, ¿cómo puede un robot conocer todas las formas posibles de dañar a un ser humano? ¿Cómo puede un robot comprender y obedecer todas las órdenes humanas cuando las personas también están confundidas acerca de lo que significan las instrucciones?). Las historias de Asimov también mostraron que incluso en un mundo de robots inteligentes, sus leyes siempre podrían evitarse e identificar brechas. Pero al final, y sobre todo, las leyes de Asimov son inadecuadas porque intentan insistir en que los robots se comporten de cierta manera, como si fueran personas, cuando en la vida real son los humanos quienes diseñan y usan los robots que deberían ser los sujetos de cualquier ley”.
A partir de la reflexión inducida por las leyes de Asimov, sus límites y la necesidad de principios rectores para diseñadores, constructores y usuarios de robots, un grupo de expertos del EPSRC y del Arts and Humanities Research Council Robotics Retreat ha formulado estos principios:
1) Los robots son herramientas multiuso. No deben diseñarse exclusiva o principalmente para matar o dañar a seres humanos, excepto en interés de la seguridad nacional.
2) Los humanos, no los robots, son agentes responsables. Los robots deben ser diseñados; operando en la medida de lo posible para cumplir con las leyes existentes y los derechos y libertades fundamentales, incluida la privacidad.
3) Los robots son productos. Deben diseñarse utilizando procesos que utilicen procesos que garanticen su seguridad y protección.
4) Los robots son productos manufacturados. No deben diseñarse de manera engañosa para explotar a los usuarios vulnerables; en cambio, la naturaleza de la máquina debe ser transparente.
5) Una persona con responsabilidad legal debe ser asignada a un robot.
Vincent C. Müller hace una interesante crítica de estos cinco principios en su texto Legal vs. ethical obligations – a comment on the EPSRC’s principles for robotics, que refleja la necesidad de diferenciar entre las obligaciones legales y los requisitos éticos. Muller adopta estos principios, trata de reestructurarlos por razones legales y éticas y también subraya los límites que existen en ellos, ya que este campo de conocimiento es reciente y está abierto a nuevas preguntas éticas y legales.
Por lo tanto, la validez de los principios de Asimov no radica hoy en su aplicación práctica, sino en la intuición de que es necesario, en este nuevo campo de conocimiento, avanzar más, preparándose teórica y técnicamente para formular principios que consideren tanto la positividad como el progreso en este nueva área, para que se expanda, respetando siempre el principio de actuar y vivir bien entre la tecnología y la sociedad.
p. Rogério Gomes, CSsR
