LAS LEYES DE LA ROBÓTICA


No resulta fácil pensar en ordenadores sin preguntarse si alguna vez «nos sustituirán,,.
żNos remplazarán, nos considerarán anticuados y se desembarazarán de nosotros de la misma forma en que nos hemos quitado de encima las lanzas y los yesqueros?
Si nos imaginamos unos cerebros tipo ordenador dentro de las imitaciones de metal de los seres humanos a los que llamamos robots, el miedo es aÅ›n más directo. Los robots se parecen tanto a los seres humanos que su misma apariencia puede imbuirles ideas de rebelión.
El mundo de la ciencia ficción se enfrentó con este problema en los aÅ„os veinte y treinta, y fueron muchos los cuentos escritos con cautela respecto de que los robots, una vez construidos, se volvían luego contra sus creadores y los destruían.
Cuando yo era joven empecé a cansarme cada vez más de todas estas cautelas, puesto que me parecía que un robot no dejaba de ser una máquina y los seres humanos están constantemente construyendo máquinas. Dado que todas las máquinas son peligrosas, de una manera u otra, los seres humanos tampoco han dejado nunca de construir protecciones en ellas.
Por lo tanto, en 1939 comencé a escribir una serie de relatos en los que los robots eran presentados de una manera simpática, como máquinas muy cuidadosamente diseÅ„adas para llevar a cabo unas tareas dadas, con amplias medidas de seguridad incrustadas en ellas para convertirlas en algo de lo más benigno.
En un relato que escribí, en octubre de 1941, presenté al fin estos dispositivos de seguridad en la forma específica de «Las Tres Leyes de la Robótica. (Y al mismo tiempo inventé la voz robótica que no se había empleado hasta entonces.)
Estas leyes son las siguientes:

Un robot no debe dańar a un ser humano o, por falta de acción, dejar que un ser humano sufra dańo.
Un robot debe obedecer las órdenes que le son dadas por un ser humano, excepto cuando estas órdenes estén en oposición con la Primera Ley.
Un robot debe proteger su propia existencia hasta donde esta protección no esté en conflicto con la Primera o la Segunda Ley.

Esas leyes se programaron en el cerebro computadorizado de un robot, y las numerosas historias que escribí acerca de robots siempre las tuvieron en cuenta. Asimismo, esas leyes demostraron ser tan populares entre los lectores y parecían tener tanto sentido, que otros escritores de ficción científica comenzaron asimismo a usarlas (sin citarlas directamente, puesto que sólo yo puedo hacerlo), y con esto se acabaron todos los relatos en los que los robots destruían a sus creadores.
Ah, pero esto es sólo ciencia ficción. żQué podemos decir del trabajo efectuado realmente con los ordenadores y la inteligencia artificial? żCuándo se construirán máquinas que empiecen a tener inteligencia por si mismas, con algo parecido a las Tres Leyes de la Robótica empotrado en su interior?
Naturalmente que lo serán, dando por supuesto que los diseÅ„adores de ordenadores tengan por lo menos una chispa de inteligencia. Y lo que es más, las medidas de seguridad no serán sólo parecidas a las Tres Leyes de la Robótica; serán las Tres Leyes de la Robótica.
En la época en que tracé esas leyes, no me percaté de que la Humanidad había estado empleándolas desde el alba de los tiempos. Sólo que pensaba en ellas como «Las Tres Leyes de las Herramientas, y ésta es la forma en que deben leerse:

Una herramienta debe ser segura para poder emplearla. (ĄObviamente Los cuchillos tienen mangos y las espadas empuńaduras. Cualquier śtil puede lastimar a su propietario, pero el que lo usa es consciente de ello y nunca lo emplea de manera rutinaria, sean cuales sean sus cualificaciones.)
Una herramienta debe llevar a cabo su función, siempre y cuando la realice con seguridad.
Una herramienta debe permanecer intacta durante su uso, a menos que se requiera su destrucción por motivos de seguridad, o que su destrucción constituya una parte de sus funciones.

Nadie ha citado nunca esas Tres Leyes de las Herramientas puesto que todo el mundo las da por supuestas. Si se citara cada una de estas leyes, seguramente se vería saludada por un coro de: Ä„Claro! Ä„Por supuesto!
Si se comparan las Tres Leyes de las Herramientas, con las Tres Leyes de la Robótica, ley por ley, se podrá ver que se corresponden con toda exactitud. żY por qué no, dado que el robot, o si se prefiere, el ordenador, no deja de ser una herramienta humana?
żPero son suficientes las medidas de seguridad? Consideremos los esfuerzos que se han efectuado para hacer los coches seguros y, sin embargo, los automóviles matan cada aÅ„o a 50000 estadounidenses. Consideremos el esfuerzo realizado para convertir en seguros a los Bancos, pero siguen todavía habiendo de modo inexorable atracos a los Bancos. Consideremos el esfuerzo llevado a cabo para hacer seguros los programas de los ordenadores, y sin embargo crece cada vez más el fraude que se efectÅ›a con ellos.
Sin embargo, aunque los ordenadores sean lo suficientemente inteligentes como para «sustituirnos, también pueden ser lo bastante inteligentes como para no precisar de las Tres Leyes. Pueden, por propia benevolencia, hacerse cargo de nosotros y prevenimos de cualquier daÅ„o.
Pero algunos pueden argumentar, no obstante, que no somos unos niÅ„os y que esto destruiría la auténtica esencia de nuestra Humanidad, al vernos así preservados.
żDe veras? Miremos al mundo de hoy y al mundo del pasado, y preguntémonos si no somos de verdad unos niÅ„os -y unos destructores- y si no necesitamos, por nuestro propio interés, que nos protejan.
Si pedimos ser tratados como adultos, żpor qué no debemos también portarnos como adultos? żY cuándo intentaremos empezar a hacerlo?