‘Yo no sé quien fue mi abuelo: me importa mucho más saber qué será mi nieto’

A. Lincoln

roboética, es la preocupación por el comportamiento moral de los seres humanos a medida que diseñan, construyen, usan y tratan a seres de inteligencia artificial (SIAs); la ética de las máquinas, es la preocupación por el comportamiento moral de los agentes morales artificiales (en inglés AMAs).

Los pensadores en la actualidad están preocupados por el desarrollo de conciencia en la inteligencia artificial, aunque no necesariamente están enfocados a lo importante, debemos entender que desarrollar conciencia en robots no es lo mismo que darles las funciones para realizar acciones contraproducentes. La parte delicada es de qué forma se va a incluir la ética en la inteligencia artificial.

Tomemos de ejemplo un robot programado para producir a toda costa clips de papel, esto podría llevarlo a buscar el control del mundo para obtener los recursos para cumplir su meta, en realidad el robot no es malvado solamente que su sistema no está programado para funcionar con éticas complejas o simplemente básicas por lo que lleva al último fin su función.

Antes del siglo 21, la ética de las máquinas no había sido tomada en cuenta fuera de la literatura, debido principalmente a la computación y las limitaciones de la inteligencia artificial. Estas limitaciones están siendo superadas a través de la ley de Moore y un enfoque renovado en el campo de la inteligencia artificial. La ética de las máquinas se ha vuelto un campo realista desde que las computadoras comenzaron a manejar transacciones médicas y monetarias. El profesor James H. Moor está acreditado por haber acuñado la frase en su paper del 2006 La naturaleza, importancia y dificultad de la ética de las máquinas, el cual se anuncia como “el primer libro en examinar el reto de construir agentes morales artificiales, entrando profundamente en la naturaleza humana de la toma de decisiones y la ética.” Se citaron unas 450 fuentes, de las cuales, alrededor de 100 abordaron las principales preguntas sobre la ética de las máquinas. Pocas fueron escritas antes del siglo 21, principalmente porque cualquier forma de inteligencia artificial era inexistente.2​

En 2011, Cambridge University Press publicó una colección de ensayos sobre la ética de las máquinas, editado por Michael y Susan Leigh Anderson,3​ quienes también editaron un número especial sobre el tema en la IEEE Sistemas Inteligentes en 2006.4​

En 2014, la Oficina de Investigación Naval estadounidense anunció que distribuiría $ 7.5 millones en convenciones por cinco años a investigadores universitarios para estudiar cuestiones de la ética de las máquinas aplicadas a robots autónomos5​ y Nick Bostrom en su libro La superinteligencia: caminos, peligros, estrategias, elevó la ética de las máquinas como “el más importante problema que ha enfrentado la humanidad”, además alcanzó el lugar #17 en la lista de los libros de ciencia ficción mejor vendidos del New York Times.6​

Artículos sobre la ética de las máquinas aparecen regularmente en la revista Ética y Tecnologías de la Información.7​