ué está haciendo, Dave?», preguntó el computador HAL 9000, verdadero sistema nervioso de la nave espacial Descubrimiento. Por alguna razón, HAL se había vuelto loco. Bowman sacaba con cuidado las tarjetas de las secciones Realimentación Cognoscitiva, Reforzamiento del Ego, Auto-Intelección... «¿Sentirá dolor?» pensó. En el escritor de ciencia-ficción Arthur C. Clarke escribió sobre la locura de una máquina inteligente: planteó el problema de un ordenador, HAL, que se vuelve loco por no poder cumplir dos órdenes contradictorias. Pero, ¿se podrán construir algún día ordenadores como HAL? Marvin Minsky, uno de los padres de la inteligencia artificial, afirmó hace ya casi medio siglo que en un futuro cercano aparecería una máquina con la «inteligencia- escribió: «Una máquina ultrainteligente podría diseñar mejores máquinas y la inteligencia del ser humano quedaría muy atrás. Así, la primera máquina ultrainteligente es la última invención que el ser humano necesitaría hacer».
