por Ted Chiang
Cuando hablamos de inteligencia artificial (IA), recurrimos a la metáfora, como hacemos siempre que tratamos con algo nuevo y desconocido. Las metáforas son, por naturaleza, imperfectas, pero aun así debemos elegirlas con cuidado, porque las malas pueden llevarnos por mal camino. Por ejemplo, se ha vuelto muy común comparar las IA potentes con los genios de los cuentos de hadas. La metáfora pretende resaltar la dificultad de hacer que entidades poderosas obedezcan tus órdenes. El informático Stuart Russell ha citado la parábola del Rey Midas, que exigía que todo lo que tocaba se convirtiera en oro, para ilustrar los peligros de que una IA haga lo que uno le dice que haga en lugar de lo que uno quiere que haga. Esta metáfora tiene múltiples problemas, pero uno de ellos es que extrae lecciones equivocadas del cuento al que se refiere. La idea de la parábola de Midas es que la codicia te destruirá y que la búsqueda de la riqueza te costará todo lo que es verdaderamente importante. Si la lectura de la parábola es que, cuando los dioses te conceden un deseo, debes formularlo con mucho, mucho cuidado, entonces te has perdido el mensaje.