Nuestra invención final es un libro de James Barrat que nos habla de la inteligencia artificial y de cómo la raza humana podría verse amenazada por ella.
Si has visto películas como Terminator o alguna vez pensaste en el concepto Rebelión de las máquinas, éste es un libro que no puedes perderte.
A continuación, les compartimos su booktrailer.
Nuestra invención final, de James Barrat, está disponible en librerías y tiendas en línea bajo el sello Paidós.
“Los sistemas conscientes de sí mismos que se mejoran a sí mismos pueden usar todos los recursos de la humanidad”. Aquí estamos, entonces, de vuelta en donde lasa IAs (Inteligencias Artificiales) están tratando a sus inventores humanos como si fueran los hijastros pelirrojos de la galaxia. Al principio su frialdad parece un poco difícil de aceptar, pero luego usted recuerda que valorar a la humanidad es nuestra característica, no la de una máquina. Se da cuenta de que otra vez está antropomorfizando. La IA hace lo que se le dice y, en ausencia de instrucciones compensatorias, seguirá sus propios impulsos, como desear no ser apagada.
¿Cuáles son los otros impulsos? Y ¿por qué sigue algún impulso, en primer lugar?
De acuerdo con Steve Omohundro, algunos impulsos, como la autopreservación y la adquisición de recursos, son inherentes en todos los sistemas impulsados por metas. Como lo hemos discutido, los sistemas estrechos de IA en la actualidad realizan tareas orientadas hacia una meta, como encontrar términos de búsqueda en Internet, optimizar el desempeño de juegos, localizar restaurantes aledaños, recomendar libros que a usted le gustarían, y más. Las IAs estrechas hacen su mejor esfuerzo y hasta ahí. Pero los sistemas conscientes de sí mismos que se mejoran a sí mismos tendrán una relación distinta y más intensa con las metas que persiguen, ya sea que estas metas sean estrechas, como ganar en el ajedrez, o amplias, como responder con precisión cualquier pregunta que se les realice.
Omohundro sostiene que cuando cualquiera de estos sistemas se vuelva lo suficientemente poderoso, se volverá racional: tendrá la habilidad de modelar el mundo, percibir resultados probables de diferentes acciones y determinar cuál acción cumplirá sus metas de la mejor manera. Si son lo suficientemente inteligentes, se volverán capaces de mejorarse a sí mismas, incluso si no fueron diseñadas especialmente para hacerlo.
¿Cuáles serán las consecuencias de esto?
Si quieres saber la respuesta, no dejes de leer Nuestra invención final, un libro de James Barrat sobre la inteligencia artificial y el fin de la era humana.