«Los sistemas conscientes de sí mismos que se mejoran a sí mismos pueden usar todos los recursos de la humanidad». Aquí estamos, entonces, de vuelta en donde lasa IAs (Inteligencias Artificiales) están tratando a sus inventores humanos como si fueran los hijastros pelirrojos de la galaxia. Al principio su frialdad parece un poco difícil de aceptar, pero luego usted recuerda que valorar a la humanidad es nuestra característica, no la de una máquina. Se da cuenta de que otra vez está antropomorfizando. La IA hace lo que se le dice y, en ausencia de instrucciones compensatorias, seguirá sus propios impulsos, como desear no ser apagada.
¿Cuáles son los otros impulsos? Y ¿por qué sigue algún impulso, en primer lugar?
De acuerdo con Steve Omohundro, algunos impulsos, como la autopreservación y la adquisición de recursos, son inherentes en todos los sistemas impulsados por metas. Como lo hemos discutido, los sistemas estrechos de IA en la actualidad realizan tareas orientadas hacia una meta, como encontrar términos de búsqueda en Internet, optimizar el desempeño de juegos, localizar restaurantes aledaños, recomendar libros que a usted le gustarían, y más. Las IAs estrechas hacen su mejor esfuerzo y hasta ahí. Pero los sistemas conscientes de sí mismos que se mejoran a sí mismos tendrán una relación distinta y más intensa con las metas que persiguen, ya sea que estas metas sean estrechas, como ganar en el ajedrez, o amplias, como responder con precisión cualquier pregunta que se les realice.
Omohundro sostiene que cuando cualquiera de estos sistemas se vuelva lo suficientemente poderoso, se volverá racional: tendrá la habilidad de modelar el mundo, percibir resultados probables de diferentes acciones y determinar cuál acción cumplirá sus metas de la mejor manera. Si son lo suficientemente inteligentes, se volverán capaces de mejorarse a sí mismas, incluso si no fueron diseñadas especialmente para hacerlo.
¿Cuáles serán las consecuencias de esto?
Si quieres saber la respuesta, no dejes de leer Nuestra invención final, un libro de James Barrat sobre la inteligencia artificial y el fin de la era humana.
La humanidad esta autoeliminandose como si fuera un plan trazado y no podemos eliminar ese lugar en este universo , pero algo cruel se incierte en esta especie ….. el tal llamado «reino de dios» podra ser el futuro de las maquinas con vida eterna en un mundo utopico y perfecto ? , tal vez eso es nuestro destino (lugar)…….. , si no se cambia el sistema monetario y la descentralizacion del poder central esto terminara con el fin de una especie que sueña llegar a mundos lejanos pero que solo fue un triste y cruel , pero hermozo sueño ………….
las maquinas con mente propia solo seran un remedo de algo primitivo … pero puro ….. , hasta que lo perdemos, nos daremos cuenta de ello , solo espero que no sea demasiado tarde ……….
Excelente reflexión!