¿Cuándo serán capaces de superarse los programas de computadora?

Ya están en el sentido de que los agentes individuales, ninguno de los cuales comprende el programa completo, actúan para modificar y extender partes del programa a fin de mejorarlo bajo alguna métrica. Es una evolución cruda y lenta.

Sin embargo, no creo que esta sea la intención de la pregunta. La respuesta es actualmente, no, no realmente, el aspecto más importante de cualquier programa es que los agentes individuales pueden modificarlo y extenderlo. Incluso en ausencia de cualquier “código” estrictamente hablando, las personas tendrán que “programar” las computadoras describiendo lo que quieren.

Los mecanismos exactos que usan las computadoras para hacer cualquier cosa ya están más allá de la comprensión de cualquier individuo, y a menudo dependen en cierta medida de la funcionalidad generada por (emergente de) los algoritmos e interacciones que constituyen el sistema.

Sin embargo, aún no es lo que está preguntando, desea saber si bajo ninguna dirección un programa de computadora puede mejorar. Por supuesto, el enrutamiento de red ya no es esto, es solo un algoritmo que con el tiempo identifica las mejores rutas a través de una red. Hacer su trabajo mejor con el tiempo, eso no es una mejora, ¿verdad?

Desea saber si una máquina puede modificar las instrucciones que le da alguna métrica interna que no se le dio. Desea saber si nuestras computadoras alguna vez tendrán la capacidad de desobedecer nuestras directivas para algún propósito mayor.

Realmente espero que no, e incluso si lo hicieran, esto está claramente en el ámbito de la ciencia ficción en el momento de la escritura, lo que me indica que no será un lugar común durante al menos 15 años.

En cierto modo, los programas genéticos ya son capaces de superarse a sí mismos. Se podría decir lo mismo de todo el aprendizaje automático. Pero actualmente estos sistemas están ahí para resolver problemas establecidos por humanos. Solo cuando las máquinas estén configuradas para perseguir sus propios objetivos (alcanzables) tendrán alguna posibilidad de superación personal.

Eureqa
Programación genética

He estado pensando en esta pregunta también. Lo que es obvio es que debe aparecer algún tipo de inteligencia artificial. Sin embargo, creo que desde una perspectiva filosófica, un programa que es capaz de superarse a sí mismo tiene que ser algo mucho más fundamental que otros programas.


Los programas de computadora actuales normalmente tienen muchas funciones y métodos, con más y más funciones agregadas manualmente. Creo que este modelo de cómo se diseñan los programas de computadora es el principal obstáculo que nos impide diseñar el tipo de programas que son capaces de superarse a sí mismos. Debería haber algunos enfoques alternativos, pero bueno, todavía tenemos que descubrirlos, creo.


En una nota aparte, siento que los humanos pueden ser uno de este tipo de programas.
(Descargo de responsabilidad: solo soy un estudiante ordinario de CS que tiene algunas ideas extrañas).