Los detalles son un problema abierto con muchas personas inteligentes (muchas de ellas más que yo) que trabajan duro para avanzar en la tecnología relevante para varias partes del espacio problemático.
También esperaría que, si ocurre algo que se ajuste a la descripción de “la singularidad”, será como resultado de la combinación orgánica y la evolución de sistemas más pequeños, muy similar al surgimiento de Internet moderno de un simple red de mensajería construida por y para el Departamento de Defensa, con millones de personas desde entonces contribuyendo a extender tanto su alcance como su contenido semántico.
En general, sin embargo, un “nivel de singularidad AI” requeriría:
- ¿Cómo interactuarán los usuarios móviles del futuro con todas sus aplicaciones?
- ¿Por qué alguien querría regalar su idea de aplicación de forma gratuita?
- ¿EasyPos ofrece software de gestión de inventario?
- ¿Cuánto cuesta hacer una aplicación como kabadiwala? com?
- ¿Cuáles son algunas aplicaciones que usaste que te sorprendieron?
- Inteligencia Artificial General. La mayor parte del trabajo de AI / ML ahora ha sido de un enfoque relativamente limitado, resolviendo un tipo particular de problema de aprendizaje (predicción de eventos, procesamiento del lenguaje, reconocimiento de imágenes, etc.). Es probable que ese trabajo contribuya al desarrollo de AGI prácticos, junto con una comprensión avanzada de la inteligencia basada en la biología (algo de lo que todavía tenemos una comprensión sorprendentemente confusa), pero todavía hay un camino difícil por delante para los investigadores que trabajan en sistemas de IA que pueden aprender problemas arbitrarios, generalizar lo que han aprendido y usar lo que han aprendido para dirigir su propio aprendizaje como podemos.
- Mejoras en la eficiencia energética de la computación, porque una inteligencia a nivel humano que cuesta más energía que la requerida para soportar cómodamente a varios humanos reales es interesante pero no muy útil. Algo de esto puede presentarse en forma de prometedoras pero aún experimentales arquitecturas de procesamiento y memoria. Algunas de ellas en mejoras en el proceso de fabricación. Algunos se mudan a un cálculo de precisión reducida o permiten una mayor tasa de resultados erróneos en el comercio por menores requisitos de energía. Parte del cambio a procesadores de baja velocidad masivamente paralelos en lugar de procesadores de alta velocidad modestamente paralelos (ya que el consumo de energía de un chip aumenta aproximadamente al cuadrado de su velocidad, mientras que es el límite superior de la potencia computacional solamente sube linealmente con la velocidad).
- Distribución eficiente y tolerante a fallas bizantinas de cómputo y memoria. Una inteligencia de nivel de singularidad tendría como una de sus principales ventajas la capacidad de estar “en todas partes” y no sufrir los múltiples puntos únicos de falla que tenemos. No va a ser una computadora grande en algún lugar (y, como ex-mainframer, puedo decir que incluso “una computadora grande” es más como varias computadoras más pequeñas pegadas y colocadas en la misma caja). Será una inteligencia en red, y probablemente actuará más como una sociedad de lo que percibimos como una conciencia única (con nuestra propia conciencia siendo en realidad una resolución de un conjunto de componentes de procesamiento de información biológica interconectados débilmente coordinados que está sujeto a fusionar conflictos y, en casos extremos, particionar igual que un sistema informático distribuido). El trabajo de supercomputación tradicional no ha hecho que la tolerancia a fallas, fallas y conexiones poco confiables sea una prioridad porque se empleó principalmente para el trabajo por lotes que se podría volver a intentar si algo salía mal. Esto está cambiando ahora para abordar tanto los problemas de escala (cuanto más grande es la supercomputadora, más a menudo algo fallará) y nuevas aplicaciones (el trabajo realmente interesante ahora es en tiempo real y distribuido geográficamente).
- Ojos, oídos, cuerpos y piel. En general, somos inteligentes no solo por nuestro cerebro, sino porque tenemos redes de sensores ricas a través de las cuales podemos recopilar datos de nuestro entorno, pies para llevarnos a nuevos entornos y manos para manipular esos entornos según sea necesario para hacer herramientas o pruebas La validez de nuestros supuestos. Un poderoso sistema de aprendizaje computarizado sin sensores y algunos medios para interactuar con el mundo exterior es un cerebro en un frasco, y probablemente exhibiría el mismo nivel de cordura, sabiduría y apertura a la experiencia que esperaríamos de un niño humano que era criado en forma aislada y privado de cualquier estimulación o interacción significativa con el mundo. Podrías comenzar haciendo que peine Internet e interactúe con el mundo como un sofisticado chatbot, pero una buena mirada a Internet y lo fácil que es para los trolls adoctrinar a los chatbots me da la sensación de que sería mejor dejarlo. ver el mundo directamente en lugar de a través de las opiniones humanas enojadas e ideológicas que dominan la conversación en línea.
- Una comprensión de cómo enseñar ética a algo que no experimentará emoción o empatía afectiva como lo hacen los humanos neurotípicos. Un AGI (como otras inteligencias creadas por humanos, como gobiernos y corporaciones) probablemente experimentaría el mundo y tomaría decisiones de una manera más parecida a un psicópata que a un humano neurotípico. En mi opinión, los psicópatas prosociales existen, pero debido a la dificultad de comunicarse a través de diferentes patrones de pensamiento y el estigma de ser identificado con cualquier forma de “trastorno de personalidad”, son poco conocidos y las condiciones que los conducen a ser “perros pastores” protectores. en lugar de los “lobos” depredadores no se han explorado casi tan bien como las condiciones para el desarrollo emocional saludable de las personas neurotípicas. Esto es lamentable, porque aparte del valor en la comprensión de los humanos que pueden tener un impacto desproporcionado en las personas que los rodean, esta es un área que probablemente sería útil para los psicólogos robot (para tomar prestado un término de Asimov) que finalmente marcarían la diferencia entre un poderoso AGI que se convierte en nuestro amigo y protector y que se convierte en “Gran Hermano” o un monstruo genocida como Skynet en las historias de Terminator. Un sistema programado de reglas como las leyes de Asimov no es probable que se apliquen aquí. Tal vez la suposición de que una inteligencia mecánica no es emocional es falsa, pero si es realmente una inteligencia de “nivel de singularidad”, también podría reprogramarse o incluso cambiar su hardware para evitar los impulsos emocionales inconvenientes al igual que algunas personas toman drogas para aburrir miedo, dolor o culpa. Asumir que no hará cosas malas porque tiene una aversión a tales actos o sus resultados programados me parece una mala idea.
- Una comprensión de dónde encajamos en la imagen, con AGI amenazando con hacer que los humanos sean tan relevantes como los caballos después de la adopción generalizada del automóvil. ¿Dejamos de lado nuestras identidades basadas en la ocupación y buscamos pura recreación y autoexpresión mientras los “dioses” de silicio y metal creados en nuestra imagen se ocupan de nuestras necesidades materiales y de gobierno? ¿Nos convertimos en partes integradas de la inteligencia de la singularidad? Si es así, ¿mantenemos nuestras identidades individuales? ¿Resistimos o circunscribimos su adopción a través de la legislación y la presión social, haciendo de nuestras máquinas inteligentes una clase de esclavos o colocando letreros de “los robots no necesitan aplicar” para proteger los medios de vida de los nuestros. Escribiría esto como un pensamiento salvaje de ciencia ficción, excepto que algunas de estas preguntas son relevantes incluso con una inteligencia artificial limitada (mire la parte de la fuerza laboral amenazada por automóviles autónomos, procesamiento de lenguaje natural y robots industriales / de almacén solos). )
Es un problema emocionante. Pero uno desalentador tanto tecnológicamente como en términos de sus implicaciones éticas y prácticas. Al igual que la búsqueda para aprovechar el poder del átomo, de alguna manera, excepto que esta vez lo que estamos construyendo no es aterrador (sino controlado por los humanos y, en última instancia, ya no se usa, excepto como una amenaza) arma, sino algo que bien podría permear gran parte de nuestra existencia cotidiana.
Más a corto plazo, lo que espero es una gran cantidad de sistemas semiinteligentes para operar la infraestructura existente (semáforos, redes eléctricas, etc.), proporcionar funciones de conveniencia (el mercado IOT doméstico) y realizar inteligencia y vigilancia militar. A diferencia de un sistema AGI de nivel humano o sobrehumano, estos sistemas tendrán un gran valor práctico pero no incorporarán el peligro de tener tales “objetivos” abiertos como un sistema AGI. Sin embargo, serán un buen adelanto de cómo las personas reaccionan y se adaptan a la presencia de un mundo donde las cosas a su alrededor están constantemente “aprendiendo” y donde las computadoras se están moviendo aún más para asumir roles que una vez estuvieron reservados para los humanos.
