Seres humanos, una especie en peligro de extinción

¿Por qué el futuro no nos necesita.

Nuestros más poderosos del siglo 21 tecnologías, robótica, ingeniería genética, la nanotecnología y - están amenazando con hacer que los seres humanos una especie en peligro de extinción.

Por Bill Joy

Desde el momento en que se involucró en la creación de las nuevas tecnologías, sus dimensiones éticas me han interesado, pero no fue sino hasta el otoño de 1998 que me hice con ansiedad consciente de cuán grandes son los peligros que enfrentamos en el siglo 21. Puedo fechar el inicio de mi malestar al día conocí a Ray Kurzweil, inventor merecida fama de la máquina de la primera lectura para los ciegos y otras muchas cosas asombrosas.

Ray y yo estábamos oradores en la conferencia de telecosmos George Gilder, y lo encontré por casualidad en el bar del hotel después de que ambos tenían más de nuestras sesiones. Yo estaba sentado con John Searle, un filósofo de Berkeley que estudia la conciencia.Mientras hablábamos, Ray se acercó y comenzó una conversación, el tema de que me persigue hasta hoy.

Me había perdido charla de Ray y el panel posterior que Ray y John había estado, y ahora recogido hasta donde habían dejado, con Ray diciendo que la tasa de mejora de la tecnología se va a acelerar y que íbamos a convertido en robots o se funden con los robots o algo así, y la lucha contra John que esto no podía suceder, porque los robots no podían ser consciente.

Aunque había oído hablar como antes, me había sentido siempre eran robots sensibles en el ámbito de la ciencia ficción. Pero ahora, de alguien a quien respeto, que estaba escuchando un fuerte argumento de que eran una posibilidad a corto plazo. Me sorprendió, especialmente teniendo en cuenta la capacidad probada de Ray de imaginar y crear el futuro. Yo ya sabía que las nuevas tecnologías como la ingeniería genética y la nanotecnología se nos da el poder de rehacer el mundo, pero un escenario realista e inminente para los robots inteligentes me sorprendió.

Es fácil de llegar cansado de esos adelantos. Escuchamos en las noticias casi todos los días de algún tipo de avance tecnológico o científico. Sin embargo, esto no era predicción ordinaria. En el bar del hotel, Ray me dio un pre-impresión parcial de su entonces próximo libro La era de las máquinas espirituales, que se describía una utopía que él había previsto - en el que los humanos ganaron la inmortalidad por cerca de convertirse en uno con tecnología robótica.Al leerlo, mi sensación de incomodidad más que aumentar, yo estaba seguro de que tenía que estar subestimando los peligros, subestimar la probabilidad de que un mal resultado en este camino.

Me encontré con más problemas por un pasaje que detalla unadisfunción escenario topian:

EL DESAFÍO DE NUEVO ludita

En primer lugar vamos a postular que los científicos de la computación éxito en el desarrollo de máquinas inteligentes que pueden hacer todas las cosas mejor que los seres humanos pueden hacer. En ese caso presumiblemente todo el trabajo será hecho por vastos sistemas, altamente organizados de las máquinas y no habrá esfuerzo humano necesario. Cualquiera de los dos casos puede ocurrir. Las máquinas podrían estar autorizadas a hacer todos de sus propias decisiones sin supervisión humana, o bien el control humano sobre las máquinas podrían mantenerse.

Si las máquinas se les permite hacer todas sus propias decisiones, no podemos hacer conjeturas en cuanto a los resultados, ya que es imposible adivinar cómo estas máquinas podrían comportarse. Sólo señalar que el destino de la raza humana estaría a merced de las máquinas. Se podría argumentar que la raza humana nunca sería tan tonto como para entregar todo el poder de las máquinas. Pero no estamos sugiriendo que la raza humana voluntariamente entregar el poder a las máquinas ni que las máquinas que voluntariamente tomar el poder. Lo que sí sugiero es que la raza humana podría fácilmente permitir que sí a la deriva en una situación de dependencia como en las máquinas que no tendría más remedio que aceptar la práctica totalidad de las decisiones de las máquinas. Como la sociedad y los problemas que se enfrentan a que se convierta cada vez más complejo y las máquinas se vuelven más y más inteligente, la gente va a dejar que las máquinas que más de sus decisiones por ellos, simplemente porque las decisiones hechas a máquina traerá mejores resultados que los fabricados por el hombre. Finalmente, una etapa puede ser alcanzado en la cual las decisiones necesarias para mantener el sistema funcionando serán tan complejas que los seres humanos serán incapaces de hacerlas de forma inteligente. En esa etapa las máquinas estarán en un control efectivo. La gente no será capaz de convertir sólo las máquinas fuera, porque serán tan dependientes de ellas que apagarlas equivaldría al suicidio.

Por otro lado, es posible que el control humano sobre las máquinas pueden ser retenidos.En ese caso el hombre medio puede tener control sobre ciertas máquinas privadas de la suya, como su coche o su ordenador personal, pero el control sobre grandes sistemas de máquinas estará en las manos de una pequeña elite - como lo es hoy en día, pero con dos diferencias. Debido a la mejora de las técnicas la élite tendrá mayor control sobre las masas, y porque el trabajo humano ya no será necesario, las masas serán superfluas, una carga inútil en el sistema. Si la élite es despiadada, simplemente puede decidir exterminar a la masa de la humanidad. Si son humanos pueden usar propaganda u otras técnicas psicológicas o biológicas para reducir la tasa de natalidad hasta que la masa de la humanidad se extingue, dejando al mundo a la élite. O bien, si la élite está formado por liberales de corazón blando, pueden decidir desempeñar el papel de buenos pastores con el resto de la raza humana. Verán por que las necesidades físicas de todo el mundo está satisfecho, que todos los niños se críen bajo condiciones psicológicamente higiénicas, que todo el mundo tiene una afición sana para mantenerlo ocupado, y que cualquier persona que pueda estar insatisfecho sufre "tratamiento" para curar a su "problema. " Por supuesto, la vida será tan sentido que la gente tendrá que ser biológica o psicológicamente ya sea para eliminar su necesidad por el proceso de poder o hacerlos «sublimar» su impulso por el poder en una afición inofensiva. Estos seres humanos diseñados pueden ser felices en esa sociedad, pero no con toda seguridad, ser libre. Ellos se han reducido a la condición de los animales domésticos. 1

1 Las citas de paso Kurzweil es del Manifiesto Unabomber Kaczynski, que fue publicado en forma conjunta, bajo coacción, por The New York Times y The Washington Post para tratar de llevar su campaña de terror a su fin. Estoy de acuerdo con David Gelernter, quien dijo acerca de su decisión:

"Fue una decisión difícil para los periódicos. Para decir que sí se da en el terrorismo, y por todo lo que sabía que estaba mintiendo de todas formas. Por otro lado, decir que sí puede detener la matanza. También hubo una posibilidad de que alguien leía las vías y obtener una corazonada sobre el autor, y eso es exactamente lo que sucedió el hermano del sospechoso lo leyó, y sonó una campana..

"Me han dicho que no van a publicar. Me alegro de que no me preguntó. Supongo."

( Vida Dibujo: Sobrevivir el Unabomber. Free Press, 1997: 120.)

Bill Joy, cofundador y jefe científico de Sun Microsystems, fue copresidente de la comisión presidencial sobre el futuro de la investigación de TI, y es coautor de la especificación del lenguaje Java. Su trabajo en la tecnología de la computación omnipresente Jinifue ofrecido en Wired 6.08.
http://www.wired.com/wired/archive/8.04/joy.html