Friday, May 06, 2011

Sobre la consciencia

Ayer con Pepe Gordon hablábamos, en mi intervención en el programa de divulgación científica de Canal 22, La Oveja Eléctrica, sobre si las máquinas podrían alguna vez tener consciencia, darse cuenta de lo que están haciendo, darse cuenta de sí mismas, por decirlo de alguna manera.

Esto es un sueño recurrente que se ha visto muchas veces en la ciencia ficción: los robots "despiertan" y cobran consciencia de ellos mismos y se apoderan del control, del poder, y hacen de las suyas. Esa es la trama de la película "I Robot", con Will Smith, basada en la novela del mismo nombre, de Isaac Asimov.

Yo desde hace mucho tiempo he pensado si es posible hacer un programa que simplemente haga que la computadora se dé cuenta de su propia existencia. En este terreno de la consciencia hay muchas teorías. Una de ellas, que creo que es Hofstadter quien la promovió en su fantástico libro: Gödel, Escher, Bach, una eterna trenza dorada, habla de cómo los organismos comienzan a autoorganizarse. Cada nivel de organización es más complejo del anterior y llega un momento que la complejidad llega a tales extremos que es cuando surge la consciencia. Esto es equivalente a lo que decía Yusupov en la quinta cápsula de ajedrez, sobre el aprendizaje. Aparentemente, después de un fuerte período de entrenamiento, algo pasa en el cerebro de quien entrena y de pronto, sin que medie aviso alguno, hay un cambio cualitativo en la percepción de cómo se ven las jugadas, en la evaluación de las posiciones. Así, en un esquema de auto-organización llega un momento en que hay este "brinco cualitativo" y entonces el organismo auto-organizado se da cuenta de su propia existencia.

Otro enfoque -que también es defendido por muchos- es que la consciencia subyace más allá de la organización y está en un nivel aparte que no tiene que ver con cómo un organismo se autoorganiza, valga la expresión. ¿Cuál será la verdad?

Las computadoras actuales pueden jugar al ajedrez como el mejor jugador del mundo. Pueden además hacer millones y millones de cálculos matemáticos en segundos. Pueden incluso realizar operaciones simbólicas como las que se requieren en el cálculo diferencial e integral. Pero por el momneto, ningún programa sabe qué está siendo. Mueven bits y bytes de un lado a otro basándose en un guión, que es su programa en ejecución, pero si tocamos la puerta pues no hay nadie en casa.

Si nos atenemos a la primera idea, podríamos asumir que en la medida que el ser humano haga "organismos" electrónicos más complejos, que requieran de más auto-organización, llegará el momento en que la computadora se dará cuenta de ello y entonces habremos creado la peor pesadilla para el ser humano. Sin embargo, si es así, nadie sabe qué complejidad se requeriría para que pudiese cumplirse la premisa y crear así el primer organismo electrónico, hecho por el hombre, que cobrara consciencia de sí mismo. Sin embargo, en caso de lograrlo creo que solamente tendríamos una alternativa: desconectar la máquina del enchufe.

Y esto me recuerda a una anécdota apócrifa (*) desde luego, en donde se cuenta la historia de una terrible confesión de Alekhine el cual, cerca del final de su vida, sólo y enfermo, pero aún campeón mundial, le dijo a un amigo lo que le pasó en el gran torneo de San Petersburgo de 1914. Una noche, a la mitad de la justa, alguien tocó la puerta del cuarto de hotel de Alekhine. Un tipo de extraño vestir y talante demandó que le abriera porque había encontrado un secreto del ajedrez que era de suma importancia. Alekhine impacientemente lo dejó entrar.. "He encontrado una manera de dar jaque mate en doce jugadas sin importar qué juegue el rival", clamaba el viejo. Alekhine empezaba a empujarlo para sacarlo de su cuarto pero el viejo aquel fue insistente. Entonces para zanjar el asunto, Alekhine dispuso del tablero y las piezas. Doce jugadas más tarde el futuro campeón del mundo, más pálido que nunca, acostaba su rey en señal de rendición. El viejo le ganó una y otra y otra vez más, las siguientes partidas.

Entonces Alekhine le dijo al personaje en cuestión que fuese con Capablanca, que estaba en otro cuarto, muy cerca del suyo y que le contara de este asunto.  Capablanca recibió al viejo y pensaba que todo se trataba de una mala broma, pero el personaje extraño le ganó una y otra vez al genial cubano en doce jugadas, sin importar qué defensa opusiera.

Alekhine terminó así de contar la historia a su eventual amigo. Éste le preguntó lo que seguramente ahora usted se pregunta: "¿y qué hizo después, Maestro Alekhine?". La respuesta de Alekhine fue devastadora: "¿Qué iba a hacer? Lo matamos".

Cabe señalar que los autores del libro en donde hallé esta ¿anécdota? no indican la fuente e incluso, piden a los lectores les escriban si saben algo al respecto para así poderla rastrear.

_______
(*) Del libro "The Complete Chess Addict", por Mike Fox y Richard James, ed. faber and faber; pág 156-157

5 comments:

Armando de la Torre said...

La consciencia artificial es y ha sido un tema recurrente en la ciencia ficción.
De hecho lo que no me gustó de la película de Yo Robot es que aparentemente llega a la conclusión opuesta a la que llega el último cuento de la novela de Assimov : La maquina esta consciente de los errores de los humanos y está produciendo ineficiencias programadas para lidiar con ellas.

Una de mis series de ficción favoritas son las novelas de la cultura de Iain Banks : una civilización galáctica en la que la humanidad ha trascendido la época de la escacés y las computadoras se encargan de cuidad a los humanos.

Dicho sea de paso, creo que este es el único remedio para un país tan corrupto como México : Las computadoras son insobornables.

Juan Llaca said...

Para que las máquinas alcancen un nivel de consciencia como el propuesto, deberán actuar en forma autofinalística. Es decir; decidir ejecutar tal o cual acto en persecución de objetivos. Esto solo puede darse dotándolas del sentido de la necesidad. Cuando tengan necesidades que satisfacer, entonces serán conscientes, Me parece. Este ha sido, desde mi particular punto de vista, el motor de la evolución de los organismos. Inicialmente los unicelulares comenzaron a competir por espacio-alimento y de ahí el desarrollo.

Morsa said...

Intereante teoría, Juan...

saludos
Manuel

Morsa said...

Armando,

las computadoras no son insobornables. Mientras estén programadas por humanos no se cumple lo que dices.

saludos

Armando de la Torre said...

Manuel,
Definitivamente todos los programas estan sujetos a fallas y a realizar actos de corrupción programada ( por ejemplo , redondear los centavos y mandarlos a una cuenta ).
Esto no hace sobornables a los programas ( es decir , no le puedo ofrecer nada al programa para que se comporte de forma distinta ) , adicionalmente, si un sistema funciona de forma transparente (código abierto ), se vuelve posible detectar un comportamiento como el descrito arriba.