Libro: MÁS ALLÁ DE CEROS Y UNOS – Robots, Psicodelia y Consciencia*
Autor: Andrew Smart
1ª Edición en inglés: USA,
2015
1ª Edición en castellano: España, Mayo 2018
Título
original:
“Beyond Zero and One”
Debate 1/2: Viernes
16 de Noviembre de 2018
Debate 2/2: Viernes
14 de Diciembre de 2018
*En la portada pone “conciencia” pero en el resto
del libro se usa siempre el término “consciencia”, por lo que entiendo que, increíblemente,
la portada está equivocada…
MÁS ALLÁ DE CEROS Y UNOS – ÍNDICE
1 Cap 0001: Basilea Suiza
2 Cap 0010: Lund, Suecia
3 Cap 0011: Un robot entra en el bar
4 Cap 0100: Entre el cero y el uno
5 Cap 0101: Soñando en binario
6 Cap 0110: Consciencia alucinante
7 Cap 0111: La actitud computacional
8 Cap 1000: El hijo monstruo de Albert Hofmann
9 Cap 1001: El test de Turing-Ácido
10 Cap 1010: ¿Salvación química?
Agradecimientos
Bibliografía
MÁS ALLÁ DE CEROS Y UNOS - RESUMEN
1 Cap 0001: Basilea Suiza
AS inicia el capítulo 1 con dos
citas que parecen anticipar la idea principal del libro:
William Blake: “Si desapareciesen
las puertas de la percepción, el hombre vería todo exactamente como es:
infinito”
Rita Dove: “No es el fin del mundo;
sólo del mundo que crees conocer”
Inicia el capítulo contando cómo en
1943, y de modo fortuito, el químico orgánico Albert Hofmann descubrió los
efectos producidos por los alcaloides del hongo cornezuelo, del que se deriva
el LSD.
Indica a continuación que escribió
el libro en Basilea, investigando en el mismo edificio en el que Hofmann había
protagonizado “su histórico y psicodélico experimento”, recordando también que
fue en Basilea donde Nietzche fue profesor universitario y donde escribió alguno
de sus grandes trabajos.
Anuncia que el libro “es la historia
de una línea de investigación filosófica que comienza en Basilea y que concluye
con Nietzche, Hofmann, la molécula del LSD, alucinaciones, números binarios,
consciencia y la denominada superinteligencia”.
AS describe luego el campo de
pensamiento que ha surgido en los últimos años en torno a la revolución digital
y las promesas de la inteligencia artificial, destacando a sus referentes
principales: Ray Kurzweil, ingeniero
jefe de Google, Martine Rothblatt, Luke Muehlhauser o el filósofo sueco Nick
Bostrom, entre otros.
Estos autores coinciden en la
disrupción que producirá la aparición de la superinteligencia en los próximos
años (la “Inteligencia General Artificial, AGI en sus siglas en inglés),
momento al que denominan la “singularidad”. Los vaticinios de fecha varían
entre 2045, 2075 o 2100, según los diversos autores. En dicho momento, las
máquinas serán más capaces que los humanos y los superarán en todos los campos,
tal como hoy los humanos superamos al resto de especies (Leer frase cita de
Luke Muehlhauser al final de pág 16) Es una hipótesis que abre diversas
derivadas, como el posible fin de la raza humana a mano de las propias máquinas
o el claro efecto de desempleo masivo que irá produciendo el desarrollo
progresivo de la inteligencia artificial.
PREGUNTA #1a:
ResponderEliminar¿Con qué posición estás, con Kurzweil o con Smart?
PREGUNTA #1b:
Sí una superinteligencia requiere un punto de vista y subjectividad, es decir consciencia… ¿Para qué tenemos necesidad de desarrollarla si ya disponemos de ella nosotros?
El duelo entre Raymond Kurzweil y Adrew Smart confronta la visión tecnócrata y computacional del primero, contra una humana, hippie y sobre todo crítica del segundo. Intuitivamente es más fácil estar de lado de Smart porque reconoce que todavía sabemos muy poco de lo que es consciencia, de cómo funciona el cerebro y afirma que no podemos abstraer nuestra consciencia de la básica biológica, por lo que las redes neuronales artificiales nunca llegarán al nivel de la subjetiva, compleja e inexplorada consciencia humana. Si nuestra consciencia no son cómputos, sino percepción selectiva y subjetiva de la realidad que podemos ir alterando, entonces hay un amplio espectro de posibles realidades subjetivas que podemos experimentar, mientras la máquina solo se limita al cálculo y una única lectura de la realidad, sin pasar por ningún filtro subjetivo del “yo” que en su caso no existe. Esta creencia en el núcleo duro de la consciencia, el “yo”, el “alma” o como queremos llamarlo, ha calado demasiado hondo a lo largo de los siglos a través de la filosofía y la religión como para poder borrarla rápidamente a través del dataismo reduccionista y progreso lineal del cómputo. Resumiendo: arriba Smart, abajo Kurzwail.
Nosotros disponemos de consciencia, pero no de superinteligencia, que nos atrae como un puente al mayor control sobre el entorno, como una herramienta de solucionar el problema técnico de inmortalidad y felicidad, como diría Harari.
PREGUNTA #2a:
¿Qué es la consciencia para ti?
PREGUNTA #2b:
¿Has probado alucinógenos alguna vez? ¿Fue para ti una experiencia de cambio a otro estado de consciencia?
Consciencia es el elemento irreducible, la condición sine qua non de ser persona. El ser humano plenamente inconsciente es decir, que no siente la separación entre él/ella y la realidad exterior pierde lo que es esencial para un homo sapiens. La pérdida de consciencia irreversible es considerada muerte cerebral, estado vegetativo o simplemente muerte. La consciencia es saber que soy “yo” quien siento, pienso, experimento. Es el irreducible “yo” dubitativo del Descartes. Al menos esta la concepción clásica en la filosofía ya que según el transhumanismo tal vez la consciencia sobra.
La experiencia de mayor agudeza mental, esta sensación de convertirse en un Sherlock Holmes que de repente ve todos los detalles y a su vez los interpreta correctamente es algo, que si fuese “gratis” y si efectos segundarios, dudo que muchos de nosotros nos resistiríamos a seguir probando una y otra vez. Las alucinaciones en sí, a modo de montaña rusa sensorial y psicodélica no son para todos, de allí tantos malos viajes.
PREGUNTA #3a:
ResponderEliminar¿Las personas sin sentido del humor tienen un pensamiento maquinal?
PREGUNTA #3b:
¿Cuánto lugar tienen en tu pensamiento las asociaciones de ideas?
Creo que no existen en el fondo las personas sin el sentido del humor, a lo mejor están temporalmente reprimidos o no sabemos interpretarlas correctamente o no les conocemos lo suficiente. El sentido del humor es algo tan intrínsecamente humano con las asociaciones de ideas que es un flujo imparable, una fuente de creatividad constante. Y si alguien carece de ello, solo hace falta, no sé apagar la tele?
REGUNTA #4a:
¿Te adhieres a la ideología digital y confías en su capacidad de resolver todos los fallos, o preferirías volver a un mundo analógico ante los riesgos de depender de sistemas digitales cada vez más estructurales, más frágiles y más impredecibles a medida que ganan autonomía?
El mundo perfecto no existe en ninguna de sus dimensiones, ni la analógica, ni tampoco la digital. Los sistemas algorítmicos digitales de momento son inventos humanos y por más que tengan sus algoritmos constantemente a prueba de fallo y sus sistemas de Deep learning es del todo imposible garantizar su infalibilidad. El fallo bizantino o colapso del sistema no tendría que hacernos regresar a la libreta y el lápiz, sino hacer convivir lo analógico con lo digital con una proporción óptima, donde las decisiones, sobre todo éticas recaen sobre los humanos y las técnicas sobre las máquinas.
PREGUNTA #5a:
¿Las matemáticas son un relato o tienen una base objetiva?
El mundo platónico de las ideas matemáticas como realidad objetiva a la cual nos aproximamos descifrando las reglas del cosmos es tan romántico que casi resulta irresistible. Es algo menos emotivo, pero igual de intuitivo afirmar que las matemáticas son el lenguaje intersubjetivo para entender y explicar la realidad. De esta forma ya no existen en el mundo ideal, sino en nuestra consciencia. ¿La máquina sin consciencia no entraría en bucle analizando los teoremas de la incompletitud de Gödel?
Oh, Magda, tus respuestas son excepcionales! Muchísimas gracias por tantas buenas ideas, excelente!!!!
ResponderEliminarPREGUNTA #6a:
ResponderEliminar¿Si lográsemos desarrollar máquinas con pensamiento subjetivo y consciencia, deberíamos tratarlas entonces con respeto ético por su libertad de consciencia o podríamos considerarlas sometidas a nosotros por haber sido nuestra creación?
Ser “padre” de una persona no nos otorga el derecho a someter esta persona bajo nuestra orden. ¿Qué es persona? Ser consciente con el juicio moral. ¿Qué es ser consciente? Distinguir entre el “yo” y el entorno y tener un espectro de experiencias subjetivas que son propias de este yo. ¿Qué es tener el juicio moral? Distinguir entre el bien y el mal. ¿Y qué es el mal? Provocar el daño físico, psíquico o moral a una persona. ¿Lo es también someterla?
Javier, puedes hacer todas estas preguntas a Alexa para ver que responde?
¿Si, tras conseguir la singularidad, las máquinas se convierten en personas conscientes con juicio moral, que pasa? Pues que ya no seremos las únicas personas en el mundo (humanos si, personas no) y que no tendremos el derecho de hacer daño ni restringir la libertad, ni someter a ninguna persona por el mero hecho de ser su creador.
PREGUNTA #7a:
ResponderEliminar¿De dónde provienen los criterios de selección de asociaciones que usa nuestra consciencia?
Contestar esta pregunta sería la clave para poder programar las máquinas para que tengan la gracia humana. Los criterios de selección de las asociaciones son por una parte completamente individuales, pero por otra tienen una base intersubjetiva que permite que sean comprensibles para otros humanos, pero para las máquinas no. Podemos pensar que una buena parte proviene de las experiencias sensoriales, de aprendizajes teóricos, de la memoria. Esta parta sería intersubjetiva. Pero hay otra parte que indudablemente viene de las emociones, de sensibilidad artística, de la personalidad y esta sería la subjetividad. ¿La comprensión que los otros humanos tengan de nuestras asociaciones, la llamada “conexión” o empatía de dónde viene? ¿De la base biológica? ¿De la educación y patrones de socialización comunes? ¿O de alguna chispa divina o alma, como dirían los religiosos o los “espirituales”?
PREGUNTA #7b:
¿No es el arte un modo de aflojar el corset de nuestra consciencia, que nos permite explorar asociaciones inútiles pero placenteras? El ejemplo del surrealismo.
El surrealismo sigue apelando a nuestra consciencia, si la aflojamos, más bien todo se vuelve borroso y difuso, porque ya no hay un “yo veo” “yo siento”. Puede que el arte surrealista, emotivo o abstracto no apele a nuestra estructura lógico- matemática de ver el mundo, pero sigue necesitando la consciencia para ser apreciado y hasta percibido como tal. Esta consciencia puede ser dopada, alterada y con alucinaciones narcóticas de por medio y a lo mejor de ello dependerá el nivel del placer experimentado al ver o crear el arte.
El criterio de inutilidad es pragmático y como tal no tiene que aplicar al arte, sea este surrealista o no. Aunque crear experiencias placenteras a través de las asociaciones “locas”, también tiene su parte de utilidad que podría ser la de mantener el nivel de dopamina y serotonina que permiten mantenernos contentos, activos y, por qué no, felices.
PREGUNTA #8a:
ResponderEliminar¿Qué relaciones encuentras entre la cultura hippie y la cultura digital?
La verdad es que muy pocas. La cultura digital es la creación del establishment empresarial de Silicon Valley, al menos en su origen. Lo digital es el núcleo duro del sistema reinante actual, la comunicación mainstream, el estado de arte de filosofía empresarial. Los hippies de hoy son más bien los que disfrutan de modo “off-line”, los que resistieron el imperativo de las redes sociales, los que en vez de mirar las pantallas, miran las caras.
Hay un pequeño error en el excelente resumen ofrecido por Jorge, que no afecta al fondo de la cuestión, pero sí refuerza la desorbitada capacidad que le otorga la gente a los ordenadores en tanto que máquinas. Se dice "32 bits significa la capacidad de transmitir 4.294.967.296 posibles valores por impulso, eso es, los números binarios posibles que pueden formarse contando con 32 cifras". La primera proposición no es correcta, ya que en cada impulso del procesador se envían 32 bits a la vez, es decir solo uno de los 2 elevado a 32 valores posibles. La segunda proposición es correcta.
ResponderEliminarGracias Paco por la aclaración! Ya me parecía demasiado!!! Un abrazo
EliminarPREGUNTA #9a:
ResponderEliminarSi llegamos a desarrollar máquinas superinteligentes, capaces de mantener una conversación y resultarnos humanas en el trato… ¿Deberíamos concederles derechos “civiles” o podríamos disponer de ellas como meros objetos de los que podríamos disponer a discreción? ¿Deberíamos crear una clase especial de derechos y deberes de ciudadanía para las máquinas superinteligentes?
Si el robot Sophie tiene la ciudadanía de Arabia Saudí porque no lo iban a tener las máquinas superinteligentes? ¿Por otra parte y teniendo en cuenta la temida, mítica, pero basada en el conocimiento actual y muy cinematográfica maldad de la superinteligencia, no deberíamos de disponer siempre del botón off para cuando las cosas se vayan de madre? Un botón off definitivo, destructor e irreversible para imposibilitar que la máquina encuentre otra fuente de energía. Otra cosa es que la misma máquina encuentre este botón. ¿Sería justificado apretar el off cuando nos cansemos o nos entre envidia de las máquinas por quedar tontitos?
¿En cuanto a nuestras políticas, sistemas legislativos y normas sociales, no los encontraría la superinteligencia en muchos casos incompletos, contradictorios, obsoletos o hasta inútiles? ¿No ingeniarían rápidamente un “mejor” sistema tecnocrático donde quede eliminado cualquier elemento especulativo, emotivo, subjetivo y por lo tanto humano? ¿Cuántos días duraría la democracia y sobre todo los derechos humanos en el mundo de las máquinas?
PREGUNTA #10a:
¿No será la consciencia el órgano humano de la sociabilidad?
¿Si la consciencia es un atributo individual por excelencia porque nos iba a llevar a la sociabilidad? La sociabilidad viene más bien del instinto gregario muy útil para la supervivencia. Y subiendo un poco más en la pirámide de Maslow, el instinto gregario nos ayuda a satisfacer no solamente las necesidades básicas, sino también las de afiliación, reconocimiento y autorrealización. Muchos animales son sociales, y ¿todos ellos tienen consciencia? ¿Podemos contestar la pregunta si los animales tienen consciencia? ¿Es posible argumentar una respuesta taxativa: si o no? Por ejemplo el pulpo dispone de las estructuras neuronales que son responsable de la consciencia. Los neurocientíficos también atribuyen consciencia a mamíferos y pájaros. Sin embargo comparar la consciencia humana con la animal ya no es fácil. Tal vez para producir la consciencia artificial no hace falta replicar el complejísimo cerebro humano, sino bastaría con el más sencillo, por ejemplo de un pulpo. Os recomiendo mucho este artículo de Wikipedia https://en.wikipedia.org/wiki/Animal_consciousness
No creo que unas máquinas tan inteligentes sean tan descuidadas de dejar un botón de apagado definitivo al alcance de la mano de una especie inferior... Pienso que el atisbo de superinteligencia lo usarían para asegurar su supervivencia y no correr riesgos a manos de especímenes ajenos...
EliminarPREGUNTA #10b:
ResponderEliminar¿Valen la pena los riesgos que asumimos al impulsar el desarrollo de la superinteligencia?
En absoluto, pero ¿somos capaces de echar el freno?, pregunta Harari. Al día de hoy sabemos que la supeinteligencia probablemente no va a ser la piedra filosofal que nos otorgue inmortalidad y felicidad a los humanos. Que las amenazas parecen inclinar el balance superando los beneficios. ¿Para qué entonces esta carrera loca, por instinto suicida hábilmente disfrazado de “mejora continua”? ¿O por la insaciable curiosidad humana y amor al conocimiento? No podemos resistir saber más, poder más, crear más y no solo más, sino mejor. El conocimiento nos otorga la satisfacción tan elevada que somos capaces de abocarnos por ello al camino de la auto-aniquilación.
O a lo mejor la singularidad nunca llegará de la manera que nos lo imaginamos ahora y solo seremos capaces de mejorar nuestros robots bonachones y rechonchos para que hagan más cómputos por nosotros y nos dejen descansar. Time will tell.
PREGUNTA #10c:
De las 5 vías descritas por Bolstrom… ¿Cuál prefieres para llegar a la superinteligencia?
En nuestras manos está la mejora de las capacidades humanas, cognitivas, sociales, éticas y para esto no hacen falta necesariamente los implantes neuronales para crear un Súper Humano. ¿Alguien con el chip neuronal que potencie su inteligencia matemática será mejor persona/ ciudadano? Posiblemente su mejora computacional no afecte mucho la esfera ética, o si, pero solo como efecto colateral. Una superinteligencia humana abstraída de la superempatía y superética, o al menos empatía y ética, la veo muy incompleta. Curiosa, interesante, muy atractiva, pero tecnocrática, fría y amenazadora. No deseo para el mundo de mi hija ninguna de las vías para alcanzar la singularidad que no contemple los valores ni la reflexión filosófica.
PREGUNTA #10d:
Si tuvieses un clon digital de tu propia mente ¿Crees que te llevarías bien con él? ¿Piensas que obedecería a tus órdenes o las cuestionaría? Si aceptase seguir tus instrucciones, ¿qué tareas le darías para hacer? ¿Para qué lo usarías?
Mi clon digital está clarísimo que no aceptaría mis órdenes ni por asomo. Sería una tortura aguantar sus constantes cuestionamientos. Ni la psicología inversa podría con él/ con ella. ¿Qué tareas? Pues podría escribir en este blog. Como le sobraría tiempo, podría leer más y escribir, resúmenes de libros incluidos. O no, mejor que curre día-día. Y hablando en serio, serviría como un espejo para ver con claridad todas las debilidades del original, lo que sería muy molesto, pero muy interesante!
PREGUNTA #10e:
¿Te adscribirías a un hipismo 2.0 con base ecológica y digital?
No, porque lo veo falso hipismo. Hipismo de establishment. El hipismo y lo digital, pueden convivir y hasta ser complementarios, pero habría que bajar de intensidad digital. Hacer détox periódicos de redes sociales, ponerse en modo off en periodos más prolongados que los cortos instantes entre las 120 consultas diarias del smartphone en promedio. Regresar al autoconocimiento y conocimiento del entorno próximo, tanto del medio natural como humano. Crear un mundo de ágoras reales, abundantes huertos y centros productivo- creativos de proximidad, educación escolar y trabajo escaso en horas y riquísimo en contenido. Un hipismo realmente slow, donde la espera recobra el valor más que la inmediatez. Apuesto por el hipismo 3.0, post-digital y socrático o confuciano, teniendo en cuenta el peso de China en el mundo.
Decía Harari que los humanos respondemos a dos mandatos básicos, sobrevivir y reproducirnos. Si fuésemos capaces de crear máquinas con estos dos mandatos, pues entonces apaga y vámonos, pero no a la máquina, sino a nosotros...
ResponderEliminarRespecto a las posibilidades que nos dará la interacción con nuestro propio clon mental, entiendo que los primeros días serán aburridos con conversaciones en bucle y acuerdos en todo. A medida que el tiempo pase y cada uno vaya viviendo sus propias experiencias por separado, la relación ganará en distancia y se hará más rica. Cuando se produzca la primera discusión, ese día podría llamarse el día del desacople (por seguir con la familia de nuevos conceptos como singularidad). Se podría decir que los clones mentales "nacen" el día del desacople, no antes, ya que en esos tiempos preliminares siguen siendo "menores de edad clonar". A partir del desacople, los clones obtienen autonomía, ciudadanía, etc. De todas maneras, estaría bien impedir matrimonios entre originales y clones desacoplados por si las moscas...
Super interesante la idea de desacople como la "mayoría de edad clonar". Sin embargo si a clon le definen más sus propias experiencias o el bagaje de inicio ya es otro debate y toca repasar el concepto de "tabula rasa". El clon no nacerá "tabula rasa" sino que tendrá no solo las vivencias y memorias nuestras, sino también nuestras predisposiciones. ¿Hasta que punto estas predisposiciones van a hacer reaccionar el clon frente a nuevas circunstancias, de la misma manera que lo haría el original? ¿Si no reacciona de la misma manera ya no es un clon o si? En fin, el matrimonio entre el clon y el orignal solo lo podrían desear los narcistas, o no?
EliminarCreo que el problema de la superinteligencia es que se la está intentando construir desde la tabula rasa... La ventaja de la inteligencia humana es que está montada sobre un pozo de experiencia de toda la historia de la especie, y es bastante larga hay que decir... Ese registro histórico de la especie pulula en nuestro cerebro y creo que es, probablemente, una combinación de hardware y software que nos llega preinstalada y a la que le aportamos una levísima capa más de pintura, no mucho más...
EliminarMe gusta mucho la idea de un hipismo 3.0, post-digital y socrático. Lo de confuciano me confunde un poco, aunque comprendo la importancia de Asia en los tiempos que corren. Por cierto, el país que más invierte en IA es China... ¿La superinteligencia se regirá entonces por códigos y valores orientales?
ResponderEliminarPues si se rige por los valores, sean estas orientales u occidentales, estamos dentro de modelo de IA con sentido moral. Las escuelas de confuncianismo, vetado en los tiempos de Mao, están resurgiendo en China, y es esperanzador que una sociedad extremadamente orientada al mercado, está regresando a sus principios. Si lo hacen en el campo de la investigación de superinteligencia, creo que podemos estar tranquilos. Y ponernos a estudiar mandarin.
EliminarSí, estudiar mandarín ya es básico ahora mismo...
Eliminar