La Singularidad no está cerca, según Paul Allen

En un interesante artículo, Paul Allen, (cofundador de Microsoft y creador del Allen Institute for Brain Science entre cuyos proyectos está el Allen Brain Atlas) pone en duda las afirmaciones de Ray Kurzweil sobre la Singularidad. Según Allen, la Singularidad no está cerca. Admite que la Singularidad llegará, que es posible comprender por completo el cerebro y que los nuevos sistemas de hardware y software nos deslumbran a todos. Pero sostiene que la comprensión de los sistemas naturales y muy especialmente el cerebro avanza despacio y serán necesarios nuevos enfoques que aún hoy no vislumbramos. Frente a la Ley de los rendimientos acelerados de Kurzweil, Allen propone El freno de la complejidad.

Ley de los rendimientos acelerados

Kurzweil es el abanderado de la Singularidad. No es un visionario, sus predicciones se basan en datos estadísticos, es un reconocido científico, muchas de sus predicciones se han cumplido y hay que tener en cuenta lo que dice. Otra cosa es estar de acuerdo con él. Es autor de “La Singularidad está cerca” y la “Ley de los rendimientos acelerados”. En este ensayo postula lo siguiente:

Un análisis de la historia de la tecnología muestra que el cambio tecnológico es exponencial, al contrario de la visión ‘lineal intuitiva’ del sentido común. Así que no experimentaremos cien años de progreso en el siglo XXI, sino que serán más como 20.000 años de progreso (al ritmo de hoy). Los ‘rendimientos’, tales como la velocidad de los chips y la relación coste-efectividad, también se incrementarán exponencialmente. En el plazo de unas pocas décadas, la inteligencia de las máquinas sobrepasará la inteligencia humana, llevándonos a la singularidad (cambios tecnológicos tan rápidos y profundos que representen una ruptura en la estructura de la historia humana). Las consecuencias incluyen el surgimiento de inteligencia biológica y no biológica, software inmortal basado en humanos y niveles de inteligencia ultra-elevados que se expandirán hacia el universo a la velocidad de la luz.

Esta ley se basa en la ley de Moore que predice que cada 18 meses se duplica el número de transistores en un espacio dado (un chip). Sin embargo, la ley de Moore y la de los rendimientos acelerados son leyes empíricas. O dicho de otra forma, no son leyes y solo predicen el pasado. Funcionan hasta que dejan de hacerlo.

El freno de la complejidad

Paul Allen, con el mismo derecho, postula otra ley: El freno de la complejidad. Según esta:

A medida que avanzamos más y más en nuestra comprensión de los sistemas naturales, por lo general encontramos que requieren conocimientos más especializados para entenderlos, y nos vemos obligados a ampliar continuamente nuestras teorías científicas de una manera cada vez más compleja.

Paul Allen se opone a que la singularidad vaya a llegar pronto.

Aunque suponemos que este tipo de singularidad algún día ocurrirá, no creemos que este cerca. De hecho, creemos que será en una fecha muy lejana. 

Un cerebro adulto es una cosa finita, por lo que su funcionamiento básico en última instancia, puede ser desvelado a través del esfuerzo humano. Pero si la singularidad llega en 2045, será debido a avances impredecibles, y no porque sea el resultado inevitable de un progreso exponencial producido por la ley de rendimientos acelerados.

Para que la Singularidad aparezca en 2045 no solo se necesita un hardware más potente en el que se ejecute el actual software más rápido. Es necesario crear un software mucho más inteligente lo que requiere un conocimiento de los fundamentos de la cognición humana de cuya cuya complejidad solo ahora comenzamos a ser conscientes. Ni el desarrollo de software ni el avance de la neurociencia se rigen por la ley de Moore.

Para que la singularidad ocurra en algún momento cerca de lo predicho por Kurzweil, será absolutamente necesario una aceleración masiva de nuestros avances científicos en la comprensión de todas las facetas del cerebro humano.La complejidad del cerebro es simplemente impresionante. Cada estructura ha sido modelada con precisión durante millones de años de evolución para hacer algo en particular, sea lo que sea. No es como un ordenador, con miles de millones de transistores idénticos en las matrices de memoria regulares que son controlados por una CPU con unos pocos elementos diferentes. En el cerebro cada estructura individual y circuito neural ha sido refinado por separado por la evolución y el medio ambiente.

La investigación del cerebro obedece más bien a la ley del freno de la complejidad que a la ley de los rendimientos acelerados.

Allen habla también de las promesas de la Inteligencia Artificial IA. Aunque algunos inventos son sorprendentes como Watson, en general el progreso no ha sido en absoluto exponencial.

Aunque hemos aprendido mucho acerca de cómo construir sistemas individuales de AI que hacen cosas aparentemente inteligentes, nuestros sistemas han sido siempre frágiles - los límites de su rendimiento están rígidamente establecidos por sus supuestos internos y los algoritmos de la definición, no se pueden generalizar, y con frecuencia dan respuestas absurdas fuera de sus áreas de interés específicas. Un excelente programa de ordenador que juega al ajedrez , no puede aprovechar su habilidad para jugar otros juegos. Los mejores programas de diagnóstico médico contienen conocimientos inmensamente detallados del cuerpo humano, pero no pueden deducir que un trapecista tenga un gran sentido del equilibrio.

Al igual que en la neurociencia, el camino basado en la inteligencia artificial IA, para lograr la singularidad a nivel de la inteligencia computacional, parece requerir muchos más descubrimientos, algunas nuevas teorías con calidad de Premio Nobel y probablemente nuevos enfoques de investigación que son inconmensurables con lo que pensamos ahora. Este tipo de avances científicos básicos no se produce en una curva de crecimiento exponencial fiable.

Y concluye Paul Allen:

Lograr una comprensión científica completa de la cognición humana es uno de los problemas más difíciles que hay. Seguimos haciendo progresos alentadores. Pero hacia el final del siglo, en nuestra opinión, todavía nos estaremos preguntando si la singularidad está cerca.

Ray Kurzweil ha publicado su réplica en: Don’t Underestimate the Singularity donde básicamente se reafirma en la Ley de los rendimientos acelerados contrargumentando los puntos de Allen.

Más polémica. Kurzeil vs Myers

No es la primera vez que Kurzweil tiene que defender sus tesis. En una encendida polémica, Ray Kurzweil does not understand the brain, el biólogo PZ Myers pone en duda las opiniones de Kurzweil. Con réplica de Kurzweil y contratréplica de Myers

Algunas de las perlas de Myers

Por ingeniería inversa, quiere decir (Kurzweil) que vamos a ser capaces de escribir software que simule todas las funciones del cerebro humano

Tengo una muy buena idea de la inmensidad de lo que no entendemos acerca de cómo funciona el cerebro. Y si sólo entendemos una fracción de la funcionalidad del cerebro, eso hace que la ingeniería inversa sea extremadamente difícil.

El cerebro es un ordenador, y yo estoy en la parte que dice que no hay problema en principio en replicarlo artificialmente.

La ingeniería inversa del cerebro humano tiene complejidades que son enormemente subestimadas por Kurzweil, que demuestra poco conocimiento de cómo funciona el cerebro.

El problema es que él no ha proporcionado ninguna razón para especificar una fecha, que no sea su vago mantra de “crecimiento exponencial”. ¿Por qué no decir, 5 años? ¿Por qué no 50? El corazón del método de Kurzweil es tomar simplemente una fecha lo suficientemente lejana para que no podamos predecir que ocurrirá con los avances tecnológicos, y también que no sea probable que se enfrente con su incumplimiento frente a personas que le recuerden lo que dijo.

1. Su argumento a favor de la simplicidad (según Kurzweil el cerebro es simple y modular) es profundamente erróneo e irrelevante.
2. No ha hecho ninguna alegación cuantificable de lo mucho que sabemos sobre el cerebro en este momento y yo sostengo que sólo hemos arañado la superficie en las últimas décadas de investigación,
3. “exponencial” no es una palabra mágica que resuelve todos los problemas (si pongo hoy un centavo en el banco no quiere decir que tendré un millón de dólares en el fondo de pensiones en 20 años).
4. Kurzweil no ha proporcionado ninguna explicación de cómo va a ser la “ingeniería inversa” del cerebro humano.

Publicado originalmente en ALT1040 

El proyecto Alzheimer 3π aportará el primer análisis global de la enfermedad

Un equipo multidisciplinar de investigadores, liderados por el Consejo Superior de Investigaciones Científicas (CSIC) y la Universidad Politécnica de Madrid (UPM), aportará el primer análisis global sobre el Alzheimer. El proyecto, denominado Alzheimer 3π, tiene como principal objetivo la creación de mapas microscópicos del cerebro completo de personas afectadas por la enfermedad.

Para buscar nuevas formas de abordar esta demencia, que en España afecta a unas 650.000 personas, los científicos elaborarán mapas que integrarán información detallada sobre los aspectos clínicos, genéticos, moleculares, funcionales y patológicos. Las conclusiones del trabajo servirán para realizar estudios transversales, simular y recrear modelos de la enfermedad para abordar posibles tratamientos.

Los científicos han detallado hoy jueves, 23 de febrero, algunos de los aspectos fundamentales del proyecto a S.M. la Reina Doña Sofía, que ha recorrido las instalaciones del Campus de Excelencia Internacional de Montegancedo de la UPM, donde se llevan a cabo los aspectos fundamentales del Proyecto Alzheimer 3π. Su visita se enmarca en el convenio de colaboración firmado el pasado 20 de octubr e entre la Fundación Reina Sofía, el CSIC, la UPM y la Asociación Nacional del Alzheimer (AFAL contigo) con el objetivo de impulsar la investigación en enfermedades neurodegenerativas, con especial aplicación a esta demencia. Doña Sofía estuvo acompañada por la ministra de Sanidad, Servicios Sociales e Igualdad, Ana Mato, el rector de la UPM, Javier Uceda, y el presidente del CSIC, Emilio Lora-Tamayo.

También han asistido la consejera de Educación y Empleo de la Comunidad de Madrid, Lucía Figar; la secretaria de Estado de Investigación, Desarrollo e Innovación, Carmen Vela; el presidente de la Fundación Reina Sofía, Arturo Coello; y la presidenta de AFALcontigo, Blanca Clavijo, entre otras autoridades.

“El primer paso es el desarrollo de herramientas computacionales para crear un banco de datos con información clínica, epidemiológica, funcional y de neuroimagen, por medio de sistemas de información integrados”, ha detallado el investigador del CSIC y director del proyecto Alzheimer 3π, Javier de Felipe.

Según De Felipe, que trabaja en el Laboratorio Cajal de Circuitos Corticales del Centro de Tecnología Biomédica (UPM) y en el Instituto Cajal (CSIC), el diseño de nuevos métodos y tecnologías para el desarrollo de un software específico que permita gestionar, consultar y navegar “de una forma interactiva y amigable este vademécum digital y la información multimodal integrada” es otro de los pasos del proyecto.

Despliegue tecnológico

Alzheimer 3π cuenta con la estructura y los recursos humanos y técnicos del Blue Brain Project (Ecole Polytechnique Fédérale de Lausanne, Suiza), denominado en España proyecto Cajal Blue Brain, cuyo fin es realizar ingeniería inversa del cerebro para conocer su funcionamiento y analizar cómo se altera ante diversas enfermedades. El Centro de Tecnología Biomédica, el Centro de Supercomputación y Visualización de Madrid y el Centro de Domótica Integral de la UPM, y el Instituto Cajal del CSIC acogen la mayor parte de las instalaciones donde se lleva a cabo el proyecto.

Entre los recursos tecnológicos que se emplearán en Alzheimer 3π, destaca la “Cueva de realidad virtual de cinco caras”, desarrollada por la UPM y T-Systems, que permitirá reproducir la evolución de la enfermedad mediante simulaciones 3D; “Magerit”, un supercomputador capaz de recrear el cerebro de manera virtual con una potencia pico de cálculo de 103,4 TeraFlops (103.400.000.000.000 operaciones por segundo); el Laboratorio Cajal de Circuitos Corticales, que cuenta con el Microscopio Cross Beam NEON 40 EsB de Zeiss, que realiza reconstrucciones seriadas del cerebro a nivel ultraestructural de forma automática; y el Laboratorio de Neurociencia Cognitiva y Computacional del Centro de Tecnología Biomédica de la UPM, que dispone de uno de los dos magnetoencefalógrafos que hay en España, y que mide de forma directa y no invasiva la actividad neuronal del cerebro.

Juicio al cerebro

Los recientes avances en neurociencia comienzan a tener implicaciones en los juicios y los sistemas legales. La poca fiabilidad de la memoria de los testigos, la utilización de escáner cerebral, el cerebro adolescente, la adicción a las drogas, o los cerebros con malformaciones plantean nuevos retos a la justicia. 

Y en un orden filosófico más profundo late la pregunta ¿Somos responsables de nuestros actos? En el reciente congreso de la Society for Neuroscience SfN, el más grande del mundo, se planteó el simposio “The Brain on Trial: Neuroscience and the Law”.

La memoria de los testigos

La reciente ejecución de Troy Davis se basó entre otras cosas en el testimonio de los testigos. Con el tiempo siete de los nueve testigos cambiaron su testimonio. La ronda de identificación fue irregular y parece que los recuerdos de los testigos fueron claramente contaminados.

 

En una serie de estudios clásicos Elizabeth Loftus demostró lo sencillo que es manipular los recuerdos. La memoria no es fotográfica, es siempre una reconstrucción, una recreación que se altera por las circunstancias del momento y las sucesivas invocaciones. Además es fabulativa: rellenamos las lagunas para relatar un recuerdo coherente. Algunos de los experimentos de Loftus son demostrativos. Después de ver un vídeo, se preguntó a unos sujetos experimentales ¿a qué velocidad iba el coche rojo al colisionar con el blanco? y a otros sujetos ¿a qué velocidad iba el coche rojo al machacar al blanco? Para los segundos, la velocidad era significativamente mayor. En otro de los estudios, se presentó a los sujetos informes por escrito de cuatro acontecimientos de su infancia. Uno era falso, pero contado por un familiar cercano. Un tercio de los sujetos afirmaban recordar el acontecimiento falso.

En otra serie de experimentos, los sujetos observaron a otros realizar unas acciones simple y ellos mismos realizaron otras. Al cabo de un tiempo, los sujetos no sabían cuales habían realizado ellos y cuales habían visto. Con frecuencia confundimos lo que nos ha sucedido, lo que hemos visto y lo que hemos imaginado.

El escáner cerebral

El polígrafo (también llamado detector de mentiras) se inventó en 1921. Se ha usado con frecuencia en los juicios y dependiendo de cada país se admite como prueba o no. El último en usarlo ha sido Alberto Contador.

El escáner cerebral mediante resonancia funcional magnética fMRI permite en esencia saber qué áreas del cerebro son más activas durante una determinada tarea. Es lo más próximo a leer la mente que existe. Es una poderosa herramienta aunque extraer conclusiones de un fMRI es muy debatible

Aunque aún está lejos de ser usado como prueba, según un juez de EE.UU:

Los datos no se pueden aceptar… porque no cumplen las directrices de evidencia científica… no obstante, la detección de mentiras basada en fMRI… es una metodología que puede ser considerada admisible en el futuro, después de mejorar las pruebas, el desarrollo y la revisión de expertos para aumentar su nivel.

El fMRI tiene otras implicaciones. Una de ellas es el estado de coma. Si el fMRI indica que un sujeto no está en coma ¿se le puede retirar la asistencia artificial que lo mantiene en vida?

Otra implicación de fMRI es la detección de anormalidades en el cerebro.

El cerebro criminal, adolescente o adicto

¿Existe un cerebro criminal? En general no, pero hay casos en que esta pregunta debe ser considerada. Como el caso de un profesor pedófilo con un tumor que perdió sus hábitos delictivos cuando este fue extirpado. Es raro encontrar una correlación tan clara, pero a veces ocurre. ¿Y en los psicópatas? Estos se caracterizan por tener poca empatía, por no ser capaces a ponerse en el lugar del otro. Tienen una amígdala (responsable de las emociones, ansiedad y miedo) menor aunque distinguen lo bueno de lo malo. El caso de los actos compulsivos es distinto: suelen ser personas con la corteza prefrontal (responsable de la planificación de los actos, pero también de la inhibición de los instintos) disminuida.

La adicción, causa de muchos delitos, secuestra el sistema de recompensas y conduce a una búsqueda compulsiva de la droga a pesar de las malas consecuencias que ello conlleve.

Especial relieve tiene el cerebro adolescente. El Tribunal Supremo de EE.UU ha decidido que no se puede condenar a pena capital a los adolescentes porque su cerebro es inmaduro. Y en efecto, el cerebro no para de madurar hasta los veinte años. Los adolescentes están aprendiendo las normas sociales y tienen dificultades para predecir las consecuencias de sus actos. En un estudió se mostró que tardan 300ms más que los adultos en decidir si algo es bueno o malo y las áreas cerebrales involucradas son muy distintas.

La réplica y el libre albedrío

La fMRI es una herramienta poderosa, pero las conclusiones extraídas a partir de ellas pueden resultar infundadas. Hoy es fácil confundir a un detector de mentiras ¿cómo? Pensando en otra cosa o simplemente pensando en mover un dedo.

¿Fue el cerebro o fue la persona la que cometió el crimen? Se trata de una falsa dicotomía: somos nuestro cerebro.

La ciencia puede proporcionar hechos, pero es la sociedad la que tiene que emitir un juicio sobre ellos.

En última instancia ¿somos responsables de nuestros actos? ¿existe el libre albedrío? Porque si la respuesta es no, ¿qué sentido tiene el castigo? Pero este es otro asunto.

Publicado originalmente en ALT1040

Vigencia del Test de Turing

Hace más de medio siglo Alan Turing se planteó la pregunta ¿Pueden pensar las máquinas? Para no tener que resolver la ambigüedad de los conceptos máquina y pensar, diseñó una prueba que sustituyera a la citada pregunta creando con ello el célebre Test de Turing. ¿Qué vigencia tiene en la actualidad el Test de Turing?

Alan Turing (1912-1954), brillante matemático inglés, fue uno de los padres de la moderna computación junto con Von Newmann, Shannon y otros.

En la Segunda Guerra Mundial descubrió el código de Enigma, la máquina de criptografía de los nazis y formuló la máquina de Turing. En su artículo “La maquinaria de la computación y la inteligencia” planteó el llamado Test de Turing.

El final de Turing fue trágico siendo condenado por homosexualidad. Optó por la castración química frente a la cárcel. Dos años después se suicidó.

Test de Turing

El hombre que confundió a su mujer con un sombrero. Un libro de Oliver Sacks

El hombre que confundió a su mujer con un sombrero es un fascinante libro de Oliver Sacks. 

Es un libro antiguo (1985) pero en esencia totalmente actual y de entretenidísima lectura. Oliver Sacks es un neurólogo autor de varios libros de éxito.

El objetivo de Sacks y el gran valor del libro es contar las historias de sus pacientes. Con ello nos lleva más allá de la ciencia al sobrecogedor mundo de la mente de los enfermos mentales con los que trata. 

Tales historiales son una forma de historia natural... pero nada nos cuentan del individuo y de su historia; nada transmiten de la persona y de la experiencia de la persona, mientras afronta su enfermedad y lucha por sobrevivir a ella. En un historial clínico riguroso no hay «sujeto»; los historiales clínicos modernos aluden al sujeto con una frase rápida («hembra albina trisómica de 21»), que podría aplicarse igual a una rata que a un ser humano. Para situar de nuevo en el centro al sujeto (el ser humano que se aflige y que lucha y padece) hemos de profundizar en un historial clínico hasta hacerlo narración o cuento; sólo así tendremos un «quién» además de un «qué», un individuo real, un paciente, en relación con la enfermedad... en relación con el reconocimiento médico físico.

El libro cuenta 24 historias de pacientes, cada cual más sugestiva, agrupadas en 4 partes llamadas Pérdidas, Excesos, Arrebatos y El mundo de los simples.

El caso que da nombre al libro habla de un hombre con prosopagnosia, incapaz de reconocer caras:

Pareció también decidir que la visita había terminado y empezó a mirar en torno buscando el sombrero. Extendió la mano y cogió a su esposa por la cabeza intentando ponérsela. ¡Parecía haber confundido a su mujer con un sombrero! Ella daba la impresión de estar habituada a aquellos percances.

En El hombre que se cayó de la cama, el paciente no reconoce su propia pierna:

Evidentemente una de las enfermeras que debía tener un sentido del humor un tanto macabro se había introducido subrepticiamente en la Sala de Disección, había sacado de allí una pierna y luego se la había metido a él en la cama para gastarle una broma cuando estaba aún completamente dormido. Esta explicación le tranquilizó mucho; pero considerando que una broma es una broma y que aquélla se pasaba ya un poco de la raya, lanzó fuera de la cama aquella pierna condenada. Pero, y en este punto perdió ya el tono coloquial y se puso de pronto a temblar, se puso pálido, cuando la tiró de la cama, sin explicarse cómo, cayó él también detrás de ella... y ahora la tenía unida al cuerpo.
—¡Mírela! —chilló, con una expresión de repugnancia—. ¿Ha visto usted alguna vez algo tan horrible, tan espantoso? Yo creí que un cadáver estaba muerto y se acabó. ¡Pero esto es misterioso! Y no sé... es espeluznante... ¡Parece como si la tuviera pegada!
La asió con las dos manos, con una violencia extraordinaria e intentó arrancársela del cuerpo y al no poder, se puso a aporrearla en un arrebato de cólera.
—¡Calma! —dije—. ¡Tranquilícese! ¡No se ponga así! No debe aporrear esa pierna de ese modo.
—¿Y por qué no? —preguntó irritado, agresivo.
—Porque esa pierna es suya —contesté—. ¿Es que no reconoce usted
su propia pierna?
Me miró con una expresión en la que había estupefacción, incredulidad, terror y curiosidad a la vez, todo ello mezclado con una especie de recelo jocoso.

En Reminiscencia nos habla de una mujer a la que sus ataques epilépticos la devolvían al pasado.

La señora O'C., cuando mejoró, y se recuperó del ataque, tuvo un período de tristeza y de miedo. «La puerta se está cerrando», decía. «Estoy perdiéndolo todo de nuevo. » Y realmente lo perdió, a mediados de abril cesaron las súbitas irrupciones de sensaciones y música y escenas de infancia, sus súbitos «arrebatos» epilépticos que la llevaban al mundo de la temprana infancia, que eran sin lugar a dudas «reminiscencias», y auténticas,

Asesinato cuenta la historia de Donald que cometió un asesinato del que no recordaba nada. Hasta que tuvo un accidente de bici en el que se golpeó la cabeza.

Se le interrogó con las debidas precauciones, con el mayor cuidado para evitar cualquier insinuación o sugerencia... y pronto se hizo evidente que se trataba de «reminiscencia» auténtica, aunque incontrolable. Conocía ya hasta los detalles más nimios del asesinato, todos los detalles revelados por el examen forense, pero que no se habían revelado en el juicio... ni a él.
Todo lo que antes había estado, o parecía, perdido u olvidado (incluso con hipnosis o con una inyección de amital) era recuperado y recuperable ahora. Más aun, era incontrolable; y aún más, completamente insoportable. Donald intentó suicidarse por dos veces en la unidad neuroquirúrgica y hubo que administrarle tranquilizantes fuertes y controlarle por la fuerza.

Los gemelos versa sobre dos hermanos que habían estado internados en instituciones desde los siete años, diagnosticados diversamente como autistas, psicóticos o gravemente retardados. Tenían una sorprendente habilidad numérica.

Volví al pabellón al día siguiente, llevaba conmigo el valioso libro de números primos. Les encontré encerrados en su comunión numérica, como la vez anterior, pero ésta, sin decir nada, me uní tranquilamente a ellos. Al principio mostraron un cierto recelo, pero al ver que no los interrumpía reanudaron su «juego» de primos de seis cifras. Al cabo de unos minutos decidí incorporarme al juego, aventuré un número, un primo de ocho cifras. Se giraron los dos hacia mí, luego se quedaron de pronto silenciosos e inmóviles, con una expresión de concentración profunda y puede que de asombro. Hubo una larga pausa (jamás los había visto hacer una pausa tan larga, debió durar medio minuto o más) y luego súbita y simultáneamente sonrieron los dos.
Habían visto de pronto, tras un proceso interno incomprensible, que mi número de ocho cifras era un número primo... y esto les produjo claramente una gran alegría

Y así un gran número de historias donde cada afección neurológica es la base de una inquietante y singular experiencia vital. Un libro que no tiene desperdicio.