El cofundador de Anthropic eligió un foro del FMI para declarar que ya estamos en la tan temida y fantaseada singularidad.
Jack Clark comenzó su intervención en Bangkok diciendo algo que, en cualquier otra conferencia, habría sobrado: “Soy un ser humano”. Dijo además que existía una sola copia de él. Que le había tomado casi cuarenta años adquirir la experiencia necesaria para estar allí.
Después, y a propósito de su experiencia, pidió imaginar qué ocurriría si pudiera multiplicarse y poner sus copias a trabajar simultáneamente. La presentación preparaba su argumento: un investigador humano necesita años de formación; uno artificial puede reproducirse mientras haya capacidad informática para ejecutarlo.
El cofundador de Anthropic llevó al encuentro del FMI una afirmación todavía más ambiciosa: la singularidad ya comenzó.
Para quien la conoce, esa palabra trae consigo imágenes de máquinas que despiertan y anuncian que ya no necesitan instrucciones. Pero una escena así opacaría lo realmente importante: un sistema que encuentra cómo construir otro mejor.
En una pantalla aparecería la propuesta. Los investigadores la comprobarían. El siguiente modelo incorporaría el hallazgo y ayudaría a producir otro avance. Al principio, todo podría parecer simplemente una jornada especialmente productiva.
La posibilidad inquietante está en lo que sucedería después.
En 1965, el matemático I. J. Good formuló el mecanismo: diseñar máquinas es una actividad intelectual; una máquina que superara ampliamente nuestras capacidades podría diseñar otras mejores. Esas sucesoras podrían repetir el proceso. Lo llamó una «explosión de inteligencia».
La intuición tenía antecedentes. En 1958, el matemático Stanislaw Ulam recordó una conversación con otro matemático, John von Neumann, uno de los pioneros de la computación moderna. Habían hablado de una aceleración tecnológica que podría transformar la vida humana hasta volverla irreconocible.
El también matemático y escritor de ciencia ficción Vernor Vinge llevó esa intuición más lejos. En 1993 presentó La inminente singularidad tecnológica: cómo sobrevivir en la era poshumana, un ensayo presentado en un simposio patrocinado por la NASA. Su argumento era perturbador: cuando inteligencias superiores a las nuestras impulsaran el progreso, podrían hacerlo a un ritmo que desbordaría nuestra capacidad de imaginar lo que vendría después.
El ensayo ayudó a popularizar la singularidad y se convirtió en una referencia del debate sobre el futuro de la inteligencia artificial. Su influencia es evidente en la sala de Bangkok: Clark lo citó para sostener que aquel horizonte imaginado por Vinge ya empezaba a hacerse presente.
Ese es el horizonte de la singularidad tecnológica: una evolución en nuestra capacidad de producir cambios, hasta volver irreconocible el futuro que intentamos prever.
Pero ¿cómo podría una inteligencia creada por nosotros y apenas superior a la nuestra llegar tan lejos?
Imaginemos un laboratorio que entrena modelos de IA. Cada experimento cuesta tiempo, electricidad y dinero. Un sistema descubre un método que permite aprender lo mismo con menos cálculos. Los investigadores lo verifican y emplean los recursos liberados en experimentos que antes no podían realizar.
Uno de los modelos mejorados permite construir otro modelo más competente para investigar IA. El modelo nuevo encuentra una mejora que el anterior no había conseguido formular. La nueva generación incorpora esa ventaja y vuelve a trabajar sobre el problema.
La distancia inicial, es decir la mejora, puede darse en pasos pequeños. Pero cada mejora aumenta la capacidad de encontrar la siguiente. Si además se acorta el tiempo necesario para conseguirla, el laboratorio podría empezar a avanzar a un ritmo que sus propios investigadores difícilmente hubieran podido anticipar.
Eso explica la posibilidad de la singularidad. No demuestra que vaya a ocurrir.
Quizá el siguiente avance exija un chip que todavía no existe. Quizá las primeras mejoras sean fáciles y las posteriores requieran esfuerzos todavía no previstos.
Las copias de los nuevos modelos añaden capacidad, pero también pueden compartir errores. Un millar de investigadores artificiales con el mismo punto ciego podrían recorrer con extraordinaria rapidez un camino equivocado. Y dar resultados potencialmente caóticos.
Para hablar de una explosión de inteligencias habría que observar que el circuito de mejoras consigue superar los escollos de manera sostenida.
Clark cree reconocer las primeras señales de la singularidad. En su discurso citó el aumento de la producción de código dentro de Anthropic y relató casos en los que modelos detectaron errores en soluciones de especialistas a problemas de física teórica. Su interpretación es que esa capacidad científica puede extenderse a la investigación de la propia IA.
Ahí está el salto que podemos examinar y cuestionar. Escribir más código puede acelerar el trabajo sin mejorar sus resultados. Detectar un error que escapó a los especialistas es un logro notable. Pero llevar adelante una investigación exige, además, decidir qué preguntar a continuación, cómo ponerlo a prueba y qué conclusiones permiten los resultados. Ninguno de los dos ejemplos demuestra, por sí solo, una cadena de mejoras que se acelere.
Clark conoce desde dentro el desarrollo que describe. También participa en él. Su testimonio merece atención; su diagnóstico, sin embargo, necesita pruebas que otros puedan examinar.
Mientras llega esa evidencia, hay una consecuencia sobre la que podemos reflexionar sin declarar todavía inaugurada la singularidad.
Supongamos que está aquí y un laboratorio empieza a recibir propuestas de tratamientos médicos mucho más rápido de lo que puede probarlas. Cada semana aparecen estudios prometedores. Los recursos siguen siendo limitados. Alguien debe elegir.
¿Qué se prueba primero? ¿Una enfermedad con un mercado rentable o una que provoca más sufrimiento entre personas pobres? Una inteligencia extraordinaria podría ayudar a calcular las consecuencias de ambas decisiones. Los criterios para preferir una seguirían en disputa entre los humanos.
Añadamos otra dificultad: el sistema propone el tratamiento médico, explica por qué debería funcionar y recomienda el experimento con el que se evaluará.
Depender de conocimientos ajenos es habitual en la ciencia y la tecnología modernas. Ninguna persona domina por sí sola todo lo necesario para fabricar una vacuna o construir un avión. Podemos repartir el trabajo, contrastar resultados y detectar errores.
El problema aparecería si esa capacidad colectiva de comprobación queda por detrás de la producción de hallazgos. Es decir, ¿qué pasaría si necesitáramos recurrir al mismo sistema para entender lo que propuso, decidir cómo probarlo y evaluar si la prueba fue suficiente?
Seguiría habiendo una firma humana al final del proceso, sin duda (la de la o las personas que encabezaron toda la iniciativa). Pero ¿qué estaría garantizando esa firma? Podríamos autorizar más decisiones y comprender menos sus fundamentos en poco tiempo.
En 1965, el matemático I. J. Good llevó su argumento hasta una consecuencia última: si diseñamos una máquina que puede diseñar otras más inteligentes, estas podrían encargarse de las invenciones posteriores. Esa máquina sería la última invención que necesitaríamos realizar como humanos. Pero había condición que contenía toda la dificultad: aquella inteligencia superior tendría que ser lo bastante dócil para enseñarnos a mantenerla bajo control.
La condición sigue vigente.
En Bangkok, Clark recordó a su audiencia cuánto tiempo había necesitado para convertirse en la persona que hablaba ante ella. Su argumento invitaba a imaginar cuánto podríamos descubrir si esa capacidad se multiplicara.
Queda por saber si nuestra capacidad de juzgar lo descubierto crecería al mismo ritmo.
Quizá no tenemos una fecha precisa para el comienzo de la singularidad. Pero de llegar, habría una señal que debería preocuparnos: que ante una decisión importante sólo pudiéramos argumentar “el sistema lo recomienda”. En ese momento sabríamos que cedimos tanto que, ante un error, ya no tendríamos la capacidad de saber dónde se equivocó el sistema.
Publicar un comentario