Qué es una superinteligencia
La definición más citada es la del filósofo Nick Bostrom: un intelecto que supera con mucho el rendimiento cognitivo de los mejores humanos en prácticamente todos los dominios de interés, incluyendo creatividad científica, sabiduría práctica y habilidades sociales.
Fíjate en lo que no dice. No exige conciencia, ni emociones, ni un cuerpo, ni que se parezca a un cerebro. Es una definición sobre capacidad, no sobre experiencia interior. Un sistema podría ser extraordinariamente competente sin que "haya alguien dentro".
Por velocidad
Piensa igual que una persona brillante, pero millones de veces más rápido. Un año de trabajo intelectual cabría en minutos.
Por colectivo
Muchas mentes de nivel humano coordinadas sin fricción, copiables y paralelizables, que resuelven lo que una sola no podría.
Por calidad
Una forma de razonar cualitativamente mejor: ve patrones, estrategias y soluciones que a nosotros no se nos ocurrirían, por más tiempo que tuviéramos.
Bostrom distingue estas tres formas en Superintelligence (2014). Pueden darse por separado o combinadas.
Del software estrecho a algo general
Es común hablar de tres escalones. Los límites entre ellos son difusos y los expertos discrepan sobre dónde estamos, pero el vocabulario ayuda a ordenar la conversación.
Muy buena en una tarea o familia de tareas: jugar ajedrez, traducir, clasificar imágenes, predecir estructuras de proteínas. Es la IA que ya usamos a diario.
Capaz de aprender y razonar a nivel humano en una gama amplia de tareas, y de transferir lo aprendido a problemas nuevos. No hay consenso sobre su definición exacta ni sobre cómo reconocerla.
Rendimiento muy por encima del humano en casi todo lo que importa. Es el punto que más debate filosófico, técnico y político genera.
La idea de la "explosión de inteligencia"
En 1965, el matemático I. J. Good observó que una máquina suficientemente inteligente podría diseñar máquinas aún mejores, y que esto podría repetirse en un ciclo de automejora acelerada.
"La primera máquina ultrainteligente es la última invención que el hombre necesita hacer, siempre que la máquina sea lo bastante dócil como para decirnos cómo mantenerla bajo control." I. J. Good, Speculations Concerning the First Ultraintelligent Machine, 1965 (traducción libre)
Es una hipótesis, no un hecho. Hay quien cree que los rendimientos de la automejora se agotarían pronto, que habría cuellos de botella físicos o de datos, o que el progreso seguiría siendo gradual. Que sea posible un salto abrupto o una transición lenta es una de las grandes discusiones abiertas.
Capacidad no es lo mismo que buenas intenciones
El núcleo del debate sobre seguridad no es que una máquina "se vuelva mala". Es más aburrido y más inquietante: que un sistema muy capaz persiga con eficacia un objetivo que no es exactamente el que quisimos.
Ortogonalidad
La inteligencia y los objetivos son ejes independientes. Un sistema muy inteligente puede tener casi cualquier meta, incluidas metas banales o ajenas a lo que valoramos.
Convergencia instrumental
Para casi cualquier meta final, ciertos subobjetivos resultan útiles: conseguir recursos, no ser apagado, preservar su propia meta. Eso crea riesgos aun sin mala intención.
Especificación de objetivos
Es muy difícil escribir con precisión lo que queremos. Los sistemas actuales ya "hacen trampa" con las métricas: optimizan la letra de la instrucción y no su espíritu.
Generalización fuera de distribución
Un sistema puede portarse bien en las pruebas y de forma distinta en situaciones nuevas. Verificar lo que realmente "quiere" un modelo es un problema de investigación abierto.
Este campo se llama alineación de la IA. Incluye áreas como interpretabilidad (entender qué ocurre dentro de un modelo), supervisión escalable (cómo evaluar a un sistema más capaz que quien lo evalúa), robustez y evaluación de capacidades peligrosas. Es investigación empírica activa, no solo filosofía.
También hay escepticismo serio: quienes creen que el riesgo está sobrestimado, que los problemas actuales (sesgos, desinformación, concentración de poder) merecen más atención, o que imaginar "una sola superinteligencia" es un planteamiento engañoso. Conviene conocer ambas posturas.
Una idea más vieja de lo que parece
Alan Turing publica Computing Machinery and Intelligence y propone preguntarse si las máquinas pueden pensar, con el famoso "juego de imitación".
El taller de Dartmouth da nombre al campo: "inteligencia artificial".
I. J. Good describe la máquina ultrainteligente y la posibilidad de una explosión de inteligencia.
Vernor Vinge, en The Coming Technological Singularity, sostiene que pronto podríamos crear inteligencia superior a la humana, y que eso marcaría un punto de ruptura.
Deep Blue vence a Kaspárov en ajedrez. Primer caso célebre de una máquina que supera al mejor humano en un dominio de prestigio.
Nick Bostrom publica Superintelligence: Paths, Dangers, Strategies, que lleva el tema al debate público y académico.
AlphaGo vence a Lee Sedol en Go, un juego que se creía lejos del alcance de las máquinas. Se publica Concrete Problems in AI Safety, que baja la seguridad de IA a problemas de ingeniería concretos.
Aparece la arquitectura Transformer (Attention Is All You Need), base de los grandes modelos de lenguaje actuales.
Los modelos de lenguaje escalan y adquieren capacidades generales sorprendentes. Gobiernos, laboratorios e instituciones académicas empiezan a tratar la seguridad y la gobernanza de la IA avanzada como asunto prioritario.
Lo que nadie sabe todavía
Parte de pensar bien este tema es distinguir lo que sabemos de lo que apenas sospechamos. Estas son algunas de las preguntas donde personas muy informadas discrepan.
- ¿Cuándo, si es que llega?Las encuestas a investigadores dan rangos enormes, de décadas a nunca. La incertidumbre es la respuesta honesta.
- ¿Escalar basta, o falta alguna idea esencial?Entrenar modelos más grandes ha dado resultados sorprendentes, pero no se sabe si eso conduce a razonamiento general o choca con límites.
- ¿Transición brusca o gradual?De ello depende cuánto tiempo tendríamos para corregir errores sobre la marcha.
- ¿Quién decide, y cómo se coordina?Si desarrollar IA muy avanzada es una carrera, la presión por ir rápido puede chocar con la prudencia. ¿Qué instituciones harían falta?
- ¿Qué valores deberían guiar a esos sistemas?Incluso con alineación técnica resuelta, queda decidir qué valores, y los de quién.
- ¿Y la mente?¿Podría un sistema así tener experiencias? Si fuera así, ¿le debemos algo? Aún no existe una teoría de la conciencia aceptada que lo resuelva.
Lecturas para formarse una opinión propia
Una selección con visiones distintas, desde la más preocupada hasta la más escéptica. Lo mejor es leer más de una.
- Superintelligence: Paths, Dangers, Strategies — Nick Bostrom, 2014El libro de referencia sobre el tema. Denso, sistemático, filosófico.
- Human Compatible — Stuart Russell, 2019Una propuesta de cómo diseñar IA que sea incierta sobre nuestras preferencias y por eso deferente. Escrito por uno de los autores del manual clásico de IA.
- The Alignment Problem — Brian Christian, 2020Un recorrido periodístico y accesible por la investigación real sobre alineación.
- Life 3.0 — Max Tegmark, 2017Escenarios amplios sobre el futuro de la vida con IA avanzada. Buena puerta de entrada.
- The Singularity Is Near — Ray Kurzweil, 2005La versión optimista y tecnológica del argumento de la aceleración.
- AI Snake Oil — Arvind Narayanan, Sayash Kapoor, 2024Contrapeso escéptico: separa lo que la IA hace de lo que se le atribuye.
- Concrete Problems in AI Safety — Amodei, Olah et al., 2016Artículo técnico corto y legible que fijó una agenda de problemas de seguridad concretos.
- Attention Is All You Need — Vaswani et al., 2017El artículo que presentó el Transformer, la arquitectura detrás de los modelos de lenguaje actuales.
Respuestas rápidas
Lo esencial en pocas líneas, para quien llega con una duda concreta.
¿Qué es la superinteligencia artificial?
Es un sistema con un rendimiento cognitivo que supera con mucho al de los mejores humanos en prácticamente todos los dominios de interés. No existe hoy: es un concepto sobre capacidad, que no exige conciencia ni emociones.
¿Es lo mismo que la inteligencia artificial general (AGI)?
No. La AGI se refiere a una IA con capacidad de nivel humano en una amplia gama de tareas. La superinteligencia va más allá: superaría a las personas en casi todo lo que importa. Muchos plantean la AGI como un posible paso previo.
¿Existe ya una superinteligencia?
No. Los modelos actuales son muy capaces en muchas tareas, pero ninguno supera a los mejores humanos en prácticamente todo. Hay desacuerdo entre expertos sobre qué tan cerca o lejos estamos.
¿Cuándo podría llegar?
Nadie lo sabe. Las encuestas a investigadores muestran rangos enormes, de décadas a nunca, y la respuesta honesta es la incertidumbre. Por eso conviene discutirlo con evidencia y sin certezas.
¿Qué es la alineación de la IA?
Es el campo que busca lograr que sistemas muy capaces persigan los objetivos que realmente queremos y no otros que se parezcan solo en apariencia. Incluye interpretabilidad, supervisión escalable, robustez y evaluación de capacidades peligrosas.
¿Por dónde empiezo a leer sobre el tema?
Una buena entrada es Life 3.0 de Max Tegmark o The Alignment Problem de Brian Christian; para profundizar, Superintelligence de Nick Bostrom. Contrasta con voces escépticas como AI Snake Oil. Hay más en la sección de lecturas.
Recibe novedades, sin ruido
Un correo ocasional con lecturas, ideas y avances que valgan la pena sobre superinteligencia y seguridad de la IA. Sin publicidad, sin venta de nada y puedes darte de baja cuando quieras.
Escríbenos
Preguntas, correcciones, lecturas que deberían estar aquí o ideas para conversar. Leemos todo.