En junio, catorce investigadores — la mayoría en Google DeepMind, incluido uno de sus cofundadores — publicaron un estudio minucioso de 57 páginas sobre lo que sucede con la inteligencia artificial después de que nos alcance. Mapearon cada ruta técnica hacia adelante y cada obstáculo en el camino. Luego llegaron a la pregunta de qué le hace todo esto a la vida cotidiana de las personas, escribieron alrededor de ciento treinta palabras, y se detuvieron.
Ese alto es lo más interesante de todo el estudio. Esta publicación trata sobre el porqué.
Primero, qué dice realmente el estudio
El estudio se llama From AGI to ASI, y vale la pena ser precisos al respecto, porque la cobertura mediática no lo ha sido. No es una línea de tiempo. No menciona ningún año para la IA a nivel humano ni ningún año para lo que venga después. Deja deliberadamente entre paréntesis toda la cuestión del cuándo, diciendo que su objetivo es mapear el terreno "independientemente de cuándo la humanidad alcance este hito." Si alguien te dice que este estudio predice una fecha, te está hablando de un titular, no del estudio.
Lo que hace en cambio es suponer que la IA a nivel humano llega, y luego plantear dos preguntas con verdadero rigor: ¿por qué rutas podría seguir subiendo la capacidad de las máquinas más allá de ese punto?, y ¿qué podría frenarla o detenerla? Se mapean cuatro rutas — construir más grande, inventar métodos genuinamente nuevos, sistemas que se mejoran a sí mismos, e inteligencia que emerge de grandes colectivos de agentes de IA trabajando juntos. Luego vienen los frenos, y esta es la mitad que nadie cita: el mundo podría quedarse sin datos de entrenamiento de alta calidad; la energía, los chips, los minerales y el dinero requeridos simplemente podrían dejar de ser costeables; los métodos actuales podrían topar con un techo; la investigación misma se vuelve más difícil conforme los campos maduran. Dos de los frenos son especialmente aterrizados. Los modelos entrenados con conceptos humanos podrían quedar encerrados por conceptos humanos. Y cualquier idea nueva sobre el mundo físico todavía tiene que probarse en el mundo físico, a la velocidad a la que corre el mundo físico. Como lo dicen ellos, eso solo "podría potencialmente limitar la velocidad del crecimiento de la inteligencia a la velocidad de la ciencia empírica en lugar de la velocidad del escalamiento computacional."
Su propia conclusión se ofrece, en sus palabras, "con mucha incertidumbre (y por lo tanto baja confianza)." Esa cautela no es debilidad. Así suena la gente seria cuando describe algo cuyo final no puede ver — y es una buena razón para confiar en el único lugar donde son inequívocos.
El párrafo que se detiene
En lo profundo de la sección sobre por qué las sociedades podrían frenar deliberadamente todo esto, el estudio voltea, brevemente, hacia las personas. Esto es esencialmente todo lo que dice:
"No está claro cómo se vería una fuerza laboral post-AGI, si muchas tareas cognitivas pudieran automatizarse y ofrecerse más barato mediante servicios de IA que mediante trabajadores humanos."
Continúan: a suficiente escala, esto "requeriría repensar los mecanismos económicos fundamentales" — específicamente, mencionan "el cambio del trabajo al capital como el principal recurso económico, y su posible impacto en el contrato social." Muchos otros aspectos de cómo conviven los seres humanos, agregan, necesitan examinarse para ver qué tan bien resisten.
Y luego el párrafo termina así: "Dar respuesta a estas preguntas importantes está fuera del alcance de este informe."
Eso es todo. En un documento que dedica páginas enteras al suministro de datos de entrenamiento, al ancho de banda de memoria y a los límites teóricos de la inteligencia, la pregunta de cómo comerá la gente recibe ciento treinta palabras y un cortés "eso le toca a alguien más". Busca en todo el artículo la palabra desigualdad, busca quién se queda con las ganancias, busca cómo se reparte la abundancia, y no lo vas a encontrar. No porque a los autores se les haya pasado — sino porque trazaron una frontera, y lo dijeron en voz alta.
Por qué se detuvieron, y por qué eso es justo
Sería fácil, y equivocado, leer esa frase como una evasiva. No lo es. Es una frontera entre categorías, y una honesta.
Todo lo demás en ese artículo es una pregunta de ingeniería. ¿Esta arquitectura va a escalar? ¿Los datos van a alcanzar? ¿Qué tan rápido pueden correr los experimentos? Esas preguntas tienen respuestas correctas que la evidencia eventualmente puede resolver, y estas son de las personas mejor calificadas del mundo para perseguirlas.
"¿Cómo deberían llegar a la gente los beneficios de todo esto?" no es esa clase de pregunta. Ninguna cantidad de cómputo la resuelve. Es una pregunta de diseño — una pregunta sobre cómo elegimos organizar las cosas, que solo se responde proponiendo un arreglo y defendiéndolo abiertamente. Un entrenamiento completamente distinto. Y hay que reconocerlo: uno de los propios autores del artículo está trabajando el problema en otro lado: el texto remite a los lectores a un análisis complementario sobre lo que llaman prosperidad post-laboral, en lugar de fingir que este artículo ya lo había resuelto.
Así que el vacío no es negligencia. Es una vacante. Alguien tiene que llenarlo, y no van a ser quienes construyen los motores.
Trazaron cada ruta que las máquinas podrían tomar. Lo único que no trazaron es lo único que decide si algo de esto es una buena noticia.
Cómo se ve una respuesta
Copiosis es una respuesta candidata — una propuesta concreta y verificable, hecha exactamente para el vacío que ese artículo deja abierto.
Piensa en lo que realmente amenaza "el desplazamiento del trabajo hacia el capital como principal recurso económico". Es alarmante por un solo supuesto oculto en el sistema que usamos por costumbre: que el acceso de una persona a la comida, la vivienda y el cuidado fluye a través de vender su trabajo. Rompe ese vínculo y el desplazamiento es una catástrofe. Nunca crees ese vínculo desde el principio y el desplazamiento es solo… máquinas haciendo más del trabajo.
Ese es el movimiento estructural. En Copiosis, las necesidades simplemente se proveen — comida, vivienda, salud, educación, sin factura de por medio. La gente gana Recompensas por Beneficio Neto por hacerle la vida mejor a otros y al planeta, y esas recompensas compran los lujos de la vida. Nada en ese diseño requiere que un humano realice el trabajo rutinario. Si una máquina cultiva el alimento, el alimento igual llega a la gente, porque el acceso nunca se canalizó a través de un salario.
Lo cual significa que el desplazamiento del trabajo hacia el capital no tiene que combatirse, frenarse ni revertirse. Tiene que aterrizar en un lugar construido para recibirlo. Ya presentamos la versión más completa de este argumento en La IA está construyendo la rampa de acceso; lo nuevo aquí es que quienes construyen la tecnología ahora han puesto la misma pregunta sobre la mesa ellos mismos, en un medio revisado por pares, con sus propias palabras.
Dos líneas más que vale la pena detenerse a pensar
El artículo contiene dos oraciones que merecen más atención de la que han recibido.
El primero, sobre si el mundo podría coordinarse para avanzar a un ritmo seguro: dada la dificultad de la coordinación internacional y lo poco frecuente que ha sido históricamente lograr marcos regulatorios globales, escriben que una gobernanza multilateral alineada "sigue siendo un objetivo esquivo, quizás poco realista."
El segundo es más contundente. Partiendo de un marco ya establecido sobre cómo se propaga la tecnología bajo rivalidad geopolítica, concluyen que la competencia sostenida entre grupos "favorece sistemáticamente el desarrollo y adopción de tecnologías que aumentan la competitividad, sin importar sus implicaciones para el bienestar humano."
Lee eso otra vez, porque no es una queja sobre la tecnología. Es la descripción de una estructura de incentivos — una en la que "¿esto mejora la vida de las personas?" no está entre las preguntas que se hacen, porque nada en la maquinaria la plantea. Ese es precisamente el diagnóstico del que parte Copiosis, y precisamente lo que el algoritmo está diseñado para corregir: un sistema donde lo que se recompensa es el beneficio producido, de modo que la pregunta no se pueda saltar.
Y luego, generosamente, el artículo ofrece un estándar contra el cual pueden juzgarse ambos sistemas. El progreso, escriben los autores, significa desarrollos que "preservan o fortalecen la autonomía individual y colectiva, promueven el florecimiento y la dignidad humana, y son ampliamente reconocidos como beneficiosos y útiles por las sociedades." Firmaríamos esa frase sin cambiarle una palabra. La pregunta honesta que sigue es simplemente: ¿qué arreglo tiene más probabilidades de lograrlo — uno que canaliza la prosperidad a través del dinero, o uno construido para canalizarla directamente hacia el beneficio?
Sección de honestidad, como siempre
Algunas cosas que esta publicación no está afirmando, dichas con claridad para que nadie tenga que adivinar.
- Nadie en DeepMind respaldó nada parecido a Copiosis. Ellos plantearon una pregunta. Nosotros ofrecemos una respuesta. Son cosas distintas, y confundirlas sería exactamente el tipo de exageración que tratamos de no cometer.
- El artículo no da fechas. Si ves esta publicación citada como "Google dice que la AGI llegará en el año X," la cita está mal. Dice que la posibilidad de superar ampliamente el nivel humano "dentro de la próxima década o dos" no puede descartarse fácilmente — una doble negación sobre una posibilidad, y cuidadosa además.
- El artículo asume que el problema de la seguridad se resuelve. Los propios autores lo señalan: esto "no es en absoluto un hecho garantizado, ni una suposición menor." Todo lo que se deriva de ahí, incluido nuestro argumento, hereda esa suposición.
Llena el espacio en blanco
Esto es lo que se nos queda. Catorce personas con una de las visiones más claras de esta tecnología que existen en el planeta se sentaron a trazar hacia dónde va. Delinearon las rutas, los obstáculos, la física, las preguntas de investigación abiertas — y dejaron una región sin etiquetar, marcada solo como importante, y no nos corresponde a nosotros responderla.
El espacio en blanco es una invitación. Se llena de manera deliberada, por personas que pensaron a fondo cómo debería llegar la prosperidad a los seres humanos, o por default, por lo que sea que los incentivos actuales produzcan mientras nadie lo define. Uno de esos caminos produce algo que elegimos. El otro produce lo que sea que nos toque.
Por eso existe este proyecto — para que cuando finalmente se haga esa pregunta en serio, ya haya una respuesta completamente desarrollada sobre la mesa. Empieza por cómo funciona, ponla a prueba contra la transición y las objeciones difíciles, y luego dinos dónde falla. El escepticismo es bienvenido. Llenar un vacío tan importante como este debería ser difícil.