Em junho, quatorze pesquisadores — a maioria deles no Google DeepMind, incluindo um de seus cofundadores — publicaram um estudo cuidadoso de 57 páginas sobre o que acontece com a inteligência artificial depois que ela nos alcança. Eles mapearam cada caminho técnico à frente e cada obstáculo no caminho. Então chegaram à questão do que tudo isso faz com a vida humana comum, escreveram cerca de cento e trinta palavras, e pararam.
Essa parada é a coisa mais interessante do artigo. Este post é sobre o porquê.
Primeiro, o que o artigo realmente diz
O artigo se chama From AGI to ASI, e vale a pena ser preciso sobre ele, porque a cobertura da imprensa não foi. Ele não é uma linha do tempo. Não nomeia nenhum ano para a IA em nível humano e nenhum ano para nada além disso. Ele deliberadamente deixa de lado toda a questão do quando, dizendo que seu objetivo é mapear o terreno "independentemente de quando a humanidade atinge esse marco." Quem disser que esse artigo prevê uma data está falando de uma manchete, não do artigo.
O que ele faz, em vez disso, é assumir que a IA em nível humano chega, e então fazer duas perguntas com rigor real: por quais caminhos a capacidade das máquinas poderia continuar subindo além desse ponto, e o que poderia desacelerar ou interromper isso? Quatro caminhos são mapeados — construir maior, inventar métodos genuinamente novos, sistemas se aprimorando a si mesmos, e inteligência emergindo de grandes coletivos de agentes de IA trabalhando juntos. Depois vêm os freios, e essa é a metade que ninguém cita: o mundo pode ficar sem dados de treinamento de alta qualidade; a energia, os chips, os minerais e o dinheiro necessários podem simplesmente deixar de ser acessíveis; os métodos de hoje podem atingir um teto; a própria pesquisa fica mais difícil conforme os campos maturam. Dois dos freios são especialmente concretos. Modelos treinados em conceitos humanos podem estar limitados por conceitos humanos. E qualquer nova ideia sobre o mundo físico ainda precisa ser testada no mundo físico, na velocidade em que o mundo físico funciona. Como eles colocam, isso por si só "poderia potencialmente limitar a taxa de crescimento da inteligência à taxa da ciência empírica, em vez da taxa de escalonamento computacional."
A conclusão deles é oferecida, em suas próprias palavras, "com muita incerteza (e, portanto, baixa confiança)." Essa cautela não é fraqueza. É como as pessoas sérias falam quando estão descrevendo algo cujo fim não conseguem ver — e é um bom motivo para confiar no único lugar onde eles são inequívocos.
O parágrafo que para
No fundo da seção sobre por que as sociedades poderiam deliberadamente desacelerar tudo isso, o artigo se volta, brevemente, para as pessoas. Aqui está essencialmente tudo o que ele diz:
"Não está claro como seria uma força de trabalho pós-AGI, se muitas tarefas cognitivas pudessem ser automatizadas e oferecidas de forma mais barata por serviços de IA do que por trabalhadores humanos."
Eles continuam: em escala suficiente, isso "exigiria repensar mecanismos econômicos fundamentais" — especificamente, eles nomeiam "a mudança do trabalho para o capital como o principal recurso econômico, e seu impacto potencial sobre o contrato social." Muitos outros aspectos de como os humanos vivem juntos, eles acrescentam, precisam ser examinados quanto à sua capacidade de resistir.
E então o parágrafo termina assim: "Dar respostas a essas questões importantes está fora do escopo deste relatório."
Pronto. Em um documento que dedica páginas a dados de treinamento, largura de banda de memória e os limites teóricos da inteligência, a questão de como as pessoas vão se alimentar recebe cento e trinta palavras e uma transferência de responsabilidade educada. Procure em todo o artigo por desigualdade, por quem fica com os ganhos, por como a abundância será distribuída, e você não vai encontrar nada. Não porque os autores sejam negligentes — porque eles traçaram uma fronteira, e disseram isso em voz alta.
Por que eles pararam, e por que isso é justo
Seria fácil e errado ler essa frase como uma esquiva. Não é. É uma fronteira de categoria, e uma fronteira honesta.
Tudo o mais naquele artigo é uma questão de engenharia. Essa arquitetura vai escalar? Os dados vão durar? Quão rápido os experimentos podem ser executados? Essas perguntas têm respostas certas que as evidências podem eventualmente resolver, e essas pessoas estão entre as mais qualificadas do mundo para persegui-las.
"Como os benefícios de tudo isso devem chegar às pessoas?" não é esse tipo de questão. Nenhuma quantidade de poder computacional resolve isso. É uma questão de design — uma questão sobre como escolhemos organizar as coisas, respondível apenas propondo um arranjo e defendendo-o abertamente. Um treinamento completamente diferente. E, para o crédito deles, um dos próprios autores do artigo está trabalhando nesse problema em outro lugar: o texto direciona os leitores a uma análise complementar sobre o que eles chamam de prosperidade pós-trabalho, em vez de fingir que este artigo já havia coberto isso.
Então a lacuna não é negligência. É uma vacância. Alguém precisa preenchê-la, e não serão as pessoas construindo os motores que o farão.
Eles mapearam cada rota que as máquinas poderiam seguir. A única coisa que não mapearam é a única coisa que decide se tudo isso é uma boa notícia.
Como é uma resposta
Copiosis é uma resposta candidata — uma proposta específica e verificável exatamente para a lacuna que aquele artigo deixa aberta.
Considere o que "a transição do trabalho para o capital como principal recurso econômico" realmente ameaça. Isso é alarmante por causa de uma única suposição escondida no sistema que usamos por acaso: que o acesso de uma pessoa à comida, moradia e cuidado passa pela venda do seu trabalho. Rompa esse elo e a transição é uma catástrofe. Nunca crie esse elo em primeiro lugar, e a transição é apenas… máquinas fazendo mais do trabalho.
Esse é o movimento estrutural. Em Copiosis, as necessidades simplesmente são providas — comida, moradia, saúde, educação, sem conta anexada. As pessoas ganham Recompensas por Benefício Líquido por tornar a vida melhor para os outros e para o planeta, e essas recompensas compram os luxos da vida. Nada nesse design exige que um ser humano realize o trabalho rotineiro. Se uma máquina cultiva a comida, a comida ainda chega às pessoas, porque o acesso nunca passou por um salário.
O que significa que a transição do trabalho para o capital não precisa ser combatida, freada ou revertida. Ela precisa ser pousada em algum lugar construído para recebê-la. Fizemos a versão mais completa desse argumento em A IA está construindo a rampa de acesso; o que há de novo aqui é que as pessoas que constroem a tecnologia agora colocaram a mesma questão na mesa por conta própria, em um veículo revisado por pares, com suas próprias palavras.
Mais duas frases que merecem atenção
O artigo contém duas frases que merecem mais atenção do que receberam.
A primeira, sobre se o mundo conseguiria coordenar seu caminho até um ritmo seguro: dada a dificuldade da coordenação internacional e a raridade histórica de estruturas regulatórias globais, eles escrevem, uma governança multilateral alinhada "permanece um alvo elusivo, talvez irrealista."
A segunda é mais afiada. Baseando-se em uma estrutura já estabelecida sobre como a tecnologia se espalha sob rivalidade geopolítica, eles concluem que a competição sustentada entre grupos "favorece sistematicamente o desenvolvimento e a adoção de tecnologias que aumentam a competitividade, independentemente de suas implicações para o bem-estar humano."
Leia isso de novo, porque não é uma reclamação sobre tecnologia. É a descrição de uma estrutura de incentivos — uma na qual "isso melhora a vida das pessoas?" não está entre as perguntas feitas, porque nada na engrenagem pergunta isso. Esse é exatamente o diagnóstico do qual Copiosis parte, e exatamente o que o algoritmo foi construído para corrigir: um sistema onde a coisa recompensada é o benefício produzido, de modo que a pergunta não pode ser pulada.
E então, generosamente, o artigo oferece um padrão pelo qual ambos os sistemas podem ser julgados. Progresso, escrevem os autores, significa desenvolvimentos que "preservam ou fortalecem a autonomia individual e coletiva, promovem o florescimento humano e a dignidade, e são amplamente reconhecidos como benéficos e úteis pelas sociedades." Assinaríamos essa frase sem mudar uma palavra. A pergunta honesta que vem em seguida é simplesmente: qual arranjo tem mais chance de produzir isso — um que faz a prosperidade passar pelo dinheiro, ou um construído para direcioná-la ao benefício diretamente?
Seção de honestidade, como sempre
Algumas coisas que este post não está afirmando, ditas claramente para que ninguém precise adivinhar.
- Ninguém no DeepMind endossou nada parecido com Copiosis. Eles nomearam uma pergunta. Nós estamos oferecendo uma resposta. São atos diferentes, e confundi-los seria exatamente o tipo de exagero que tentamos não cometer.
- O artigo não dá datas. Se você vir este post citado como "o Google diz que a AGI chega no ano X", a citação está errada. Ele diz que a possibilidade de ultrapassar bastante o nível humano "dentro da próxima década ou duas" não pode ser facilmente descartada — uma dupla negativa sobre uma possibilidade, e uma cuidadosa.
- O artigo assume que o problema da segurança será resolvido. Os próprios autores sinalizam isso: não é "de forma alguma algo garantido, nem é uma suposição leve." Tudo o que vem depois, incluindo nosso argumento, herda essa suposição.
Preencha a lacuna
Aqui está o que fica com a gente. Catorze pessoas com uma visão tão clara dessa tecnologia quanto qualquer outra pessoa na Terra se sentaram para mapear para onde ela vai. Elas preencheram as rotas, os obstáculos, a física, as questões de pesquisa em aberto — e deixaram uma região sem rótulo, marcada apenas importante, e não é a nós que cabe responder.
A lacuna é um convite. Ela será preenchida deliberadamente, por pessoas que pensaram bastante sobre como a prosperidade deveria chegar aos seres humanos, ou por padrão, por aquilo que os incentivos existentes produzirem enquanto ninguém estiver especificando nada. Uma dessas opções produz algo que escolhemos. A outra produz o que vier.
É por isso que este projeto existe — para que, quando a pergunta finalmente for feita a sério, já exista uma resposta totalmente elaborada sobre a mesa. Comece por como funciona, teste isso contra a transição e as objeções difíceis, e depois nos conte onde ela quebra. Ceticismo é bem-vindo. Preencher uma lacuna tão importante deveria ser difícil.