Estamos desenvolvendo IA mais rápido do que preparamos a sociedade para recebê-la.

Para cada dólar investido em tornar a IA mais capaz, apenas uma fração é destinada às instituições, competências e normas que determinam se seus benefícios serão compartilhados ou desperdiçados. Essa lacuna é uma escolha. Somos uma coalizão que trabalha para fechá-la.

Conheça a coalizão Leia o argumento

O outro lado do alinhamento

A ideia / Introdução

A maior parte dos esforços e do capital em IA se concentra em duas tarefas: tornar os sistemas mais capazes e alinhá-los aos valores humanos.

Ambas são importantes. Mas mesmo um sistema perfeitamente alinhado ficará aquém do esperado — ou causará danos reais — se for inserido em economias, governos e sistemas de informação despreparados para recebê-lo.

Chamamos esse trabalho negligenciado de alinhamento reverso: a reformulação intencional de instituições, normas, competências e governança para que as sociedades possam absorver a IA com segurança e compartilhar amplamente seus ganhos.

Esse tipo de problema não é novo.

A industrialização, a eletrificação e a internet exigiram, cada uma, décadas de inovação institucional antes que seus benefícios se concretizassem. As empresas da era da linha de montagem se pareciam com linhas de montagem. As instituições que governavam a internet se pareciam com a internet.

A história indica que essas adaptações não são complementos opcionais da mudança tecnológica. Elas são as condições para seu sucesso.

Se não for enfrentado,

esse descompasso produz três falhas previsíveis.

Produtividade sem prosperidade

O trabalho é reorganizado mais rápido do que as pessoas conseguem se requalificar ou se deslocar, e os ganhos nunca chegam à maioria delas.

Execução sem verificação

À medida que o custo de gerar textos, imagens e código despenca, o recurso escasso passa a ser a capacidade humana de verificar, atribuir autoria e se responsabilizar pelo que é produzido.

Capacidade sem freio

As mesmas ferramentas que tornam as instituições mais capazes podem concentrar poder, a menos que os direitos de recurso e contestação avancem junto com elas.

Nada disso é inevitável.

Cada uma dessas falhas é consequência da negligência — e a negligência pode ser revertida.

O que precisa ser construído

O florescimento humano na próxima década depende de um conjunto de grandes desafios sociotécnicos.

Resumo das recomendações

Investimentos amplos e coordenados nas dimensões humana e institucional da transformação pela IA. Eles abrangem identidade, privacidade, mercados, governança, trabalho e conhecimento. Compartilham uma arquitetura e um método. Nenhum setor, sozinho, consegue realizar qualquer um deles.

*Passe o cursor para saber mais *Clique para saber mais

À medida que documentos falsos, dados biométricos e personas sintéticas se aproximam do custo zero, precisamos de formas de comprovar a presença de um ser humano real e único sem revelar quem ele é.

001

Identidade

A IA dá a todos um detetive pessoal; a resposta não é o sigilo absoluto nem a exposição total, mas ferramentas que permitam revelar exatamente o que cada situação exige — e nada além disso.

002

Privacidade

Quando produzir uma falsificação convincente não custa nada, saber de onde veio o conteúdo torna-se essencial para uma realidade compartilhada.

003

Procedência

O registro da experiência humana que treina esses modelos foi obtido a um custo quase nulo; as pessoas que o criaram merecem um mercado de verdade e uma remuneração duradoura, algo que as próprias métricas das empresas já tornam possível.

004

Valor dos dados

Agentes de IA são mais úteis quando reúnem o que cada um sabe, e isso exige confiança construída como os humanos a constroem: entre diferentes provedores, e não dentro de ecossistemas fechados.

005

Colaboração entre agentes

Mídias que premiam a indignação e dificultam saber quem concorda com quem podem ser redesenhadas para evidenciar pontos em comum e, ao mesmo tempo, representar com justiça as divergências reais.

006

Construção coletiva de sentido

A autoridade gerada por comunidades prósperas precisa se converter em poder real sobre recursos, o que exige modernizar a participação, a representação e o trabalho pouco glamouroso da implementação.

007

Democracia

A IA reduz o custo da vigilância e da fiscalização de maneiras que favorecem o Poder Executivo; restaurar o equilíbrio exige criar capacidade equivalente de supervisão, contestação e recurso.

008

Direito e liberdades

O obstáculo aos ganhos de produtividade da IA não é a velocidade individual, mas a capacidade de redesenhar as organizações para absorver uma onda de criatividade e autonomia.

009

Ambiente de trabalho

Os modelos agora geram hipóteses e rascunhos mais rápido do que a revisão por pares consegue avaliá-los; essas mesmas ferramentas, bem direcionadas, podem recompensar trabalhos realmente originais que rompam barreiras entre áreas.

010

Pesquisa

A IA desfaz o antigo pacto que reunia ensino, aprendizagem e certificação, obrigando as escolas a definir quais capacidades importam e a certificar o que as pessoas realmente sabem.

011

Educação

Um sistema de força de trabalho criado para demissões em massa em um único empregador não consegue lidar com a reformulação contínua e granular do trabalho produzida pela IA; ele precisa de credenciais portáteis e interpretáveis e de requalificação em tempo real.

012

Transição do trabalho

A tese distintiva

Instituições à imagem de suas ferramentas

Há um padrão na forma como as sociedades assimilam uma nova tecnologia de uso geral. A instituição que prospera tende a refletir a arquitetura do modo de pensar dominante de sua época.

A era industrial organizou a cognição em torno da contabilidade padronizada e da linha de montagem, produzindo instituições hierárquicas e divisionais correspondentes: a corporação, o banco central, as organizações multilaterais constituídas em Bretton Woods. A era da internet organizou a cognição em torno de protocolos em camadas e do roteamento distribuído, produzindo estruturas cooperativas em camadas correspondentes: as organizações de padronização, as cooperativas de mensagens e o processo aberto de Request for Comments.

As redes neurais impõem uma terceira gramática. Elas representam as coisas por sua posição em um espaço rico, e não por um único rótulo. Combinam diferentes entradas ponderando como cada uma se relaciona com as demais, encontrando uma estrutura comum sem apagar as diferenças ao reduzi-las a uma média. Atribuem crédito rastreando o efeito de cada contribuição.

Quando a instituição e a tecnologia compartilham uma gramática, os ganhos aparecem. Quando não compartilham, os ganhos estagnam. Fábricas eletrificadas produziram poucos benefícios por quase duas décadas enquanto mantiveram o leiaute das fábricas movidas a vapor; a produtividade só veio quando elas foram redesenhadas em torno do motor elétrico distribuído.

A aposta desta coalizão é que as instituições capazes de assimilar a IA serão aquelas que incorporarem esses mesmos movimentos na escala da sociedade. O trabalho é construí-las de forma intencional.

Leia o argumento completo — em breve

Os artigos

Leia o argumento

Na Noema —

“O que a humanidade precisa para prosperar na próxima década”

A exposição pública mais completa do problema e da agenda: os três modos de falha, os precedentes históricos — da democracia de massa à governança digital de Taiwan — e o conjunto completo de grandes desafios sociotécnicos. O ponto de partida.

Leia na Noema

Na Science —

“À imagem de suas ferramentas”

Em breve

O princípio de engenharia nítido por trás da agenda: por que as instituições passam a se assemelhar à tecnologia cognitiva de sua época e o que significa construir segundo a arquitetura de uma rede neural. A tese distintiva, com o registro histórico e o mapeamento técnico.

Em breve

O guia prático

O que a IA não consegue construir, um guia para narradores que transforma esses desafios em material dramático para roteiristas e criadores, com uma proposta de alto conceito e uma provocação para a sala de roteiristas para cada um deles.

A apresentação

A apresentação-resumo que fundamenta as recomendações.

A maior história que ninguém está contando

Toda instituição da qual dependemos já foi inimaginável, até que histórias fizeram pessoas suficientes se importar a ponto de construí-la. Os desafios humanos da IA não são abstrações de política pública. São a matéria-prima das histórias mais importantes da próxima década — e a maioria delas ainda nem foi contada.

Criamos um guia para

quem pode contar essas histórias.

O que a IA não consegue construir aborda cada desafio e entrega aos roteiristas uma proposta de alto conceito e um conjunto de provocações para levar à sala de roteiristas: a mulher que luta pelo direito de ser pessoas diferentes em diferentes áreas da vida; o documentarista cujo filme irrefutável encontra uma refutação igualmente irrefutável; a pessoa que fornece dados — rica, essencial e totalmente anônima.

Veja como levamos essas ideias a uma sala com 100 roteiristas de TV.

Assista ao vídeo

Conheça os desafios

Também estamos trabalhando com criadores independentes para dar vida a esses desafios, um de cada vez, em linguagem simples. Cada curta aborda um único problema — de provar que você é humano na internet a remunerar de forma justa as pessoas pelos dados que treinam a IA — e mostra por que ele importa e como seria uma solução.

Primeiros filmes em breve.

Financiamento ágil para narradores

Estamos financiando narradores que entrelaçam essas ideias em suas histórias.

Se você escreve, filma, cria jogos ou produz conteúdo audiovisual e quer incorporar ou reinterpretar qualquer um dos desafios apresentados aqui, queremos apoiar seu trabalho.

Você não precisa explicar a política pública. Só precisa fazer as pessoas sentirem o que está em jogo.

Candidate-se a um financiamento

A Coalizão

Este trabalho foi moldado por pessoas que raramente se sentam à mesma mesa.

Pesquisadores de IA e cientistas sociais, tecnólogos e servidores públicos, financiadores e construtores cívicos, de diferentes regiões e perspectivas políticas. Essa diversidade não é incidental. O método que defendemos — encontrar pontos em comum em meio a diferenças reais, sem suprimi-las — é o mesmo método que produziu este trabalho.

Setor

Buscar a coalizão

Ordenar

Use os filtros; os resultados atualizam enquanto você digita.

Eric Glen Weyl

Cofundador, RadicalxChange Foundation

Audrey Tang

Ex-ministra Digital, Taiwan

Jake Hirsch-Allen

Diretor de Parcerias, The Dais

Vilas Dhar

Presidente, Patrick J. McGovern Foundation

Melissa Valentine

Professor Associado, Stanford University

David Patterson

Fellow do Google; Professor Emérito da UC Berkeley

Tiona Zuzul

Professor Associado, Harvard Business School

Jess Scully

Diretor Executivo, RadicalxChange Foundation

Dean Woodley Ball

Diretor de Futuros Estratégicos, OpenAI

Romain Vakilitabar

Fundador e Diretor Executivo, Pathos Labs

Andrew Sorota

Diretor de Pesquisa, Office of Eric Schmidt

Samuel Roland

Fellow, Foundation for American Innovation

Chris White

Diretor de Laboratório, Microsoft Research

Dr. Tomicah Tillemann

Presidente, Project Liberty

Galen Hines-Pierce

Fundador e Sócio-Diretor, Minerva Fund

Ben Buchanan

Ex-assessor de IA da Casa Branca

James Evans

Professor, University of Chicago

David Deming

Reitor, Harvard College

Dr. Ken Suzuki

Professor de Projetos, Keio University

Blaise Agüera y Arcas

Vice-Presidente e Fellow, Google

Danielle Allen

Professor, Harvard University

Divya Siddarth

Cofundador, Collective Intelligence Project

Tim O’Reilly

Fundador e CEO, O'Reilly Media

Zoe Weinberg

Fundador e Sócio-Diretor, Ex/Ante

Tenzin Yangtso

Pesquisador, Civic.AI

Junte-se à coalizão

Adicione seu nome

O alinhamento reverso não é um projeto. É um portfólio de apostas, em todos os setores, que somente uma ampla coalizão pode sustentar.

Se você acredita que devemos construir nossos sistemas sociais com a mesma ambição com que construímos nossos algoritmos, adicione seu nome e ajude a levar este trabalho à sua própria área.

Entrar em inglês