Estamos desarrollando IA más rápido de lo que estamos construyendo la sociedad para recibirla.

Por cada dólar destinado a hacer la IA más capaz, solo una fracción se invierte en las instituciones, las competencias y las normas que determinan si sus beneficios se comparten o se dilapidan. Esa brecha es una decisión. Somos una coalición trabajando para cerrarla.

Explora la coalición Lee el argumento

La otra cara de la alineación

La idea / Introducción

La mayor parte del esfuerzo y el capital en IA se destinan a dos tareas: hacer los sistemas más capaces y alinearlos con los valores humanos.

Ambas son fundamentales. Sin embargo, incluso un sistema perfectamente alineado resultará insuficiente o causará daños reales si se despliega en economías, gobiernos y sistemas de información que no estén preparados para integrarlo.

A ese trabajo descuidado lo llamamos alineación inversa: el rediseño deliberado de instituciones, normas, competencias y gobernanza para que las sociedades puedan integrar la IA de forma segura y repartir ampliamente sus beneficios.

Este no es un tipo nuevo de problema.

La industrialización, la electrificación e internet exigieron décadas de invención institucional antes de que sus beneficios llegaran. Las empresas de la línea de montaje se parecían a líneas de montaje. Las instituciones que gobernaron internet se parecían a internet.

La historia sugiere que estas adaptaciones no son complementos opcionales del cambio tecnológico. Son las condiciones de su éxito.

Si no se abordan,

el desajuste produce tres fallos predecibles.

Productividad sin prosperidad

El trabajo se reorganiza más rápido de lo que la gente puede recapacitarse o desplazarse, y las ganancias nunca llegan a la mayoría.

Ejecución sin verificación

A medida que el coste de generar texto, imágenes y código se desploma, el recurso escaso se vuelve la capacidad humana de verificar, atribuir y respaldar lo que se produce.

Capacidad sin contrapeso

Las mismas herramientas que hacen más capaces a las instituciones pueden concentrar poder, a menos que los derechos de apelación y contestación avancen al mismo ritmo.

Ninguno de estos fallos es inevitable.

Cada uno es consecuencia del abandono, y el abandono puede revertirse.

Lo que hay que construir

El florecimiento humano en la próxima década depende de un conjunto de grandes retos sociotécnicos.

Resumen de recomendaciones

Inversiones grandes y coordinadas en la dimensión humana e institucional de la transformación de la IA. Abarcan identidad, privacidad, mercados, gobernanza, trabajo y conocimiento. Comparten una arquitectura y un método; ningún sector puede resolverlos por sí solo.

*Pasa el cursor para leer más *Haz clic para leer más

Cuando los documentos falsos, las biometrías y las personas sintéticas se aproximan al coste cero, necesitamos formas de demostrar que hay una persona humana, real y única presente, sin revelar quién es.

001

Identidad

La IA le da a todo el mundo un detective personal; la respuesta no es el secreto absoluto ni la exposición total, sino herramientas que permitan revelar exactamente lo que cada situación exige y nada más.

002

Privacidad

Cuando un falsificación convincente no cuesta nada producir, saber de dónde proviene el contenido se vuelve esencial para una realidad compartida.

003

Procedencia

El registro humano que entrena estos modelos se obtuvo casi sin coste; las personas que lo crearon merecen un mercado real y una compensación duradera, algo que las propias mediciones de las empresas ya hacen posible.

004

Valor de los datos

Los agentes de IA son más útiles cuando ponen en común lo que cada uno sabe, y eso exige confianza construida como la construyen las personas: entre proveedores, no dentro de jardines amurallados.

005

Colaboración agéntica

Los medios que premian la indignación y ocultan quién está de acuerdo con quién pueden rediseñarse para visibilizar el terreno común sin dejar de representar lealmente el desacuerdo real.

006

Construcción colectiva de sentido

La autoridad que generan las comunidades prósperas tiene que traducirse en poder real sobre los recursos, lo que significa modernizar la participación, la representación y el trabajo poco glamoroso de la implementación.

007

Democracia

La IA reduce el coste de la vigilancia y la aplicación de la ley de formas que favorecen al poder ejecutivo; restaurar el equilibrio significa construir una capacidad equivalente de supervisión, contestación y recurso.

008

Ley y libertades

El cuello de botella para las ganancias de productividad de la IA no es la velocidad individual, sino si las organizaciones pueden rediseñarse para absorber un torrente de creatividad y agencia.

009

Lugar de trabajo

Los modelos ya generan hipótesis y borradores más rápido de lo que la revisión por pares puede clasificarlos, y las mismas herramientas, bien orientadas, pueden recompensar el trabajo genuinamente original que rompe silos.

010

Investigación

La IA deshace el viejo paquete de enseñanza, aprendizaje y acreditación, obligando a las escuelas a nombrar las competencias que importan y certificar lo que la gente sabe de verdad.

011

Educación

Un sistema laboral pensado para despidos masivos en un solo empleador no puede gestionar la reconfiguración continua y fina del trabajo que produce la IA; necesita credenciales portables e interpretables y recapacitación en tiempo real.

012

Transición laboral

La tesis distintiva

Instituciones a imagen de sus herramientas

Hay un patrón en la forma en que las sociedades absorben una nueva tecnología de uso general. La institución que triunfa tiende a reflejar la arquitectura de la forma de pensar dominante de su época.

La era industrial organizó la cognición en torno a la contabilidad estandarizada y la cadena de montaje, dando lugar a instituciones jerárquicas y divisionales: la corporación, el banco central y los organismos multilaterales de Bretton Woods. La era de internet organizó la cognición en torno a protocolos por capas y enrutamiento distribuido, generando organismos cooperativos y estructurados: las organizaciones de estándares, las cooperativas de mensajería y el proceso abierto de los Request for Comments.

Las redes neuronales imponen una tercera gramática. Representan la información mediante su posición en un espacio latente rico, en lugar de mediante una etiqueta única. Combinan entradas diversas ponderando la incidencia de cada una sobre las demás, hallando una estructura común sin anular las diferencias. Atribuyen el mérito rastreando cada contribución hasta su efecto final.

Cuando la institución y la tecnología comparten una gramática, las ganancias llegan. Cuando no, se estancan. Las fábricas electrificadas apenas rindieron durante casi dos décadas mientras conservaron la disposición de la planta de vapor; la productividad llegó solo cuando se rediseñaron en torno al motor eléctrico distribuido.

La apuesta de esta coalición es que las instituciones capaces de absorber la IA serán las que instancien estos mismos movimientos a escala de la sociedad. La tarea es construirlas deliberadamente.

Lee el argumento completo — próximamente

Los artículos

Lee el argumento

En Noema —

«Lo que la humanidad necesita para florecer en la próxima década»

La declaración pública y más extensa del problema y la agenda: los tres modos de fallo, los precedentes históricos desde la democracia de masas hasta la gobernanza digital de Taiwán, y el conjunto completo de grandes retos sociotécnicos. El punto de partida.

Leer el original en inglés en Noema

En Science —

«A imagen de sus herramientas»

Próximamente

El principio de ingeniería nítido detrás de la agenda: por qué las instituciones llegan a parecerse a la tecnología cognitiva de su época y qué significa construir con la forma de una red neuronal. La tesis distintiva, con el registro histórico y el mapeo técnico.

Próximamente

El manual

What AI Can't Build, una guía para narradores que convierte estos retos en material dramático para guionistas y creadores, con un pitch de alto concepto y un prompt de sala de guionistas para cada uno.

La presentación

La presentación resumida detrás de las recomendaciones.

La historia más grande que nadie está contando

Cada institución en la que confiamos fue alguna vez inimaginable, hasta que las historias hicieron que suficiente gente se preocupara para construirla. Los retos humanos de la IA no son abstracciones de política. Son la materia prima de las historias más importantes de la próxima década, y la mayoría aún no se han contado.

Hicimos una guía para

las personas que pueden contarlas.

What AI Can’t Build toma cada reto y entrega a los guionistas un pitch de alto concepto y un conjunto de prompts para llevar a la sala de guionistas: la mujer que lucha por el derecho a ser personas distintas en distintas partes de su vida, el documentalista cuya película irrefutable se encuentra con una refutación igualmente irrefutable, el contribuidor de datos que es rico, esencial y completamente anónimo.

Mira cómo llevamos estas ideas a una sala con 100 guionistas de televisión.

Ver el vídeo

Mira los retos

También trabajamos con creadores independientes para dar vida a estos retos, uno a uno, en lenguaje llano. Cada cortometraje toma un solo problema, desde demostrar que eres humano en línea hasta pagar justamente a las personas por los datos que entrenan la IA, y muestra por qué importa y cómo sería una solución.

Primeros cortometrajes próximamente.

Ayudas rápidas para narradores

Financiamos a narradores que tejen estas ideas en su trabajo.

Si escribes, ruedas, desarrollas juegos o creas cosas que la gente ve, y quieres incorporar o reinterpretar cualquiera de estos retos, queremos apoyarte.

No tienes que explicar la política. Solo tienes que hacer que la gente sienta lo que está en juego.

Solicita una ayuda

La coalición

Este trabajo lo moldearon personas que rara vez se sientan en la misma mesa.

Investigadores de IA y científicos sociales, tecnólogos y servidores públicos, financiadores y constructores cívicos, de distintas regiones y perspectivas políticas. Esa amplitud no es incidental. El método que defendemos —encontrar puntos de encuentro entre diferencias reales sin anularlas— es precisamente el método que ha dado lugar a este trabajo.

Sector

Buscar en la coalición

Ordenar

Usa los filtros; los resultados se actualizan al escribir.

Eric Glen Weyl

Cofundador, RadicalxChange Foundation

Audrey Tang

Exministra digital, Taiwán

Jake Hirsch-Allen

Director de Alianzas, The Dais

Vilas Dhar

Presidente, Patrick J. McGovern Foundation

Melissa Valentine

Profesora asociada, Universidad Stanford

David Patterson

Google Fellow; profesor emérito, UC Berkeley

Tiona Zuzul

Profesora asociada, Harvard Business School

Jess Scully

Directora ejecutiva, RadicalxChange Foundation

Dean Woodley Ball

Director de Futuros Estratégicos, OpenAI

Romain Vakilitabar

Fundador y director ejecutivo, Pathos Labs

Andrew Sorota

Director de Investigación, Office of Eric Schmidt

Samuel Roland

Becario, Foundation for American Innovation

Chris White

Director de laboratorio, Microsoft Research

Dr. Tomicah Tillemann

Presidente, Project Liberty

Galen Hines-Pierce

Fundador y director, Minerva Fund

Ben Buchanan

Exasesor de IA de la Casa Blanca

James Evans

Profesor, Universidad de Chicago

David Deming

Decano, Harvard College

Dr. Ken Suzuki

Profesor de proyecto, Universidad Keio

Blaise Agüera y Arcas

VP y Fellow, Google

Danielle Allen

Profesora, Universidad de Harvard

Divya Siddarth

Cofundadora, Collective Intelligence Project

Tim O’Reilly

Fundador y CEO, O'Reilly Media

Zoe Weinberg

Fundadora y socia directora, Ex/Ante

Tenzin Yangtso

Investigador, Civic.AI

Únete a la coalición

Añade tu nombre

La alineación inversa no es un solo proyecto. Es una cartera de apuestas, en cada sector, que solo una coalición amplia puede sostener.

Si crees que debemos construir para nuestros sistemas sociales con la misma ambición con que construimos para nuestros algoritmos, aporta tu nombre y ayuda a llevar este trabajo a tu propio campo.

Unirse en inglés