Puede que la inteligencia artificial nos conduzca a un futuro más próspero y abundante. Pero no lo hará bajo las condiciones actuales, esas mismas que están imponiendo con puño de hierro un pequeño grupo de compañías que han acaparado enormes cotas de poder y están comandadas por los emperadores de nuestro tiempo.
La periodista Karen Hao ha pasado los últimos años investigando a los magnates tecnológicos y las empresas de Silicon Valley en su nueva conquista: la creación de una IA que supere a los seres humanos. El resultado de su trabajo está recogido en el libro El imperio de la IA. Sam Altman y su carrera por dominar el mundo, un minucioso ejercicio de documentación y reporterismo que la autora, nacida en Estados Unidos y que ronda la treintena, acaba de publicar en España de la mano de Península.
En esta entrevista por videollamada con El Orden Mundial, Hao asegura desde Hong Kong, donde reside en la actualidad, que la desenfrenada carrera que vive el sector de la IA se ha convertido en una cruzada ideológica de tintes religiosos y fanáticos. También advierte que empresas como OpenAI o Google han adoptado la forma de los antiguos imperios coloniales —y sus lógica de explotación— para hacerse con el monopolio de la tecnología. Todo ello en un contexto en el que el ciclo de especulación financiera en torno a la IA no para de crecer y amenaza la estabilidad económica global.
“La idea de crear una única tecnología que pueda beneficiar a toda la humanidad siempre fue una ficción”
PREGUNTA – Crear una IA general que beneficie a toda la humanidad y repartir sus beneficios económicos. ¿En qué ha quedado esta promesa fundacional de OpenAl que Sam Altman, Elon Musk y otras personas que han pasado por la compañía repitieron durante mucho tiempo?
RESPUESTA – La idea de crear una única tecnología que pueda beneficiar a toda la humanidad siempre fue una ficción, porque si la IA, como tecnología, fuera a beneficiar a todo el mundo, necesitaría ser desarrollada de una manera completamente distinta a como lo han hecho estas compañías.
Serían modelos mucho más pequeños, especializados y localizados, diseñados y construidos por las comunidades que luego los usarían, no por una sola empresa propietaria de un modelo masivo que se supone debe implementarse en todo el mundo. Esta concepción de OpenAI de una IA que beneficie a toda la humanidad ha sido esencialmente una herramienta para consolidar su poder.
Entonces, ¿fue siempre una treta o en algún momento hubo una intención genuina?
Esto es lo que más me sorprendió al escribir el libro: es a la vez un truco de marketing y algo que ciertas facciones poderosas dentro de la compañía realmente creen. A veces uso la analogía del mundo de Dune, donde existe una mitología que algunas personas saben que sólo está destinada a manipular a la gente, y otras que simplemente creen en ella. Pero también hay personas que sabían que era una mitología pero luego se adentraron en ella y se convirtieron en creyentes.
Esta es la razón por la cual estas empresas han sido tan efectivas para seguir utilizando esta idea como herramienta de marketing, porque hay muchísimas personas que sinceramente creen en ella, lo que perpetúa la existencia de la historia.
En la primera página del libro se cita a Altman hablando de religión y también hay una reflexión sobre la fascinación casi mágica que surge alrededor de una tecnología de la que no conocemos su funcionamiento técnico. ¿Se ha convertido la IA en una nueva religión? No sólo dentro de Silicon Valley, sino para la población en general.
Sí, hay un enorme elemento ideológico y religioso en la popularización y el fanatismo en torno a la IA. Y se ha vuelto muy parecida a una religión porque hay muchas creencias asociadas con la IA que no están necesariamente basadas en la realidad. Se cree que curará el cáncer, que resolverá el cambio climático y que traerá un crecimiento económico sin precedentes.
Pero las personas que compran esta creencia no ven los impactos que la tecnología está teniendo actualmente, que en realidad son la aceleración del cambio climático, la aceleración de los daños a la salud pública, la exacerbación de la desigualdad y, de hecho, la instauración de una economía extremadamente inestable.
De hecho, en el libro señalas que la IA comenzó como un proyecto científico ambicioso que se ha convertido en una cruzada ideológica. ¿Cuál es esa ideología?
Creo que hay múltiples ideologías entrelazadas. Una defiende que es posible, y sería algo moralmente bueno, crear una IA que iguale o supere la inteligencia humana. Esto ya tiene un potente sesgo ideológico detrás. Otra es que es posible crear un único sistema de IA que represente a toda la inteligencia humana, en lugar de una noción diferente que reconozca que en realidad hay distintos tipos de inteligencia humana.
Y luego, la otra ideología es sobre lo que sucederá si llegamos a conseguir una IA general y qué significará eso para la civilización. Hay algunas personas que piensan que va a ser enormemente positivo, que terminaremos en una utopía. Y hay personas que piensan que será catastróficamente negativo y terminaremos en una especie de infierno.
Una de tus grandes tesis es que las empresas de IA generativa, como OpenAI, son similares a los antiguos imperios coloniales. ¿Cuáles son las principales similitudes?
Hay cuatro paralelismos principales. Por un lado, reclaman recursos que no son suyos, incluyendo los datos de entrenamiento que extraen de internet o el material protegido por propiedad intelectual que sustraen a artistas, escritores y creadores. También explotan una cantidad extraordinaria de mano de obra. Con esto me refiero a las decenas de miles de trabajadores que contratan en lugares del Sur Global para realizar trabajos como la moderación de contenido, pero bajo condiciones de explotación.
Otro aspecto es que controlan la narrativa sobre lo que están haciendo y sobre las limitaciones y capacidades de sus tecnologías. Esto lo consiguen, en parte, financiando a muchos investigadores y académicos dedicados a la IA, empleándolos o financiándolos en sus universidades. Estos investigadores terminan generando trabajos que siguen la agenda corporativa, mientras que las empresas también censuran cualquier investigación que socave su agenda.
Por último, está el aspecto ideológico, centrado en la creencia de que dependiendo de quién llegue primero a la meta de la IA general, terminaremos en el cielo o el infierno. Al considerarse a sí mismos como el «imperio bueno», pueden imponer la idea que sólo están tratando de llevar a cabo una misión civilizadora para traer progreso y modernidad a la humanidad.
«Las grandes empresas tecnológicas tienen más poder que los Estados y lo ejercen de forma constante»
¿Significa esto que los magnates tecnológicos son los nuevos emperadores? ¿Tienen las empresas más poder que los Estados?
Tienen más poder que los Estados y lo ejercen de forma constante. Por ejemplo, en este momento la Unión Europea está tratando de dar marcha atrás en algunas de sus regulaciones sobre IA. Y eso tiene que ver con el lobby de Silicon Valley y la forma en que ha estado amenazando con retirarse del mercado europeo, donde también siembran la idea de que las regulaciones comunitarias están frenando la innovación y dejando a la región rezagada.
¿Hasta dónde llega el coste humano y material de poner en marcha la IA?
Ya estamos viendo daños realmente profundos en países en desarrollo. México está teniendo apagones debido a los centros de datos en Querétaro, ya que la red no puede soportar la demanda. También estamos viendo comunidades de todo el mundo que están compitiendo con estas instalaciones por recursos como el agua dulce. No es que haya un colapso en el horizonte, sino que el colapso ya está sucediendo. Simplemente está distribuido de manera desigual. Pero a medida que haya más extractivismo y más explotación, esos focos de emergencias se extenderán a todos en todo el mundo.
En su momento se decía que, si Mark Zuckerberg quisiera presentarse a las elecciones, sería imposible que no ganara gracias a la omnipresencia de Facebook. ¿Hasta dónde llega la influencia política de las compañías tecnológicas? ¿Cuál es su responsabilidad del momento político que vive el mundo, con graves retrocesos democráticos y polarización?
Creo que una supuesta candidatura de Zuckerberg a las elecciones es un escenario diferente al que describí antes, que es el lobby que hacen las empresas tecnológicas sobre los Gobiernos. Cuando estas compañías interactúan directamente con ellos, demuestran mucho poder de influencia, pero cuando se trata de obtener un apoyo amplio de la gente, ahí se ven sus limitaciones.
Por eso en Estados Unidos, por ejemplo, las empresas tecnológicas tratan de distorsionar el panorama político intentando comprar a representantes públicos o escaños en la Corte Suprema de diferentes estados, o tratando de aniquilar las campañas de ciertos candidatos. Y el antídoto contra ese trasvase de dinero a la política es una gran base de personas a las que no les gusta la oligarquía tecnológica y que están resistiendo sus intentos de obtener más control.
Esto me hace ser optimista sobre las formas en las que podemos contener al imperio tecnológico y su influencia. Antes pensaba que debíamos depender principalmente de la regulación y la gobernanza de arriba hacia abajo, pero estamos en un momento en el que los Gobiernos no están haciendo un buen trabajo. Por eso ahora creo en un movimiento impulsado por la gente, un proceso de gobernanza de abajo hacia arriba para controlar la influencia de estos imperios.
El enorme poder que han acumulado las tecnológicas les ha permitido frenar muchas leyes que atañen al sector. El investigador Gary Marcus, al que citas en el libro, asegura que nunca ha existido un sector tan desregulado. ¿Están las grandes empresas tecnológicas fuera de control político y legislativo?
Estas empresas cruzan fronteras y eso hace mucho más difícil la regulación, aunque no diría que están completamente fuera del marco de gobernanza actual. A nivel local hay muchas regulaciones que se pueden aplicar para proteger a sus ciudadanos. Lo hemos visto en algunos estados de Estados Unidos y en la Unión Europea, donde ciertos países han dado un paso adelante para implementar reglas diferentes y más estrictas.
Pese a esto, está claro que muchas actividades de estas empresas abarcan todos los rincones del mundo, por lo que nos enfrentamos a desafíos para determinar el marco regulatorio global que deberíamos utilizar para mantenerlas a raya. Tenemos la ONU y agencias intergubernamentales que cooperan en la aplicación de leyes, pero claramente una parte de la tarea de cómo gobernar esta tecnología también dependerá de la innovación regulatoria.
“La Unión Europea no está rezagada: tiene un entorno regulatorio, una comunidad científica y una red de universidades y pequeñas empresas muy sólidas”
En este sentido, la Unión Europea vive una encrucijada. Ha puesto en marcha una legislación sobre IA y protección de datos, pero al mismo tiempo siente que se está quedando atrás en la carrera tecnológica y se está coqueteando con la desregularización ¿Hacia dónde se dirigirá?
A menudo siento que los propios europeos se consideran más rezagados en tecnología de lo que realmente están, en parte porque se ha introducido en el debate la idea de que esto ocurre porque no tienen gigantes tecnológicos. Para mí, sin embargo, es una señal de que las regulaciones funcionan.
Estas empresas tecnológicas son extractivas e imperiales. No las queremos. Y la Unión Europea tiene la oportunidad de definir cómo debe ser la nueva frontera de la innovación, en lugar de obsesionarse con cómo competir con las empresas tecnológicas estadounidenses y chinas basándose en las reglas que definieron estas empresas. La Unión Europea debería definir sus propias ideas de cómo se pueden crear tecnologías que realmente sirvan al interés público.
Desde esa perspectiva, la Unión Europea no está rezagada en absoluto, porque tiene un entorno regulatorio, una comunidad científica y una red de universidades y pequeñas empresas muy sólidas. Y esos son todos los ingredientes que se necesitan para responder a la pregunta de cuáles son los tipos de sistemas de IA que mejoren a las comunidades, que defiendan los derechos humanos, que protejan el planeta y mejoren la salud de las personas.
¿Cuál es la posición de China en toda esta situación? ¿Está replicando el modelo predador y los paradigmas de Silicon Valley, o han tomado otro camino?
Irónicamente, se ha visto obligada a elegir un camino diferente. Cuando OpenAI presentó por primera vez ChatGPT, muchas empresas chinas trataron de replicar el modelo, de la misma manera que hicieron otras empresas estadounidenses al intentar construir su propia versión de ChatGPT. Pero luego el Gobierno de Estados Unidos utilizó el control de exportación para evitar que las empresas chinas accedieran a los chips estadounidenses. Desde entonces, hemos visto a las empresas chinas construir capacidades de IA más avanzadas sin tener que recurrir a una cantidad significativa de chips y de recursos computacionales.
Esto está llevando a una dinámica realmente interesante en la que las empresas chinas están lanzando estos modelos mucho más ligeros y baratos, completamente gratuitos y de código abierto. Y se están convirtiendo en la columna vertebral de muchas empresas de Silicon Valley, porque muchas startups prefieren usar estos modelos que pagar por las versiones mucho más caras de las empresas estadounidenses.
¿Esto exime a China de las dinámicas imperiales y de explotación de recursos?
Si las empresas chinas siguen este camino, al menos desde una perspectiva ambiental se mitigarán significativamente los problemas. No resuelve los problemas laborales y de datos, porque estos modelos más ligeros se entrenan en internet y requieren cierto grado de moderación de contenido y recopilación de información.
No defendería los modelos chinos como el estándar de oro al que todos deberíamos aspirar. Creo que están mostrando que hay mejores caminos que los modelos estadounidenses, pero también que aún queda trabajo por hacer para ofrecer alternativas aún mejores.
Entonces, ¿es China un rival al mismo nivel que Estados Unidos en temas de IA? ¿Puede superarlo?
El hecho de que muchas startups estadounidenses estén utilizando los modelos chinos lo sugiere, por el coste y porque son tecnologías de código abierto y más fáciles de modificar. Hay inversores o fundadores estadounidenses que han dicho que estos modelos son mejores y pueden ser más útiles a las empresas. También he conocido a muchos investigadores estadounidenses en universidades que están utilizando modelos chinos de código abierto para realizar su investigación. Hemos llegado a un punto de inflexión en el que hay bastantes modelos chinos que son simplemente mejores que los estadounidenses.
Volviendo a la industria, en otra parte del libro hablas de cómo el sector tecnológico ha explotado los miedos tecnológicos para rentabilizar y justificar sus productos. ¿También ha funcionado el miedo apocalíptico a que la IA acabe con la humanidad como una excusa para dar todo el poder a gente como Musk o Altman?
Absolutamente, especialmente cuando dicen que si China logra ganar la carrera por la IA, eso conducirá a la desaparición de la humanidad. Esa ha sido la herramienta más exitosa de Silicon Valley para evitar cualquier tipo de control sobre su poder por parte del Gobierno de Estados Unidos o de los estados.
Sobre esta cuestión, la revista MIT Technology Review, donde tú trabajaste, publicó un debate entre autores sobre si estamos alcanzado un momento Oppenheimer con la IA. ¿Cómo ves este debate?
No estoy de acuerdo con la analogía. El único uso de un arma nuclear es la guerra. La IA es una colección de muchas tecnologías diferentes, algunas de las cuales tienen usos civiles y otras tienen usos militares. La mejora de las armas nucleares se correlaciona directamente con más destrucción, mientras que la construcción de modelos de IA más grandes no significa automáticamente más poderío militar.
Los tipos de tecnologías de IA que se utilizan hoy en día en armamento, o que tienen aplicaciones militares, son modelos extremadamente pequeños y especializados que no tienen nada que ver con ChatGPT y el resto de IA generativa, y además son tecnologías que existen desde hace más de una década. Lo que ha llevado a una mayor integración de la IA en la guerra han sido los cambios en las normas, no los avances tecnológicos.
En paralelo, adviertes que estos magnates han exagerado las capacidad de la IA para lucrarse. ¿Ha sido esta exageración el motor de la enorme burbuja financiera que hay montada en torno a la IA? ¿Está este ciclo de especulación, uno de los mayores de la historia, sustentado en una mentira?
Ellos dicen que estos modelos pueden hacer cualquier cosa por cualquiera. Eso no es cierto desde el mismo momento en el que dejas de usar el inglés como idioma de trabajo. Tampoco es muy preciso en otros usos que le da la gente de forma habitual, como la búsqueda de información o la terapia. La gente pide consejo médico, y en realidad no están entrenados para ser asesores médicos.
Pero, por supuesto, las empresas perpetúan la idea de que puedes seguir usando sus tecnologías de todas estas maneras. Porque quieren aumentar el número de usuarios que tienen para poder aumentar el número de posibilidades de monetización.
¿Explotará la burbuja?
Estoy muy preocupada de que explote pronto. Y podría tener efectos secundarios enormes en la economía global.
Sobre las prácticas empresariales, en otro capítulo del libro aseguras que el capitalismo de vigilancia es el combustible que ha posibilitado desarrollar la IA generativa. Esto no es nuevo: hace diez años se destapó el pastel con las redes sociales, y la idiosincrasia de las empresas tecnológicas se conocen desde hace tiempo. ¿Qué ha pasado para que esto se vuelva a permitir y se venda como algo nuevo?
Antes se nos vendía la idea de que íbamos a conectar a toda la gente e íbamos a organizar la información del mundo. Eran promesas muy ambiciosas, pero aún no eran cruzadas ideológicas. La IA, de alguna manera, ha amplificado la escalada religiosa en las narrativas y ha lanzado una promesa aún mayor: vamos a alcanzar el cielo o vamos a terminar en el infierno. Eso ha permitido que este ciclo empeore, porque las historias que se están contando sobre los posibles beneficios y perjuicios se han vuelto más extremas.
Otra parte muy interesante es la obsesión monopolística de muchos de estos magnates y su odio a la competencia. ¿No choca con los principios del capitalismo y de libre mercado que dicen defender?
Silicon Valley siempre ha sido un lugar libertario donde impera la idea de que no es necesario que haya ningún tipo de regulación externa que cambie los incentivos del mercado, al que se debe permitir que corra de forma desenfrenada.
No sé si esto choca con el capitalismo. Más bien, lo está llevando a su forma extrema, donde sólo las fuerzas del mercado pueden determinar quién puede acumular más capital y quién no. Y creo que Altman es parte de ese pensamiento que defiende que el monopolio es simplemente una señal de que ha creado una gran cantidad de valor económico que merece la acumulación de capital.
“La capacidad de las empresas para acumular la riqueza que tienen tan rápidamente se basó en el robo, pero no tenía por qué ser así”
Sobre la acumulación y la regulación, otro asunto muy relevante en el desarrollo de la tecnología es el robo masivo de propiedad intelectual. ¿Podría haber prosperado la IA generativa sin este saqueo?
No creo que las empresas pudieran haber hecho lo que están haciendo ahora sin ese robo, aunque sí habría sido posible crear modelos de IA generativa beneficiosos sin esas prácticas. Y es necesario separarlo: la capacidad de las empresas para acumular la riqueza que tienen tan rápidamente se basó en el robo, pero no tenía por qué ser así.
También señalas que lo que dio prominencia a los modelos extensos de lenguaje (LLM) [que están detrás de herramientas como ChatGPT] frente a otras investigaciones fueron sus ventajas empresariales y de comercialización sobre otros modelos. ¿Ya no existe el sector investigador independiente? ¿Ha acabado con la ciencia universitaria independiente?
Es verdad que la academia ha sido significativamente marginada y se ha visto privada de recursos en el entorno actual. Pero no creo que eso signifique que no haya forma de recuperar un panorama de investigación próspero.
Hay investigadores que están empezando a alejarse de las empresas. No aspiran a construir modelos cada vez más grandes, que no es algo demasiado interesante a nivel intelectual. Si existe una fuente de financiación alternativa por parte de Gobiernos y fundaciones, es decir, más alineadas con el interés público, habrá un flujo de talento hacia esos proyectos, y puede haber un reequilibrio del panorama de la investigación para que proliferen nuevas ideas fuera de lo que es comercialmente viable.
“No podemos permitir que el mercado sea el único que dé forma al desarrollo de la IA. Necesitamos al sector público para crear incentivos correctos”
Entonces consideras que la intervención del sector público es fundamental para generar una alternativa…
Simplemente, no podemos permitir que el mercado sea el único que dé forma al desarrollo de la IA. Necesitamos al sector público, ya que el papel de los Gobiernos es esencial para crear incentivos correctos en la producción de modelos de IA alternativos. Esto también está relacionado con tener investigadores independientes que puedan auditar los modelos comerciales y verificar lo que dicen las empresas. Y eso tendrá que provenir de fuentes de financiación alineadas con el interés público que apoyen ese trabajo.
Hay otro apunte muy interesante en el libro. Señalas que la amenaza de que la IA sustituya a humanos no es una casualidad, sino un objetivo. De alguna forma, esa afirmación es una impugnación de las propias bases del sector. ¿Es posible reconducir este modelo?
Tendría que venir de fuera. Ahora mismo hay demasiados intereses financieros que refuerzan y perpetúan el paradigma dominante en el desarrollo de la IA. Dudo que vayan a surgir ideas dramáticamente nuevas desde dentro del sector que miren a la IA de una manera diferente, porque el hype y las valoraciones desmedidas de estas empresas se basan en el hecho de que la IA puede automatizar a los humanos. Forma parte del argumento de venta, por lo que nunca van a apoyar investigaciones que ofrezcan alternativas a esto.
Pese a lo que cuentas en el libro y lo que ha sucedido los últimos meses, da la sensación de que los magnates tecnológicos siguen manteniendo su misticismo en la opinión pública. Son tipos adorados que mantienen su máscara intacta…
Estas personas y sus empresas están llegando a su límite de persuasión sobre el bien que están haciendo a la humanidad. Hemos visto un cambio dramático en la opinión pública en unos pocos meses, porque los impactos de su enfoque en el desarrollo de la IA están empezando a dañar a muchas personas. Hay decenas de comunidades en todo el mundo protestando por los centros de datos. Han enfadado a los padres por los efectos que tiene esta tecnología sobre la salud mental de los niños. También a artistas, escritores, periodistas o actores por cuestiones relacionadas con la propiedad intelectual. La apariencia de que estas personas son los mesías que necesitamos se está derrumbando.
¿Cómo ha sido tu relación como periodista con el sector tecnológico y de la IA?
Silicon Valley ha sido muy inteligente a la hora de influir en los medios y los periodistas, enfrentándolos cuando alguien escribía algo que no les gustaba. La industria de la IA simplemente está siguiendo este manual. Por ejemplo, Google News Initiative fue una gran manera de ejercer poder blando. La compañía logró que las redacciones se volvieran adictas a usar productos, sobre todo en regiones que estaban teniendo discusiones regulatorias sobre el sector, como han demostrado algunos estudios en Brasil.
La industria de la IA está haciendo exactamente lo mismo, con Google intentando que las redacciones de los medios utilicen sus productos de IA y OpenAI cerrando acuerdos con diferentes publicaciones. Su relación con los periodistas y medios de comunicación no ha cambiado en la última década, simplemente se han refinado y se han vuelto aún mejores usando diferentes mecanismos para intentar mantener una historia positiva.
“Cualquier tecnología debe tratar de servir a las personas, ayudarlas a resolver desafíos y permitirles participar en cada etapa del proceso de desarrollo”
¿Cómo debería ser una IA sostenible y responsable? ¿A qué IA deberíamos aspirar?
En el epílogo del libro hablo sobre el caso de Tahiku Media, una estación de radio maorí en Nueva Zelanda que desarrolló una herramienta de reconocimiento de voz como parte de su esfuerzo por revitalizar el idioma local. Para mí, esa es la visión de la IA a la que deberíamos aspirar.
Cualquier tecnología debe tratar, en última instancia, de servir a las personas, ayudarlas a resolver desafíos y permitirles participar en cada etapa del proceso de desarrollo. Me encantaría ver un futuro en el que el desarrollo de la IA no provenga de imperios extremadamente poderosos que proyectan un único modelo a todos los rincones del mundo. Por contra, debería existir una colección de muchos tipos diferentes de IA especializados y localizados que surjan de las propias comunidades.
