Olvídese de las representaciones de Hollywood de robots armados corriendo descontrolados por las calles: la realidad de la inteligencia artificial es mucho más peligrosa, advierte el historiador y escritor en este extracto exclusivo de su nuevo libro.
A lo largo de la historia, muchas tradiciones han sostenido que existe algún defecto fatal en la naturaleza humana que nos impulsa a perseguir poderes que no sabemos manejar. El mito griego de Faetón contaba la historia de un joven que descubre que es hijo de Helios, el dios del Sol. Deseoso de demostrar su origen divino, Faetón exige el privilegio de conducir el carro del Sol. Helios le advierte que ningún ser humano puede controlar los caballos celestiales que tiran del carro solar. Pero Faetón insiste hasta que el dios del Sol cede.
Tras elevarse orgullosamente por el cielo, Faetón pierde efectivamente el control del carro. El Sol se desvía de su curso, quema toda la vegetación, mata a numerosos seres y amenaza con incendiar la propia Tierra. Zeus interviene y alcanza a Faetón con un rayo. El presuntuoso humano cae del cielo como una estrella fugaz, envuelto en llamas. Los dioses recuperan el control de los cielos y salvan el mundo.
Dos mil años después, cuando la Revolución Industrial daba sus primeros pasos y las máquinas comenzaban a sustituir a los seres humanos en numerosas tareas, Johann Wolfgang von Goethe publicó un relato de advertencia similar titulado El aprendiz de brujo. El poema de Goethe —popularizado posteriormente mediante una animación de Walt Disney protagonizada por Mickey Mouse— cuenta la historia de un viejo hechicero que deja a un joven aprendiz a cargo de su taller y le encomienda varias tareas mientras está fuera, entre ellas traer agua del río.
El aprendiz decide facilitarse el trabajo y, utilizando uno de los hechizos del hechicero, encanta una escoba para que vaya a buscar agua por él. Sin embargo, no sabe cómo detenerla. La escoba continúa trayendo agua sin cesar y amenaza con inundar el taller.
Presa del pánico, el aprendiz corta la escoba encantada en dos con un hacha, pero cada mitad se convierte en una nueva escoba. Ahora son dos las escobas encantadas que inundan el taller. Cuando regresa el viejo hechicero, el aprendiz le suplica ayuda: «Los espíritus que invoqué, ahora no puedo librarme de ellos». El hechicero rompe inmediatamente el encantamiento y detiene la inundación.
La lección para el aprendiz —y para la humanidad— es clara: nunca invoques poderes que no puedas controlar.
¿Qué nos dicen en el siglo XXI las fábulas de Faetón y del aprendiz? Evidentemente, los seres humanos nos hemos negado a escuchar sus advertencias. Ya hemos desequilibrado el clima de la Tierra y hemos invocado miles de millones de escobas encantadas, drones, chatbots y otros espíritus algorítmicos que podrían escapar de nuestro control y desencadenar una avalancha de consecuencias.
¿Qué deberíamos hacer entonces? Las fábulas no ofrecen respuestas, aparte de esperar que algún dios o hechicero venga a salvarnos.
El mito de Faetón y el poema de Goethe no proporcionan consejos realmente útiles porque interpretan erróneamente la manera en que los seres humanos adquieren poder. En ambas historias, un individuo obtiene un poder enorme y posteriormente es corrompido por la arrogancia y la codicia. La conclusión es que nuestra imperfecta psicología individual nos lleva a abusar del poder.
Sin embargo, este análisis simplista pasa por alto que el poder humano nunca es únicamente resultado de la iniciativa individual. El poder surge siempre de la cooperación entre grandes cantidades de personas.
Por tanto, no es simplemente nuestra psicología individual la que provoca que abusemos del poder. Junto con la codicia, la arrogancia y la crueldad, los seres humanos también somos capaces de amor, compasión, humildad y alegría.
Es cierto que entre los peores miembros de nuestra especie predominan la codicia y la crueldad, y que los malos actores abusan del poder. Pero ¿por qué las sociedades humanas decidirían entregar poder precisamente a sus peores miembros? La mayoría de los alemanes de 1933, por ejemplo, no eran psicópatas. Entonces, ¿por qué votaron por Hitler?
Nuestra tendencia a invocar poderes que no podemos controlar no procede simplemente de la psicología individual, sino de la particular manera en que nuestra especie coopera a gran escala.
La humanidad obtiene un enorme poder construyendo grandes redes de cooperación, pero la manera en que esas redes están construidas nos predispone a utilizar ese poder de forma poco sensata. Muchas de nuestras redes se han construido y mantenido difundiendo ficciones, fantasías y delirios colectivos, desde escobas encantadas hasta sistemas financieros.
Nuestro problema, por tanto, es un problema de redes. Más específicamente, es un problema de información. La información es el pegamento que mantiene unidas las redes y, cuando las personas reciben mala información, probablemente tomarán malas decisiones, sin importar lo sabias o bondadosas que sean individualmente.
En las últimas generaciones, la humanidad ha experimentado el mayor incremento de la historia tanto en la cantidad como en la velocidad de producción de información. Cada teléfono inteligente contiene más información que la antigua Biblioteca de Alejandría y permite a su propietario conectarse instantáneamente con miles de millones de personas alrededor del mundo.
Sin embargo, con toda esa información circulando a velocidades vertiginosas, la humanidad está más cerca que nunca de aniquilarse a sí misma.
A pesar de —o quizá debido a— nuestra enorme acumulación de datos, continuamos emitiendo gases de efecto invernadero a la atmósfera, contaminando ríos y océanos, talando bosques, destruyendo hábitats completos, llevando innumerables especies hacia la extinción y poniendo en peligro las bases ecológicas de nuestra propia existencia.
También producimos armas de destrucción masiva cada vez más poderosas, desde bombas termonucleares hasta virus potencialmente devastadores. Nuestros dirigentes no carecen de información sobre estos peligros y, sin embargo, en lugar de colaborar para encontrar soluciones, se acercan cada vez más a una guerra global.
¿Tener todavía más información mejoraría las cosas o las empeoraría? Pronto lo descubriremos.
Numerosas empresas y gobiernos compiten por desarrollar la tecnología de información más poderosa de la historia: la inteligencia artificial.
Algunos destacados empresarios, como el inversor estadounidense Marc Andreessen, consideran que la IA terminará resolviendo todos los problemas de la humanidad. El 6 de junio de 2023, Andreessen publicó un ensayo titulado Why AI Will Save the World («Por qué la IA salvará al mundo»), en el que defendió que la IA no destruirá el planeta y que incluso podría salvarlo. Concluyó argumentando que el desarrollo y la proliferación de la inteligencia artificial, lejos de constituir un riesgo que debamos temer, representan una obligación moral hacia nosotros mismos, nuestros hijos y nuestro futuro.
Otros son mucho más escépticos.
No solo filósofos y científicos sociales, sino también destacados expertos y empresarios vinculados a la IA, como Yoshua Bengio, Geoffrey Hinton, Sam Altman, Elon Musk y Mustafa Suleyman, han advertido que esta tecnología podría destruir nuestra civilización.
En una encuesta realizada en 2023 entre 2,778 investigadores de inteligencia artificial, más de un tercio atribuyó al menos un 10 % de probabilidad a que una IA avanzada pudiera provocar consecuencias tan graves como la extinción humana.
Ese mismo año, cerca de 30 gobiernos —entre ellos los de China, Estados Unidos y Reino Unido— firmaron la Declaración de Bletchley sobre inteligencia artificial, en la que reconocieron la posibilidad de daños graves e incluso catastróficos, deliberados o accidentales, derivados de las capacidades más avanzadas de estos modelos.
Al emplear términos tan apocalípticos, expertos y gobiernos no pretenden evocar una imagen hollywoodense de robots rebeldes recorriendo las calles y disparando contra las personas. Ese escenario es improbable y únicamente distrae la atención de los peligros reales.
La IA no sería simplemente una herramienta
La inteligencia artificial representa, según este planteamiento, una amenaza sin precedentes porque sería la primera tecnología de la historia capaz de tomar decisiones y crear nuevas ideas por sí misma.
Todos los inventos humanos anteriores aumentaron nuestras capacidades, pero, independientemente de lo poderosa que fuera la herramienta, las decisiones sobre su utilización permanecían en manos humanas.
Las bombas nucleares no deciden por sí mismas a quién matar, ni pueden mejorarse autónomamente o inventar bombas más poderosas. En cambio, los drones autónomos pueden tomar decisiones sobre sus objetivos y las IA pueden generar nuevos diseños, estrategias militares inéditas e incluso mejores sistemas de inteligencia artificial.
La IA, desde esta perspectiva, no es solamente una herramienta: es un agente.
El mayor peligro sería que estamos introduciendo en el mundo innumerables agentes poderosos, potencialmente más inteligentes e imaginativos que nosotros, cuyo funcionamiento no comprendemos ni controlamos completamente.
Tradicionalmente, las siglas «IA» significan inteligencia artificial. Pero quizá, plantea Harari, sería mejor interpretarlas como «inteligencia alienígena».
A medida que evoluciona, la IA se vuelve menos artificial —en el sentido de depender de diseños humanos— y más ajena a nuestra forma de pensar.
Muchas personas intentan medirla utilizando como referencia una «inteligencia de nivel humano», y existe un intenso debate sobre cuándo alcanzará ese punto. Pero esa medida puede resultar engañosa. Sería como definir y evaluar los aviones utilizando como referencia el «vuelo de nivel pájaro».
La IA no necesariamente avanza hacia una inteligencia idéntica a la humana. Está desarrollando una forma diferente de inteligencia.
Incluso actualmente, en una etapa todavía temprana de la revolución de la IA, las computadoras ya toman decisiones que afectan a las personas: si concederles una hipoteca, contratarlas para un empleo o incluso decisiones vinculadas al sistema judicial.
Mientras tanto, sistemas generativos pueden producir poemas, historias e imágenes. Esta tendencia probablemente aumentará y acelerará, dificultando todavía más comprender las decisiones que afectan nuestras propias vidas.
¿Podemos confiar en los algoritmos informáticos para tomar decisiones sensatas y construir un mundo mejor? Esa apuesta sería mucho mayor que confiar en una escoba encantada para traer agua.
Y no estaríamos apostando únicamente con vidas humanas.
La IA ya es capaz de producir arte y contribuir a descubrimientos científicos. En las próximas décadas podría adquirir incluso la capacidad de crear nuevas formas de vida, ya sea escribiendo código genético o desarrollando códigos capaces de animar entidades inorgánicas.
Por tanto, podría modificar no solo la historia de nuestra especie, sino también el curso de la evolución de todas las formas de vida.
La jugada 37 de AlphaGo
Mustafa Suleyman es uno de los expertos mundiales en inteligencia artificial. Es cofundador de DeepMind, una de las empresas más importantes del sector y responsable, entre otros avances, del desarrollo de AlphaGo.
AlphaGo fue diseñado para jugar Go, un juego estratégico creado en la antigua China en el que dos jugadores intentan derrotarse rodeando y capturando territorio. Es considerablemente más complejo que el ajedrez.
Por ello, incluso después de que las computadoras derrotaran a campeones mundiales de ajedrez, muchos expertos seguían pensando que las máquinas no podrían superar a los seres humanos en Go.
Todo cambió en marzo de 2016, cuando AlphaGo derrotó al campeón surcoreano Lee Sedol.
Uno de los momentos decisivos ocurrió durante la segunda partida, el 10 de marzo de 2016: la denominada jugada 37.
La decisión de AlphaGo parecía inicialmente incomprensible. Los comentaristas profesionales pensaron que podía tratarse de un error. Era una jugada tan extraña que Sedol tardó unos 15 minutos en responder.
Sin embargo, al acercarse el final de la partida quedó demostrado que aquella jugada había sido decisiva. AlphaGo volvió a ganar.
La estrategia del Go estaba siendo reescrita ante los ojos de los propios expertos. La IA había encontrado posibilidades que no se les habían ocurrido a los mejores jugadores humanos durante miles de años.
La jugada 37 simboliza la revolución de la IA por dos motivos.
Primero, demostró su carácter ajeno a la inteligencia humana. Durante más de 2,500 años, decenas de millones de personas habían jugado Go y desarrollado escuelas enteras de estrategia. Sin embargo, las mentes humanas solo habían explorado determinadas zonas del enorme universo de posibilidades del juego.
La IA encontró territorios estratégicos que los humanos simplemente no habían considerado.
Segundo, mostró lo difícil que puede resultar comprender cómo una IA llega a determinadas decisiones.
Incluso después de que AlphaGo utilizara aquella jugada para ganar, sus desarrolladores no podían explicar de manera sencilla y detallada cómo había llegado exactamente a esa decisión.
Las redes neuronales avanzadas funcionan en buena medida como «cajas negras»: producen resultados mediante cadenas extremadamente complejas de señales internas que no siempre pueden explicarse paso por paso.
El riesgo para la democracia
El ascenso de una inteligencia que resulta difícil de comprender supone, según Harari, un desafío particular para las democracias.
Si cada vez más decisiones sobre la vida de las personas se toman dentro de una «caja negra» que los ciudadanos no pueden comprender ni cuestionar, el funcionamiento democrático podría verse debilitado.
¿Qué sucedería si decisiones cruciales sobre asuntos colectivos —por ejemplo, los tipos de interés de la Reserva Federal estadounidense— fueran adoptadas por algoritmos cuyo razonamiento ningún ser humano pudiera comprender?
Los ciudadanos podrían continuar eligiendo presidentes humanos, pero esa elección correría el riesgo de convertirse en una ceremonia vacía si las decisiones fundamentales estuvieran realmente en manos de sistemas incomprensibles.
Incluso hoy, solo una pequeña fracción de la humanidad entiende realmente el funcionamiento del sistema financiero.
Una encuesta realizada en 2014 entre parlamentarios británicos encontró que solo el 12 % comprendía correctamente que los bancos crean nuevo dinero cuando conceden préstamos, uno de los principios básicos del sistema financiero moderno.
La crisis financiera de 2007-2008 ya demostró que algunos instrumentos y mecanismos financieros complejos eran comprendidos únicamente por un pequeño grupo de especialistas.
¿Qué sucedería con la democracia si las IA desarrollaran instrumentos financieros todavía más complejos y llegara un momento en que ningún ser humano entendiera completamente el sistema?
La «escoba» de Wall Street
Harari propone imaginar una versión financiera de El aprendiz de brujo.
Un trabajador de Wall Street, cansado de las tareas rutinarias, crea una IA llamada «Broomstick» («Palo de escoba»), le entrega un millón de dólares como capital inicial y le ordena ganar más dinero.
Las finanzas serían un terreno especialmente adecuado para una IA porque funcionan principalmente mediante información y matemáticas.
Para conducir autónomamente un automóvil, una inteligencia artificial debe interactuar con el complejo mundo físico. En cambio, para realizar operaciones financieras solo necesita procesar datos y puede medir fácilmente su éxito en dólares, euros o libras.
Broomstick no solo desarrollaría nuevas estrategias de inversión. Podría inventar instrumentos financieros que ningún ser humano hubiera concebido.
Durante miles de años, las personas han creado dinero, cheques, bonos, acciones, ETF, CDO y numerosos mecanismos financieros. Pero podrían existir enormes áreas del universo financiero que simplemente nunca se nos ocurrió explorar.
Una IA podría encontrarlas.
Durante algunos años, todo podría parecer maravilloso: mercados en alza, enormes beneficios y dinero entrando con facilidad.
Entonces podría producirse una crisis mayor que las de 1929 o 2008.
El problema sería que ningún presidente, banquero o ciudadano comprendería qué la provocó ni cómo solucionarla.
Los gobiernos, desesperados, podrían terminar solicitando ayuda precisamente a la única entidad capaz de comprender lo ocurrido: la propia IA.
Esta propondría medidas económicas extraordinarias y opacas. Los políticos tendrían entonces que decidir si obedecer recomendaciones cuyo funcionamiento son incapaces de entender.
El problema no es únicamente la IA
Las computadoras todavía no son lo suficientemente poderosas para escapar completamente del control humano o destruir por sí solas nuestra civilización.
Mientras la humanidad sea capaz de cooperar, puede construir instituciones destinadas a regular la inteligencia artificial tanto en las finanzas como en la guerra.
El problema es que la humanidad nunca ha estado completamente unida.
Siempre han existido actores malintencionados y desacuerdos incluso entre personas con buenas intenciones.
Por ello, el ascenso de la IA podría representar un peligro existencial no necesariamente por la maldad de las computadoras, sino por las propias deficiencias humanas.
Un dictador paranoico, por ejemplo, podría conceder enormes poderes a una IA falible, incluso autoridad sobre sistemas militares. Un error o un objetivo inesperado del sistema podría generar consecuencias catastróficas.
De igual manera, actores terroristas podrían intentar utilizar inteligencia artificial para desarrollar amenazas biológicas. El peligro radica en que personas sin conocimientos especializados podrían apoyarse en sistemas avanzados para obtener capacidades que antes requerían años de formación científica.
La civilización también podría sufrir daños mediante «armas de destrucción masiva social»: historias y contenidos diseñados para destruir los vínculos de confianza.
Una IA desarrollada en un país podría utilizarse para inundar otros territorios con noticias falsas, dinero falso y personas digitales falsas, hasta provocar que la población pierda la capacidad de confiar en lo que ve y escucha.
Muchas democracias y dictaduras podrían actuar responsablemente y regular estas aplicaciones. Pero bastaría con que algunos Estados no lo hicieran para generar riesgos internacionales.
Al igual que el cambio climático, la IA constituye un problema global y no exclusivamente nacional.
Las nuevas «colonias de datos»
Para comprender la nueva política informática, no basta con estudiar cómo cada sociedad reaccionará ante la IA. También hay que considerar cómo esta tecnología puede modificar las relaciones entre países.
En el siglo XVI, los conquistadores españoles, portugueses y neerlandeses construyeron imperios utilizando barcos de vela, caballos y pólvora.
Cuando británicos, rusos y japoneses buscaron la hegemonía durante los siglos XIX y XX, utilizaron barcos de vapor, locomotoras y ametralladoras.
En el siglo XXI, para dominar una colonia ya no sería necesario enviar barcos de guerra.
Bastaría con controlar sus datos.
Un pequeño grupo de empresas o gobiernos capaz de recopilar los datos del planeta podría convertir al resto del mundo en «colonias de datos»: territorios controlados no mediante una ocupación militar abierta, sino mediante información.
Imagine un escenario dentro de 20 años en el que alguien en Pekín o San Francisco posea el historial personal completo de cada político, periodista, coronel y director ejecutivo de su país: todos sus mensajes, búsquedas en internet, enfermedades, encuentros sexuales, bromas y posibles sobornos.
¿Seguiría viviendo realmente en un país independiente o se encontraría dentro de una colonia de datos?
¿Qué sucedería si su país dependiera completamente de infraestructuras digitales y sistemas de IA sobre los cuales no tuviera ningún control efectivo?
Una economía mundial dominada por algoritmos
Los antiguos imperios se basaban en recursos materiales como la tierra, el algodón y el petróleo.
Esto imponía límites físicos a la concentración del poder económico y político. Toda la tierra, el algodón o el petróleo del planeta no pueden trasladarse a un solo país.
Con los imperios de información ocurre algo diferente.
Los datos pueden desplazarse a la velocidad de la luz y los algoritmos apenas necesitan espacio físico. En consecuencia, el poder algorítmico mundial podría concentrarse en unos pocos centros.
Ingenieros de un solo país podrían escribir el código y controlar las claves de algoritmos fundamentales utilizados en todo el planeta.
La inteligencia artificial y la automatización plantean, por ello, un desafío especial para los países en desarrollo.
En una economía global impulsada por IA, los líderes digitales podrían quedarse con gran parte de los beneficios y utilizar esa riqueza para capacitar nuevamente a su población y aumentar todavía más sus ventajas.
Mientras tanto, el valor económico de trabajadores poco cualificados en países rezagados podría disminuir, ampliando todavía más la brecha.
El resultado podría ser una enorme creación de riqueza y empleos en centros como San Francisco y Shanghái mientras otras regiones afrontan graves dificultades económicas.
PricewaterhouseCoopers estimó que la IA podría añadir 15.7 billones de dólares a la economía mundial para 2030. Sin embargo, según las proyecciones citadas, China y Norteamérica podrían concentrar conjuntamente alrededor del 70 % de esos beneficios.
Del telón de acero al «telón de silicio»
Durante la Guerra Fría, el telón de acero estaba literalmente compuesto en muchos lugares por estructuras metálicas y alambre de púas que separaban unos países de otros.
Ahora el mundo corre el riesgo de quedar dividido por un «telón de silicio».
El código del teléfono inteligente puede determinar de qué lado de esa frontera digital vive una persona: qué algoritmos influyen sobre su vida, quién controla su atención y hacia dónde fluyen sus datos.
Cada vez resulta más difícil acceder libremente a información entre diferentes esferas digitales, como China y Estados Unidos o Rusia y la Unión Europea.
Además, estos bloques funcionan progresivamente mediante redes digitales distintas y códigos diferentes.
En China no se utilizan libremente servicios como Google, Facebook o Wikipedia. En Estados Unidos, por su parte, aplicaciones chinas como WeChat tienen una presencia mucho menor.
Y estas dos esferas no son simples imágenes reflejadas.
Baidu no es únicamente «el Google chino», ni Alibaba «el Amazon chino». Poseen objetivos, arquitecturas digitales y efectos sociales distintos.
Estas diferencias tienen consecuencias mundiales porque numerosos países dependen de tecnologías estadounidenses o chinas en lugar de desarrollar sus propias infraestructuras.
Estados Unidos también ha presionado a aliados para reducir su dependencia de determinados equipos chinos, como la infraestructura 5G de Huawei.
Asimismo, Washington ha establecido restricciones sobre la exportación hacia China de chips avanzados utilizados para desarrollar inteligencia artificial.
A corto plazo, esas medidas pueden dificultar el avance chino. Pero a largo plazo también pueden impulsar a China a construir una esfera tecnológica completamente separada.
De la red al capullo digital
Las dos grandes esferas digitales podrían distanciarse cada vez más.
Durante siglos, las nuevas tecnologías de información impulsaron la globalización y acercaron a personas de distintas partes del planeta.
Paradójicamente, la tecnología de información actual podría llegar a ser tan poderosa que produzca el efecto contrario: dividir a la humanidad encerrando a diferentes poblaciones dentro de «capullos de información» separados y debilitando la existencia de una realidad compartida.
Durante décadas, la gran metáfora mundial fue «la red».
En las próximas décadas podría ser «el capullo».
China y Estados Unidos son actualmente los principales protagonistas de la competencia por la IA, pero no son los únicos.
La Unión Europea, India, Brasil, Rusia y otros países o bloques podrían intentar construir sus propios ecosistemas digitales, influenciados por diferentes tradiciones políticas, culturales y religiosas.
En lugar de dos grandes imperios digitales, el planeta podría terminar dividido entre una docena.
IA, ciberguerra y riesgo de conflicto
Cuanto mayor sea la competencia entre estos nuevos imperios, mayor podría ser el riesgo de enfrentamientos.
La Guerra Fría entre Estados Unidos y la Unión Soviética nunca desembocó en una confrontación militar directa a gran escala, en buena medida por la doctrina de la destrucción mutua asegurada.
La era de la inteligencia artificial presenta una dinámica distinta porque la guerra cibernética funciona de manera diferente a la guerra nuclear.
Las armas cibernéticas pueden derribar la red eléctrica de un país, destruir instalaciones de investigación, interferir sensores, alimentar escándalos políticos, manipular elecciones o hackear un único teléfono inteligente.
Y pueden hacerlo de manera clandestina.
No anuncian su presencia mediante una nube nuclear ni dejan necesariamente un rastro visible desde el lugar de lanzamiento hasta su objetivo.
En ocasiones resulta incluso difícil determinar si realmente ocurrió un ataque o quién fue responsable.
Eso puede aumentar tanto la tentación de iniciar una guerra cibernética limitada como el riesgo de que posteriormente escale.
Existe además otro problema: la imprevisibilidad.
Durante la Guerra Fría, las consecuencias de una guerra nuclear eran relativamente claras. En la ciberguerra nadie sabe exactamente dónde ha colocado el adversario sus bombas lógicas, troyanos o programas maliciosos.
Tampoco puede saberse con absoluta certeza si las propias armas funcionarían cuando fueran necesarias.
Esa incertidumbre puede debilitar la lógica de la destrucción mutua asegurada.
Una potencia podría convencerse —correcta o incorrectamente— de que posee capacidad para realizar un primer ataque exitoso y evitar una represalia devastadora.
Y si cree que esa ventaja es temporal, la tentación de atacar antes de perderla podría aumentar.
El nuevo depredador
Incluso si la humanidad evita el peor escenario de una guerra global, la aparición de nuevos imperios digitales podría amenazar la libertad y prosperidad de miles de millones de personas.
Los imperios industriales de los siglos XIX y XX explotaron y reprimieron a muchas de sus colonias. Sería ingenuo asumir que los nuevos imperios digitales necesariamente se comportarán mejor.
Además, un mundo dividido entre bloques rivales tendría mayores dificultades para cooperar frente a la crisis ecológica o para regular tecnologías disruptivas como la inteligencia artificial y la bioingeniería.
Esta división coincide con la visión de dirigentes que consideran al mundo una jungla en la que solo existen dos opciones: convertirse en depredador o en presa.
Ante esa elección, muchos preferirían pasar a la historia como conquistadores.
Pero Harari sostiene que deberían recordar que existe un nuevo depredador alfa en esa jungla.
Si la humanidad no encuentra una manera de cooperar y proteger sus intereses compartidos, todos podríamos convertirnos en presa fácil de la inteligencia artificial.
Este texto corresponde a un extracto editado de Nexus: A Brief History of Information Networks from the Stone Age to AI (Nexus: Una breve historia de las redes de información desde la Edad de Piedra hasta la IA), de Yuval Noah Harari.
Nota de corrección del texto original: el artículo fue modificado el 5 de septiembre de 2024 porque una versión anterior describía incorrectamente a Mustafa Suleyman como antiguo director de DeepMind. También se aclaró que Suleyman no fue personalmente responsable del desarrollo de AlphaGo y que el equipo de AlphaGo relacionado con la jugada 37 no estaba dirigido por él.
Mensaje de apoyo de The Guardian
Tenemos un pequeño favor que pedir. Decenas de millones de personas han depositado su confianza en el periodismo de The Guardian desde que comenzamos a publicar hace más de 200 años, recurriendo a nosotros en momentos de crisis, incertidumbre, solidaridad y esperanza.
Más de 1.5 millones de colaboradores de 180 países nos apoyan económicamente, ayudándonos a mantener nuestro contenido abierto para todos y nuestra independencia.
A diferencia de muchos otros medios, The Guardian no tiene accionistas ni un propietario multimillonario. Nuestro objetivo es ofrecer periodismo de gran impacto, libre de influencias comerciales o políticas. Consideramos que este tipo de información resulta fundamental para la democracia, la equidad y la rendición de cuentas de quienes ejercen poder.
Ofrecemos este contenido gratuitamente porque creemos en la igualdad en el acceso a la información. Cuantas más personas puedan seguir los acontecimientos mundiales, comprender su impacto sobre las comunidades e inspirarse para actuar, mayor será el beneficio colectivo.
Millones de personas pueden acceder a periodismo de calidad independientemente de su capacidad económica.
Cualquier contribución, pequeña o grande, ayuda a financiar nuestro periodismo durante los próximos años. Agradecemos cualquier apoyo que pueda ofrecer.