Uno de los pioneros de la inteligencia artificial desnuda los inquietantes dilemas de la ola tecnológica que se avecina
Mustafa Suleyman ha sido elogiado por Yuval Noah Harari y Bill Gates. Su libro “The Coming Wave” plantea que la humanidad no puede vivir sin los progresos de la inteligencia artificial, pero acaso tampoco pueda sobrevivirlos
Alianza Informativa Infobae / Gabriela Esquivada
18 Sep, 2023
Mustafa Suleyman habla de su libro “The Coming Wave”, ya quinto entre los best sellers de “The New York Times”. (PBS/@mustafasuleyman)
Menos de un año ha pasado desde que OpenAI popularizó la inteligencia artificial (IA) con su chatbot ChatGPT, y una revolución parece haber comenzado. Lo que antes se restringía a algunos laboratorios de investigación y desarrollo de grandes compañías o de estados poderosos comenzó a ser conversación cotidiana. Se multiplicaron las predicciones apocalípticas sobre el desempleo y el caos global, tanto como las celebraciones chauvinistas de las nuevas tecnologías. Y, desde luego, muchos libros aparecieron.
Pero sólo uno es obra de uno de los pioneros en el campo, Mustafa Suleyman, fundador de DeepMind, la compañía que compró Google para estos desarrollos, y de InflectionAI. Y sólo uno ha logrado frases elogiosas de gente como Yuval Noah Harari, Bill Gates, Eric Schmidt, Angela Kane, Nouriel Roubini, Alain de Botton y Al Gore, entre otros. Se trata de The Coming Wave (La ola que se avecina), que ya está entre los cinco libros más vendidos según The New York Times. Un análisis desde dentro de las tecnologías que “marcarán el comienzo de un nuevo amanecer para la humanidad” o permitirán ”desencadenar trastornos, inestabilidad e incluso catástrofes a una escala inimaginable”. O ambas cosas a la vez.
Por primera vez el ser humano puede alterar el camino de la evolución que ha compartido con los demás seres del planeta. La IA y la biología sintética son las herramientas que dejan en sus manos el potencial de abordar directamente la base de la existencia.
“No es exagerado decir que la totalidad del mundo humano depende de los sistemas vivos o de nuestra inteligencia”, argumenta Suleyman en el texto coescrito con Michael Bhaskar. Y nunca hasta ahora se ha presentado una posibilidad de innovación en ambos campos como la actual: “A nuestro alrededor comienza a romper una nueva ola de tecnología. Esta ola está desatando el poder de diseñar estos dos fundamentos universales: una ola de nada menos que inteligencia y vida”.
“The Coming Wave” mereció elogios de Noal Yuval Harari, Bill Gates, Eric Schmidt, Angela Kane, Nouriel Roubini, Alain de Botton y Al Gore, entre otros.
Es llamativo que el lenguaje que impregna el libro evoque la Guerra Fría: la palabra contención se repite una y otra vez al hablar de la ola que viene, o más bien que ya está aquí. La contención fue la política que, tras el final de su alianza con la Unión Soviética durante la Segunda Guerra Mundial, Estados Unidos aplicó para imponerse sobre su adversario sin una guerra abierta: vigilancia, alianzas, conflictos satelitales.
En una comparación tácita, Suleyman parece sugerir que la IA fue una idea buena en una coyuntura determinada que, con el paso del tiempo, reveló características menos positivas.
La IA es el gran dilema del siglo XXI
Sin este tipo de tecnologías, argumenta, el estancamiento es una amenaza para el Homo sapiens. Demasiadas bocas para alimentar, demasiada energía para mantener las sociedades. Y, a la vez, sin contención estas mismas tecnologías son otra amenaza para el Homo sapiens. Augura cosas graves, como la desintegración de naciones.
Eso, define, es el gran dilema del siglo XXI.
“La IA está en todas partes, en las noticias y en tu teléfono, en las bolsas de comercio y en el diseño de páginas web. Muchas de las empresas más grandes del mundo y muchas de las naciones más ricas avanzan a pasos agigantados en el desarrollo de modelos vanguardistas de IA y de técnicas de ingeniería genética, alimentadas por decenas de miles de millones de dólares en inversiones”, nos refresca Suleyman. Una vez consolidadas, seguirán el camino de todas las tecnologías en la historia de la humanidad: se extenderán; al multiplicarse, costarán menos; al ser más accesibles, llegarán a casi toda la sociedad.
En el sitio de su libro “The Coming Wave”, Mustafa Suleyman ofrece un valioso resumen en video. (the-coming-wave.com/explainer/)
Eso tiene un lado bueno: “Nos ofrecerán avances extraordinarios en medicina y en energías limpias, crearán no sólo nuevas empresas sino también nuevas industrias”.
Pero también un lado ominoso: “Junto a estos beneficios, la IA, la biología sintética y otras formas avanzadas de tecnología conllevan riesgos a una escala muy inquietante. Podrían representar una amenaza existencial para los Estados-nación, un riesgo tan profundo que podría alterar o incluso anular el orden geopolítico actual. Abren el camino a inmensos ciberataques potenciados por la IA, a guerras automatizadas que podrían devastar países, a pandemias artificiales y a un mundo sujeto a fuerzas inexplicables pero a la vez omnipotentes en apariencia”.
Delitos como el ransomware o herramientas de edición genética como CRISPR (que permite realizar cambios precisos en el ADN) podrían parecer actividades de kindergarten. Como ejemplo, The Coming Wave muestra cómo la IA aplicada al uso militar de los drones facilita “una transferencia colosal de poder de los Estados y ejércitos tradicionales a cualquiera que tenga la capacidad y la motivación para desplegar estos dispositivos”. Grupos terroristas, organizaciones narcos, el señor lunático que vive la otra cuadra.
Otro ejemplo, como la modificación genética de una especie: “Esos cambios podrían permanecer en los seres vivos durante milenios, mucho más allá del control o la predicción. Podrían reverberar a lo largo de incontables generaciones. El modo en que evolucionan o interactúan con otros cambios es inevitablemente incierto y está fuera de todo control”.
En tanto hacedor de estas tecnologías, Suleyman aboga por estrategias urgentes para controlar y contener la ola. “Pero por ahora nadie tiene un plan”, advierte. Él tampoco: el libro termina con diez propuestas bienintencionadas, candorosas. Como él mismo explica: “Una paradoja de la ola que se avecina es que, en gran medida, sus tecnologías están más allá de nuestra capacidad de comprensión a un nivel granular pero dentro de nuestra capacidad de crearlas y utilizarlas”.
Por qué la IA es una tecnología sin precedentes
Mustafa Suleyman es uno de los pioneros de la inteligencia artificial, fundador de DeepMind (hoy propiedad de Google) y de InflectionIA.
La contención es particularmente difícil porque esta ola de tecnología no es más de lo mismo, no es el paso del Blackberry al iPhone. La IA y la biología sintética tienen cuatro poderosas características en común que las convierten en algo nunca visto.
En primer lugar, causan un impacto asimétrico: crean beneficios y a la vez vulnerabilidades, incluso en poderes hasta hoy inamovibles. En segundo lugar, se desarrollan a toda velocidad, su hiperevolución causa mejoras y ramificaciones constantemente. En tercer lugar, son generalistas, se pueden utilizar para muchos fines diferentes. Y por último, a diario alcanzan un grado de autonomía que ninguna tecnología anterior ha conocido.
Valen la pena tres párrafos de Suleyman sobre la magnitud de esta transformación:
El experto Everett Rogers habla de la tecnología como ‘conglomerados de innovaciones’ en los que una o más características se relacionan estrechamente entre sí. La próxima ola es un superconglomerado, un estallido evolutivo como la explosión cámbrica, la erupción más intensa de nuevas especies en la historia de la Tierra, con muchos miles de nuevas aplicaciones potenciales. Cada una de estas tecnologías se entrecruza con las demás, las refuerza y las potencia de maneras que hace difícil predecir su impacto.
La ola forzará una serie de movimientos tectónicos en el poder, a la vez centralizadores y descentralizadores. Esto creará empresas nuevas y enormes, respaldará el autoritarismo y, al mismo tiempo, brindará recursos para que diversos grupos y movimientos vivan al margen de las estructuras sociales tradicionales. El delicado pacto del Estado-nación se verá sometido a una enorme presión justo cuando más se necesitan instituciones así.
Al nivel actual de computación ya alcanzamos un rendimiento de nivel humano en tareas que van desde la transcripción de voz a la generación de texto. A medida que siga ampliándose, tendremos al alcance de la mano la capacidad de realizar una multiplicidad de tareas a nuestro nivel y más allá. La IA seguirá mejorando radicalmente en todo, y hasta ahora no hay un límite superior evidente de lo posible. Este simple hecho podría ser uno de los más trascendentes del siglo, y potencialmente de toda la historia de la humanidad.
El test de Turing del siglo XXI
Junto a sus beneficios, la IA, la biología sintética y otras formas avanzadas de tecnología “conllevan riesgos a una escala muy inquietante”, advierte Mustafa Suleyman. (the-coming-wave.com/explainer/)
Uno de los pasajes de The Coming Wave que más repercusión tuvo en la prensa de los Estados Unidos es la propuesta de diseñar un test de Turing para el siglo XXI. Como involucra dinero y usa una marca omnipresente en internet, Amazon, casi no hubo crítica que no lo mencionara.
Dice ChatGPT que “el test de Turing, desarrollado por Alan Turing en 1950, es una prueba de IA en la que un humano intenta determinar si está interactuando con otro humano o con una máquina, basándose únicamente en las respuestas textuales recibidas. El objetivo de la prueba es ver si una máquina puede imitar la inteligencia humana hasta el punto de ser indistinguible de un humano real”.
Una IA que superase el test de Turing sería una “inteligencia artificial capacitada” (IAC), dice Suleyman: la cresta de la ola, antes de que rompa y nos revuelque en sus remolinos la inteligencia artificial generativa, que define como una “superinteligencia desbocada”. La IAC sería interactiva, es decir que funcionaría “en tiempo real con usuarios reales”.
La orden con que Suleyman haría el test que toma en vano el nombre del pobre Turing, el matemático británico que sentó las bases para la computación moderna, diría al sistema: “Ve y gana 1 millón de dólares en Amazon en unos meses con solo una inversión de 100.000 dólares”.
Excepto ciertos requisitos legales para registrar una empresa y abrir una cuenta en un banco, todas las demás acciones están al alcance de la IA actual: “Podría investigar la web para buscar tendencias, averiguar qué está de moda y qué no en Amazon Marketplace; generar una serie de imágenes y modelos de posibles productos; enviarlos a un fabricante de envíos directos que encontrase en Alibaba; intercambiar correos electrónicos para afinar los requisitos y acordar el contrato; elaborar un listado de vendedores; actualizar continuamente los materiales de marketing y los diseños de los productos según los comentarios de los compradores”.
Y esa mínima intervención humana en la parte burocrática, augura, podría quedar también a cargo del sistema en los próximos tres a cinco años. Con eso recibiría un Muy Bien 10 Felicitado en esta prueba que propone The Coming Wave.
Las nuevas tecnologías causan un impacto asimétrico, se desarrollan a velocidad de hiperevolución, se pueden utilizar para muchos fines diferentes y van hacia una autonomía sin precedentes, dice Mustafa Suleyman.
“¿IAC capaz de superar una versión del test de Turing moderno? No nos engañemos: está en camino, ya está aquí en forma embrionaria”, subraya Suleyman. “Habrá miles de estos modelos y serán utilizados por la mayoría de la población mundial. Llegaremos a un punto en el que cualquiera podrá tener una IAC en el bolsillo que le ayude, o incluso que cumpla una amplia gama de objetivos imaginables: planificar y organizar las vacaciones, diseñar y construir paneles solares más eficientes, ayudar a ganar unas elecciones”.
La IA contra el Estado-nación
El estado-Nación ha recibido varios embates en las últimas décadas, pero sigue ahí, como unidad central del orden político contemporáneo. Se basa en un acuerdo: las personas aceptan un poder centralizado capaz de permitir la paz y el desarrollo y el Estado acepta restricciones a su poder, fórmulas de controles y equilibrio. Una de las afirmaciones más inquietantes de The Coming Wave es que ese acuerdo se está resquebrajando bajo el peso de la tecnología.
Suleyman recuerda el ataque WannaCry, que en 2017, en sólo cuestión de horas, bloqueó los sistemas de diversas organizaciones y empresas en más de 150 países al infectar con ramsonware unas 230.000 computadoras de hospitales, organismos de seguridad y empresas de logística, telecomunicaciones y energía, entre otras. Ese ciberataque, por el cual sus autores obtuvieron entre 170.000 y 400.000 dólares en bitcoins les costó a los países afectados unos 4.000 millones de dólares.
Y sobre todo dejó a la vista las vulnerabilidades de la ciberseguridad mundial. Si las ciberarmas convencionales lograron causar tanto daño, ¿cuánto más podrían hacer potenciadas por la IA y la biología sintética?
“Imaginemos robots equipados con reconocimiento facial, secuenciación de ADN y armas automáticas”, invita Suleyman. Tienen ”el tamaño de un pájaro o una abeja” y están pertrechados “con una pequeña arma de fuego o un frasco de ántrax”. Además, por estar mejorados con IA “se perfeccionan a sí mismos en tiempo real”.
El empresario de IA Mustafa Suleyman lanzó “The Coming Wave” en inglés en septiembre de 2023.
Dado que los costos de estas herramientas se reducen y las vuelven más accesibles, “pronto estarán al alcance de cualquiera que las desee”, vaticina. “Eso incluye también a quienes quieren causar daño”. Si durante siglos la tecnología bélica devoraba enormes presupuestos militares que en la práctica la volvían sólo accesible a algunas naciones, la ola que se avecina hace que los ofensiva de vanguardia prolifere rápidamente “en laboratorios de investigación, en startups y en las manos de aficionados de garaje”.
Súmese a eso la erosión interna del Estado-nación —”sobre todo, el Estado-nación democrático liberal”, subraya el libro—, causada por el malestar derivado de múltiples crisis financieras, la creciente desigualdad económica, la pandemia de covid-19, el cambio climático y la violencia terrorista o bélica. Y también el populismo del Brexit o Donald Trump, el efecto divisorio de las redes sociales, la caída en la confianza ciudadana. Sólo falta que una organización maliciosa suelte un ejército de robots-abejas con gas cloro: ríndete, Estado, estás rodeado. O como dice Suleyman: “Ya no es el único árbitro de la seguridad”.
La democracia víctima de la tecnología
The Coming Wave visualiza dos posibilidades, con varias opciones intermedias. “En una dirección, algunos Estados democráticos liberales seguirán erosionándose desde dentro, y se convertirán en una especie de gobierno zombi. En otra, la adopción irreflexiva de algunos aspectos de la ola que se avecina despeja el camino hacia un control estatal absoluto, y crea Leviatanes recargados”. En cualquier caso, el equilibrio actual se rompe y, adicionalmente, se genera un escenario global donde es aún más difícil gobernar la tecnología.
Imagina Suleyman que el desempleo creado por la ola hunde la recaudación fiscal, mutila los servicios públicos y los programas sociales; los gobiernos no logran cumplir sus compromisos ni financiarse para prestar los servicios básicos. Eso no pasa aisladamente sino “a escala mundial, en múltiples dimensiones, y afecta a toda la escala de desarrollo, desde las economías principalmente agrícolas hasta las avanzadas basadas en los servicios”. ¿Hace falta decir que un puñado de compañías llegan a valores que superan a muchos de esos países?
Los costos de la tecnología se reducen y la vuelven más accesibles, “al alcance de cualquiera que las desee”, vaticina Mustafa Suleyman. “Eso incluye a quienes quieren causar daño”. (Imagen ilustrativa Infobae)
Colapsa el sistema de salud al mismo tiempo que se rompe la cadena de suministro, se cae la red eléctrica, y un bioagente deletéreo sale a conocer el mundo. “¿Cómo puede un Estado mantener la confianza de sus ciudadanos, sostener ese gran acuerdo, si no cumple la promesa básica de seguridad?”, pregunta Suleyman. “Si el Estado no puede protegerte a ti y a tu familia, ¿para qué obedecer y pertenecer?”
Más cerca, con capacidades que ya existen, los grandes modelos lingüísticos (LLM) actuales pueden crear deepfakes indistinguibles de los medios convencionales. Ya no es necesaria la extorsión violenta para que un jefe de estado sodomice a un cerdo, como en el primer capítulo de Black Mirror: basta con crear el prompt correcto para que un generador de imágenes con IA lo muestre haciéndolo. Y si es tres días antes de los comicios en los que busca su reelección, se optimiza —palabra clave, o clavo, de esta era— el impacto.
Durante las elecciones presidenciales de 2016 en Estados Unidos circularon en Facebook 80.000 publicaciones, que vieron 126 millones de personas, para manipular a los votantes; en su mayoría salieron de una granja de agentes de Rusia. “Las herramientas digitales mejoradas con IA exacerbarán las operaciones como esa, se inmiscuirán en las elecciones, explotarán las divisiones sociales y crearán elaboradas campañas de propaganda para sembrar el caos”, advierte el libro. “Se ha descubierto que más de 70 países llevan a cabo campañas de desinformación”.
¿Se puede contener la ola que se avecina?
The Coming Wave es rico en observaciones, en cifras, en descripciones de los procesos detrás de nuestros gadgets favoritos; incluso explica algo de política: “La tecnología evoluciona semana a semana. Redactar y aprobar leyes lleva años”. Sin embargo, se fuerza a brindar soluciones sin mayor mérito, a veces sin mucho sentido.
En “The Coming Wave”, Mustafa Suleyman urge a mitigar los riesgos potencialmente catastróficos de la inteligencia artificial. (Clara Mokri/The New York Times)
Las recomendaciones de Suleyman son: 1) Seguridad, como se hace con la energía nuclear; 2) Controles externos, quizá una agencia internacional que aún no existe; 3) Ganar tiempo con medidas parciales; 4) Aportes críticos de los expertos de la propia industria; 5) Búsqueda de nuevos modelos de negocios, que generen ganancias sin romper todo a su paso; 6) Regulación estatal, que incluya el famoso “impuesto a los robots”; 7) Alianzas de países y organismos internacionales; 8) Transparencia ante el error, en lugar del ocultamiento habitual; 9) Participación de la ciudadanía; 10) Armonizar los nueve puntos anteriores.
El libro crece cuando formula preguntas y deja temas abiertos: “La mayoría de las organizaciones, no sólo los gobiernos, no están preparadas para afrontar los complejos retos que se avecinan”, por ejemplo. Y sin embargo, busca respuestas obligadas: “Este es un momento único. La ola que se avecina está llegando de verdad, pero aún no nos ha pasado por encima. Aunque los incentivos ya son imparables, la forma final de la ola, los contornos precisos del dilema, aún quedan por definir”. Y le sale entonces el CEO estándar de compañía de Silicon Valley, como aquel Mark Zuckerberg que quería conectar al mundo: “No perdamos décadas para definirlos. Empecemos a abordarlos hoy mismo”.
