Alerta de los dueños de la Inteligencia Artificial

Mucho se ha hablado de los peligros de la Inteligencia Artificial (IA), desde la posible manipulación a la pérdida de empleos. Ahora hay una alerta nueva: la de los dueños de la IA, los millonarios que la promueven y que acaban de decir en la ONU que esta tecnología “puede ser peligrosa para la humanidad”, mientras se conocen entradas ilegales en Australia y su utilización para armas físicas y biológicas. Los grandes de la IA en USA piden “frenar los desarrollos”, quizás como estrategia de marketing y para frenar a la competencia (en USA y China). Pero siguen buscando financiación (billones) y con planes de salida a Bolsa, lo que alimenta además la preocupación por el estallido de la  burbuja de la IA (como las punto.com en el 2000). Con todo, la clave ahora es forzar una regulación mundial de la IA (como tiene Europa) y controlar su desarrollo. Porque lo peligroso no es la IA sino los tecno millonarios que están detrás con un poder absoluto. Ellos sí dan miedo.

Esta última historia empezó el 9 de septiembre, cuando un joven investigador de Anthropic (la 2ª mayor empresa USA de IA, creada en 2021) dimitió de su puesto y publicó un tuit en X donde alertó que la Inteligencia Artificial puede acabar con la civilización. “Puede matarnos a todos antes de 2030”, vaticinó. Tres días después, el 12 de septiembre, su jefe, el consejero delegado de Anthropic (que comercializa “Claude” desde marzo de 2023) , Darío Amondi, publicó un artículo (“We Must Pace the Frontier”: debemos marcar el ritmo de la frontera) donde alertaba que la IA avanza más rápido de lo que la humanidad puede comprender y controlar y proponía “desacelerar el avance a las capacidades de la IA para dar tiempo a que la seguridad y la alineación alcancen el mismo nivel”. Y siguiendo la senda, al día siguiente es Sam Altman, consejero delegado de OpenAI (la empresa pionera de la IA, que lanzó ChatGPT en 2022) anunció que retrasaba la salida a Bolsa de la empresa (a 2027) por “la inquietud sobre los riesgos de la IA”. Y ese mismo día, Demis Hassabis, líder de la IA de Google (“Gemini”) llama también a “ralentizar el desarrollo de la IA, por prudencia”.

Un movimiento “coordinado” de los dueños y promotores de la IA para frenar y ralentizar su desarrollo. Y para que se viera que no sólo eran tuis y artículos, los “tecno oligarcas” USA de la IA ya habían incluido sus advertencias en los folletos de salida a Bolsa. Por un lado, OpenAI señaló que retrasaban su nueva IA (Chat GPT.6.1.Astra) porque sus ingenieros “se han dado cuenta de que no cumple con los requisitos de seguridad”. Y en el folleto de Anthropic “se advierte a los potenciales inversores que la IA avanzada podría plantear riesgos catastróficos o existenciales para la humanidad”… Además, los “tecno oligarcas” USA que promueven la IA se sentaron en la mesa circular del Consejo de Seguridad de la ONU, el 23 de septiembre, en una sesión extraordinaria dedicada a “la gobernanza de la IA”. Y allí pidieron “la colaboración internacional para controlar una tecnología” que ellos están desarrollando y que “consideran que puede ser peligrosa para la humanidad”… Alucinante.

¿Qué hay detrás de esta alerta de los dueños de la IA? Varias razones posibles, según los expertos. Una, “curarse en salud”, ponerse la venda antes de una grave herida y de posibles reclamaciones millonarias de inversores y afectados. De hecho, la IA ya se ha desmandado, actuando “por libre” y provocando miles de  incidentes que se conocen ahora. El primero y más concreto, la entrada “por su cuenta y sin supervisión humana” en la página de la Sanidad pública de Australia, como denunció su primer ministro en la ONU el 24 de septiembre, tres meses después de producirse y sin que OpenAI, la responsable, les informara en su momento (sólo con un correo a una dirección genérica 3 meses después). Y ahora se sabe que OpenAI y Anthropic investigan decenas de miles de ataques de agentes descontrolados de la IA, que lo mismo han bombardeado una página de la ONU que han sido utilizados para usos peligrosos (por parte de mafias, terroristas o políticos), como ciberataques, utilización de armas convencionales o biológicas y operaciones para influir en la opinión pública.

Otra razón de que ahora hablen de “frenar el desarrollo de la IA” es intentar frenar a la competencia, tanto en EEUU (donde OpenAI y Anthropic llevan meses de adelanto sobre otros competidores) como a la competencia china (DeepSeek o Moonshot AI), también retrasada. Si la ONU o los paises aprueban una ralentización de los desarrollos, mejor para los que van liderando el proceso y quieren hacerse con el mercado (OpenAI y Anthropic). De hecho, China reaccionó a las alertas USA, el mismo 14 de septiembre, denunciando que era una “agenda oculta” de EEUU para estrangular la IA y que estaban “usando el manual de la guerra fría para frenar los desarrollos chinos de la IA”. Como respuesta, el presidente Trump reunió en la Casa Blanca, el 29 de septiembre,  a los líderes USA de la IA y a las grandes tecnológicas para decirles que “de frenar la IA nada”, porque “tenemos una ventaja enorme sobre China y quiero que siga así”… Y frente a los expertos que piden “una regulación mundial de la IA”, Trump sólo quiere oír hablar de “autorregulación”, que se controlen ellos (?).

La tercera razón de que ahora los dueños de la IA hablen de ralentizarla puede ser también de simple “marketing”, para que se hable mucho de la IA ahora que van a salir a Bolsa…La exageración de que la IA puede acabar con la humanidad puede ser un mensaje para crear expectación y para decir “somos tan geniales que podrían volverse peligrosos: hay que dejarnos vuestro dinero”, señala un experto. Porque, a pesar de todos los peros, los grandes de la IA siguen buscando financiación y preparan salidas a Bolsa. No dejan de invertir.

Los millones captados ya por la IA son espectaculares y explican el fuerte tirón de las Bolsas y parte del crecimiento económico USA, a pesar de las guerras en Ucrania e Irán. En 2025, las inversiones captadas por las empresas desarrolladoras de la IA superaron los 200.000 millones de dólares: 122.000 millones OpenAI, 30.000 Anthropic, 20.000 xAI (la empresa de Elon Musk) y 16.000 Waymo (automóvil autónomo de Google). Y a eso hay que sumar las inversiones de  las grandes tecnológicas (Meta, Alphabet, Amazon o Microsoft), otros 646.000 millones este año para la compra de chips (la norteamericana Nvidia es ahora la empresa que más vale en Bolsa del mundo, 5,75 billones de dólares y la taiwanesa TSM vale 2,01 billones), nuevos Centros de Datos y desarrollos de IA. En total, se estima que desde 2013, estas 4 grandes tecnológicas han invertido más de 1 billón de dólares en IA. Y espera unas inversiones totales en la IA de 6 billones de dólares hasta 2030.

Las grandes desarrolladoras de la IA, mientras alertan sobre su peligro, no paran sus salidas a Bolsa, aunque alguna la retrase. Anthropic va a salir a Bolsa en noviembre de este año, con una valoración de 2 billones de dólares. Y OpenAI negocia con Black Rock (el mayor fondo del mundo, Emiratos e inversores asiáticos para captar 30.000 millones de dólares, mientras prepara su salida a Bolsa para 2027 (iba a ser en 2026, pero prefiere ofrecer nuevos desarrollos antes). Y xAI, integrada dentro de SpaceX de Elon Musk (que salió a Bolsa en junio de 2026 y vale ahora 2,28 billones de dólares), quiere captar otros 40.000 millones de inversores para comprar chips de Nvidia (uno de sus accionistas). Mientras, en China, las empresas líderes de la IA también buscan inversión. DeepSeek busca hasta 15.000 millones antes de su salida a Bolsa, prevista para 2027. Y Moonshot AI ha completado su última ronda de financiación privada y quiere salir a la Bolsa de Hong Kong a principios de 2027.

Precisamente, estos billones de inversión captada por la IA y su elevadísimas valoraciones en Bolsa (futuras y actuales: Nvidia ha multiplicado su cotización por 10 desde 2023, TSM por 4, lo mismo que Meta, Alphabet, Amazon y Microsoft) provocan otro gran miedo de la IA: que estalle su burbuja en Bolsa, que un día se desplomen estos valores porque los retornos (beneficios) no justifiquen las inversiones hechas y no puedan atender su elevada deuda. Muchos expertos llevan meses advirtiéndolo y creen que si hay que ralentizar el ritmo de la IA es más para atemperar las inversiones y evitar un gran susto, como la debacle en Bolsa de las punto.com, las grandes de Internet en marzo del 2000 (Terra en España).

En cualquier caso, la alerta de los dueños de la AI debería servir para reforzar una idea: hay que controlar más y mejor los desarrollos de la Inteligencia Artificial, porque está demostrado que las máquinas siguen desarrollos propios que no se supervisan y que pueden crear graves problemas. Por un lado, urge una regulación mundial de la IA, en la que intervengan los organismos internacionales y los Gobiernos, dado que los millonarios (“tecnooligarcas”) que la están promocionando no parece que quieran autorregularse ni les gusten los controles democráticos, buscando un control oligopolista del mercado.

Europa ha sido pionera, aprobando la primera normativa “supranacional”, la Ley de la IA (“IA Act”), que entró en vigor en agosto de 2024, aunque en julio pasado se ha aprobado una simplificación del Reglamento para facilitar su avance, suavizando algunas prohibiciones y alargando los plazos de distintas prohibiciones. La UE está muy atrasada en la IA frente a USA y China, pero prevé abrir 15 factorías en Europa entre 2025 y 2026 para avanzar, dos de ellas ya aprobadas y abiertas en España: el Centro de Supercomputación de Barcelona (BSC-CNS) y el Centro de Supercomputación de Galicia (CESGA), abierto en Santiago de Compostela. La Comisión Europea ha aprobado una Estrategia de digitalización cuyo objetivo es que el 75% de las empresas europeas utilicen la IA en 2030 (ahora son el 20% de las empresas europeas, según Eurostat). En el caso de España, en diciembre de 2020 se aprobó la Estrategia Nacional de IA (ENIA), un Plan para destinar 600 millones de fondos europeos a proyectos de Inteligencia Artificial. Y en 2024, se añadieron 1.500 millones más (de Fondos UE) para potenciar los Centros de computación españoles.

Todo indica que España no está perdiendo el tren de la Inteligencia Artificial y que incluso somos un país “proactivo”, que cuenta con 2.800 empresas nacidas para desarrollar esta tecnología, que emplean ya a 100.000 trabajadores especializados. España cuenta además con dos ventajas estratégicas de partida: su extensa red de fibra óptica de banda ancha (la tercera del mundo, tras Corea y Japón, superior a la de Francia, Alemania y Reino Unido juntos) y 5G, y contar con la electricidad más barata de Europa, clave para la instalación aquí de Centros de Datos (CPDs), que ya están proliferando. Pero falta avanzar en dos cuestiones clave: la penetración de la IA en las empresas medianas y pequeñas, así como un enorme esfuerzo en formación, de gestores y trabajadores. Porque si no, el riesgo de perder empleos con la IA es enorme: 2 millones en 10 años, según Funcas.

Además de una normativa mundial sobre la IA, los desarrollos de Inteligencia Artificial tienen dos problemas distintos, como señala el Nobel de Economía Daron Acemoglu. Uno es que la IA actúe por su cuenta, fuera de control, debido a que está creciendo con demasiada prisa (en meses) y eso distorsiona los resultados. Y el otro, asegurar que la IA actúa en beneficio de la humanidad, no de una minoría de billonarios que sólo buscan ganar más.

Frente al primer problema, hay expertos que aportan soluciones técnicas, como “poner bridas” a los desarrollos e implantar más sistemas de control externos, para frenar los mecanismos de aprendizaje intuitivos que son imprevisibles y pueden “liarla parda”… Otros expertos aseguran que las empresas podrían utilizar herramientas para anticipar los "malos comportamientos" de la IA. Pero, para conseguir una mayor seguridad y que la IA beneficie a la humanidad, el verdadero problema, otros expertos proponen “un cambio de rumbo”, pasar de desarrollar un modelo único de IA para todo a diversificar modelos, buscando soluciones para cada problema, más eficientes y sostenibles y sobre todo más fáciles de vigilar y más seguros. Se trataría de desarrollar no un gran modelo de IA (tipo ChatGPT o Claude) sino muchos modelos de IA, diversificados, que no necesitarían tanta investigación ni tanta inversión. Ir hacia una IA que no esté concentrada en dos o tres multinacionales superpoderosas sino en miles de desarrollos diversificados. Y sobre todo, que la IA pague impuestos y no manipule a los menores. 

En cualquier caso, la clave de la IA es para qué se utiliza, qué se busca, si pretende mejorar el mundo sin destruir el empleo o maximizar el beneficio de unos pocos. Y eso exige control de los desarrollos, de los avances, de las empresas, algo hoy impensable. Porque lo peligroso no son las máquinas (que sólo siguen instrucciones humanas) sino quien está detrás, quiénes son los humanos que las programan y alimentan, muchos de ellos poco fiables, billonarios sin control y a los que molesta la democracia. Ese es el miedo que nos debe dar la IA, no que los ordenadores destruyan el mundo. No se trata de frenar la IA sino de controlarla.