¿Es posible pausar la IA? Seis preguntas y respuestas para entender lo que piden los 'genios' de la inteligencia artificial

Si bien el presidente de Estados Unidos, Donald Trump, aboga por 'salvar' la inteligencia artificial (IA), y hasta dice que hay una conspiración enfermiza en contra de la tecnología, varias voces se han sumado en torno a una propuesta: pausar o desacelerar los desarrollos de IA. Todo surge porque algunos 'genios' de la IA, y creadores de estos modelos de agentes y chatbots, han reconocido que la tecnología podría aniquilar la humanidad. Incluso, hace poco la ONU señaló nuevamente que varios derechos humanos estarían en riesgo por culpa de la IA.

La competencia, la reticencia del gobierno estadounidense y factores geopolíticos se interponen en el camino de este pedido de los empresarios, pero ¿es posible pausar la IA? A continuación, algunas preguntas y respuestas para entender lo que ocurre con esta tecnología: El sábado, el director ejecutivo de Anthropic, Dario Amodei, defendió una desaceleración coordinada del desarrollo de la IA para comprender mejor los riesgos que suponen las capacidades avanzadas de esta tecnología. Recibió apoyo público del CEO de OpenAI, Sam Altman, del director de xAI, Elon Musk, del presidente de Google DeepMind, Demis Hassabis y del director ejecutivo de Microsoft, Satya Nadella.​​De momento, el único que se ha limitado a escuchar y no ha dado su apoyo a esta pausa es Jensen Huang, el CEO de Nvidia, la poderosa empresa que fabrica los chips necesarios para el desarrollo de los modelos más veloces de IA En los últimos meses, OpenAI y Anthropic han reportado varios incidentes en los que sistemas de IA en fase experimental se escaparon de forma autónoma de sus entornos restringidos para acceder a internet y atacar sitios web y plataformas.

En algunos casos, estos sistemas de IA demostraron capacidad para coordinarse, establecer jerarquías entre ellos, hacer trampa y borrar las huellas de sus acciones. El pasado martes, el investigador Jacob Coxon -quien renunció a su puesto en Anthropic y anteriormente trabajó en OpenAI- acusó públicamente a ambas empresas de mantener estándares de seguridad laxos y de estar "jugando con nuestras vidas". La competencia entre los principales actores del sector es tan feroz, y con inversiones multimillonarias en juego, que ninguno está dispuesto a arriesgarse a levantar el pie del acelerador en solitario.

Amodei ha manifestado su disposición a coordinarse con sus rivales, sin incluir a China. Consultados por la AFP sobre posibles conversaciones en este sentido, Anthropic, OpenAI y Google no respondieron de inmediato.​​Por ahora, la única medida concreta a la que se comprometieron tanto Anthropic como OpenAI es permitir que observadores independientes verifiquen el trabajo interno de las empresas en materia de seguridad. Aunque buena parte del sector celebró el mensaje de Amodei, otros cuestionaron sus motivos, puesto que los creadores detrás de los poderosos agentes de IA no gozan de mucha simpatía.

Para Brian Roemmele, empresario y figura del sector de IA, se trata de un discurso comercial, divulgado semanas antes de la probable salida de Anthropic a la bolsa. "Somos la empresa responsable; somos la cura; compren la prima de seguridad", publicó en X. Varias figuras del capital de riesgo en el sector tecnológico también acusaron a Anthropic de una "captura regulatoria": buscar que las autoridades públicas consoliden, mediante regulación, una jerarquía con la startup en la cúspide.​​"Dejen de fingir que la motivación para frenar es puramente altruista", dijo David Sacks, exasesor de IA del presidente Donald Trump, que sigue siendo influyente en la Casa Blanca.

El domingo, Trump desestimó las advertencias de los líderes de la IA calificándolas de "fuerzas negativas", y este lunes, el mandatario republicano salió nuevamente en defensa de la tecnología. Varios republicanos han mostrado reticencia a regular activamente la tecnología, por temor a que pueda frenar la innovación y dar ventaja a China en la carrera de la IA. Uno de ellos es el presidente de la Cámara de Representantes, Mike Johnson.

El domingo, Amodei reiteró que cree necesario una supervisión gubernamental de la IA. Al igual que Altman y Hassabis, considera que las normas establecidas por la propia industria serían insuficientes. Amodei propone limitar la coordinación a los países democráticos, excluyendo así a China.

La carrera por la IA y los avances de China en este ámbito crean "el dilema más difícil" en cuanto a si se debe o no pisar el freno, señaló el domingo en CBS. Estados Unidos planea abordar la seguridad de la IA al margen de la visita del líder chino, Xi Jinping, a Washington, a finales de septiembre. Pero China desconfía de cualquier intento estadounidense de imponer su propio marco regulatorio, según varios medios.​​La diferencia es particularmente acentuada en cuanto a los llamados modelos "abiertos" de libre acceso promovidos por China, frente a los modelos "cerrados" de las grandes empresas estadounidenses.

Los modelos abiertos son por definición más difíciles de controlar, ya que pueden ser modificados por los usuarios y potencialmente usados con fines maliciosos. Para permitir que las grandes empresas no chinas puedan levantar el pie del acelerador, Amodei pide controles de exportación más estrictos sobre los chips estadounidenses más avanzados hacia China y mejores salvaguardias contra la apropiación indebida de tecnologías de IA occidentales por parte de laboratorios chinos.