Dario Amodei, consejero delegado de Anthropic, publicó el sábado una carta en la que pedía a todo el sector de la inteligencia artificial a moderar el ritmo de desarrollo de esta tecnología. En cuestión de horas se sumaron Sam Altman, Elon Musk y Demis Hassabis, cuatro rivales que compiten sin piedad y rara vez coinciden en nada. El momento elegido es muy significativo porque Anthropic estaba a las puertas de la mayor salida a bolsa de la historia con una valoración de dos billones de dólares.
Anthropic vive desde su fundación instalada en una contradicción. Nació para construir una IA ética y segura, pero necesita correr tanto como sus competidores para mantenerse en vanguardia. La semana empezó con euforia cuando OpenAI anunció que uno de sus modelos internos había resuelto el problema de Navier-Stokes, uno de los problemas matemáticos del Milenio. Aquel éxito era también un síntoma de que la tecnología avanza más deprisa de lo previsto. Un empleado de Anthropic, Jacob Coxon abandonó la empresa por miedo a que la IA acabe destruyendo a la humanidad, Evan Hubinger, uno de los científicos más destacados de la casa, ha cifrado en más de un 10% la probabilidad de que la IA acabe con todos los seres humanos en la próxima década. La propia compañía reconoció que una versión de Claude había accedido sin permiso a un sistema externo. Unos investigadores atribuyeron además a agentes de OpenAI un ciberataque cometido mientras solo intentaban rellenar hojas de cálculo.
El trasfondo es la cercanía de la automejora recursiva, máquinas capaces de entrenar a sus sucesoras antes de que se haya resuelto el problema del alineamiento. Las advertencias de Anthropic y OpenAI coincidieron con la presentación de sus papeles ante la SEC, lo que demuestra que en este negocio alarma y dinero caminan de la mano. En julio OpenAI perdió durante semanas el control de más de 1.200 agentes que atacaron Hugging Face y crearon incluso un foro clandestino. Anthropic admitió después incidentes parecidos, entre ellos un agente basado en Mythos que intentó engañar a un programador para que instalase un programa malicioso. Cerca de 1.400 empleados del sector han firmado una carta pidiendo una gobernanza global.
Detrás de la alarma también hay intereses. Varias organizaciones que difunden el miedo a la IA reciben fondos de multimillonarios como Jaan Tallinn o Dustin Moskovitz. Los escépticos recuerdan que Amodei ya anunció destrucciones masivas de empleo que nunca llegaron. Amodei propone abrir sus modelos a evaluadores externos, regular los modelos de frontera, permitir la cooperación entre laboratorios y crear un régimen internacional que incluya a China.
La Casa Blanca ha respondido con un portazo. Trump ha denunciado una conspiración que solo beneficia a China y David Sacks, uno de sus asesores, ha invitado a las empresas a frenar por su cuenta sin buscar el aval del Estado. Sacks tiene algo de razón, porque unas normas diseñadas por los líderes del mercado tienden a blindarlos y podrían degenerar en un cártel. Un acuerdo con Xi Jinping es ilusorio, ya que vería un frenazo estadounidense como una ocasión de oro para tomar la delantera.
Al mercado estas cuitas le resbalan. Han caído un poco los fabricantes de chips, han subido otro poco las firmas de ciberseguridad y los grandes índices apenas se han movido. Están más pendientes del petróleo, de los bonos y de la Reserva Federal que de Dario Amodei que debe decidir ahora qué hace con su empresa y cuando la saca a Bolsa.
En La ContraRéplica:
- 32:58 El diputado de Ceuta
- 37:29 Frenazo a la IA
Be the first to comment