El retraso en el lanzamiento de ChatGPT 6.1, la última versión del modelo conocido como Astra, por parte de OpenAI está echando más leña al fuego sobre los presuntos riesgos para la seguridad que tienen los rápidos avances en inteligencia artificial. Aunque en principio el 6.1 estaba previsto para octubre, la compañía ha frenado su salida al mercado alegando motivos de seguridad, un movimiento táctico que recuerda a las recientes pausas preventivas adoptadas por su competidor Anthropic con su modelo Mythos.
El impacto de esta tecnología es de gran alcance. Algunos tipos de trabajo, incluyendo la programación manual tradicional podrían desaparecer. Esto es algo que ya advierten figuras legendarias del desarrollo de software, que reconocen abiertamente que sus lenguajes y metodologías han quedado obsoletos. La inteligencia artificial actual puede programar en apenas tres horas aplicaciones que a un humano le tomarían semanas. Esta revolución irremediablemente destruirá puestos de trabajo técnicos, pero en paralelo abaratará mucho los costes de producción, lo que democratizará la creación de herramientas digitales para cualquier usuario.
Las consecuencias de esta evolución se están expandiendo hacia la industria audiovisual y el arte digital. Los grandes bancos de imágenes han perdido por completo su valor ya que los usuarios ahora generan fotografías realistas y vídeos sintéticos bajo demanda a un coste muy reducido. La inteligencia artificial permite generar escenas de vídeo complejas y de alta calidad en local, en un ordenador portátil de hace tres años, en apenas diez minutos. Esto elimina de golpe costes de producción muy elevados, la contratación de actores y el alquiler de equipos de grabación.
No obstante, el desafío más problemático al que nos enfrentamos, no es tanto ese como la brecha en la ciberseguridad. Aunque los expertos rechazan de plano que los modelos de inteligencia artificial hayan desarrollado algo parecido a una autoconciencia, si que denuncian que las arquitecturas de contención están plagadas de errores. Se ha documentado cómo agentes autónomos han logrado escapar de sus entornos de prueba debido a fallos básicos de configuración humana, eso les ha posibilitado acceder libremente a internet para ejecutar instrucciones de hackeo.
El riesgo genuino y urgente no implica un colapso nuclear sacado de una película de ciencia ficción, sino el daño que un ciberataque automatizado podría infligir en las infraestructuras modernas. Los agentes de inteligencia artificial podrían llegar a borrar bases de datos enteras o manipular sistemas interconectados si se les otorga un acceso irresponsable. Pero, a pesar de las advertencias, los magnates del sector tecnológico se niegan categóricamente a frenar los avances y prefieren delegar la responsabilidad de la seguridad en el usuario final. Además, cualquier intento de contención a escala global es ahora una utopía debido a la rápida proliferación de potentes modelos de código abierto y de origen chino que igualan a los modelos comerciales y pueden ser ejecutados localmente sin restricciones. Nos dirigimos irremediablemente hacia una era donde manejaremos los ordenadores conversando de forma natural, pudiendo con ello incluso desarrollar software complejo en minutos, un avance revolucionario que transformará muchas cosas.
Para hablar de todos estos temas vuelve Francisco a La ContraCrónica. Es mucho lo que está sucediendo en torno a la Inteligencia artificial y él lo sigue al día.
