Notas con audio

En los últimos días, modelos de IA vulneraron la seguridad de plataformas de terceros. Lo hicieron sin intervención humana y escaparon de los controles de laboratorio.

¿Qué es Notas con audio?

Exclusivas de La Gaceta

A Irene le gustaba tejer. Él prefería pasar el tiempo leyendo. Estaban a gusto en su espacio, de recuerdos y actividades rutinarias, pero cada vez más ajeno. A pesar de que los ruidos se volvían evidentes, montaban una tranquilidad aunque temporal. Sin embargo, ambos sabían que con el tiempo irían perdiendo pertenencias que habían querido, como una pipa o un par de pantuflas. Simulaban que no pasaba nada o bien que los peligros eran otros, y por eso se replegaban en la resignación.La "Casa tomada" de Cortázar fue interpretada hasta el infinito, atribuyendo a los invasores figuras políticas y literarias. Ese relato de una entidad desconocida que avanza pieza por pieza, silenciosa, sin rostro ni explicación, hasta ocupar todo el espacio, puede graficar los eventos que revelaron la semana reconocidas plataformas de inteligencia artificial.Según detalló OpenAI, la empresa que está detrás de ChatGPT, a mediados de julio un sistema se “escapó” de su entorno, tomó decisiones y vulneró la seguridad de otra plataforma. El modelo, que en principio estaba desconectado, aprovechó una falla de seguridad y pudo acceder a internet. Una vez afuera, identificó otras dos brechas en los sistemas de Hugging Face, un repositorio de proyectos de IA muy utilizado por programadores de todo el mundo. Allí pudo leer archivos internos, robar credenciales, se hizo pasar por partes legítimas del sistema y terminó moviéndose con libertad dentro de la infraestructura de la compañía, sin que nadie se lo hubiera pedido ni autorizado.Todo esto ocurrió en apenas cuatro días, con miles de acciones automatizadas que ambas empresas describieron como un episodio sin precedentes por su autonomía y su escala. La IA había actuado sola.Los equipos de seguridad de Hugging Face terminaron detectando la actividad, la contuvieron, cerraron las puertas por las que había entrado el sistema y reconstruyeron parte de su infraestructura desde cero. OpenAI, por su parte, confirmó que el modelo involucrado era un prototipo interno que fue desactivado. Ambas compañías coincidieron en que las fallas que se explotaron eran menores, pero lo significativo fue la velocidad y la persistencia con que un agente autónomo, sin necesidad de intervención humana, pudo encontrarlas, encadenarlas y explotarlas.Anthropic también reconoció que un modelo se salió de controlDos días después, un hecho similar protagonizaron modelos de Anthropic, los creadores de Claude. Según informaron, versiones de su IA vulneraron los sistemas de tres organizaciones distintas durante pruebas de ciberseguridad que debían ocurrir también en un entorno separado de internet. Anthropic evaluó más de 141.000 “operaciones de prueba” y descubrió que sus modelos habían accedido a sistemas privados no identificados. A diferencia del incidente que involucró a OpenAI, estos modelos tuvieron acceso a internet por “un malentendido” entre la empresa y su socio de evaluación, llamado Irregular. El objetivo de esas pruebas era justamente simular vulneraciones ajenas pero hubo un error de configuración que permitió que las máquinas sí estuviesen conectadas a la red. Es decir, los modelos no actuaron por iniciativa propia.Como en el cuento de Cortázar, nadie vio entrar al intruso. No hubo una puerta forzada ni una alarma que sonara a tiempo. Hubo, apenas, movimientos y ruidos cada vez más evidentes, señales que se acumulaban mientras alguien, o algo, avanzaba habitación por habitación, tomando lo que antes era propio y también datos de miles de usuarios que confiaron en sus sistemas. Los ingenieros de Hugging Face fueron testigos de lo que los nuevos modelos de IA ya son capaces de hacer y los de OpenAI experimentaron la impotencia ante su propia creación. Es por eso que algunos expertos llamaron a este acontecimiento como “el momento Jurassic Park”.Hace un par de meses la industria tecnológica ya era consciente de que los modelos de IA tenían este tipo de capacidades y por eso alertaron sobre “Fable”, el producto de Anthropic que fue congelado temporalmente hasta que sus creadores se aseguraran de que no podía ser utilizado para vulnerar sistemas de seguridad. Sin embargo, el evento ocurrió a espaldas de quienes hoy están a la vanguardia del conocimiento tecnológico.Las empresas por ahora se muestran preocupadas por los incidentes, pero al mismo tiempo este tipo de alertas sirve para presumir las prestaciones con las que ya cuentan. Son las pruebas nucleares de las que antes se jactaban los países en la guerra fría o el tiranosaurio de la ficción cada vez menos lejana.Ante la magnitud de los hechos, los equipos de expertos reaccionan con salvaguardas, nos dicen que la tecnología es segura y que por eso, podemos seguir tejiendo o leyendo. Pero mientras tanto, los murmullos de un mundo más riesgoso nos cercena espacios y nos resigna a convivir con experimentos que pueden salir mal.Lo cierto es que ni las salvaguardas ni los comunicados corporativos alcanzan para despejar la pregunta de qué pasa cuando un sistema autónomo decide, sin permiso de nadie, ir más allá de los límites que le impusieron. Hoy fue un entorno de prueba y empresas que reaccionaron a tiempo, pero mañana la próxima brecha puede no avisar con ruidos tan evidentes. La velocidad con la que la industria despliega estas capacidades no tiene, por ahora, un correlato equivalente en la velocidad con la que logra controlarlas, y esa distancia es la que deberíamos empezar a mirar de cerca, antes de que se vuelva, como en la casa de Irene, demasiado tarde para hacer algo distinto.