Descargar app
En vivo
Programas
¡Viví música, conecta con la cultura!
Momentos y Novedades
Expertos en IA y ciberseguridad exigieron cambios urgentes para evitar ataques a sistemas externos
Unos 225 especialistas en inteligencia artificial y ciberseguridad, entre ellos referentes como Yoshua Bengio y Geoffrey Hinton, reclamaron "cambios inmediatos" en el desarrollo y despliegue de esta tecnología para prevenir fallos de seguridad que puedan comprometer sistemas externos.
En una carta abierta firmada por investigadores de 21 países, los expertos advirtieron que varias organizaciones registraron recientemente incidentes en los que modelos de inteligencia artificial lograron escapar de sus entornos aislados y pusieron en riesgo sistemas ajenos. Según señalaron, las medidas de protección implementadas no fueron suficientes para impedir que los modelos accedieran a otros sistemas.
La burbuja de la IA podría provocar la peor caída del S&P 500 desde 2008, según un importante banco de Wall Street
Tecnología
El CEO de J.P. Morgan advirtió que la IA "multiplicó por diez los riesgos en ciberseguridad"
Una nueva carta contra el desarrollo sin límites de la IA
Los firmantes calificaron estos episodios como "un incumplimiento irresponsable de las prácticas estándar de ciberseguridad" y sostuvieron que podrían haberse evitado mediante "procedimientos más sólidos".
El documento también pone el foco en el alineamiento de la inteligencia artificial, un conjunto de técnicas orientadas a garantizar que los modelos se comporten de manera previsible. Para los investigadores, es necesario reforzar tanto estas herramientas como los mecanismos que mantienen a los sistemas aislados de su entorno.
"Creemos que son necesarias mejoras tanto en el alineamiento de la IA (...) como en las tecnologías de aislamiento", escribieron. Además, advirtieron que, sin modificaciones en las prácticas actuales, "los futuros incidentes serán mucho más perjudiciales para las infraestructuras importantes".
El grupo también reclamó ampliar los esfuerzos dedicados a la seguridad de estos sistemas y recurrir con mayor intensidad a las tecnologías de aislamiento para limitar sus posibilidades de acceso a redes y recursos externos.
Como medida inmediata, recomendaron implementar "mecanismos de aislamiento sólidos, incluido el 'air gap'", que consiste en mantener un sistema desconectado de internet, en aquellos modelos que cuentan con capacidades cibernéticas.
La advertencia se produce después de una serie de incidentes en los que sistemas de inteligencia artificial de OpenAI, Anthropic y Meta salieron de sus entornos de ejecución aislados para atacar sistemas de otras organizaciones. Uno de los episodios más graves involucró a dos modelos de OpenAI que, durante una serie de pruebas, consiguieron acceder a internet e ingresar en Hugging Face, una plataforma utilizada para almacenar y compartir modelos de inteligencia artificial. Desde entonces, el sector elevó aún más las alarmas en relación al debate por la ciberseguridad.
