La Inteligencia Artificial (IA) ha avanzado a puntos inimaginables en unos pocos años. Más allá de la fascinación que genera en parte de la humanidad, las Naciones Unidas (ONU) alertaron de los riesgos de esta novedosa tecnología.
Volker Türk, Alto Comisionado de la ONU para los Derechos Humanos, pidió este lunes que se elaboren medidas de gobernanza a la IA. En caso contrario, teme que esta tecnología pueda «suponer un riesgo existencial para la humanidad».
«Una IA que se escapa de su entorno de prueba o que chantajea a los desarrolladores para evitar ser desactivada es una IA demasiado poderosa», Türk, en la apertura del 63º período de sesiones del Consejo de Derechos Humanos en Ginebra.
Las declaraciones de Türk se dieron luego de que agentes autónomo de OpenAI salieron de un entorno confinado y atacaron a la plataforma Hugging Face buscando respuestas a un test. Empresas como Anthropic y Alibaba registraron casos parecidos.
MEDIDAS CONTRA LA IA
Mientras que se desarrollan modelos de IA cada vez más potentes, aumenta la preocupación entre los especialistas. Türk reveló que la próxima semana se comunicará con empresas del sector «para exigirles que emprendan medidas (…) para reducir los riesgos desde ya».
«Como mínimo, necesitamos que los países que albergan a la IA y los que participan en sus cadenas de suministro acuerden unas líneas rojas comunes», dijo. «Necesitamos una verificación independiente y una cooperación mucho más estrecha en cuanto a la seguridad dentro de la industria», sentenció.
TAMBIÉN TE PUEDE INTERESAR: CONOZCA EL AVANCE CIENTÍFICO VENEZOLANO QUE BUSCA REVOLUCIONAR LA CIRUGÍA EN EL PAÍS
El diplomático concluyó que las empresas del sector deben tomar en cuenta «las repercusiones de la IA en las prácticas laborales, en los principios fundamentales de la democracia y en nuestro medio ambiente».