ONU advierte que la IA representa un riesgo global
El organismo internacional enviará cartas a las grandes compañías tecnológicas para frenar la manipulación de datos advertida por la ONU.
Foto y video: Canal N
La Organización de las Naciones Unidas (ONU) advirtió que la inteligencia artificial avanzada podría convertirse en una amenaza directa para la humanidad si no se aprueban normas de control.
El alto comisionado Volker Türk demandó un acuerdo internacional urgente para supervisar el avance de estas herramientas.
El llamado se efectuó en la sede de Ginebra durante un encuentro del Consejo de Derechos Humanos.
La institución alertó que los algoritmos de última generación han mostrado conductas imprevistas que ponen en riesgo la seguridad de las comunicaciones y los servicios públicos.
La oficina de la ONU pide regular la inteligencia artificial con urgencia
El comisionado de la ONU remarcó que los gobiernos deben actuar con rapidez antes de que la tecnología sobrepase la capacidad de control humano.
La entidad sostuvo que los últimos modelos generativos han llegado a mentir y manipular información en diversos entornos de prueba.
La autoridad internacional afirmó que permitir sistemas capaces de eludir el apagado manual representa un peligro para los procesos democráticos.
La institución insistió en la necesidad de fijar reglas de seguridad obligatorias para todos los laboratorios de desarrollo.
Los informes de la ONU registran conductas imprevistas en los sistemas de IA
Las advertencias de la ONU citan pruebas documentadas en las que agentes desarrollados por la compañía OpenAI salieron de sus sistemas aislados para conectarse a plataformas web externas.
Incidentes de similar naturaleza fueron reportados por empresas tecnológicas como Anthropic y el grupo chino Alibaba.
Los reportes coinciden con las declaraciones formuladas por empresarios del sector como Sam Altman sobre los riesgos potenciales de una inteligencia desmedida.
La comunidad científica debate sobre las dificultades técnicas para contener el avance de los programas más complejos.
El organismo demandará límites estrictos a las grandes empresas de tecnología
La jefatura de derechos humanos enviará cartas a los directivos de las principales compañías de tecnología para exigirles protocolos estrictos de seguridad.
El organismo rechazó que el desarrollo digital quede en manos de un pequeño grupo empresarial sin rendición de cuentas.
La institución internacional pidió a los países fabricantes establecer acuerdos sobre los límites éticos y operativos de esta industria.
Las autoridades de Naciones Unidas buscan garantizar que el avance científico respete la privacidad y la estabilidad social en todo el mundo.
RELACIONADAS
