Rey Carlos III alertó sobre los peligros de la IA
Directivos de Google DeepMind, Nvidia y OpenAI abordaron el uso indebido en cibercrímenes y desinformación.
El rey Carlos III advierte a los líderes de las principales compañías de desarrollo tecnológico sobre los riesgos existenciales que supone la inteligencia artificial.
En el marco de una reunión de trabajo celebrada en Escocia, el monarca urgió a fijar límites para prevenir un impacto negativo en la seguridad global.
La jefatura del Reino Unido informa que la proliferación sin control de estas herramientas puede derivar en usos altamente peligrosos para la sociedad.
En relación con el avance de estas plataformas, el rey Carlos III declaró: "Si me permiten decirlo, es urgente considerar adecuadamente los peligros existenciales que supone que dichas tecnología caigan en manos equivocadas y se utilicen de forma potencialmente catastrófica. Necesitamos medios de control antes que sea demasiado tarde".
¿Qué responden los creadores de inteligencia artificial ante la advertencia?
El sector empresarial de la tecnología reconoce la posibilidad de que los sistemas informáticos sean utilizados con intenciones maliciosas.
Al respecto, el fundador y director ejecutivo de Nvidia, Jensen Huang, señaló: "Ahora la seguridad es primordial. Quienes desarrollamos IA debemos probar los sistemas rigurosamente, proteger la privacidad, anticipar posibles usos indebidos y garantizar la seguridad".
El foro internacional reúne a representantes de gran importancia como Sarah Friar, de OpenAI, y Demis Hassabis, de Google DeepMind. Siguiendo las ponencias de los asistentes, las empresas enfrentan cuestionamientos sobre la amenaza del ciberdelito, la creación de armas autónomas y la difusión de información falsa.
¿Qué busca el rey Carlos III con este encuentro en Escocia?
La convocatoria del rey Carlos III pretende colocar en el centro de la opinión pública los dilemas éticos que rodean a la industria digital.
Aunque la jornada de trabajo carece de carácter vinculante, el monarca promueve el debate sobre si las firmas privadas tienen la capacidad de autorregularse de forma eficiente.
Las grandes corporaciones del rubro asumen el compromiso de reforzar las pruebas de privacidad en sus plataformas.
Vía la evaluación de los especialistas, la prevención de riesgos informáticos requiere evaluaciones continuas en cada software lanzado al público.