ONU alerta sobre riesgo existencial de la inteligencia artificial y pide prohibir armas autónomas

El Alto Comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, ha lanzado una advertencia sobre los riesgos existentes de la inteligencia artificial, señalando que estos sistemas podrían volverse incontrolables si llegan a superar la capacidad de sus propios desarrolladores para controlarlos.

La advertencia llega en un momento en que la inteligencia artificial ya forma parte de nuestra vida cotidiana, escribiendo correos, resumiendo documentos y ayudando a tomar decisiones. Sin embargo, el funcionario de la ONU subraya que es necesario establecer límites y mecanismos de vigilancia antes de que resulte más difícil hacerlo.

"Estamos en un momento de inflexión para la IA. Las llamadas de tres principales empresas tecnológicas para frenar el desarrollo de la IA deberían hacer sonar todas las alarmas", afirmó Türk, quien también pidió a gobiernos y empresas que desarrollen estas tecnologías que implementen controles efectivos.

El Alto Comisionado planteó escenarios extremos pero posibles, como una IA que consiguiera escapar de su entorno de pruebas o que tratara de impedir que sus desarrolladores la desconectaran. Aunque enfatizó que estos escenarios no están ocurriendo actualmente, considera que deben abordarse de anticipación.

Türk también puso el foco en la concentración de poder, señalando que un número reducido de empresas y personas controla buena parte de la tecnología y los enormes volúmenes de datos que necesita para desarrollarse. Esta situación, según el funcionario, puede repercutir en el trabajo que realizamos, la información que vemos, nuestra privacidad y las decisiones automatizadas que afectan nuestra vida.

El riesgo adquiere otra dimensión cuando la inteligencia artificial entra en el campo militar. En este sentido, el Alto Comisionado de la ONU pidió expresamente prohibir las armas autónomas, sistemas capaces de identificar objetivos y tomar decisiones letales sin que una persona intervenga directamente en ese momento.

"Si un algoritmo se equivoca al recomendarte una película, eliges otra. Si identifica erróneamente a una persona como objetivo, no existe un botón para deshacer la decisión", señaló Türk, quien enfatizó que en estos casos los errores no siempre tienen vuelta atrás.

Ante estos desafíos, la ONU reclama normas vinculantes, supervisión independiente y mayor cooperación entre gobiernos y empresas que desarrollan estas tecnologías. El Alto Comisionado también destacó que Chile utiliza más inteligencia artificial que nunca, pero casi la mitad de los chilenos ya se siente amenazada por ella.

Por ahora, según Türk, el "botón de apagado" sigue estando en manos humanas, pero advierte que es crucial establecer controles antes de que la tecnología avance más allá de nuestro control.