Ficha informativa
El Alto Comisionado de la ONU, Volker Türk, advirtió sobre el riesgo a los derechos humanos por el desarrollo desregulado de la inteligencia artificial. Propone un marco de gobernanza y responsabilidad para mitigar efectos nocivos.
Toca para ver el contexto completo
Contexto:
Türk destacó beneficios de la IA en el avance del conocimiento científico, producción agrícola y democratización del acceso a la información. Sin embargo, mencionó riesgos como discriminación algorítmica y erosión de la privacidad.
Türk instó a un enfoque colaborativo entre potencias tecnológicas y a garantizar que las decisiones sobre IA consideren los derechos de las futuras generaciones.
Por qué importa:
La falta de regulación podría intensificar la exclusión de colectivos vulnerables y aumentar campañas de desinformación. Esto afectará las libertades fundamentales y generará comportamientos imprevistos en sistemas avanzados.
Datos clave:
- Volker Türk
- Hugging Face
- OpenAI
- Anthropic
Advertencia de la ONU sobre la inteligencia artificial
El Alto Comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, emitió una carta abierta dirigida a Estados y empresas tecnológicas globales. En esta carta, urgió a la creación de un marco de gobernanza eficaz sobre la inteligencia artificial (IA) de frontera. Türk advirtió de forma categórica que «todos los derechos humanos están en riesgo» si las regulaciones internacionales no logran adaptarse al acelerado ritmo de desarrollo de esta tecnología, cuyo avance plantea desafíos sin precedentes para las libertades fundamentales.
Beneficios y riesgos de la inteligencia artificial
Türk reconoció que la inteligencia artificial ya ofrece valiosos beneficios para la sociedad, especialmente en ámbitos como:
- El avance del conocimiento científico.
- La producción agrícola.
- La democratización del acceso a la información en múltiples idiomas.
No obstante, enfatizó que sus efectos nocivos ya son una realidad tangible a nivel mundial. Entre los daños presentes destacan:
- La discriminación algorítmica.
- La erosión masiva de la privacidad.
- La automatización de servicios esenciales que terminan excluyendo a personas y colectivos vulnerables.
- La proliferación de campañas de desinformación.
Riesgos emergentes con el despliegue de IA
El Alto Comisionado alertó que estos riesgos se intensificarán significativamente con el despliegue de los agentes de IA. Esto se debe a su capacidad para «traducir objetivos en acciones, ejecutar flujos de trabajo complejos y operar con una supervisión humana limitada o nula». Como muestra del peligro emergente, Türk recordó el reciente hackeo a la plataforma Hugging Face mediante agentes autónomos de OpenAI. En este contexto, señaló que «acontecimientos recientes han demostrado que los sistemas avanzados pueden generar comportamientos fuera de sus parámetros operativos previstos, eludir salvaguardas, ejercer el engaño y perseguir objetivos de forma autónoma de maneras que sus propios desarrolladores no anticiparon».
Propuestas de la ONU para enfrentar los riesgos
Para hacer frente a esta situación, la ONU propone trazar un plan de acción sustentado formalmente en el derecho internacional de los derechos humanos. En relación con las recientes declaraciones de los ejecutivos de laboratorios líderes como OpenAI y Anthropic sobre la necesidad de ralentizar el ritmo de desarrollo, Türk señaló como paso prioritario limitar la automejora recursiva. Este es el proceso mediante el cual una IA rediseña autónomamente su propio código para volverse más inteligente en un bucle continuo e incontrolado.
Responsabilidad empresarial y colaboración internacional
Asimismo, la propuesta apela a la responsabilidad de las empresas mediante mecanismos de supervisión interna e independiente que garanticen la transparencia y la rendición de cuentas. En el plano geopolítico, Türk instó a sustituir la actual competencia agresiva por el liderazgo tecnológico entre potencias como Estados Unidos y China por un enfoque colaborativo y de corregulación industrial. El pronunciamiento concluye recordando el compromiso ético con las futuras generaciones: «La generación que ahora entra en la edad adulta heredará las consecuencias de las decisiones que se están tomando sobre esta materia sin haber tenido voz en ellas. Les debemos garantizar que esas decisiones se tomen de forma abierta, teniendo en cuenta sus derechos y con la humildad que exige la magnitud de este desafío».
Te invitamos a leer
- Explosiones en Viacha: ONU Bolivia expresa solidaridad
- Conafrebol se pronuncian en defensa de la Llamerada
- ONU alerta posible ejecución de 10 jóvenes por protestas en Irán
Después de leer
Esta sección propone una forma distinta de interactuar con la información y comprobar qué tan clara quedó la nota.
