La compañía líder en desarrollo de inteligencia artificial (IA) a nivel mundial, OpenAI, anunció el 5 de julio la creación del equipo Superalineamiento. Este equipo se encargará de investigar y desarrollar métodos para dirigir y controlar sistemas de IA que podrían superar la inteligencia humana en un futuro cercano, conocido como superinteligencia.
Con el avance cada vez mayor de la IA, surge la preocupación sobre su posible descontrol y falta de supervisión por parte de los humanos. El concepto de superinteligencia, que hace referencia al momento en que las computadoras superan la inteligencia humana, ha ganado relevancia en los últimos tiempos.
Ante este contexto, OpenAI, bajo la presidencia de Sam Altman, decidió formar un equipo compuesto por investigadores y especialistas con el objetivo de encontrar formas efectivas para controlar esta tecnología en el futuro.
«Para resolver este problema dentro de cuatro años, estamos formando un nuevo equipo codirigido por Ilya Sutskever y Jan Leike, y dedicando el 20% del poder computacional obtenido hasta la fecha a este esfuerzo», señalaron desde OpenAI en su página oficial.
La empresa consideró que las técnicas actuales para alinear la IA no serán suficientes cuando la superinteligencia sea una realidad. Por lo tanto, se requieren más investigaciones y avances tecnológicos en esta área.
Según OpenAI, se espera que hacia finales de esta década o principios de la siguiente ya existan sistemas de IA con conocimientos superiores a los humanos. Por lo tanto, consideran que es crucial establecer medidas adecuadas para su control en este momento.
El objetivo del equipo Superalineamiento será alinear esta superinteligencia a través de métodos de entrenamiento escalables, validación del modelo y rigurosas pruebas de alineación, según se menciona en el artículo publicado en la página oficial de OpenAI.
El equipo estará formado por investigadores e ingenieros especializados en aprendizaje automático (ML), quienes experimentarán con diferentes métodos de alineación y abordarán posibles amenazas provenientes de sus propias creaciones tecnológicas.
