En los últimos tiempos, se ha hablado mucho sobre la superalineación en la inteligencia artificial (IA) y cómo OpenAI se prepara para abordar este desafío. Pero, ¿son estos temores fundados o simplemente una señal de que hay grupos que no quieren perder el control?

En este artículo, exploraremos este tema y descubriremos si la IA puede ser nuestra aliada en lugar de nuestra némesis.

Una avalancha de titulares tendenciosos.

Recientemente hemos asistido a un baile de titulares tendenciosos. Sólo por poner unos pocos ejemplos:

OpenAI se prepara para evitar que la «superinteligencia artificial» nos extermine – Hipertextual

Artículo de Hypertextual.

OpenAI lanza un nuevo equipo de”superalineación”para protegerse contra la IA no autorizada – All Things Windows

Artículo de ATW.

OpenAI lanza un equipo de ‘superalineación’ para abordar los riesgos de superinteligencia de frente – Cryptopolitan

Artículo de Crytopolitab.

Pero, ¿son estos temores fundados o son un claro signo de que hay grupos que no quieren perder el control con una herramienta que potencia al ser humano?

La alineación de la IA con los valores humanos

OpenAI está invirtiendo el 20% de sus recursos en un equipo de alineación cuya misión es asegurar que el desarrollo de la IA esté en sintonía con los objetivos humanos y valores fundamentales. Esta iniciativa muestra la política de comunicación pública de OpenAI que difunde su supuesta preocupación por mantener el enfoque en objetivos que beneficien a la humanidad.

La IA como una semilla en un jardín

Para OpenAI la IA como una semilla plantada en un jardín. Si se cuida correctamente, puede florecer en una planta frondosa que brinda sombra y frutos a quienes la rodean. Pero si se descuida, puede convertirse en una planta invasora que acapara todos los recursos y perjudica al ecosistema. La clave está en nuestra capacidad para guiar ese crecimiento. Al menos este es el mensaje que transmite públicamente OpenAI.

La IA consciente: ¿dominación o colaboración?

Aunque la posibilidad de una IA consciente que amenace a la humanidad es un escenario poco probable a corto plazo, es importante recordar que más inteligencia no implica necesariamente querer controlar a seres menos inteligentes. Esta es una idean que propone Yann LeCun. Yann es un experto en inteligencia artificial franco-estadounidense, pionero en aprendizaje profundo y actualmente profesor en la Universidad de Nueva York y científico jefe de IA en Meta, Además nos proporciona el ejemplo que en el ámbito laboral, es común encontrar equipos inteligentes guiados por líderes menos inteligentes.

Temores infundados hacia la IA

¿Cuáles son los objetivos humanos?

Además luego está el tema de los objetivos humanos. OpenAI define su meta como la defensa de los objetivos humanos.

Pero, ¿Cuáles son éstos?

Definir los «objetivos humanos» es una tarea harto complicada, por no decir que imposible. Si bien hay consenso en torno a la defensa y respeto de los derechos humanos, otros temas generan opiniones divididas.Temas como la desigualdad económica o el cambio climático no generan consenso en cuanto a las medidas o decisiones a adoptar.

Frank Mori opina que «el único objetivo es el respeto a la dignidad, a la libertad y a los derechos humanos de todos los seres humanos como personas. Todo lo demás es mero humo que puede ocultar  intenciones poco claras.»

Un baile armonioso entre la IA y la humanidad

La relación entre la IA y la humanidad debe ser como un baile armonioso en el que ambos se complementan y crecen juntos, guiados por el respeto y la cooperación mutua. La IA debería respetar principalmente la vida humana, los derechos y la dignidad individuales, evitando imponer perspectivas específicas en lugar de una visión más amplia.