La inteligencia artificial (IA) ha experimentado un crecimiento impresionante en los últimos años, pero todavía nos queda mucho por descubrir sobre cómo funcionan internamente los modelos de lenguaje, como GPT-2.

OpenAI ha utilizado GPT-4 para investigar las neuronas en GPT-2, dando así un paso hacia su plan de alineación usando la IA para automatizar la investigación en alineación¹.

El proceso de interpretación automática de neuronas con GPT-4

El estudio de la interpretación de neuronas en modelos de lenguaje es una tarea enorme que requiere de un enfoque innovador. Por esta razón, OpenAI ha implementado un proceso automatizado que utiliza GPT-4 para producir y evaluar explicaciones del comportamiento de las neuronas en otro modelo de lenguaje.

Este proceso consta de tres pasos para cada neurona:

1. Generar explicaciones con GPT-4

2. Simular lo que haría una neurona activada por la explicación, utilizando también GPT-4

3. Comparar y calificar la explicación según cuán bien coinciden las activaciones simuladas con las activaciones reales

Descubrimientos y desafíos en la interpretación de neuronas

A pesar de que la mayoría de las explicaciones generadas no obtienen una puntuación alta, se han identificado algunas técnicas que podrían mejorar la capacidad de producir explicaciones más precisas.

Por ejemplo, iterar en las explicaciones, utilizar modelos más grandes para dar explicaciones y cambiar la arquitectura del modelo explicado.

OpenAI ha compartido sus conjuntos de datos y herramientas de visualización para las explicaciones escritas por GPT-4 de las 307,200 neuronas en GPT-2, así como el código para generar y calificar explicaciones utilizando modelos públicos disponibles en la API de OpenAI².

Pensamientos sobre la automejora y alineación de la IA

Frank Mori, editor de DimensionIA.com, sugiere que «estamos presenciando el comienzo de la mejora recursiva en la inteligencia artificial» ³. La autoreflexión siempre ha sido un medio eficaz para mejorar la alineación de un individuo con sus objetivos y valores. En el caso de la IA, la investigación en interpretación de neuronas y alineación nos permite entender mejor cómo funcionan estos modelos y cómo pueden mejorar.

Como dijo el filósofo Sócrates, «Solo sé que no sé nada». Esta humilde premisa nos recuerda que siempre hay algo nuevo que aprender y que el proceso de descubrimiento nunca termina. En el caso de la IA, la capacidad de autoevaluación y mejora puede ser el camino hacia una comprensión más profunda y una colaboración más efectiva entre los seres humanos y las máquinas.

En resumen, el trabajo de OpenAI con GPT-4 en la interpretación de las neuronas de GPT-2 representa un avance emocionante en la comprensión de los modelos de lenguaje. A medida que continuamos explorando las capacidades de la IA, es fundamental mantener un enfoque en la alineación y automejora para garantizar que estos avances se utilicen de manera efectiva y ética.

Fuentes:

1. Nuestro enfoque en la investigación de alineación – OpenAI ↩

2. Herramientas y datos de OpenAI ↩

3. Reflexiones sobre la automejora y alineación de la IA – DimensionIA.com ↩