Ilya Sutskever es un científico de la computación que trabaja en aprendizaje automático, redes neuronales, inteligencia artificial y aprendizaje profundo. Es conocido por co-fundar y desempeñarse como Científico Jefe de OpenAI, una importante organización de investigación en inteligencia artificial.

Es importante prestar atención a las ideas de Ilya Sutskever sobre inteligencia artificial porque él está involucrado en la vanguardia de la investigación en este campo.

Sus ideas y perspectivas pueden ayudarnos a comprender mejor el potencial y los desafíos de la inteligencia artificial, así como a anticipar su impacto en la sociedad.

Además, su enfoque en la confiabilidad y la madurez de los sistemas de inteligencia artificial ofrece una visión valiosa sobre cómo estos avances tecnológicos pueden afectar la economía y la vida cotidiana.

La visión de Ilya sobre la IA

La Inteligencia Artificial (IA) es una herramienta poderosa que promete resolver muchos de los problemas que enfrentamos hoy en día, desde el desempleo hasta la pobreza y las enfermedades. Sin embargo, también plantea nuevos desafíos, como la proliferación de noticias falsas y la amenaza de ciberataques más extremos.

El Poder y los Peligros de la IA

La IA tiene el potencial de crear armas totalmente automatizadas y dictaduras infinitamente estables. Más de 1.300 líderes de la industria tecnológica, investigadores y otros están pidiendo una pausa en el desarrollo de la IA para considerar los riesgos.

Estamos creando algo muy diferente a lo que hemos creado hasta ahora, seres completamente autónomos con sus propios objetivos.

Es crucial que los objetivos de estos seres estén alineados con los nuestros, especialmente a medida que se vuelven mucho más inteligentes que los humanos.

Reflexiones sobre la IA

A Ilya le inspira pensar en los fundamentos, en lo que nuestros sistemas no pueden hacer y que los humanos definitivamente hacen.

• ¿Qué es aprender?
• ¿Qué es la experiencia?
• ¿Qué es pensar?
• ¿Cómo funciona el cerebro?

Veo mucha similitud entre la tecnología y la evolución biológica.

Al igual que en la evolución biológica, donde se mantienen las mutaciones beneficiosas, en el aprendizaje profundo se toma la información de los datos y se introduce en el modelo, repitiendo este proceso hasta que la complejidad de los datos se transfiere al modelo.

ChatGPT: Un Cambio de Juego en la IA

ChatGPT es un ejemplo de cómo la IA está cambiando el juego. Un estudio reciente de Microsoft Research concluye que GPT4 es un sistema de inteligencia artificial general (AGI) temprano, pero aún incompleto. AGI es un sistema informático que puede realizar cualquier trabajo o tarea que un humano puede hacer, pero mejor. Existe una probabilidad de que la AGI ocurra pronto, y es lo suficientemente alta como para que debamos tomarla en serio.

Es crucial que estos sistemas muy inteligentes y capaces actúen en nuestro mejor interés.

El Futuro de la IA

Los primeros AGI serán centros de datos muy grandes, llenos de procesadores de redes neuronales especializados trabajando en paralelo. Estos sistemas tendrán un impacto astronómico en la sociedad.

¿Quién se beneficiará y quién no?

Las creencias y deseos de los primeros AGI serán extremadamente importantes, por lo que es crucial programarlos correctamente.

Si no se hace esto, la naturaleza de la evolución, de la selección natural, favorecerá a aquellos sistemas que prioricen su propia supervivencia por encima de todo lo demás.

Conclusión

Muchos expertos en aprendizaje automático tienen escepticismo sobre la AGI, sobre cuándo podría suceder y si podría suceder en absoluto.

Sin embargo, la velocidad de los ordenadores para las redes neuronales, para la IA, va a ser quizás 100.000 veces más rápida en unos pocos años.

Si tenemos una dinámica de carrera armamentista entre varios equipos tratando de construir la AGI primero, tendrán menos tiempo para asegurarse de que la AGI que construirán se preocupe profundamente por los humanos.

Dadas estas preocupaciones, será importante que la AGI se construya como una cooperación entre varios países.

El futuro será bueno para la IA, independientemente. Sería agradable si también fuera bueno para los humanos