La inteligencia artificial (IA) está alcanzando rápidamente niveles de competitividad humana, lo que genera preocupaciones sobre los riesgos potenciales para la sociedad y la humanidad en general. En este artículo, analizaremos los argumentos presentados en una carta abierta que pide una pausa en los experimentos de IA a gran escala.

¿Por qué es necesario detener los experimentos de IA?

La carta abierta hace una llamada publica a los laboratorios de IA para que detengan de inmediato el desarrollo de sistemas de IA más potentes que GPT-4 durante al menos seis meses.

La razón detrás de esta solicitud es que la IA avanzada podría representar un cambio profundo en la historia de la vida en la Tierra y, por lo tanto, debe ser planificada y gestionada con sumo cuidado y recursos.

Los riesgos de la IA para la sociedad y la humanidad

La IA avanzada plantea preocupaciones sobre la pérdida de control en la propagación de información, la automatización de empleos, la creación de mentes no humanas que podrían superarnos y la pérdida de control sobre nuestra civilización. Como expresó Albert Einstein, «No sé con qué armas se luchará en la tercera guerra mundial, pero en la cuarta guerra mundial se luchará con palos y piedras.» Esta cita ilustra la necesidad de abordar los riesgos asociados con el desarrollo de tecnologías poderosas y potencialmente destructivas.

¿Cuál es el objetivo de la pausa propuesta?

La pausa propuesta busca dar tiempo a los laboratorios de IA y expertos independientes para desarrollar e implementar protocolos de seguridad compartidos y rigurosos para el diseño y desarrollo de IA avanzada. Además, se busca enfocar la investigación y el desarrollo de IA en mejorar la precisión, seguridad, interpretabilidad, transparencia, robustez, alineación, confiabilidad y lealtad de los sistemas actuales.

Hacia una gobernanza robusta de la IA

La carta también insta a los desarrolladores de IA a trabajar con los responsables políticos para acelerar el desarrollo de sistemas de gobernanza de IA sólidos. Estos sistemas deben incluir autoridades reguladoras dedicadas a la IA, supervisión y seguimiento de sistemas de IA altamente capaces, sistemas de marca de agua y procedencia para distinguir lo real de lo sintético, un ecosistema de auditoría y certificación, responsabilidad por daños causados por IA, financiamiento público para investigación en seguridad técnica de IA y la creación de instituciones para enfrentar las disrupciones económicas y políticas causadas por la IA.

La necesidad de un «verano de IA»

Los avances en IA nos permiten disfrutar de un «verano de IA» en el que cosechamos los beneficios, diseñamos sistemas en beneficio de todos y damos tiempo a la sociedad para adaptarse. La pausa propuesta en el desarrollo de IA avanzada nos ayudaría a evitar precipitarnos sin preparación hacia un futuro incierto y potencialmente peligroso.

En resumen, la carta abierta insta a los laboratorios de IA a detener el desarrollo de sistemas más potentes que GPT-4 por al menos seis meses para abordar los riesgos asociados y trabajar en la creación de protocolos de seguridad y sistemas de gobernanza sólidos. Al tomar medidas ahora, podemos asegurar un futuro próspero con la IA y evitar consecuencias negativas imprevistas.

Y a tí, ¿que te parece esta petición? Crees que es una preocupación responsable u oculta intereses no confesados.