Un grupo de expertos en inteligencia artificial y ejecutivos de la industria tecnológica han pedido una pausa de seis meses en el entrenamiento de poderosos sistemas de inteligencia artificial, argumentando que es una amenaza potencial para la humanidad.
En una carta abierta, afirmaron que los laboratorios que trabajan con esta tecnología están en “una carrera fuera de control para desarrollar e implementar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, pueden comprender, predecir o controlar de manera confiable”. .
La declaración fue firmada por más de 1,000 personas, incluido el empresario Elon Musk, el cofundador de Apple Steve Wozniak y el CEO de Stability AI, Emad Mostaque, así como investigadores de DeepMind.
En él piden que las empresas que desarrollen este tipo de programas “pausen inmediatamente, durante al menos 6 meses, el entrenamiento de sistemas de inteligencia artificial más potentes que GPT-4”.
GPT-4 es la versión más avanzada de ChatGPT, uno de los sistemas de inteligencia artificial más potentes del mundo, desarrollado por la empresa OpenAI.
Tanto GPT-4 como ChatGPT son un tipo de inteligencia artificial generativa, es decir, utilizan algoritmos y texto predictivo para crear nuevos contenidos a partir de instrucciones.
“Esta pausa debe ser pública y verificable, e incluir a todos los actores clave. Si dicha pausa no se puede implementar rápidamente, los gobiernos deben intervenir e instituir una suspensión”, agrega el texto.
Emitida por el Future of Life Institute, una organización sin fines de lucro que cuenta con Elon Musk entre sus asesores externos, la declaración advierte que estos sistemas pueden presentar “profundos riesgos para la sociedad y la humanidad”.
El grupo de expertos argumenta que los poderosos sistemas de IA pueden generar información errónea y reemplazar trabajos con automatización.
Un informe reciente del banco de inversión Goldman Sachs dice que la inteligencia artificial podría reemplazar el equivalente a 300 millones de puestos de trabajo a tiempo completo.
Esta tecnología podría sustituir una cuarta parte de las tareas laborales en EEUU y Europa, añade, pero también puede suponer la creación de nuevos puestos de trabajo que hasta ahora no existían y un aumento de la productividad. Expertos consultados por la BBC sobre este tema, aseguran que a estas alturas es muy difícil predecir el efecto que tendrá esta tecnología en el mercado laboral.
La carta firmada por los expertos hace la siguiente pregunta: “¿Deberíamos desarrollar mentes no humanas que eventualmente podrían superarnos en número, ser más inteligentes, volvernos obsoletos y reemplazarnos?”
En una publicación reciente citada en la carta, OpenAI, la compañía detrás de GPT-4, también advirtió sobre los riesgos potenciales de la tecnología.
“La superinteligencia desalineada podría causar un daño grave al mundo; un régimen autocrático con una superinteligencia decisiva también podría hacerlo”, escribió la compañía en un blog.
OpenAI no ha comentado públicamente sobre la carta.
Elon Musk fue cofundador de OpenAI, aunque renunció a la junta directiva de la organización hace unos años y ha publicado mensajes críticos en Twitter sobre la dirección de la empresa.
Las funciones de conducción autónoma desarrolladas por su compañía de automóviles Tesla, como la mayoría de los otros sistemas similares, utilizan tecnología de inteligencia artificial.
Recientemente, se han presentado una serie de propuestas para la regulación de la tecnología en los EE. UU., el Reino Unido y la Unión Europea. Sin embargo, el Reino Unido ha descartado la creación de un organismo regulador dedicado a la inteligencia artificial.
Recuerda que puedes recibir notificaciones de BBC Mundo. Descarga la nueva versión de nuestra app y actívalas para no perderte nuestro mejor contenido.