Una carta abierta reciente que pide una pausa en el avance de la inteligencia artificial ha sido firmada por más de 50.000 personas, incluidos más de 1800 directores ejecutivos y más de 1500 profesores.
“La reacción ha sido intensa”, dijo en su sitio web el Future of Life Institute (FLI), una organización sin fines de lucro que busca mitigar los riesgos tecnológicos a gran escala. “Creemos que ha dado voz a una gran corriente de preocupación sobre los riesgos de los sistemas de IA de alta potencia no solo a nivel público, sino también a los principales investigadores en IA y otros temas, líderes empresariales y legisladores”.
Algunas figuras prominentes han agregado sus nombres debajo de la carta, incluido el fundador de Tesla y SpaceX, Elon Musk, el inventor de las redes neuronales asociativas John Hopfield, así como Yoshua Bengio, director científico del Instituto de Algoritmos de Aprendizaje de Montreal, y Stuart Russell, profesor e IA. investigador de la Universidad de California, Berkeley.
“Desafortunadamente, este nivel de planificación y gestión no está sucediendo, a pesar de que en los últimos meses los laboratorios de IA se han enfrascado en una carrera fuera de control para desarrollar e implementar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, pueden entender. , predecir o controlar de manera confiable”, dice, pidiendo a los desarrolladores de IA que pausen el “entrenamiento” de los sistemas de IA más avanzados que el GPT-4 lanzado recientemente por OpenAI.
“Si tal pausa no se puede promulgar rápidamente, los gobiernos deberían intervenir e instituir una moratoria”, argumenta.
La investigación no necesita detenerse, sino alejarse “de la carrera peligrosa hacia modelos de caja negra impredecibles cada vez más grandes con capacidades emergentes”, dice la carta.
“La investigación y el desarrollo de IA deben reenfocarse en hacer que los sistemas potentes y de última generación de hoy en día sean más precisos, seguros, interpretables, transparentes, robustos, alineados, confiables y leales”.
Los que faltan
Faltan en la lista los ejecutivos de todos los principales desarrolladores de IA, ya sea DeepMind de Alphabet, el desarrollador de ChatGPT OpenAI u otros grandes como Meta, Amazon y Microsoft. También faltan prácticamente todos los directores de los principales departamentos de investigación de IA de las universidades.
En una página de preguntas frecuentes del 31 de marzo , la organización sin fines de lucro reconoció que inicialmente, algunas firmas en la carta eran falsas. “Algunas personas se agregaron incorrecta y maliciosamente a la lista antes de que estuviéramos preparados para publicar ampliamente”, dice la página. “Ahora hemos mejorado nuestro proceso y todos los signatarios que aparecen en la parte superior de la lista son genuinos”.
La hoja compara el llamado a una pausa en el avance de la IA con la Conferencia Asilomar de 1975 sobre ADN recombinante. “La conferencia permitió a los principales científicos y expertos gubernamentales prohibir ciertos experimentos y reglas de diseño que permitirían a los actores investigar esta tecnología de manera segura, lo que llevó a un gran progreso en biotecnología”, dice.
“A veces, dar un paso atrás para reevaluar y reevaluar puede generar confianza entre los científicos y las sociedades en las que operan y, posteriormente, acelerar el progreso”.
Preocupaciones de IA de Musk
Musk ha hablado durante mucho tiempo sobre los peligros que plantea la IA avanzada. Durante charlas anteriores, opinó que a medida que se desarrolla la IA, es probable que supere con creces a la inteligencia humana. En ese momento, incluso si resulta benévolo, puede tratar a los humanos como una forma de vida inferior. “Seremos como el gato doméstico”, dijo en la Conferencia del Código de Recode en 2016.
(Con información de
