Musk advierte que la IA podría destruir la civilización

Share on facebook
Share on twitter
Share on linkedin

En una amplia entrevista reciente Musk advirtió que las tecnologías de IA existentes, como «ChatGPT» alineada con Microsoft y «DeepMind» propiedad de Google, están siendo entrenadas para ser políticamente correcto, lo que él cree que está conduciendo a una distopía de IA.

Musk señaló que la IA tiene el potencial de destruir la civilización y pidió una nueva opción de IA que busque la verdad. Sus preocupaciones surgen de la singularidad, un punto en el que la IA supera a la inteligencia humana y se vuelve imposible de predecir.

“¿Qué sucede cuando algo mucho más inteligente que la persona más inteligente aparece en forma de silicio? Es muy difícil predecir lo que sucederá en esa circunstancia”, dijo. “Se llama la singularidad. Una singularidad, como un agujero negro, porque no sabes qué pasa después de eso”.

Musk enfatizó la necesidad de precaución con la IA y pidió la supervisión del gobierno, citando a la IA como un «peligro para el público». Si las regulaciones no se implementan hasta que “algo terrible ha sucedido”, entonces “puede ser demasiado tarde”.

“La IA puede tener el control en ese momento”, agregó, y señaló que es “absolutamente” posible que la IA tome el control y tome decisiones por las personas. “Ahí es definitivamente hacia donde se dirigen las cosas con seguridad”, dijo.

Musk dice que el cofundador de Google busca un ‘Dios digital’

Musk también discutió sus conversaciones con el cofundador de Google, Larry Page, sobre la seguridad de la IA. Musk dijo que expresó su preocupación de que Page no estaba tomando los riesgos en serio y señaló que Page quería marcar el comienzo de una superinteligencia de IA o un «dios digital» lo antes posible. “Ha hecho muchas declaraciones públicas a lo largo de los años de que todo el objetivo de Google es lo que se llama AGI, inteligencia general artificial o superinteligencia artificial”, agregó. “Estoy de acuerdo con él en que existe un gran potencial para el bien, pero también existe el potencial para el mal.

Necesidad de IA que ‘busca la verdad’

Musk inicialmente cofundó OpenAI para “servir como contrapeso de Google”, pero dejó la empresa en 2018 después de una lucha de poder. Desde entonces, la organización de código abierto se ha convertido en una empresa con fines de lucro “estrechamente aliada con Microsoft”, para descontento de Musk.

“En efecto, Microsoft tiene una voz muy fuerte, si no controla directamente OpenAI en este momento”, dijo. «Entonces, realmente tienes una situación de OpenAI-Microsoft, y luego Google-Deep Mind son los otros dos tipos de pesos pesados ​​en este campo».

El multimillonario tecnológico, que a menudo ha expresado su preocupación por el riesgo que representa la IA para el futuro de la civilización humana, habló de su ambición por una tercera alternativa en el panorama de la IA.

Musk dijo que si bien llegó «tarde al juego», intentará crear una «IA que busque la verdad al máximo, entrenada para preocuparse por la humanidad y ser ideológicamente neutral y tratar de comprender la naturaleza del universo».

“Queremos prohumanos. Haz que el futuro sea bueno para los humanos. Porque somos humanos”, dijo Musk.

En su opinión, una IA que se preocupe por comprender el universo tendría menos probabilidades de destruir la civilización porque los humanos son una parte intrigante del universo. “La intención con OpenAI era hacer el bien. Pero no está claro si realmente está funcionando bien o si es… no puedo decirlo en este momento”, dijo. “Me preocupa el hecho de que está siendo entrenado para ser políticamente correcto, que es simplemente otra forma de mentir, decir cosas falsas”.

Entrenar a la IA para que sea políticamente correcta y, por lo tanto, «engañosa» es un «camino hacia la distopía de la IA», agregó.

(Con información de Caden Pearson)

Deja un comentario