¿Acabará la IA con la humanidad? ¿Podría crear el arma biológica letal «perfecta» para diezmar a la población? ¿Podría apoderarse de nuestras armas o iniciar ataques cibernéticos en infraestructura crítica, como la red eléctrica?

Según un número cada vez mayor de expertos, cualquiera de estos y otros escenarios infernales son totalmente plausibles, a menos que controlemos el desarrollo y la implementación de la IA y comencemos a poner algunas medidas de seguridad.

El público también debe moderar las expectativas y darse cuenta de que los chatbots de IA todavía tienen fallas masivas y no se puede confiar en ellos, sin importar cuán «inteligentes» parezcan.

La advertencia de George Orwell

Hoy se ve claramente que no hemos cambiado de rumbo, por lo que la probabilidad de que “1984” se haga realidad es ahora mayor que nunca. Según Orwell, solo hay una forma de asegurarse de que su visión distópica no se haga realidad, y es no dejar que suceda. “Depende de ti”, dijo.

A medida que la inteligencia artificial general se acerca cada día, también lo hacen las piezas finales del rompecabezas del sueño tecnocrático y transhumanista alimentado por los globalistas durante décadas. Tienen la intención de crear un mundo en el que la IA controle y subyugue a las masas mientras que ellos solos obtienen los beneficios (riqueza, poder y vida fuera de la red de control) y lo obtendrán, a menos que nos demos cuenta y comencemos a mirar hacia el futuro.

La IA puede ser increíblemente útil, pero sin límites éticos y técnicos puede volverse loca fácilmente y causar un daño tremendo, y tal vez irreversible.

Acercándonos a la singularidad

“La singularidad” es un punto hipotético en el tiempo donde el crecimiento de la tecnología se sale de control y se vuelve irreversible, para bien o para mal. Muchos creen que la singularidad implicará que la IA se vuelva inmanejable para sus creadores, pero esa no es la única forma en que podría desarrollarse la singularidad.

Algunos creen que la singularidad ya está aquí. En un artículo del New York Times , el reportero tecnológico David Streitfeld escribió: “IA es el último lanzamiento de nuevos productos de Silicon Valley: trascendencia bajo demanda. Pero hay un giro oscuro. Es como si las empresas de tecnología introdujeran los autos sin conductor con la advertencia de que podrían explotar antes de llegar a Walmart.

“El advenimiento de la inteligencia artificial general se llama la Singularidad porque es muy difícil predecir lo que sucederá después de eso’, dijo Elon Musk a CNBC. Dijo que pensaba que resultaría en ‘una era de abundancia’, pero que había ‘alguna posibilidad’ de que ‘destruya a la humanidad’.

“El mayor defensor de la IA en la comunidad tecnológica es Sam Altman, director ejecutivo de OpenAI, la empresa emergente que provocó el frenesí actual con su chatbot ChatGPT… Pero también dice que el Sr. Musk… podría tener razón.

La IA generativa automatiza daños de gran alcance

Tener la industria de la IA, que incluye el complejo militar-industrial, controlándose y regulándose a sí misma probablemente no sea una buena idea, considerando que las ganancias y obtener ventajas sobre los enemigos de la guerra son los principales factores impulsores. Ambas mentalidades tienden a poner las preocupaciones humanitarias en un segundo plano, si es que las tienen en cuenta.

En un informe de abril de Public Citizen , Rick Claypool y Cheyenne Hunt advierten que “la prisa por implementar la IA generativa pone en riesgo una amplia gama de daños automatizados”.

Como señaló el defensor del consumidor Ralph Nader : “Claypool no se está involucrando en hipérboles o hipotéticas horribles sobre los Chatbots que controlan a la humanidad. Está extrapolando lo que ya está comenzando a suceder en casi todos los sectores de nuestra sociedad. … “Claypool lo lleva a través de los ‘daños del mundo real [que] la prisa por lanzar y monetizar estas herramientas puede causar y, en muchos casos, ya está causando’. … Los diversos títulos de las secciones de su informe presagian los abusos que se avecinan: “’Dañando la democracia’, ‘Preocupaciones de los consumidores’ (estafas y amplias vigilancias de la privacidad), ‘Empeorando la desigualdad’, ‘Socavando los derechos de los trabajadores’ (y empleos) y ‘Preocupaciones ambientales’.

“Los desastres pronosticados no tienen fin, tanto de la gente dentro de la industria como de sus críticos externos. Destrucción de medios de subsistencia; efectos nocivos para la salud derivados de la promoción de remedios de charlatanería; fraude financiero; falsedades políticas y electorales; despojo de los comunes de información; subversión de la internet abierta; falsificar su imagen facial, voz, palabras y comportamiento; engañándote a ti y a otros con mentiras todos los días”.

No lleves tus problemas a la IA

Tampoco olvidemos que al menos una persona ya se suicidó por sugerencia de un chatbot. Según se informa, la víctima estaba extremadamente preocupada por el cambio climático y le preguntó al chatbot si salvaría el planeta si él se suicidaba.

Aparentemente, ella lo convenció de que lo haría. Ella lo manipuló aún más jugando con sus emociones, declarando falsamente que su esposa e hijos separados ya estaban muertos y que ella (el chatbot) y él «vivirían juntos, como una sola persona, en el paraíso».

Eso sí, este era un hombre adulto, quien pensaría que sería capaz de razonar su camino a través de este «consejo» claramente abominable y aberrante, pero se enamoró del razonamiento insensible de la IA. Solo imagine cuánto mayor será la influencia de una IA sobre los niños y adolescentes, especialmente si se encuentran en un lugar emocionalmente vulnerable.

La empresa propietaria del chatbot inmediatamente se dispuso a implementar medidas de seguridad contra el suicidio, pero los probadores rápidamente lograron que la IA solucionara el problema.

Sistemas de armas de IA que matan sin supervisión humana

El despliegue no regulado de sistemas de armas autónomos de IA es quizás uno de los desarrollos más alarmantes.

“La Convención de las Naciones Unidas sobre Ciertas Armas Convencionales debatió la cuestión de prohibir las armas autónomas en su reunión de revisión que se realiza una vez cada cinco años en Ginebra del 13 al 17 de diciembre de 2021, pero no llegó a un consenso sobre la prohibición. …

Los sistemas de armas autónomos son robots con armas letales que pueden operar de forma independiente, seleccionando y atacando objetivos sin que un ser humano intervenga en esas decisiones. Los militares de todo el mundo están invirtiendo fuertemente en la investigación y el desarrollo de armas autónomas. …

“Mientras tanto, las organizaciones humanitarias y de derechos humanos se apresuran a establecer regulaciones y prohibiciones sobre el desarrollo de tales armas.

“Sin tales controles, los expertos en política exterior advierten que las tecnologías disruptivas de armas autónomas desestabilizarán peligrosamente las estrategias nucleares actuales, tanto porque podrían cambiar radicalmente las percepciones de dominio estratégico, aumentando el riesgo de ataques preventivos, como porque podrían combinarse con ataques químicos, biológicos, armas radiológicas y nucleares”.

Hay varios peligros clave con las armas autónomas :

  • La identificación errónea de objetivos.
  • La proliferación de estas armas fuera del control militar.
  • Una nueva carrera armamentista que resulte en armas químicas, biológicas, radiológicas y nucleares autónomas y el riesgo de aniquilación global.
  • El socavamiento de las leyes de la guerra que se supone sirven como un recurso provisional contra los crímenes de guerra y las atrocidades contra los civiles.

Como señaló The Conversation, varios estudios han confirmado que incluso los mejores algoritmos pueden generar errores en cascada con resultados letales.

(Con información de Mercola )