A los investigadores les preocupa que los avances en las nuevas aplicaciones de inteligencia artificial (IA) puedan usarse para engañar al público votante y potencialmente influir en los resultados de las elecciones.
Los avances recientes han permitido que la IA responda a las indicaciones de escritura en tiempo real, imitando de manera efectiva la conversación humana. AI también ha permitido a las personas crear imágenes, videos y voces en off realistas, comúnmente conocidas como falsificaciones profundas. A medida que pasa el tiempo, estas herramientas se han vuelto más convincentes, y algunos investigadores ahora creen que podrían usarse a partir de 2024 en los próximos ciclos electorales.
Si bien la IA generativa puede ayudar a las campañas a producir rápidamente correos electrónicos, textos y videos de campañas específicas, también podrían usarse para propósitos más engañosos, como hacerse pasar por candidatos específicos.
Algunos escenarios que los investigadores han considerado incluyen llamadas automáticas automáticas en la voz de un candidato específico, diciéndoles a sus partidarios que salgan a votar en la fecha equivocada. Los investigadores han imaginado otros escenarios potencialmente problemáticos, como un titular de periódico falso que informa a los lectores que un candidato en particular se ha retirado de la carrera o un audio falso que se hace pasar por una figura pública influyente.
“¿Qué sucede si Elon Musk lo llama personalmente y le dice que vote por cierto candidato?” dijo Oren Etzioni, director ejecutivo fundador del Instituto Allen para la IA. “Mucha gente escucharía. Pero no es él.
Los falsos actores también podrían producir un audio falso relativamente convincente haciéndose pasar por un candidato mientras confiesa un delito o expresa una opinión que podría alienar a los votantes. Por el contrario, un candidato podría negar plausiblemente una grabación auténtica incriminatoria al afirmar que fue falsificada. En cualquiera de los casos, el público podría tener dificultades para discernir si está recibiendo la verdad o una mentira cuidadosamente construida.
“Para mí, el gran avance son las capacidades de audio y video que han surgido”, dijo AJ Nash, vicepresidente de inteligencia de la firma de seguridad cibernética ZeroFox. “Cuando puedas hacer eso a gran escala y distribuirlo en plataformas sociales, bueno, tendrá un gran impacto”.
La IA ya se está extendiendo a la política
Las herramientas de IA ya se han utilizado para hacerse pasar por celebridades y candidatos políticos.
En marzo, después de que Trump anunciara que anticipaba que el fiscal de distrito de Manhattan, Alvin Bragg, lo acusaría penalmente, comenzaron a circular imágenes falsas en línea que mostraban a Trump esposado, perseguido y abordado por agentes de policía. En ese momento, Charlie Warzel de The Atlantic comentó: “Esta foto *falsa* de arresto de triunfo generada por IA todavía se ve demasiado estilizada y falsa, y las manos son extrañas como de costumbre… pero es difícil no ver cuánto mejor se está poniendo en un corto cantidad de tiempo.»
En abril, después de que el presidente demócrata Joe Biden anunciara que se postularía para la reelección, el Comité Nacional Republicano lanzó un anuncio de ataque que usaba imágenes generadas por IA para representar un futuro hipotético en el que la victoria de Biden en la reelección conduce a una invasión china de Taiwán.
“¿Qué sucede si una entidad internacional, un ciberdelincuente o un estado nacional, se hace pasar por alguien? ¿Cuál es el impacto? ¿Tenemos algún recurso?» dijo Stoyanov. “Vamos a ver mucha más información errónea de fuentes internacionales”.
Aunque muchos investigadores ven los posibles malos usos de la IA, las campañas se están inclinando hacia las herramientas como una forma de comunicarse de manera más efectiva con los votantes.
Mike Nellis, director ejecutivo de la agencia digital Authentic, dijo que alienta a su equipo a usar el generador de texto de IA ChatGPT para ayudar a escribir anuncios de campaña. Nellis dijo que mientras su personal revise el contenido que produce ChatGPT antes de difundirlo, no ve ningún problema.
El equipo de Nellis está trabajando actualmente con Higher Ground Labs para desarrollar una herramienta de inteligencia artificial llamada Quiller que pueda generar, distribuir y evaluar la efectividad de los correos electrónicos de recaudación de fondos de nuevas campañas. “La idea es que cada estratega demócrata, cada candidato demócrata tendrá un copiloto en el bolsillo”, dijo Nellis.
Regulación de la IA
Los legisladores y las agencias reguladoras ya están discutiendo formas de restringir la IA para evitar su uso indebido. Si bien los legisladores buscan restringir la IA, algunos investigadores han advertido contra la sobrerregulación de la tecnología.
Jake Morabito, director del Grupo de Trabajo de Tecnología y Comunicaciones del Consejo de Intercambio Legislativo de Estados Unidos, advirtió que la regulación excesiva podría sofocar las tecnologías innovadoras de IA en su infancia.
“Los innovadores deben tener espacio para experimentar con estas nuevas tecnologías y encontrar nuevas aplicaciones”, dijo Morabito a NTD News en una entrevista en marzo. “Uno de los efectos secundarios negativos de la regulación demasiado pronto es que cierra muchas de estas vías, mientras que las empresas realmente deberían explorar estas vías y ayudar a los clientes”.
(Con información de /Associated Press)
