¿Manipulación?: El uso de la IA para escribir artículos genera preocupación

Share on facebook
Share on twitter
Share on linkedin

El popular medio de noticias de tecnología CNET fue denunciado recientemente por publicar artículos generados por inteligencia artificial (IA) sobre finanzas personales durante meses sin hacer ningún anuncio público previo o divulgación a sus lectores.

El cofundador de Authority Hacker, Gael Breton, hizo el descubrimiento por primera vez y lo publicó en Twitter el 11 de enero, donde dijo que CNET comenzó su experimentación con IA a principios de noviembre de 2022 con temas como «¿Cuál es la diferencia entre un Bank and a Credit Union” y “¿Qué son los cargos por fondos insuficientes y por qué los cobran los bancos?”

Hasta la fecha, CNET ha publicado alrededor de 75 de estos artículos de «explicación financiera» utilizando IA, informó Breton en un análisis de seguimiento que publicó dos días después.

El pie de autor de estos artículos era «CNET Money Staff», una redacción, según Futurism.com, «que claramente parece implicar que los escritores humanos son sus autores principales».

Solo cuando los lectores hacen clic en el pie de foto, ven que el artículo en realidad fue generado por IA. Una descripción desplegable dice: «Este artículo fue generado utilizando tecnología de automatización y editado y verificado minuciosamente por un editor de nuestro personal editorial«, informó el medio .

Amenaza a los aspirantes a periodistas

A un escritor de Crackberry.com le preocupaba que el uso de la IA reemplazara la experiencia en el trabajo, fundamental para los aspirantes a periodistas. “Fue un trabajo como ese… lo que me llevó a esta posición hoy”,  escribió el autor en una publicación en el sitio. “Si ese primer paso en la escalera se convierte en un robot, ¿cómo se supone que alguien siga mis pasos?”

Las críticas llevaron a la editora en jefe de CNET, Connie Guglielmo, a responder  con una explicación en su plataforma, admitiendo que a partir de noviembre de 2022, CNET «decidió hacer un experimento» para ver «si hay un caso de uso pragmático para una asistencia de IA». sobre explicaciones básicas sobre los servicios financieros”.

Guglielmo continuó diciendo que cada artículo publicado con «Asistencia de IA» es «revisado, verificado y editado por un editor con experiencia en el tema antes de publicar».

‘Errores estúpidos’

El futurismo, sin embargo, encontró que los artículos escritos por IA de CNET estaban llenos de lo que el medio llamó «errores estúpidos». Dado que los artículos se escribieron en un «nivel tan básico que solo sería realmente de interés para aquellos con muy poca información sobre finanzas personales en primer lugar», las personas que toman la información inexacta al pie de la letra como un buen consejo de expertos financieros podrían conducir a una mala toma de decisiones.

Si bien los generadores de IA, informó el medio, son «legítimamente impresionantes al escupir prosa simplista y que suena real, tienen un momento notoriamente difícil para distinguir la realidad de la ficción».

Crackberry tiene las mismas dudas sobre el periodismo generado por IA. «¿Podemos confiar en las herramientas de IA para saber lo que están haciendo?» pregunta el escritor.

“El defecto más evidente… es que habla con una confianza incuestionable, incluso cuando está equivocado. No hay claridad en el funcionamiento interno para saber qué tan confiable es realmente la información que proporciona… porque está obteniendo lo que sabe evaluando neutralmente… fuentes en Internet y no usando un cerebro humano que pueda comprobar lo que está a punto de decir».

(Con información de De Noticias NTD | Amy Gama)

Deja un comentario