Logo

Por menos de $ 10, cualquiera puede hacer que una AI escriba un discurso falso de la ONU

by / 0 Comments / 3 View / June 7, 2019

Con menos de $ 8 y trece horas de entrenamiento, los investigadores de las Naciones Unidas pudieron desarrollar un programa que podría elaborar discursos aparentemente realistas para la Asamblea General de las Naciones Unidas.

El estudio , publicado por primera vez por el Technology Review del MIT , es otra indicación de que la era de Deep Fakes está aquí y que los textos falsos podrían ser una amenaza tan importante como los videos falsos. Quizás más, dado lo baratos que son para producir.

Resultados de un experimento de IA usado para generar discursos falsos de la ONU

Para su experimento, Joseph Bullock y Miguel Luengo-Oroz crearon una taxonomía para los algoritmos de aprendizaje automático utilizando transcripciones en el idioma inglés de discursos pronunciados por políticos en la Asamblea General de la ONU entre 1970 y 2015.

El objetivo era entrenar un modelo de lenguaje que pueda generar texto al estilo de los discursos sobre temas que van desde el cambio climático hasta el terrorismo.

Según los investigadores, su software fue capaz de generar de 50 a 100 palabras por tema simplemente basándose en una o dos oraciones de entrada con un tema de titular determinado.

El objetivo era mostrar qué tan realista el software podría reproducir un discurso con un sonido realista sobre un tema general o una declaración específica de un Secretario General de la ONU, y finalmente si el software podría incluir digresiones sobre temas políticamente delicados.

Algo tranquilizador, cuanto más desconcertantes o secos estaban los sujetos, mejores eran los algoritmos realizados. En aproximadamente el 90% de los casos, el programa pudo generar un texto que creíblemente podría haber provenido de un orador en la Asamblea General sobre un tema político general o relacionado con un tema específico abordado por el Secretario General. El software tuvo más dificultades para lidiar con las digresiones sobre temas delicados como la inmigración o el racismo, porque los datos no podían imitar efectivamente ese tipo de discurso.

Y todo lo que este software tomó para crear fue $ 7.80 y trece horas de tiempo de programación.

Los propios autores señalan las profundas implicaciones que las fallas textuales pueden tener en la política.

Escriben:

La creciente convergencia y ubicuidad de las tecnologías de IA magnifican la complejidad de los desafíos que presentan, y con demasiada frecuencia estas complejidades crean una sensación de desapego por sus implicaciones potencialmente negativas. Sin embargo, debemos garantizar a nivel humano que estos riesgos sean evaluados. Las leyes y regulaciones dirigidas al espacio de AI son urgentemente requeridas y deben estar diseñadas para limitar la probabilidad de esos riesgos (y daños). Teniendo esto en cuenta, la intención de este trabajo es crear conciencia sobre los peligros de la generación de textos de AI para la paz y la estabilidad política, y sugerir recomendaciones relevantes para aquellos en los ámbitos científico y de políticas que tienen como objetivo abordar estos desafíos.

Your Commment

Email (will not be published)