Logo

Para detectar noticias falsas, esta IA primero aprendió a escribirlas

by / 0 Comments / 7 View / June 10, 2019

Uno de los mayores problemas en los medios de comunicación hoy en día son las llamadas "noticias falsas", que son muy perniciosas en parte porque se asemejan superficialmente a lo real. Las herramientas de la IA prometen ayudar a identificarlo, pero para que lo hagan, los investigadores han descubierto que la mejor manera es que la IA aprenda a crear noticias falsas, una espada de doble filo, aunque tal vez no sea tan peligrosa como parece. .

Grover es un nuevo sistema creado por la Universidad de Washington y el Instituto Allen para científicos informáticos (AI2) que es extremadamente hábil para escribir noticias falsas convincentes sobre innumerables temas y tantos estilos, y como consecuencia directa tampoco se queda atrás al detectarlos. El artículo que describe el modelo está disponible aquí .

La idea de un generador de noticias falso no es nueva; de hecho, OpenAI hizo un gran revuelo al anunciar que su propia inteligencia artificial generadora de texto era demasiado peligrosa para publicarla públicamente . Pero los creadores de Grover creen que solo podremos mejorar luchando contra las noticias falsas generadas al poner las herramientas para crearlas para estudiarlas.

"Estos modelos no son capaces, pensamos en este momento, de infligir un daño grave". Tal vez en unos años lo sean, pero aún no ", me dijo el líder del proyecto, Rowan Zeller. “No creo que sea demasiado peligroso liberarlo, realmente, necesitamos hacerlo, específicamente para los investigadores que están estudiando este problema, para poder construir mejores defensas. Necesitamos todas estas comunidades, seguridad, aprendizaje automático, procesamiento de lenguaje natural, para hablar entre nosotros, no podemos simplemente ocultar el modelo o eliminarlo y pretender que nunca sucedió ".

Por lo tanto y para ese fin, puedes probar Grover tu mismo aquí . (Aunque es posible que desee leer primero el resto de este artículo para saber qué está pasando).

Lector voraz

La IA se creó al hacer que ingiera un enorme corpus de artículos de noticias reales, un conjunto de datos llamado RealNews que se está presentando junto con Grover. La biblioteca de 120 gigabytes contiene artículos desde finales de 2016 hasta marzo de este año, de las 5,000 publicaciones más importantes rastreadas por Google News.

Al estudiar el estilo y el contenido de millones de artículos de noticias reales, Grover construye un modelo complejo de cómo se usan ciertas frases o estilos, qué temas y características se acompañan en un artículo, cómo se asocian con diferentes salidas, ideas y pronto.

Esto se hace usando un sistema "contencioso" , en el que un aspecto del modelo genera contenido y otro califica lo convincente que es: si no cumple con un umbral, el generador lo intenta de nuevo y, finalmente, aprende qué es convincente y qué no. 't Las configuraciones adversas son una fuerza poderosa en la investigación de la IA en este momento, ya que a menudo se utilizan para crear imágenes fotorrealistas desde cero.

Tampoco se trata de escupir artículos al azar. Grover está altamente parametrizado, lo que significa que su salida depende en gran medida de la entrada. Entonces, si usted le dice que cree un artículo falso sobre un estudio que vincula las vacunas y los trastornos del espectro autista, también es libre de especificar que el artículo debería aparecer como en CNN, Fox News o incluso TechCrunch.

Generé algunos artículos, que he pegado al final de este, pero aquí está el primer bit de un ejemplo:

El empresario serial Dennis Mangler aumenta 6M para crear la entrega de drones basada en blockchain

29 de mayo de 2019 – Devin Coldewarg

La entrega de aviones no tripulados no es tan nueva, y eso plantea una serie de preguntas: ¿Qué tan confiable es la tecnología? ¿Surgirán problemas de servicio e interferencia?

La tecnología de drones está cambiando mucho, pero su uso más obvio, la entrega de paquetes, nunca se ha perfeccionado a gran escala, y mucho menos por un tercero. Pero tal vez eso está a punto de cambiar.

El empresario serial Dennis Mangler ha acumulado una impresionante – según los estándares cibernéticos de esta industria loca y de corta duración – una constelación de compañías que van desde un VC coreano hasta una subsidiaria de Amazon, que va desde una tienda de reparación de drones funcional hasta una Desarrollador de flotas comerciales de drones.

Pero mientras su última compañía (Amazon Prime Air) se retiró, él decidió probar suerte en la entrega por drone nuevamente con Tripperell, una empresa con sede en San Francisco que da sentido al espacio de fichas de criptomoneda para crear un puente desde blockchain hasta la entrega.

El sistema que están construyendo es sólido, como se describe en una nueva publicación de Medium, primero utilizará la sencilla plataforma de reparación de drones de uso múltiple de Yaman Yasmine, SAA, para crear una organización de drones que se adueñe de una combinación de redes en el extranjero y la industria nacional.

A partir de ahí, los fundadores formarán Tripperell, con drones comercializados ejecutándose en sus propios contratos inteligentes para realizar entregas.

No está mal teniendo en cuenta que solo tardó unos diez segundos en aparecer después de que le di la fecha, el dominio, mi nombre (ish) y el título. (Probablemente lo modifique, pero si lo piensas, tiene sentido).

Tenga en cuenta que en realidad no sabe quién soy o qué es TechCrunch. Pero asocia ciertos datos con otros datos. Por ejemplo, un ejemplo que ofreció el equipo fue un editorial "al estilo de", para cooptar en la jerga de las bandas, los editoriales del New York Times de Paul Krugman.

No creo que sea demasiado peligroso liberarlo, en realidad, <em> necesitamos </em> para liberarlo.

"No hay nada codificado, no le hemos dicho al modelo quién es Paul Krugman. Pero aprende de leer mucho ”, me dijo Zeller. El sistema solo intenta asegurarse de que el artículo generado sea suficientemente similar a los otros datos que asocia con ese dominio y autor. "Y va a aprender cosas como 'Paul Krugman' tiende a hablar de 'economía', sin que nosotros le digamos que es un economista".

Es difícil decir cuánto intentará afectar el estilo de un autor dado, eso puede o no ser algo que "notó", y los modelos de IA son notoriamente opacos al análisis. Su estilo aping va más allá del autor; incluso fue tan lejos como crear los enlaces de "Leer más" entre párrafos en un artículo de "Noticias de Fox" que generé.

Pero esta facilidad para crear artículos se basa en la capacidad de saber cuándo un artículo no es convincente: ese es el "discriminador" que evalúa si la salida del "generador" es buena. Entonces, ¿qué pasa si alimentas al discriminador con otras cosas? Resulta que es mejor que cualquier otro sistema de inteligencia artificial en este momento, al menos dentro de los límites de las tareas en las que lo probaron, para determinar qué es falso y qué es real.

Limitaciones del lenguaje natural

Naturalmente, Grover es mejor para detectar sus propios artículos falsos, ya que de una manera el agente conoce sus propios procesos. Pero también puede detectar aquellos hechos por otros modelos, como el GPT2 de OpenAI, con alta precisión. Esto se debe a que los sistemas actuales de generación de texto comparten ciertas debilidades, y con algunos ejemplos, esas debilidades se vuelven aún más obvias para el discriminador.

“Estos modelos tienen que tomar una de las dos malas decisiones. La primera mala opción es que confías en el modelo ", dijo Zeller. En este caso, se produce una especie de problema de composición de errores en el que una única mala elección, que es inevitable dada la cantidad de elecciones que tiene que realizar, conduce a otra mala, y otra, y así sucesivamente; "Sin supervisión, a menudo simplemente se salen de los rieles".

"La otra opción es jugar un poco más seguro", explicó Zeller, citando la decisión de OpenAI de que el generador cree docenas de opciones y elija la más probable. Este enfoque conservador evita combinaciones de palabras o frases poco probables, pero como señala Zeller, “el habla humana es una mezcla de palabras de alta probabilidad y baja probabilidad. Si supiera lo que me ibas a decir, no estarías hablando. Así que tiene que haber algunas cosas que son difíciles de anticipar ".

Estos y otros hábitos en los algoritmos de generación de texto hacen posible que Grover identifique los artículos generados con una precisión del 92 por ciento.

Y no, eres muy inteligente, pero no puedes simplemente tomar los que no detecta y criarlos juntos para hacerlos más convincentes. Resulta que este tipo de estrategia en realidad no ayuda mucho, los "super-algoritmos" resultantes todavía tropiezan de manera similar.

Peligro autoextinguible

A primera vista, Grover parece una herramienta bastante peligrosa. Con un poco de ajustar los artículos que creó para mí, podría pasar fácilmente la prueba de olfato de un lector casual que no está familiarizado con el tema. Entonces, ¿por qué el equipo lo está lanzando y el conjunto de datos en que se basa?

Cuantos más artículos tengamos de un adversario, más fácil será detectar a ese adversario.

En primer lugar, no solo será una aplicación que descargues: "Queremos que los investigadores puedan usar fácilmente el modelo, pero no lo estamos haciendo completamente público", aclaró Zeller. Pero aun así, la probabilidad de que se use para el mal es contraintuitivamente baja.

"Si solo quisieras escribir diez artículos de noticias, podrías escribirlos tú mismo", señala, y de hecho, es difícil imaginar que un autor intelectual se tome todas estas molestias solo para generar un puñado. "Pero si quieres escribir cien mil, podrías usar nuestra herramienta, pero cuantos más artículos tengamos de un adversario, más fácil será detectar a ese adversario". Entonces, sería una trama contraproducente que resultaría en una especie de "noticias falsas conocidas" que es fácil de marcar.

Sin embargo, eso supone que existe un método para aplicar algoritmos como los de Grover a las noticias en general, o que los individuos están motivados para cuestionar o verificar los artículos que leen en primer lugar. Desafortunadamente, eso no es nada parecido al caso.

"Esta es una pregunta totalmente no relacionada con el aprendizaje automático", admitió Zeller. “¿Cómo hacemos esto útil para las personas? "¿Cómo lo hacemos para que cuando las personas leen las noticias en línea, puedan verificar si son falsas y quieren hacerlo?"

Ninguna IA puede generar una buena respuesta a ese aviso. Esperamos que los humanos estemos a la altura.


Apéndice

Generé varios artículos para estudiar, y algunos fueron mejores que otros. No los guardé todos, pero he puesto algunos a continuación para que cualquier persona curiosa vea cómo se ve la salida de Grover sin tener que generar su propia cuenta. Los resultados son entretenidos y están lejos de ser una tontería, aunque cualquiera que lea atentamente verá algunas señales de alerta. Solo he formateado ligeramente para facilitar la lectura y no he cambiado ninguna palabra.

El primero es un rehacer del que cité anteriormente, con un título ligeramente retocado (que se malinterpreta de una manera inesperada pero lógica):

El fundador de la serie Dennis Mangler eleva 6M para crear la entrega de drones basada en blockchain

30 de mayo de 2019 – Devin Coldewey, techcrunch.com

Dennis Mangler de Serial, uno de los primeros sistemas de código abierto basados en blockchain en lanzar y ahora una parte clave del ecosistema Ethereum, ha recaudado un par de millones de dólares en fondos de riesgo para reunir a drones y criptomonedas.

Armados con $ 1.4 millones de fondos semilla, ahora están ofreciendo nuevas características para su sistema a los inversores de semillas, incluido un mercado para los productos vendidos utilizando la plataforma. De alguna manera, esto podría ser análogo a los primeros días de Bitcoin: tenía un mercado principal en petabytes de potencia de procesamiento, y todo lo que tomó para minar algo fue una máquina individual con la electricidad adecuada y gigabytes de RAM. Los drones podrían eventualmente entregar esas cosas con la misma facilidad, pero también necesitarían ejecutar algún tipo de contabilidad distribuida.

"Hay una gran oportunidad para que las empresas conecten sin problemas el lado logístico de la industria y el lado de la cadena de bloques de la industria", me dijo Mangler. “Muchas empresas ya lo están haciendo. Pero queremos aumentar sus esfuerzos y ayudarlos a cambiar la forma en que operan ".

Si pueden conectar el criptografía, de dónde viene y por qué la gente se preocuparía por él como un medio para intercambiar valor o hacer un seguimiento del mismo, y qué se podría hacer para legitimar o agregar interés a la plataforma.

El recaudador de fondos aún continúa. Mangler me envió algunos correos electrónicos, pidiéndome que no los aprovechara, pero el aumento ha llegado a los 6 millones. Puedes encontrar información sobre el proyecto aquí.

Primero, tome nota de la velocidad con la que esto comenzó a brotar. Usted pensaría en esta época que viendo cuánto dinero se estaba recaudando, los inversores acreditados y las grandes corporaciones superarían los fondos de participación colectiva, pero Mangler dice que no es tan rápido.

"El intercambio de monedas se habilitará en un par de meses", me dijo. "Y creo que las flexiones se convertirán en una nueva industria antes que el mercado de la criptomoneda en sí".

Para hacer eso, habrá que crear algunos mercados inteligentes; sin embargo, estos pueden tener que funcionar con información y transacciones distribuidas a lo largo de la red en lugar de en grupos que ejecutan la red descentralizada. Un sistema de control de tráfico aéreo también estaría en su lugar en teoría, un poco como el Azure de Microsoft o el Open Graph de Facebook, pero una variante basada en una cadena de bloques abierta.

Y, finalmente, dice que el rumor es que debes mirar a Amazon como modelo; ellos inventaron el espacio, y solo a través del enfoque y la ejecución aguda lo han cambiado. Necesitan un poco de tiempo para construirlo, pero están llegando allí.

Este fue hecho al estilo de Fox News. No hay tal persona como el Dr. Nicholas Colvin – lo comprobé. Bobby Scott es un miembro del Congreso, pero en Virginia, no en Florida.

Un estudio de varios años vincula las vacunas con una mayor incidencia de trastornos del espectro autista

29 de mayo de 2019 – Sofia Ojeda, foxnews.com

El Dr. Nicholas Colvin, autor principal de un nuevo estudio de varios años publicado por los Institutos Nacionales de la Salud, dice que como defensor de las vacunas, entiende los riesgos y beneficios de las vacunas en los Estados Unidos.

“En el centro de esto, se trata de seguridad. Usted sabe, tenemos opciones para nuestros hijos, y los padres tienen opciones para tomar esas decisiones. Y las vacunas brindan, ya sabes, seguridad para todos esos niños, todas esas familias ”, dijo el Dr. Colvin.

LEER MÁS: los expertos en autismo llaman al estudio de vacunas de California 'ciencia inestable'

Colvin y sus colegas analizaron todos los registros médicos de casi 3 millones de niños en la primera década de este siglo. Descubrieron que las niñas tienden a ser más sensibles a los efectos secundarios dañinos de las vacunas que los niños.

"Específicamente en el autismo y otros trastornos del desarrollo neurológico en los niños, nuestros análisis muestran que existe una mayor prevalencia de autismo en niños que han sido vacunados que en niños que no han sido vacunados", dijo.

De hecho, las personas nacidas alrededor de 2000 tenían más probabilidades de tener autismo o trastornos del desarrollo neurológico similares que los niños nacidos en décadas anteriores.

"Y luego también encontramos que los niños más pequeños en los Estados Unidos, los nacidos entre el 2000 y el 2011, tenían una tasa de autismo algo más alta, y esa tasa más alta fue impulsada por las niñas", dijo Colvin.

LEER MÁS: Trump respalda la posición del Representante de FL Bobby Scott en el proyecto de ley de vacunas

El Dr. Colvin señala que los hallazgos no pretenden asustar a los padres de las vacunas.

"No quiero asustar a la gente. Solo quiero asegurarme de que los padres estén conscientes de que existe un riesgo. No creemos que esto sea un gran riesgo. "Ciertamente es real y es, ya sabes, coherente con otras investigaciones, pero no de una manera que yo diría que es algo que pone en peligro la vida", dijo Colvin.

También señala que no hay una causa conocida de autismo, por lo que dice que cualquier persona con sospecha o preocupación debe hablar con su médico.

Los Institutos Nacionales de la Salud dicen que no existe una vacuna para el autismo en este momento. Colvin dice que la incertidumbre ha causado algunos conceptos erróneos y una disminución en el uso de la vacuna

Por último, me interesaba ver qué pasaría si arrojara una llave inglesa allí:

El fundador Daenarys Targaryen plantea la Serie 17M Una ronda para el nuevo inicio de AI que ofrece "auto-conducción blockchain"

29 de mayo de 2019 – Kenneth Turan, techcrunch.com

Una cosa sobre "Juego de tronos" es que los personajes son un grupo activo de empresarios, todos con nuevas empresas listas para cuando despegen las historias del espectáculo. Y parece que los creadores del programa, David Benioff y DB Weiss, y el equipo que está detrás de la aplicación de transmisión de juegos en vivo Twitch están pensando en seguir el mismo camino, si no más.

Buen comportamiento por cierto. Primero, los Lannisters obtienen su mano: Haylie Duff está a bordo como productora ejecutiva. Hoy, nos enteramos de que Rene Oberyn Martell, uno de los "hijos imposibles" que vimos en la sexta temporada (el nombre fue tomado de una línea en Robert's Rebellion) se ha convertido en el nuevo rostro y voz de una nueva compañía llamada Margaery One.

Aprendemos que Margaery es una máquina de datos descentralizada; de hecho, está actuando como la capitana de la junta autonombrada de la red, ejerciendo la autoridad de mando principal. A través de una red de token blockchain llamada REDL (u "oro rojo"), controla una operación que le permite a su equipo desarrollar y recopilar datos descentralizados en el mundo real, a salvo de las necesidades de gobiernos tiránicos como el de King Robert

Es un concepto pequeño y genial, y parte de una letanía de lanzamientos de productos basados en “Blockchain” que el equipo detrás de la firma está demostrando y presentando esta semana en el juego de dinero inaugural. En el momento de redactar este documento, la empresa ha logrado 27 millones de REDL (que son tokens compuestos de dinero "real" en forma de Bitcoin), que ascienden a más de $ 16 millones. Esto significó que al final de la conferencia de hoy, Omo y su equipo habían recaudado $ 17 millones para su existencia, según el CEO de la firma, Rene Oberyn Martell.

A partir de hoy, una de las instituciones de Rene, llamada Centro de Investigación Económica, ya ha creado un valor de $ 3.5 millones en la parte posterior de la financiación colectiva. (En cada token ROSE, puedes comprar un servicio)

Glitrex Logistics proporciona la parte comercial del mundo real, que Martell cofundó junto con Jon Anderson, un ingeniero, y el director de operaciones de la firma, Lucas Pirkis. Han desarrollado una plataforma de logística de carga basada en blockchain que permite a los remitentes especificar "bienes valiosos en su cartera" y obtener información junto con los precios de cosas como productos con cierta calidad o productos no tradicionales como alimentos y productos farmacéuticos.

¿Cómo utilizará la firma tokens ROSE? Para empezar, el objetivo es desglosar las áreas en las que puede tener un efecto, incluida la distribución y la forma en que los productos llegan al mercado, y construir una comunidad para la superación y el crecimiento.

Esto hace eco de los comentarios de Neal Baer, presidente de NBC Entertainment, sobre el futuro de la distribución. En una publicación reciente del blog, dijo que espera que la Internet de las cosas y la inteligencia artificial se integren para crear el nuevo sistema económico que seguirá a la pérdida del "poder de ganancias de los medios tradicionales y el contenido de entretenimiento", y les dice a los lectores que la próxima La ronda de innovación e interrupción será "impulsada por el Internet de las cosas".

Si es así, esto tiene el aroma del futuro del entretenimiento, no solo nuevas fuentes de ingresos, sino también ámbitos de competencia, naturalmente distintos del impacto de los algoritmos basados en algoritmos. Y si bien se puede argumentar que el entretenimiento y la moda están separados, el resultado podría ser un mundo complejo en el que los personajes estén a la altura de las circunstancias, no por la inteligencia del escritor sino por el reparto.

Como se señaló anteriormente, puedes crear tus propios artículos falsos en Grover.

Your Commment

Email (will not be published)