Logo

Bucles de retroalimentación y abuso en línea

by / 0 Comments / 2 View / June 9, 2019

Durante mucho tiempo he pensado que gran parte del mundo puede explicarse mediante bucles de retroalimentación. ¿Por qué las pequeñas empresas son más ágiles que las grandes? ¿Por qué las empresas privadas son generalmente más eficientes que los gobiernos? Principalmente porque en cada caso, el primero tiene un mejor ciclo de retroalimentación. Cuando se enfrenta a una pregunta desconcertante, como por ejemplo, "¿por qué las compañías en línea hacen un trabajo tan terrible al lidiar con el abuso?", A menudo es útil observar los circuitos de retroalimentación.

Veamos primero las comparaciones pequeño contra grande y privado frente a gobierno, como ejemplos. Las pequeñas empresas tienen bucles de retroalimentación extremadamente ajustados; una sola persona toma una decisión, ve los resultados y pivota en consecuencia, sin la necesidad de reuniones o consenso entre las distintas divisiones. Las compañías más grandes tienen que lidiar con otros departamentos, políticas internas, burocracia, la bendición de múltiples vicepresidentes, análisis legal, etc., antes de que puedan realizar cambios significativos.

Del mismo modo, si la iniciativa de una empresa privada no va bien, sus ingresos comienzan a caer en picado, una señal muy clara de que necesita cambiar su curso rápidamente. Si una iniciativa del gobierno no va bien, los votantes emiten su veredicto … en la próxima elección, mezclados con sus veredictos en todas las demás iniciativas. En ausencia de retroalimentación externa específica y significativa, existen varios proxies … pero es difícil determinar definitivamente la señal real del ruido.

Y cuando una plataforma de medios sociales, especialmente una basada en algoritmos, determina qué contenido amplificar, lo que implícitamente significa decidir qué contenido eliminar de amplificar, y qué contenido prohibir … ¿cuál es su circuito de retroalimentación? El ingreso es uno, por supuesto. La amplificación de contenido que lleva a una mayor participación conduce a más ingresos. Así que hacen eso. Simple, ¿verdad?

Ahahahahahaha no, como habrás notado. Cualquier cosa menos simple. El contenido que se amplifica es a menudo mal contenido. Abuso. Noticias falsas. Espantosamente espeluznantes videos de YouTube. Etcétera.

Supongamos que (muchos de) los empleados de estas plataformas realmente desean tratar y, con suerte, eliminar estos problemas. Sé que parece una gran suposición, pero imaginémoslo. Entonces, ¿por qué han parecido tan espectacularmente malos al hacerlo? ¿Es simplemente porque son monstruos que roban dinero y están haciendo heno del bullying, el vitriolo, la corrosión del contrato social, etc.?

¿O es que, debido a que no se les ocurrió intentar medir la susceptibilidad y la gravedad de los efectos en sus propios sistemas por parte de los malos actores, tuvieron que confiar en los demás – periodistas, políticos, el público – por un tiempo lento e impreciso? forma de retroalimentación. Por ejemplo: "su algoritmo de recomendación está haciendo cosas realmente terribles" o "está amplificando el contenido diseñado para fragmentar nuestra cultura y nuestra sociedad" o "está constantemente permitiendo a los imbéciles personas vulnerables al abuso de dogpile, al mismo tiempo que suspende las cuentas de los perjudicados" mencione las principales críticas que con mayor frecuencia se dirigen a Google, Facebook y Twitter, respectivamente.

Pero este es un circuito de retroalimentación sutil y lento, impulsado principalmente por periodistas y políticos, quienes a su vez tienen sus propias agendas, fallas y sus propios circuitos de retroalimentación a los que responden. No hay una respuesta medible de inmediato, como ocurre con, digamos, los ingresos. Y así, todo lo que hagan en respuesta está sujeto a la misma retroalimentación lenta e imprecisa.

Entonces, cuando Google finalmente responde con la prohibición del extremismo de derecha, pero también con los profesores de historia, que es claramente una cosa increíblemente estúpida de hacer, es un error transitorio, de una sola vez, o una señal de que todo el enfoque de Google es fundamentalmente defectuoso y necesitan repensar las cosas? De cualquier manera, ¿cómo podemos decir? ¿Cómo pueden decir?

(Antes de que objete, no, no se hace solo por algoritmos o redes neuronales. Los seres humanos están en el circuito, pero claramente no son suficientes. Quiero decir, mire este canal que YouTube prohibió recientemente ; está claro a primera vista y está confirmado Según estudios posteriores, esto no es un extremismo de derecha. Esto no debería haber sido una decisión difícil.

Durante mucho tiempo he sospechado de lo que llamo "la falacia científica": que si algo no se puede medir, no existe. Pero al mismo tiempo, para construir circuitos de retroalimentación significativos que permitan que su sistema sea guiado en la dirección deseada, necesita una medida significativa para las comparaciones.

Así que les digo que un problema fundamental (aunque no el problema fundamental) para abordar el espinoso problema de la curación de contenidos en las redes sociales es que no tenemos forma de medir concretamente la escala de lo que estamos hablando cuando decimos " abuso ”o“ noticias falsas ”o“ algoritmos de recomendación corruptos ”. ¿Ha mejorado? ¿Ha empeorado? Su opinión probablemente se basa en, er, su feed de redes sociales personalizado. Esa puede no ser la mejor fuente de verdad.

En lugar de medir cualquier cosa, parece que confiamos en Whack-a-Mole en respuesta a la indignación viral y / o los informes de los medios de comunicación. Eso es mucho mejor que no hacer nada. Pero no puedo evitar preguntarme: ¿tienen las plataformas tecnológicas alguna forma de medir qué es lo que están tratando de combatir? Incluso si lo hicieran, ¿alguien más creería sus medidas? Quizás lo que necesitamos es algún tipo de medida de terceros confiable, o incluso de colaboración con terceros, de cuán malas son las cosas.

Si desea hacer una diferencia significativa en estos problemas, que son ciertamente difíciles, aunque, mirando hacia atrás en el canal de YouTube del profesor de historia prohibido, tal vez no sea tan difícil como afirman las empresas, podría encontrar una manera confiable y demostrable de medirlos Incluso una imprecisa sería mejor que las "cuasi-respuestas agitadoras de Whack-a-Mole" que parecen estar en marcha en este momento.

Your Commment

Email (will not be published)