Toque “Technode 动 点 科技” para obtener más información sobre la tecnología de China ‘
https://mp.weixin.qq.com/s?__biz …
Palabras clave:
Opinión y opinión, Toutiao
Por Elliot Zaagman
Nota del editor: Este artículo de opinión fue aportado por Elliott Zaagman, un entrenador, entrenador y consultor de gestión del cambio que se especializa en ayudar a las empresas chinas a medida que se globalizan. Para contactarlo, échale un vistazo en LinkedIn o agrega ezaagman en WeChat.
Durante el último año, pocas empresas tecnológicas chinas han tenido un impacto mayor que el agregador de noticias Jinri Toutiao (今日 头条). Saltando de la relativa oscuridad hace solo unos pocos años, la aplicación se ha convertido en un imán para los globos oculares chinos, con más de 120 millones de usuarios activos diarios, que pasan un promedio de 74 minutos por día en la plataforma.
Lo que a mis amigos chinos (y a los inversores de Toutiao) parece gustarles tanto es el uso del aprendizaje automático para recomendar contenido a sus usuarios en función de sus preferencias y hábitos. Como la mayoría de los medios que consumo están en inglés, no tuve mucha oportunidad de ver cómo funcionan sus algoritmos. Eso cambió recientemente cuando descargué TopBuzz, la aplicación en inglés de Bytedance, la empresa matriz de Jinri Toutiao. Si bien la interfaz de usuario de TopBuzz es un poco diferente, se basa en la misma arquitectura central de back-end que su hermano chino para ofrecer una transmisión de contenido personalizada a sus usuarios.
¿Cuál ha sido mi experiencia? En pocas palabras, ha sido una comida consistente y confiable de varios platos de casi todas las noticias falsas.
Primero, había titulares que eran simplemente falsos.
El 12 de diciembre, en una elección especial muy disputada para un escaño en el Senado de Alabama, el demócrata Doug Jones derrotó al republicano Roy Moore. Unas horas después de que las principales redes de noticias declararan que Jones había ganado, recibí este artículo en una notificación automática de TopBuzz:
Captura de pantalla de Topbuzz
Mientras que todos los medios de comunicación creíbles en el mundo informaban sobre la victoria de Jones, TopBuzz me enviaba actualizaciones del poco conocido sitio de noticias de extrema derecha One America News Network.
También recibo noticias de estilo de teoría de la conspiración de Topbuzz.
Hace un par de semanas, recibí este titular en una notificación push, que decía que la esposa del ex Beatle John Lennon, Yoko Ono, afirmaba haber tenido una aventura lésbica con Hillary Clinton en la década de 1970:
Captura de pantalla de Topbuzz
Este titular también es objetivamente falso. Según el sitio web de verificación de hechos Snopes.com, la historia se originó en 2015 en un sitio que produce historias falsas fabricadas con el propósito de generar tráfico de clics. No hay evidencia que respalde ninguna afirmación de que tal asunto ocurrió, ni que Ono haya afirmado que sucedió.
Las noticias falsas también parecen ser bipartidistas, ya que recibí un titular a principios de este mes que informaba sobre un escándalo que involucraba al senador republicano de Arizona John McCain:
Captura de pantalla de Topbuzz
Para este, parecía que la fuente del artículo no era ni siquiera una organización de noticias o un sitio falso, sino solo un usuario llamado “haitim738653”. Busqué en línea y no pude encontrar ninguna referencia a qué escándalo se refería. Sin embargo, TopBuzz lo puso en la parte superior de mi feed.
Incluso recibí otro hoy, alegando que la actriz Julia Roberts hizo un comentario crudo al comparar a la ex primera dama Michelle Obama y la actual, Melania Trump:
Captura de pantalla de Topbuzz
Este reclamo también es falso. Julia Roberts nunca hizo ese comentario, de acuerdo con los dos sitios web de verificación de hechos. PolitiFact y Snopes.com. De hecho, Roberts ha sido un defensor vocal de los Obama en el pasado, recaudando fondos públicamente para la campaña presidencial de 2012 de Barack Obama.
Historias como esta parecen aparecer en mi feed de TopBuzz todos los días. Incluso cuando la historia es realmente cierta, la naturaleza sensacional de cebo de los titulares tiende a ser engañosa, y el contenido en sí mismo generalmente proviene de sitios web marginales de extrema derecha o de extrema izquierda.
Las ambiciones globales de Bytedance
TopBuzz es una de una serie de aplicaciones en la cartera de Bytedance que espera utilizar para impulsar su expansión global. En noviembre, anunció la adquisición de la aplicación de video Musical.ly por un estimado de $ 800 millones, que tiene una sólida base de usuarios en América del Norte y Europa. También adquirieron el agregador global de noticias New Republic ese mes. En Japón, Corea y el sudeste asiático, han experimentado cierto éxito en su aplicación para compartir música TikTok, que lanzaron en septiembre. TopBuzz parece centrarse principalmente en los mercados de América del Norte y Europa.
Si bien Bytedance está utilizando diferentes aplicaciones para diferentes medios y mercados, todos operan con la misma arquitectura de fondo basada en China. “Tenemos diferentes productos que cubren diferentes regiones, pero el motor de recomendación de back-end es el mismo”, explicó el vicepresidente senior de Bytedance, Liu Zhen, en el Podcast 996. “Todos los ingenieros y personal de productos tienen su sede en China”.
Bytedance tiene como objetivo hacer dos cosas diferentes que han resultado ser un desafío para las empresas tecnológicas chinas: tener éxito entregando contenido a usuarios extranjeros y no chinos, y desarrollar y administrar aplicaciones que se adapten a los mercados extranjeros de ingresos medios y altos.
Cambio de mar en Silicon Valley
Como Bytedance ha establecido planes para la dominación global, uno debe preguntarse cómo su producto y ambición encajarán con los cambios que han tenido lugar en Occidente y Silicon Valley, en particular, durante el año pasado.
Los gigantes tecnológicos de Estados Unidos, que se han ganado la confianza de los usuarios en pequeña parte debido a su capacidad para proyectarse como amistosos, democráticos, “fuerzas para el bien”, han recibido recientemente un mayor escrutinio público. El más notable de ellos ha sido Facebook, que fue criticado a fines de 2016 después de que reveló que recibió aproximadamente $ 100,000 durante las elecciones estadounidenses para publicar anuncios vinculados a Rusia destinados a “amplificar los mensajes divisivos sociales y políticos en todo el espectro ideológico”.
Si bien no parece haber un consenso de expertos sobre la medida en que el contenido ruso de Facebook influyó en las elecciones, una cosa está clara: la política en los EE. UU. Y muchas otras democracias en todo el mundo están más divididas de lo que han estado en décadas. Esto se debe en gran parte a los algoritmos que utilizan las plataformas de redes sociales, que crean “cámaras de eco” de información.
Este efecto fue documentado en un estudio de junio de 2015 publicado en la revista Science titulado “Exposición a noticias y opiniones ideológicamente diversas en Facebook”. Digamos que la persona A y la persona B viven en los Estados Unidos. La persona A tiende a votar a los demócratas con mayor frecuencia, mientras que la persona B tiende a votar a los republicanos. La persona A comienza a hacer clic en las historias de los medios de comunicación de tendencia demócrata, mientras que la persona B hace clic en más historias de tendencia republicana. Reconociendo sus tendencias de clics, el algoritmo de Facebook intenta seleccionar contenido que esté alineado con sus hábitos y comienza a sugerir más y más historias que confirman, en lugar de desafiar, sus visiones del mundo existentes.
Finalmente, el efecto recursivo de las interacciones del algoritmo con los individuos crea universos en línea donde las personas no solo reciben opiniones diferentes en sus noticias, sino también hechos diferentes. El efecto de esto ha sido una mayor polarización de la población, como indica este gráfico de Pew Research:
Crédito de imagen: The Economist
En las sociedades democráticas donde la gobernanza se basa en la capacidad de tener un debate racional y llegar a un compromiso, este efecto es francamente peligroso.
En diciembre pasado, cuando habló ante una audiencia en la Stanford Graduate School of Business, el ex vicepresidente de crecimiento de usuarios de Facebook, Chamath Palihapitiya, no usó términos inciertos al expresar “gran culpa” por la compañía que ayudó a crear, diciendo: “Creo que hemos creado herramientas que están destrozando el tejido social de cómo funciona la sociedad “.
“Los circuitos de retroalimentación impulsados por la dopamina a corto plazo que hemos creado están destruyendo el funcionamiento de la sociedad”, continuó, refiriéndose al sistema de “clics, me gusta y aprobación” en el que se basan las plataformas de Facebook y Toutiao. “Sin discurso civil, sin cooperación; desinformación, falsedad. Y no es un problema estadounidense, no se trata de anuncios rusos. Este es un problema global ”. También describió un incidente en India donde mensajes falsos sobre secuestros compartidos en WhatsApp llevaron al linchamiento de siete personas inocentes.
Palihapitiya es solo uno de los muchos pioneros tecnológicos que están comenzando a reexaminar qué impacto han tenido sus productos en la sociedad. En noviembre, el fundador de Napster y primer inversor de Facebook, Sean Parker, habló públicamente sobre convertirse en un “objetor de conciencia” a las redes sociales, diciendo que Facebook y otras plataformas de redes sociales estaban teniendo éxito al “explotar una vulnerabilidad en la psicología humana”.
Esto ha provocado algunas búsquedas serias en Facebook. En febrero de 2017, Mark Zuckerberg publicó un manifiesto de casi 6,000 palabras, en el que habló en detalle sobre su visión de la plataforma como una fuerza para el bien social en todo el mundo y los cambios que deben hacerse para garantizar que ese sea el caso. En enero de 2017, Facebook lanzó el Proyecto de Periodismo de Facebook, un programa integral diseñado para filtrar historias falsas y falsas, capacitar y educar a periodistas y editores, y mejorar la alfabetización de noticias entre los lectores. En octubre, anunciaron nuevas pautas de medios diseñadas para detener las noticias falsas e introdujeron un botón de “más información” que permitiría a los lectores verificar la credibilidad del editor antes de abrir un enlace. A principios de este año, las acciones de Facebook cayeron un 4 por ciento después de que Zuckerberg anunciara que la plataforma se alejaría de su contenido y modelo basado en anuncios para enfatizar una mayor interacción entre amigos y familiares.
Pero, ¿qué está haciendo Bytedance?
A medida que Silicon Valley y Facebook se reagrupan de la reacción violenta actual a los problemas sociales que han ayudado a crear, es difícil ver cómo Bytedance imagina el impacto que les gustaría tener. Cuando pregunté a fines de 2017 sobre cualquier programa, enfoque o visión que la compañía tuviera sobre el concepto de responsabilidad social corporativa, la respuesta que recibí de uno de sus profesionales de relaciones públicas fue: “Es demasiado prematuro dar una declaración oficial, ya que es solo acaba de comenzar, pero será una de las cosas que estaremos construyendo ”. Al preguntar más recientemente sobre su política para gestionar noticias falsas o la postura sobre el impacto social de las redes sociales, Bytedance PR se negó a comentar sobre el registro.
Para ser justos, Bytedance parece reconocer que la responsabilidad social es algo que al menos deberían mencionar públicamente, pero es difícil ver exactamente dónde cae en la jerarquía de prioridades de la compañía.
En diciembre, organizaron su primer “Festival Global de Ideas de IA”, en el que el fundador y CEO Zhang Yiming hizo la siguiente declaración:
“A medida que la IA se convierte en una parte cada vez más integral de nuestra sociedad, Bytedance cree que nosotros, y nuestros pares de la industria, tenemos el deber de asegurarnos de que entendemos y podemos anticipar el impacto social de estas nuevas tecnologías y gestionar este impacto de manera responsable. Estamos encantados de proporcionar esta plataforma donde algunas de las mentes más grandes y las personas más influyentes de nuestra industria pueden reunirse para intercambiar ideas sobre el futuro de la IA en nuestra sociedad y hacer avanzar las mejores ideas ”.
El desafío de administrar noticias falsas es algo que al menos parecen reconocer, y han publicitado cómo están utilizando su tecnología para ayudar a encontrar niños desaparecidos en China. Su IA y sus métodos para monetizar el contenido también han demostrado ser útiles para ayudar a los pequeños creadores a encontrar audiencias y convertir sus seguidores en ingresos. También se han asociado con la Escuela de Administración Pública de la Universidad de Tsinghua para establecer el Centro de Innovación y Gobernanza, que se enfoca en investigar el impacto social y la respuesta a las nuevas tecnologías, y han formado algo llamado Comité de Tecnología Estratégica de Bytedance para proporcionar una plataforma sostenida para la discusión transversal de los desafíos críticos en la intersección de la IA y la sociedad.
En el mismo evento de diciembre en el que Zhang habló, el jefe del laboratorio de IA de Bytedance, el Dr. Ma Wei-Ying, se dirigió a periodistas extranjeros y habló de cómo la compañía está desarrollando técnicas para entrenar a su IA para reconocer y eliminar noticias falsas. Según Ma, la plataforma también permite a los usuarios informar sobre lo que creen que son noticias falsas y analiza los comentarios para detectar si sugieren que el contenido podría ser falso. Cuando el sistema identifica cualquier contenido falso que se haya publicado en su plataforma, notificará a todos los que lo hayan leído que han leído algo falso.
A pesar de las afirmaciones de Ma, esto está lejos de mi experiencia con TopBuzz. Aunque recibo noticias que son verificablemente falsas casi a diario, a menudo en forma de notificaciones push, nunca he recibido una notificación de la aplicación que me informa que Roy Moore no es el nuevo senador junior de Alabama, o que Hillary Clinton no era en realidad la pieza secundaria de Yoko Ono cuando estaba casada con John Lennon.
En realidad, en la misma mañana de la publicación de este artículo, supe por los canales de “Política” y “Ciencia” de TopBuzz que Barack Obama viaja con un demonio en su séquito y que la NASA está ocultando una base alienígena secreta en el lado oscuro de la luna:
Captura de pantalla de Topbuzz
Captura de pantalla de Topbuzz
Pero lo que quizás sea más preocupante es la naturaleza misma de la plataforma, su algoritmo y su estructura de incentivos. La competencia central de Bytedance es su sistema basado en IA para la creación, curación y difusión de contenido, que incentiva a los creadores de contenido a través de recompensas financieras a menudo basadas en clics, y cura el contenido de acuerdo con las preferencias de cada lector individual.
Fuente de la imagen: Jinri Toutiao
En otras palabras, parece que Bytedance está basando todo su modelo de negocio y expansión global en una versión turbo de las herramientas que Chamath Palihapitiya dice que están “destrozando cómo funciona la sociedad”. De lo que Facebook se está alejando, Bytedance se está zambulliendo en cabeza de cabeza.
En China, Bytedance censura su plataforma en respuesta a la presión de las autoridades. En diciembre de 2017, la oficina de Beijing del principal regulador de China acusó a Toutiao de “difundir información pornográfica y vulgar” y “causar un impacto negativo en la opinión pública en línea”, y ordenó la suspensión temporal de algunas secciones populares de la aplicación. En respuesta, Bytedance eliminó o suspendió las cuentas de más de 1,100 blogueros que, según se dice, habían estado publicando “contenido de baja calidad” en la aplicación. También reemplazó su sección “Sociedad” con una llamada “Nueva Era”, que impulsa principalmente la cobertura de los medios estatales de las decisiones gubernamentales.
Fuera de China, en los mercados de destino de Bytedance en el extranjero, como América del Norte y Europa, existe una presión mucho menor por parte de los reguladores gubernamentales, pero las consecuencias de los medios de comunicación que consume el público son posiblemente de mayor impacto. Después de todo, estas personas son votantes. La información que reciben tiene un impacto directo en cómo sus sociedades se gobiernan a sí mismas, y las redes sociales han jugado un papel crítico en obstaculizar la efectividad de sus sistemas democráticos. El mundo no necesita más información “curada”, necesita información precisa.
El impulso de globalización de muchas empresas chinas es inspirador: lo que ofrecen potencialmente puede satisfacer necesidades globales genuinas. Mobike y Ofo están ayudando a aliviar la congestión del tráfico, disminuir la contaminación y proporcionar transporte asequible. Alibaba y JD están introduciendo vías para que las empresas extranjeras accedan a los consumidores chinos. Muchas de las empresas estatales están desarrollando infraestructura que puede estimular el desarrollo económico en regiones subdesarrolladas del mundo. Pero, ¿qué ofrece exactamente Bytedance?
La democracia y el discurso civil están en mal estado en estos días. Sufre de una dieta poco saludable de información inexacta, engañosa y muy sesgada que se ha alimentado a sus ciudadanos a través de sus plataformas de redes sociales. A medida que Bytedance se expande a nivel mundial, su respuesta a esta “crisis de salud de la información” global parece ser una hamburguesa con queso más grande y grasienta.
TechNode no necesariamente respalda las declaraciones hechas en este artículo.
