Cómo los motores de búsqueda difunden información errónea

niña mirando a través de una espiral de colores

Image via Crispin la valiente/Moment via Getty Images

Los motores de búsqueda son una de las principales vías de acceso de la sociedad a la información y a las personas, pero también conducen a la desinformación.




Este artículo sobre desinformación se vuelve a publicar aquí con el permiso de La conversación . Este contenido se comparte aquí porque el tema puede interesar a los lectores de Snopes; sin embargo, no representa el trabajo de los verificadores o editores de Snopes.




Los motores de búsqueda son una de las principales vías de acceso de la sociedad a la información y a las personas, pero también conducen a la desinformación. Similar a algoritmos problemáticos de redes sociales , los motores de búsqueda aprenden a servirle en lo que usted y otros han hecho clic antes. Debido a que las personas se sienten atraídas por lo sensacionalista, esta danza entre algoritmos y la naturaleza humana puede fomentar la difusión de información errónea.

Las empresas de motores de búsqueda, como la mayoría de los servicios en línea, ganan dinero no solo vendiendo anuncios, sino también rastreando a los usuarios y vendiendo sus datos. mediante pujas en tiempo real en eso. Las personas a menudo son conducidas a la desinformación por su deseo de noticias sensacionales y entretenidas, así como por información que sea controvertida o que confirme sus puntos de vista. Un estudio encontró que los videos de YouTube más populares sobre la diabetes son menos probabilidades de tener información médicamente válida que los videos menos populares sobre el tema, por ejemplo.



Los motores de búsqueda basados ​​en anuncios, como las plataformas de redes sociales, están diseñados para recompensar el clic en enlaces atractivos porque ayudan a las empresas de búsqueda a mejorar sus métricas comerciales. Como investigador que estudia los sistemas de búsqueda y recomendación , Mis colegas y yo demostramos que esta peligrosa combinación de ánimo de lucro empresarial y susceptibilidad individual hace que el problema sea difícil de solucionar .

Cómo salen mal los resultados de la búsqueda

Cuando hace clic en un resultado de búsqueda, el algoritmo de búsqueda aprende que el enlace en el que hizo clic es relevante para su consulta de búsqueda. Se llama retroalimentación de relevancia . Esta retroalimentación ayuda al motor de búsqueda a dar mayor peso a ese enlace para esa consulta en el futuro. Si suficientes personas hacen clic en ese enlace suficientes veces, dando así una fuerte retroalimentación de relevancia, ese sitio web comienza a aparecer más alto en los resultados de búsqueda para eso y consultas relacionadas.

La gente es más probabilidades de hacer clic en los enlaces que se muestran más arriba en la lista de resultados de búsqueda. Esto crea un ciclo de retroalimentación positiva: cuanto más alto aparece un sitio web, más clics son y eso, a su vez, hace que el sitio web suba o se mantenga más alto. Las técnicas de optimización de motores de búsqueda utilizan este conocimiento para aumentar la visibilidad de los sitios web.



Hay dos aspectos de este problema de desinformación: cómo se evalúa un algoritmo de búsqueda y cómo reaccionan los humanos a los titulares, títulos y fragmentos. Los motores de búsqueda, como la mayoría de los servicios en línea, se evalúan utilizando una variedad de métricas, una de las cuales es la participación del usuario. Lo mejor para las empresas de motores de búsqueda es ofrecerle cosas que desee leer, ver o simplemente hacer clic. Por lo tanto, como un motor de búsqueda o cualquier sistema de recomendación crea una lista de elementos para presentar, calcula la probabilidad de que haga clic en los elementos.

Tradicionalmente, esto estaba destinado a mostrar la información que sería más relevante. Sin embargo, la noción de relevancia se ha vuelto confusa porque la gente ha estado usando la búsqueda para encontrar entretenidos resultados de búsqueda, así como información verdaderamente relevante .

Imagina que estás buscando un afinador de pianos. Si alguien te muestra un video de un gato tocando el piano, ¿harías clic en él? Muchos lo harían, incluso si eso no tiene nada que ver con la afinación del piano. El servicio de búsqueda se siente validado con comentarios de relevancia positiva y aprende que está bien mostrar un gato tocando un piano cuando la gente busca afinadores de piano.

De hecho, es incluso mejor que mostrar los resultados relevantes en muchos casos. A la gente le gusta ver videos divertidos de gatos, y el sistema de búsqueda obtiene más clics y participación de los usuarios.

Esto puede parecer inofensivo. Entonces, ¿qué pasa si las personas se distraen de vez en cuando y hacen clic en resultados que no son relevantes para la consulta de búsqueda? El problema es que la gente se siente atraída por imágenes emocionantes y titulares sensacionales. Ellos tienden a hacer clic en teorías de conspiración y noticias sensacionalistas , no solo gatos tocando el piano, y hazlo más que hacer clic en noticias reales o información relevante.

Arañas famosas pero falsas

En 2018, búsquedas de 'nueva araña mortal' con pinchos en Google tras una publicación de Facebook que afirmaba que una nueva araña mortal mató a varias personas en varios estados. Mis colegas y yo analizamos los 100 resultados principales de la búsqueda en Google de 'nueva araña mortal' durante la primera semana de esta consulta de tendencia.

Distribución de resultados de búsqueda para

Las dos primeras páginas de los resultados de búsqueda de Google para 'nueva araña mortal' en agosto de 2018 (área sombreada) estaban relacionadas con la publicación original de noticias falsas sobre ese tema, sin desacreditar ni información fáctica.
Chirag Shah, CC BY-ND

Resultó esta historia era falso , pero las personas que lo buscaban estaban expuestas en gran medida a información errónea relacionada con la publicación falsa original. A medida que la gente continuaba haciendo clic y compartiendo esa información errónea, Google continuó mostrando esas páginas en la parte superior de los resultados de búsqueda.

el oficial de george floyd chauvin trabajaron juntos

Este patrón de historias emocionantes y no verificadas que surgen y las personas hacen clic en ellas continúa, y la gente aparentemente no está preocupada por la verdad o cree que si un servicio confiable como la Búsqueda de Google les muestra estas historias, entonces las historias deben ser verdaderas. Más recientemente, un informe refutado Afirmar que China permitió que la filtración del coronavirus de un laboratorio ganó fuerza en los motores de búsqueda debido a este círculo vicioso.

Detecta la desinformación

Para probar qué tan bien las personas discriminan entre información precisa y desinformación, diseñamos un juego simple llamado ' Google o no . ' Este juego en línea muestra dos conjuntos de resultados para la misma consulta. El objetivo es simple: elija el conjunto que sea confiable, digno de confianza o más relevante.

Una captura de pantalla que muestra dos conjuntos de resultados de búsqueda de Google uno al lado del otro.

En las pruebas, aproximadamente la mitad de las veces las personas no pueden distinguir entre los resultados de búsqueda de Google que contienen información errónea y los que solo obtienen resultados confiables.
Chirag Shah, CC BY-ND

Uno de estos dos conjuntos tiene uno o dos resultados que se verifican y etiquetan como información errónea o una historia desacreditada. Pusimos el juego a disposición del público y lo anunciamos a través de varios canales de redes sociales. En general, recopilamos 2100 respuestas de más de 30 países.

Cuando analizamos los resultados, encontramos que Aproximadamente la mitad de las veces las personas eligieron por error el conjunto como confiable con uno o dos resultados de información errónea. . Nuestros experimentos con cientos de otros usuarios durante muchas iteraciones han dado como resultado hallazgos similares. En otras palabras, aproximadamente la mitad de las veces la gente elige resultados que contienen teorías de conspiración y noticias falsas. A medida que más personas seleccionan estos resultados inexactos y engañosos, los motores de búsqueda descubren que eso es lo que la gente quiere.

Dejando a un lado las cuestiones de la regulación y autorregulación de las grandes tecnologías, es importante que las personas comprendan cómo funcionan estos sistemas y cómo generan dinero. De lo contrario, las economías de mercado y la inclinación natural de las personas a sentirse atraídas por vínculos llamativos mantendrán el círculo vicioso.

La conversación


Chirag Shah , Profesor Asociado de Ciencias de la Información, Universidad de Washington

Este artículo se vuelve a publicar desde La conversación bajo una licencia Creative Commons. Leer el artículo original .