Поиск в интернете повышает доверие к ложной информации

Рис. 1. Судя по этому фрагменту карикатуры Фредерика Оппера (Frederick Burr Opper) 1894 года из американского сатирического журнала Puck, проблема недостоверных новостей существовала задолго до появления интернета. Однако современные электронные соцсети и мощные поисковые системы позволяют быстро проверить сомнительную информацию и отделить правду от лжи. Или нет? Изображение с сайта commons.wikimedia.org

Принято считать, что совет «самостоятельно погуглить», прежде чем принимать на веру ту или иную новость, — хорошее средство против распространения ложной информации. Исследование американских социологов поставило эту идею под сомнение. Тщательно спланированный эксперимент показал, что поиск в интернете, предпринятый для проверки достоверности новостей, на самом деле не снижает, а повышает доверие читателя к ложным сообщениям. Результат поиска вводит в заблуждение особенно сильно, если в качестве строки для поиска используется заголовок, фрагмент лида или веб-адрес недостоверной новости. Такой «ленивый поиск» с большей вероятностью заводит читателя в «информационные пустоты» (data voids) — области информационного пространства, где достоверных данных почти нет и ложь властвует безраздельно.

Засилье ложной информации стало серьезной проблемой в современном мире. Социологи, политологи и психологи прикладывают немалые усилия, чтобы разобраться в причинах бедствия и понять, можно ли с ним как-то бороться (см. В эпоху постправды рациональное мышление ускоренно замещается эмоциональным, «Элементы», 29.03.2022). При этом чаще всего в центре внимания оказываются электронные социальные сети, ставшие настоящим инкубатором и рассадником недостоверной информации. Например, в нашумевшей статье 2018 года, опубликованной в журнале Science, было показано, что ложные новости распространяются в соцсетях быстрее и достигают большего числа людей, чем правдивые (S. Vosoughi et al., 2018. The spread of true and false news online).

Наряду с соцсетями огромную роль в формировании нашей информационной среды играют мощные поисковые системы, такие как Google. Принято считать, что их роль — положительная, ведь поисковики создавались и продолжают развиваться с основной целью давать людям верные ответы, то есть предоставлять правдивую, а не ложную информацию. Поэтому в руководствах по повышению цифровой грамотности (см. Digital literacy) и инструкциях по отличению фейковых новостей от настоящих, как правило, присутствуют советы не принимать на веру всё подряд, развивать в себе так называемое «критическое мышление» и использовать поиск в интернете для проверки информации на достоверность. К сожалению, на всех этих советах и действиях ложные мемы и их распространители уже научились прекрасно паразитировать.

В конце декабря журнал Nature опубликовал статью американских политологов и социологов, заподозривших, что с идеей использования поисковиков для отделения правды от лжи что-то пошло не так. Работа, для большей надежности выполненная с использованием предварительной регистрации (см. Preregistration), состояла из пяти отдельных исследований. В каждом из них участвовали тысячи добровольцев — жителей США. Для создания выборок испытуемых авторы пользовались услугами специализирующейся на данной задаче фирмы Qualtrics. Каждому участнику давали опубликованную в сети новость и просили оценить ее достоверность. Нужно было дать как качественную оценку (основной тезис новости скорее правдив или скорее ложен), так и количественную (по семибалльной шкале от «полностью ложная» до «полностью правдивая»). Новости брали в равных пропорциях из пяти источников: 1) «мэйнстримные», то есть считающиеся относительно приличными и надежными, новостные каналы либеральной направленности, 2) мэйнстримные консервативные источники, 3) менее качественные либеральные новостные сайты, 4) аналогичные консервативные сайты, 5) низкокачественные сайты неясной политической ориентации. Из этих источников выбирали наиболее популярные новости и рассылали участникам для оценки. Была также привлечена команда из шести опытных фактчекеров, работающих в ведущих американских СМИ, которые должны были оценивать правдивость новостей уже не по-дилетантски, а профессионально. Фактчекеры давали по каждой новости одно из трех заключений: «правдивая», «ложная или вводящая в заблуждение», «не удалось определить».

В первом исследовании участвовало 3006 добровольцев. Их случайным образом разделили на две группы, опытную и контрольную. Участнику, попавшему в опытную группу, рекомендовали пользоваться онлайн-поиском, чтобы оценить правдивость новости. В контроле такой рекомендации не давали. Новости в этом исследовании использовались самые свежие (опубликованные в течение последних 48 часов). Для 13 «ложных или вводящих в заблуждение» новостей было получено 1145 оценок от участников из контрольной группы и 1130 оценок от участников из опытной группы.

Статистический анализ собранных данных показал, что рекомендация использовать поиск значимо повысила доверие участников к ложным новостям. В контрольной группе люди оценивали ложную новость как правдивую примерно в 30% случаев, а в опытной — в 36% (рис. 2). Оценка достоверности по семибалльной шкале тоже оказалась выше (в среднем на 0,16 балла) в опытной группе, чем в контрольной.

Рис. 2. Влияние онлайн-поиска на доверие к ложной информации в исследованиях 1–4. Левая диаграмма (a) показывает, на сколько возрастает вероятность оценки ложной новости как правдивой, если дается качественная оценка («правда или ложь»), правая (b) — на сколько возрастает оценка достоверности ложной новости по семибалльной шкале. Показаны средние значения и 95-процентные доверительные интервалы. Рисунок из обсуждаемой статьи в Nature

Второе исследование должно было проверить, достаточно ли силен убеждающий эффект поиска в сети, чтобы переубедить человека, уже составившего мнение о предмете. В исследовании участвовала новая группа из 4252 добровольцев. Сначала каждого участника просили самостоятельно оценить достоверность новости, а потом — перепроверить себя с помощью онлайн-поиска. Таким образом, сравнивались друг с другом не разные участники, попавшие в контрольную или опытную группу, а одни и те же люди сравнивались сами с собой до и после использования онлайн-поиска. Результат получился примерно такой же, как и в первом исследовании. Онлайн-поиск повысил доверие к фальшивым новостям на 32–39%. Из участников, которые сначала не поверили фальшивой новости, 17,6% после онлайн-поиска изменили свое правильное мнение на ошибочное. В обратную сторону (с неверной оценки «правда» на правильную оценку «ложь») передумали только 5,8% участников, изначально оценивших ложную новость как правдивую.

Третье исследование отличалось от второго тем, что использовались новости, опубликованные не только что, а 3–6 месяцев назад. Идея была в том, что за это время в сети могли появиться критические обзоры, разоблачения и опровержения ложных новостей. Это могло бы снизить вводящий в заблуждение эффект онлайн-поиска или даже — чем черт не шутит — изменить его знак, сделав из вредного полезным. В исследовании участвовало 4042 добровольца. Оптимистические ожидания не оправдались: онлайн-поиск опять, как и в двух предыдущих случаях, повысил доверие к фальшивым новостям примерно на 7 процентных пунктов.

В первых трех исследованиях использовались новости на произвольные темы (выбирались просто самые популярные новости из пяти перечесленных выше источников). В число этих тем могли попасть и заведомо «желтые», до которых солидные новостные сайты, возможно, не снисходят, и поэтому в сети в принципе мало достоверной информации по таким темам. Может быть, если выбрать заведомо важную, респектабельную тему, то в этом случае онлайн-поиск не будет усиливать заблуждения?

Чтобы это проверить, провели четвертое исследование с новой группой из 1130 участников. Оно было выполнено по той же схеме, что и второе, с той разницей, что использовались только новости, касающиеся медицинских, экономических и политических аспектов пандемии COVID-19. Исследование проводилось в самый разгар пандемии, летом 2020 года. И снова оптимизм не оправдался: онлайн-поиск и на этот раз укрепил веру в фейковые новости почти на 7 процентных пунктов.

Последнее, пятое исследование авторы провели, чтобы понять, каким именно образом онлайн-поиск вводит людей в заблуждение. В исследовании участвовала новая выборка из 1677 человек. Всё было как в первом исследовании, с двумя отличиями. Во-первых, участники, попавшие в опытную группу, получали не рекомендацию, а требование использовать Google для верификации новости. Контрольная группа такой команды не получала. Во-вторых, каждый участник должен был сначала установить специальное расширение для браузера, которое отслеживало его дальнейшие действия. Это позволило собрать данные о том, какие строки для поиска использовал каждый участник и какие результаты дал поиск.

На этот раз попадание в опытную группу повысило доверие к ложным новостям почти на 11 процентных пунктов по сравнению с контролем (что может объясняться более настойчивым требованием использовать поиск). Но главный результат состоял в том, что обнаружилась четкая связь между тем, насколько поиск повышает доверие к ложным новостям, и количеством недоброкачественных источников в результатах поиска. Источники оценивались по рейтингу NewsGuard, где новостным сайтам присвоены баллы от 0 до 100 в соответствии с качеством проводимого ими фактчекинга. Оказалось, что те испытуемые из опытной группы, которым поиск выдал ссылки только на надежные источники (имеющие рейтинг NewsGuard 85 и выше), оценивали ложные новости как правдивые не чаще, чем участники из контрольной группы. То есть онлайн-поиск не усиливает веру в фальшивые новости, если человеку так повезет, что поиск выдаст ему только надежные ссылки. Весь наблюдаемый вредный эффект онлайн-поиска обусловлен теми пользователями, которым поиск выдал ссылки на недоброкачественные источники.

От чего же зависит это «везение»? Авторам удалось обнаружить несколько факторов, которые могут на это влиять. Во-первых, оказалось, что поиск, предпринятый для проверки ложной новости, выдает значительно больше ссылок на ненадежные источники, чем поиск, проведенный для проверки правдивой новости. Это согласуется с теорией «информационных пустот» (data voids, см. Michael Golebiewski, Danah Boyd, 2018. Data Voids: Where Missing Data Can Easily Be Exploited). Идея в том, что в информационном пространстве, в котором мы ищем ответы при помощи Google и поисковой строки, есть обширные области, где правдивой информации в принципе нет или очень мало. В этих «пустотах» ложная информация чувствует себя вольготно, не испытывая конкуренции со стороны информации правдивой. Этим могут пользоваться, в том числе и намеренно, люди, желающие ввести публику в заблуждение, чтобы достичь каких-то своих экономических, политических или идеологических целей.

Заголовки и лиды фейковых новостей часто содержат особые термины или их сочетания, которые, если использовать их в качестве поисковых строк, заводят пользователя как раз в такие «data voids», где ложь властвует безраздельно. С этим связана вторая обнаруженная закономерность: вероятность получить в результатах поиска ссылки на ненадежные источники резко возрастает при использовании «ленивого поиска», когда пользователь ищет просто по заголовку ложной новости или его фрагменту, по одной из вводных фраз или веб-адресу новости. Например, одна из ложных новостей, использованных в исследовании, имела такой заголовок: «U.S. faces engineered famine as COVID lockdowns and vax mandates could lead to widespread hunger, unrest this winter» (вольный перевод: «США стоят на пороге искусственно сконструированного голода, в то время как ковидные локдауны и сертификаты о прививках могут привести к маштабному голоду и беспорядкам этой зимой»). Здесь волшебным ключиком для попадания в data void и получения ссылок на ненадежные источники является, как выяснилось, слово engineered («искусственно сконструированный»), стоящее перед словом famine («голод»). Если убрать engineered из поисковой строки, достоверность результатов поиска резко повышается.

Дополнительные факторы, которые могут влиять на вероятность получения ссылок на недостоверные источники, отражены на рис. 3.

Рис. 3. Факторы, влияющие на вероятность получения ссылок на недостоверные источники в результатах онлайн-поиска. График слева показывает, что «цифровая грамотность» (Digital literacy, по самооценке испытуемых) снижает, а «идеологическое соответствие» ложной новости взглядам испытуемого (Ideological congruence) — увеличивает вероятность получения недостоверных ссылок. Диаграмма в центре показывает, что при использовании в качестве поисковой строки заголовка или веб-адреса ложной новости поиск выдает больше недостоверных ссылок, чем при использовании других запросов. Правый график показывает, что «цифровая грамотность» снижает вероятность использования заголовка или веб-адреса новости в качестве поисковой строки. Рисунок из обсуждаемой статьи в Nature

Авторы, конечно, посмотрели и на то, как влияет онлайн-поиск на доверие к правдивым новостям. Оказалось, что оно тоже повышается — в среднем (по всем пяти исследованиям) примерно на столько же процентов, что и к ложным. Но есть два нюанса. Во-первых, положительное влияние онлайн-поиска на доверие к достоверным новостям сильнее выражено в исследованиях 1 и 5 (где опытная группа сравнивалась с контрольной), чем в исследованиях 2–4 (где сравнивались оценки одного и того же пользователя до и после поиска). То есть поиск может повысить доверие к правдивым новостям, если человек еще не успел составить собственного мнения по данному вопросу, но вряд ли переубедит тех, кто уже такое мнение составил. Во-вторых, поиск сильнее повышает доверие к правдивым новостям с ненадежных сайтов, чем к таким же новостям с респектабельных «мейнстримных» сайтов. Последний эффект, возможно, связан с тем, что новости с ненадежных сайтов изначально внушают пользователям меньше доверия (люди, по-видимому, все-таки считывают сигналы, несущие информацию о надежности источника: знакомое/незнакомое название сайта, степень «желтизны» заголовков и т. п.).

Исследование показало, что борьба правды с ложью в цифровом мире не может быть простой. Примитивными рекомендациями «мыслить критически» и «гуглить самостоятельно» тут не обойтись. Будем надеяться, что исследования в этом направлении продолжатся и в конце концов помогут человечеству выработать эффективные стратегии защиты от наступающей лжи.

Источник: Kevin Aslett, Zeve Sanderson, William Godel, Nathaniel Persily, Jonathan Nagler & Joshua A. Tucker. Online searches to evaluate misinformation can increase its perceived veracity // Nature. 2023.

См. также:
В эпоху постправды рациональное мышление ускоренно замещается эмоциональным, «Элементы», 29.03.2022.

Александр Марков