Психотронная тюрьма риторики: история о том, что мешает нам мыслить здраво

Аристотель придумал, что в риторике есть четыре главных способа убеждения. Пафос — через эмоции и повествование. Логос — через факты и логику. Этос — через авторитет того, что убеждает. Есть еще кайрос, фактор контекста: того, когда вас пытаются убедить и при каких условиях.

Познакомился я с ними, когда работал академконсультантом в США: помогал получать высшее образование так, чтобы иметь хорошие оценки и не тратить слишком много денег. В колледжах США, риторику изучают все гуманитарии на первом курсе, иногда даже технари. И так как всю риторику сводили именно к способам убеждения, мои клиенты из Ближнего Востока и Китая часто этим возмущались. И спрашивали меня, какой скрытый смысл в том, чтобы изучать такие очевидные вещи.

Что же, ответ у меня есть. Я считаю, что этос — это бич мыслящего человека. Кейрос — кайданы, который выковал информационный век. А понимание того, как работает риторика — базовый инструмент критического мышления. Особенно для IT-специалиста.

Я так много рассказывал об этом на кухнях и в чатах, что решил написать статью. А получился лонгрид с научными исследованиями, разбором влияния алгоритмических новостных лент, и безумным комиксом из мемов, который я делал 4 часа в Фигме. Поехали!

▍Доверяй да проверяй: проблема экспертов

В любой сложной теме, СМИ и блогеры в первую очередь обращаются к экспертам. Врача слушать о медицине надежнее, чем копирайтера за 50 рублей/килознак. Отставной военный разбирается в войне в Сирии лучше, чем банковский клерк Славик. Трейдер лучше объяснит о будущем криптовалют, чем скептик из улицы. Ну а то, что есть на завтрак Герман Греф, интереснее для публики содержимого вашего собственного завтрака. Это всё — этос, убеждающая и привлекающая способность авторитета и знаменитости.

Мы, как вид, прошли эволюционный отбор по критерию подвластности этосу[1]. Чтобы выжить, нашим предкам пришлось брать на веру слова опытных и знаменитых сородичей. Те, кто слушал на охоте Праславика, который когда-то убил мамонта, выжили и родили детей. Те же, кто верил Правиталику, который поймал в бороде блоху, на охоте не выжили, и гены их не пошли в народ. Чем больше развивалось человечество, тем меньше эмпирического опыта мог получить отдельный человек, и тем важнее ему было учиться у более опытных сородичей. Так мы и дожили до того, что верим авторитетам.

А те, кто убил и скушал мамонта лишь потому, что Славик описал его очень вкусным, проходили отбор по пафосу. Но там в деле замешаны еще сострадание, эмпатия, и всё куда сложнее.

Что же тогда не так в том, чтобы слушать прогнозы трейдеров и знаменитостей, а не троллей из интернета и ноунеймов? Подвох в том, что утверждения об экспертах выше верны только касательно _эмпирического опыта_. Это значит, что в повторяющихся ситуациях и в анализе прошлого, эксперты справляются лучше, чем люди с улицы. По крайней мере, иногда.

А вот в прогнозировании будущего, эксперты справляются хуже. И это не шутки: исследования Филиппа Тетлока показали, что среднестатистический эксперт-политолог справляется хуже, чем статистический анализ[2]. И что специалисты, что статистика справились хуже, чем «шимпанзе, мечущий дротики в мишень». А в случае с предсказаниями котировок фондового рынка, усредненный диванный эксперт из интернета справляется лучше, чем профессиональный аналитик из банка[3][4]. Об этом Нассим Талеб рассказывает половину своей книги «Черный Лебедь», повторяя на всякий лад.

Важный момент: эксперты действительно существуют, и разница между человеком из улицы и профессором есть[2]. Но настоящих экспертов больше там, где можно легко получить эмпирический опыт и поставить эксперимент. И там, где для работы требуется открытость мышления и готовность к неожиданностям.

Потому врачи, водители, инженеры, пилоты и физики справляются со своей работой лучше, чем случайный человек с улицы, посади его лечить людей или пилотировать. Но все они могут делать катастрофические ошибки, вне зависимости от именитости и опыта.

В итоге, единственный рабочий способ ориентироваться в мире — это сравнение мнений, собственный анализ, эксперименты, или хотя бы критическое мышление. Но постоянно мыслить критически очень сложно. Мозг — очень экономный механизм, и он максимально пытается использовать дешевые обученные нейросети, а не дорогие аналитические. Это имеет смысл: чем больше ты калорий сэкономил в живой природе, тем реже ты выходишь из логова в поисках еды, и тем меньше твой шанс стать едой самому.

▍Этос: мастер-класс на пальцах

Эксперты и исследования Тетлока как-то далековато находятся к нам, чтобы восприниматься серьезно. Поэтому у меня есть два примера: один из повседневной жизни, а другой повлиял в прошлом году на всех нас.

Как состоявшийся спорщик но начинающий писатель, я влияние этоса испытал на себе сполна. Когда у меня в Психотронке 30 подписчиков не считая собаки, а у блогера-политолога их 300 тысяч, его этоса хватит, чтобы при встрече в чате, толпа стала на его сторону вне зависимости от темы спора. В моем случае, блогер доказывал, что совершенно невозможно получить Ph.D. в США, цитируя Библию как источник в научной работе. Тем более, в медицинской специальности. Ведь в цивилизованном мире так дела не делаются.

Я не осуждаю людей. Логичнее доверять экспертному блогеру, ведь человеку есть что сказать. Однако исследования показывают, что с ростом авторитетности и известности эксперта, растет только его уверенность в собственных предсказаниях, но никак не точность этих предсказаний[2]. В той истории с Библией, к блогеру прилетел черный лебедь, ведь соискатель Ph.D. с Библией был моим клиентом. И моим клиентом он стал потому, что его куратор цитирование Библии требовал. Но меня все равно признали фантазером и забанили.

Этос в интернете, где авторитет измеряется цифрами, вообще творит страшные вещи. Например Tomas Pueyo, автор той самой статьи о коронавирусе, перевод которой набрал на Хабре рекордное количество просмотров, не врач. И даже не статистик, хотя всю статью украсил графиками. Конечно, у Томаса есть степень магистра инженерного дела и MBA, и он самостоятельно провел анализ данных из открытых источников, пусть методами своих расчетов не поделился.

Но подвох в том, что до марта 2020 года, Томас писал только о инфобизнесе (которым сейчас и занимается), личном успехе и позитивном мышлении. И его лучшие статьи назывались "Как написать смешную речь?" или "Как умерить ожидания CEO". Но с марта 2020-го, естественно, Томас писал только о коронавирусе, ведь по его же словам 20, он получил в тысячи раз больше просмотров, чем обычно.

Через год этого человека будут цитировать министры и общественные деятели, обосновывая необходимость жесткого карантина

Итак, вопрос. Хотели ли бы вы, чтобы Томас был министром здравоохранения в вашей стране и принимал решения по борьбе с эпидемией? Последние три абзаца, в сочетании с картинкой выше, заставляли бета-тестеров этого текста говорить «нет». Именно так работает риторика, ведь этос Томаса к этому моменту серьезно пострадал.

Правильный ответ другой. По крайней мере, британцы бы предпочли Томаса своим министрам. В апреле 2020, Томас в гостях у MIT Technology Review упоминает о том, что Британия поздно последовала его совету превентивных карантинов, и поплатится за это жизнями[20]. В январе 2021, Борис Джонсон, премьер-министр Британии, будет просить прощения за 100,000 смертей от коронавируса — в том числе, из-за промедления с карантином.

Прогнозы развития пандемии, которые Томас сделал, оказались очень похожими на то, что произошло на самом деле. Но его нельзя было предсказать, судя из его биографии и предыдущих заслуг. Этос оказался бесполезным дважды: он сперва заставил поверить неспециалисту, а потом отринул то, что неспециалист может сделать правильные выводы.

В итоге, чтобы есть досыта и не стать едой самому, приходится думать самостоятельно. И думает каждый по своему карману. Мыслители при деньгах, вроде основателя Амазона Безоса, нанимают штат разноплановых экспертов. Их заставляют работать в команде и пользоваться проверенными методами; это увеличивает точность предсказаний[2]. В итоге, Безос хвастается тем, что его работа — думать о проблемах на 2-3 года в будущем, а сегодняшние беды разребают мальчики на побегушках[5]. Судя по всему, пока его подход работает.

Но у начинающего критического мыслителя, как правило, нет ни денег, ни влияния Безоса, не говоря уже о карманной корпорации. Поэтому, новичок начинает с того, что учат еще в школе: сравнивает разные точки зрения. И попадает во вторую ловушку — в пасть прирученного кайроса.

▍Прирученный алгоритмами кайрос

Кайрос — то есть влияние контекста и своевременности подачи на убедительность информации — тоже известен со времен греков[6], но менее известен, чем его три брата. Настолько менее известен, что на русскоязычной вики о нем нет статьи, а в риторику его включают только самые хорошие (читай: «самые дорогие») колледжи. Так случилось потому, что кайрос до ХХІ века был вещью очень очевидной. В летнюю жару предложение искупаться соблазнительнее, чем во вьюгу. Бедный охотнее выступит за налоги для богатых, чем богатый. В общем, банальности.

Разумеется, манипулировать контекстом додумались тоже давно. Революции происходили тогда, когда было много голодных и недовольных. Газеты почти с самого своего появления занялись рекламой, а потом — борьбой за то, чтобы быть главным источником новостей[7]. А зачем это им было нужно, догадаться несложно.

Даже сайты до появления адблока продолжали многовековые традиции.

Но в эпоху газет, большую часть времени люди проводили в реальном мире. Опровергнуть откровенную чушь можно было выглянув в окно, или поговорив с соседями. Потому журналисты практиковали миротворчество в отношении к заморским странам. События там проверить обычный человек не мог и не сильно хотел.

Но в ХХІ веке случилась перемена. Первое — что большую часть своей познавательной деятельности человек стал проводить в интернете. Второе — что информационную среду человека перестал определять его выбор, будь то выбор газеты, бара или места жительства. На сцену вышли контентные алгоритмы, со временем потеснив прежнего лидера распространения информации — соседей[8]. То, что показывает Фейсбук в ленте, Ютуб и Яндекс Новости, формируется специально исходя из предпочтений пользователя и его поведения. Эдакой личный тайный советник для каждого.

Как человек, который постоянно работает с рекламой, я уверяю вас (поняли подвох, да?), что считаются не только лайки. Длительность чтения, внимательность, соответствие переписке, которую тоже анализируют работы — всё это учитывается для того, чтобы показать вам правильный набор постов. На Хабре есть профессионалы по таргетингу рекламы и те, кто делает контентные алгоритмы, так что микрофон тут передаю им. Вот тут можно почитать, например, сколько всего Фейсбук знает о пользователе, а тут — небольшой обзор на алгоритмы Ютуба.

При этом, цель контентных алгоритмов не в том, чтобы пользователь стал умнее, сильнее, или хотя бы счастливее. Их цель — увеличить время пользователей за просмотром контента, а вместе с этим — количество взаимодействий с рекламой. Взаимодействия важны: пассивные зрители менее ценны чем те, который лайкают (или дизлайкают) и комментируют. А лучше всего, когда в контент вовлечены другие и друзья: тогда зависнуть можно надолго[9].

Моя попытка проиллюстрировать работу контентных алгоритмов. Полный размер

Таким образом, людям показывается не только то, с чем они согласны и что им нравится, но и то, что вызывает у них эмоциональный ответ. Например, группы единомышленников, где можно пообщаться с другими людьми. Или противоречащие их взглядам посты, но вызывающие эмоциональный ответ. Ведь там можно побить врага комментами вместе с единомышленниками, которых алгоритм тоже подвезет.

▍Самоисполняющиеся пророчества

И когда я рисовал картинку выше, то понял, что контентные алгоритмы влияют не только на потребителей, но и на производителей контента. Алгоритм пессимизирует то, что не вызывает ответа у пользователей, и продвигает то, что заставляет читателей реагировать. И дальше включаются правила рыночной экономики.

Контент с риторикой логоса, вроде «Итоги личного опыта пользования Linux на разныхы платформах, вызывает меньше реакции чем риторика пафоса: «10 причин ненавидеть Linux: исповедь бородатого юзера» [10]. Это мотивирует производителей контента сменять разумные доводы эмоциональными ради больших охватов. Второй факт: адаптация контента под конкретную аудиторию и тему приводит к большему росту популярности, чем нейтральность, объективность и широкий обзор.

Журналисты и опытные в вопросе люди скажут, что так было всегда. Но раньше, «адаптация» контента под пользователей происходила в прямом контакте между читателями и продюсерами. Теперь же, продюсеры контактируют не с пользователями, а алгоритмами. И уже они распределяют контент между пользователями, согласно своему тайному пониманию темы и аудитории.

Получается самовыполняющееся пророчество. Пользователи группируются алгоритмами в аудитории по критерию поведения и интересов. Им показывается определенный контент, и отфильтровывается тот, который алгоритм считает вредным для вовлеченности. Ну а создатели контента, с целью повысить популярность своего творчества, вслепую «нащупывают» алгоритмические понятия о прекрасном. И начинают производить таргетированный контент, который алгоритмы подхватывают на ура.

Я коллекционирую мемы про кликбейт, который тоже является попыткой оптимизировать алгоритмы.

Истории получаются едва не библейские. Например, книжный блогер 5 лет обозревает хорошую литературу и не получает ни гроша. А знаменитостью становится, как только начинает обозревать треш для подростков[11]. Без слез смотреть нельзя.

Ранее, контентные алгоритмы замечались в еще более грязной игре. Например, женщинам показывались их более успешные знакомые, потому что наблюдение за ними затягивает. Но психиатры обнаружили вредный эффект такого «социального сравнения» и забили тревогу[12], и Фейсбук лавочку прикрыл. Из-за похожего давления, Фейсбук в 2018 году перекрутил алгоритмы, уведя трафик рекомендаций от брендовых страниц к страницам реальных людей[13]. История, где Фейсбук «вдруг» осознает, как плохо он поступал, и перекраивает все алгоритмы, продолжается до сих пор.

Но до сих пор мне Фейсбук советует одних политиков, а моей маме других. Мой брат живет в совершенно ином Ютубе, чем я. Каждый может эмпирически увидеть существование контентных алгоритмов. И мы возвращаемся к основной теме — чем же риторика кайроса так вредна?

▍Война воображаемых миров

Главная беда алгоритмических лент в том, что они приводят к сильному сужению разнообразия точек зрений, доступных человеку. В свою очередь, у нас есть встроенное когнитивное искажение, эвристика доступности, из-за которой события кажутся более вероятными, правдивыми или частыми, если легче вспоминаются. Соединение алгоритмической ленты и эвристики доступности создает ситуацию, где человек постепенно убеждается, что его картина мира является единственно возможной. Этот феномен стал известен как информационный пузырь, по-английски Filter Bubble[14].

Ученые считают алгоритмические пузыри причиной поляризации политических и социальных движений в последнее время – например, в США[15]. Те же ненавидимые всеми в рунете SJW просто варятся Твиттером, Фейсбуком и Ютубом в сообществе согласных между собой людей. Оно существует по четким для них правилам, в нем происходят события по определенным сообществом причинам; это де-факто отдельный мир со своими физическими законами. И когда большой инфо-повод или ошибка алгоритма вкидывает к ним события из другого «пузыря» — например, объективированных женщин с громадной грудью из «пузыря» геймеров — SJW испытывают культурный шок.

Та самая политическая поляризация и радикализация в США. Источник с большими размерами и анимацией

Такой же шок, как если бы вдруг на улицах появились римляне и стали требовать эвокации доллара как бога в Пантеон. Так как мы теперь потребляем информацию и удовлетворяем любопытство не из окружения, а интернета, то разрушение «пузыря» — это буквальное вторжение из другого мира. Оттуда радикализация между политическими партиями, потакание лутингу ради социальной справедливости, и прочие дикие для нас, но совершенно естественные для обитателей соседнего «пузыря» вещи.

И это работает во все стороны. Мы на Хабре – непонятные пришельцы для мира открыток из Одноклассников. Когда Джавараш переводили свои курсы для англоязычной аудитории, англоязычные возмущались, что робот удивляется цветным волосам женщины[16]. А теперь и дня не проходит без вскрытия очередного информационного пузыря.Журнал «Рабдно» тому пример: если хотите увидеть, как выглядит культурный шок, покажите тимлиду из Москвы интервью с воспитателем детского сада, который питается объедками, или моряком, который неделями может ходить на горящем корабле.

Я лично считаю, что общество уже стало приспосабливаться к среде алгоритмов и создавать специфичные для проживания в информационных пузырях феномены. Например, канцелинг — исключение из информационной повестки — это имитация людьми работы информационных алгоритмов, стражей их мировоззренческого порядка.

Да, остракизм, изгнание из общества, существовал еще в Древних Афинах, и в них же считался смерти подобным[17]. Но редко когда остракизм ограничивался одним информационной повестки, как это случилось недавно с Трампом. Раньше, все же, предпочитали выдавливать из физической реальности.

В итоге, кайрос препятствует тем, кто прошел первый уровень квеста к критическому мышлению и поборол власть этоса. Когда точки зрения выдаются строго под момент, а их разнообразие дозировано, чтобы вы не удалились из Фейсбука, нельзя прийти к нестандартному выводу. Когда в Гугле сайты, на которых стоит больше всего обратных ссылок (читай: вложено больше денег), показываются выше других[18], нестандартные выводы даже не нагуглить.

И это если вам повезет понять, что ваша картина мира не соответствует действительности.

---

Вот мы и пришли к тому, что бытовой рациональности для хорошей жизни недостаточно. Доверять авторитетам и ссылаться на них — это наше врожденное свойство. Но даже если удается начать мыслить критически и приступить к самому простому, сравнению точек зрения, в ногу стреляет намеренная «узость» информационного пузыря современного человека.

Выводы простые. Во-первых, как бы не было это больно, свобода мышления требует открытости к чужим мирам и мировоззрениям. Даже если чужие миры выглядят, как ад из Doom, а вы в том аду Думгай.

Во-вторых, стоит перехватить себе контроль над потребляемой информацией. Это сложнее: усилиями Гугла, RSS уже не так популярен, и мало где остались места, где хитрый робот не пытается сделать выбор для вас. Отказ от новостной ленты как лишенной практического смысла вещи, и подбор каналов, изданий и блогов под свои интересы и цели — хороший шаг.

И главное: не забывайте о рациональности. Новости и информационные пузыри довели уже до того, что американские бедняки голосуют за Республиканцев, в большинстве своем крупных и наследственных богачей[19]. Действуйте в первую очередь в интересах своих и своей семьи. И только потом — в интересах государства, народа, и прочих воображаемых персонажей.