Клуб «открытая россия»

«Одна из тех вещей, которые способствуют процветанию лженауки, — это вера в справедливость мира»


10 апреля 2016 года
В лондонском клубе «Открытая Россия» научный журналист, писатель и популяризатор науки Ася Казанцева прочла лекцию «Лженаука: как это работает?». Мы публикуем ее видеозапись и расшифровку.
Мы будем говорить о простых, базовых вещах, чтобы как-то упорядочить у себя в голове представление о реальности.

Основной пафос того, что я хочу сегодня до вас донести, — в том, что мозг формировался в ходе эволюции как система, которая очень эффективно принимает решения, но при этом во многих случаях принимать решения быстро было важнее, чем принимать их абсолютно взвешенно, абсолютно рационально. Если мы представим себе абстрактную ситуацию, в которой вы видите какую-то смутную тень в кустах, а вы, например, — древний человек, или вообще австралопитек или ардипитек, то вы, конечно, можете подумать: может быть, это в кустах тигр, а может, не тигр, а может быть, это тигр-вегетарианец, а может быть, он не вегетарианец, но он сыт. Но проблема в том, что, пока вы все это обдумываете, обо всем этом размышляете, тигр успеет выскочить и вас съесть.

Поэтому во многих случаях преимущество в естественном отборе получали люди, которые принимали решение быстро.

На самом деле, если решение неправильное, и тигра там не было, вы потеряете немножко времени на то, что вы убежали, а если вы недооценили опасность, то тигр, скорее всего, вас съест. Поэтому в значительной степени мы предрасположены к тому, чтобы принимать решения быстро.

Важно понимать, что в большинстве случаев решения, принятые быстро, оказываются правильными и разумными.
Все истории про то, что мама так делала, что кто-то посоветовал, что соседу помогло, что красивая упаковка, что по телевизору сказали, — с большой долей вероятности срабатывают.

Когда наш мозг проходит картину окружающей реальности, для него в этой картине важно выделять то, что может иметь значение, то, что может повлиять на решение, — например, тень, что у нас в кустах. И, одновременно, чтобы заметить эту тень — отсекать информацию, которая окажется несущественной.

И про это есть очень знаменитый эксперимент, который впервые в 1975 году провели психологи Даниэль Симонс и Кристофер Чабрис. Когда запустят видео, будет важно посчитать, сколько раз перекидывают друг другу мяч люди в белых футболках. Это действительно важно, и если вы не сможете посчитать, то вам будет неинтересно. Это называется «Тест на селективное внимание». Люди в белом кидают мячик. Важно посчитать, сколько раз.
(См. ролик с 3:50)
Сколько раз кинули мяч? 15. Хорошо. Теперь? (Повтор видео)

Есть ли среди нас люди, которые могут признаться, что в первый раз они гориллу не заметили? Да, примерно соответствует тому, что получили сами эти психологи. У них получалось, что примерно 50% людей гориллу не замечают. Здесь могло быть чуть-чуть меньше, потому что вы знаете, что вы на лекции про когнитивные искажения, и могли в принципе ожидать какого-то подвоха.

Но в общем и целом мозг нужен на самом деле для того, чтобы фильтровать информацию, сосредотачиваться на важном, игнорировать неважное и, кроме того, что-то еще достраивать. Интересно, что искажения в этой выборочной фильтрации информации начинаются еще на уровне зрительной системы.
Если вы будете старательно смотреть на верхние строчки, на заголовок и при этом одновременно попытаетесь мне сказать, как зовут ученых, написанных внизу этого слайда, то ни у кого из вас это не получится.

Ну, если кто-нибудь — мутант, то может поднять руку и заявить, что может видеть одновременно верхнюю и нижнюю части.

Но на самом деле, несмотря на то, что нам кажется, что мы видим весь слайд четко, это в значительной степени иллюзия, в которой пребывает наш мозг. Потому что если мы посмотрим, как устроен наш глаз, как устроена зрительная система, то мы узнаем, что у нас на сетчатке есть область, которая называется «центральная ямка».

Область, где много палочек, колбочек, — это область четкого зрения. То есть на самом деле четко мы видим очень маленький участок, а все остальное мы видим в тумане и в значительной степени достраиваем в своем воображении.

На самом деле мы как будто все время смотрим через трубку, но мы этого совершенно не замечаем.

Мы этого не замечаем за счет двух эффектов. Во-первых, потому что глаз постоянно совершает микродвижения и переключается с одного объекта на другой. И каждый раз, когда мы задумываемся, видим ли мы это четко или нет, мы немедленно на это переводим взгляд и успокаиваемся, потому что нам кажется, что мы все видим четко.

Во-вторых, мозг примерно помнит, что еще было в этой аудитории, и достраивает якобы четкую картинку того, что мы видим боковым зрением, — того, что мы на самом деле видим размыто.

Но есть очень интересные эксперименты, которые показывают, что мозг эту картинку не просто помнит — он эту картинку в значительной степени достраивает на основе своего предыдущего опыта о том, какие мутные, размытые изображения в периферическом зрении соответствуют какой настоящей реальности.

Это эксперимент, который провели в 2014 году немецкие ученые Хербек и Шнайдер. Они делали следующую вещь.
Они заставляли испытуемых смотреть в центр экрана на крестик и в этот момент в боковое зрение подсовывали им кружочек с полосками. Когда испытуемый видит, что у него в боковом зрении что-то такое начало двигаться, он переводит взгляд на этот кружочек.

Но дело в том, что в тот момент, когда он переводит взгляд, есть доли секунды, когда он ничего не видит. И в эти доли секунды исследователи кружочек подменяли. Вот мы видим в верхней части, в тренировочной, они показывали сначала кружок с большим количеством полосок, а потом, в тот момент, когда взгляд переводился, подменяли его на кружок с двумя полосками.

Это была обучающая часть — люди сидели полчаса и смотрели такие тестовые задания. Потом, после этого, картина изменилась. Люди точно так же смотрели на центральный крестик, и им показывали в боковом поле зрения кружок с каким-то количеством полос. Но в тот момент, когда они переводили взгляд, кружок исчезал окончательно и больше не показывался.

И после этого испытуемых просили вручную установить, сколько, как они думают, полос было на этом кружке. И выяснилось, что за время предыдущего теста люди замечательно стали делать выводы. Их мозг запомнил, что если в боковом поле зрения как будто бы четыре полоски, то на самом деле в реальности это означает, что полосок две.

То есть если людей учили занижать количество полосок, которые они видят боковым зрением, то они потом, когда им нужно было самостоятельно выбрать, с уверенностью говорили, что полосок две там, где их было четыре.

И, наоборот, точно так же можно было научить завышать или предсказывать правильно.

Дальше происходят многочисленные этапы обработки информации. И в ходе всех этих этапов обработки информации наш заботливый мозг формирует отредактированную картинку реальности. В этой отредактированной картинке реальности он, во-первых, отсекает то, что не имеет значения; во-вторых — акцентирует то, что имеет значение; в-третьих — достраивает какие-то детали. Когда вы попытаетесь потом вспомнить эту аудиторию, которую сейчас, как вам кажется, вы видите четко, вы прекрасно вспомните, что вот, была аудитория, заполненная людьми, к этому образы людей — помимо тех, кто вам знаком, тех, кто имеет для вас значение, — вы себе дорисуете какие-то абстрактные — какие-то среднестатистические люди из российской лондонской диаспоры сидят здесь.

На самом деле это хорошо, потому что, конечно, мы не смогли бы функционировать полноценно, если бы пытались каким-то образом запоминать и обрабатывать весь тот невероятный поток информации, который к нам идет.

То есть вообще вся эта многоступенчатая система зрительной и слуховой информации в значительной степени направлена именно на то, чтобы не загружать нас всякой ерундой, чтобы эту ерунду мы могли игнорировать и, таким образом, могли нормально, полноценно существовать.

В принципе, то, что мозг работает так, — это очень хорошо. Это позволяет нам фокусироваться на важном, запоминать важное и игнорировать всякую ерунду. Но в то же самое время это приводит к ряду когнитивных искажений, про которые мы сейчас будем говорить последовательно.
Одно из этих важных когнитивных искажений — в том, что мы придаем слишком большое значение вещам, которые, как нам кажется, сработали, которые, с точки зрения нашего опыта, имеют значение.
И не только мы. Принципы работы мозга в значительной степени бывают одинаковыми у разных существ.

Я сейчас вам расскажу про голубя Скиннера. У голубя была такая система: была экспериментальная установка, в которой сидел голодный голубь, — его морили голодом до этого. Он весил 70% от своей первоначальной массы, очень хотел кушать. Эксперимент был устроен так, что каждые 15, или 5, или 10 — в разных экспериментах по-разному — секунд у него открывалась дверца и появлялась еда. И произошла интересная вещь.
(См. ролик с 11:10)
Голуби пытались понять, почему открывается дверца. Вот этот голубь подозревает, что дверца открывается, потому что он крутится. Потому что он крутился в какой-то момент — дверца и открылась.

Вот этот голубь полагает, что надо махать крыльями, потому что в какой-то момент он махал крыльями, и дверца открылась. Он очень старательно машет крыльями, и действительно дверца открывается. Действительно, он получает положительное подкрепление. Машет крыльями все больше и больше, и действительно дверка открывается.

В данном случае не открылась, но Скиннер показал, что формируется очень устойчивая реакция, что требуется потом месяцами не давать положительного подкрепления для того, чтобы голуби отчаялись и перестали делать то, что, как они помнят, приводило к каким-то положительным результатам.

В первом классическом эксперименте участвовало сначала всего восемь экспериментальных птиц. Из этих восьми птиц шесть сформировали очень устойчивые поведенческие шаблоны, которые, как они, видимо, думали, приводят к тому, что у них появлялась еда.

Один тянул голову в угол клетки, другой совершал клевательные движения, третий крутился, четвертый махал крыльями. Скиннер аккуратно замечает в итогах своей статьи, что такие эксперименты могут проливать свет на возможное формирование человеческих предрассудков.

Скиннер сделал переход от голубей к людям.
В общем и целом, живым существам свойственно ассоциировать действия с результатом. И в большинстве случаев это оказывается правильным: вы совершаете много случайных хаотических действий, и при каком-то из этих хаотических действий у вас открывается кормушка.
В тот момент, когда открывается кормушка, мозг получает положительную обратную связь — мозг запоминает, что на этом месте открылась кормушка. Вы после этого опять пытаетесь сделать то же самое, и у вас опять открывается кормушка.

Это была важная история для познания реальности, в том числе и человеческой, — особенно до тех пор, как появился научный метод. Ну то есть южноамериканские индейцы могли давать разные корешки своим больным и в какой-то момент заметить, что если давать кору хинного дерева больным малярией, то им становится лучше.

Южноамериканские индейцы при этом могли ничего не знать про малярийного плазмодия, могли не знать про малярию, могли ничего не знать про хинин и про то, как он действует на малярийного плазмодия. Но состояние больных улучшалось.

По крайней мере, такие эксперименты могут проливать свет на формирование человеческой склонности к лженауке, например, в лице гомеопатии.
Насколько я понимаю, такая гомеопатия, как «Оциллококцинум», в Лондоне не очень процветает, а в России процветает. Российское население отдает за него 2,5 млрд рублей каждый год, по данным портала Slon.

Вот история, которая объясняет, почему самая популярная, самая продаваемая гомеопатия — это гомеопатия против простудных заболеваний.

Там есть не только «Оциллококцинум», там есть всякая гомеопатия — это все сахарные шарики. Причем конкретно в случае с «Оциллококцинумом» вообще очень смешно.

Утка здесь не просто так. Дело в том, что по легенде эти сахарные шарики делают из печени утки: был один врач, который смотрел в световой микроскоп с какими-то помехами на стекле и увидел однажды в печени утки какие-то колеблющиеся белые бактерии, назвал их «оциллококки» и решил, что эти бактерии вызывают грипп у утки, и, значит, если из них сделать лекарства, то по принципу гомеопатии — лечить подобное подобным — это лекарство сможет лечить грипп у человека.

И несмотря на то что этих оциллококков, кроме изобретателя Жозефа Руа, больше никто не видел, несмотря на то, что мы знаем: грипп вызывают вирусы, — несмотря на то что эта печень утки там разбавлена так сильно, как будто утка пролетала в соседней вселенной, тем не менее, в одной России — 2,5 млрд рублей в год!
Потому что да, действительно, каждый раз, когда вы принимаете гомеопатию против простуды, вы выздоравливаете, и когда против гриппа — вы тоже выздоравливаете.
От гриппа и простуды в большинстве случаев люди выздоравливают, а не умирают, — о чем будет следующее когнитивное искажение. А когда люди выздоравливают, то они, естественно, видят ассоциативную цепочку: вот я полечился — я выздоровел.

Вопрос из зала:

— А можно определение лженауки?

Ася Казанцева:

— Лженаукой называется то, что мимикрирует под то, что она настоящая, под то, что она наука. При этом она не подлежит проверке научными методами, доказательствам эффективности научными методами и объяснениям научными методами. Так, например, как гомеопатия.

Вообще, когда мы оцениваем эффективность любого лечения, неважно, какого — акупунктуры, гомеопатии, настоящего лечения, антибиотиков, операций и чего угодно, нам нужно самим себе ответить на два вопроса.

Нужно ответить на вопрос о том, понимаем ли мы какие-то физические, биологические, химические принципы того, как это может работать, — с одной стороны.

Второй вопрос: если мы сравниваем вот этот метод лечения с плацебо, видим ли мы, что люди выздоравливают лучше? И если мы берем какие-то нормальные антибиотики, например, то этот тест работает.

Мы понимаем, что пенициллин действует на клеточную стенку бактерии; мы понимаем, как он на нее действует. Мы понимаем, что люди, больные разными бактериальными болезнями, — в том случае, если это не были бактерии, устойчивые к пенициллину, — выздоравливают лучше, если их кормить пенициллином, чем если их не кормить пенициллином. А гомеопатия высоких разведений (такая, как «Оциллококцинум») этот тест проваливает по обоим пунктам.

С одной стороны, нет какого-то физического механизма объяснения того, как может действовать печень утки, которой там даже нет. А с другой стороны, в клинических испытаниях «Оциллококцинум», как и другие гомеопатические препараты, показывает эффективность не выше, чем у плацебо.

Вторая моя любимая история — вот про что. Однажды, во время Второй мировой войны, венгерский математик Абрахам Вальд работал здесь, в Англии, и анализировал, как нужно укреплять самолеты. Он располагал данными о том, что самолеты улетают на боевые задания и возвращаются потом вот в таком продырявленном виде.
У них продырявлены крылья, у них продырявлен хвост и задняя часть корпуса. Но при этом, как правило, у них сохраняются неповрежденными двигатель и кабина. И вопрос: какие части самолета нужно бронировать? Кто знает?

Реплика из зала:

— Двигатель и кабину.

Ася Казанцева:

— Гениально. Какие вы все умные, просто прелесть. А почему? А потому что получается так: если вражеский снаряд попадает в двигатель или в кабину, то самолет падает в море и не возвращается на базу. А если снаряд попал, например, в крыло, то самолет тем не менее может долететь до базы.

Это означает, что такое попадание не столь критично, и поэтому нужно бронировать те части, которые остаются неповрежденными.

Но с точки зрения первого приближения, с точки зрения первой интуитивной догадки это, как правило, не очевидно. Просто вы все тут очень умные.

Есть еще шуточка про дельфинов.
Ходят многочисленные легенды, что дельфины помогают тонущим людям, подталкивая их к берегу. Возможно, это так, но мы не можем выслушать мнение тех, кого дельфины подталкивали в противоположную сторону.
И эта история важна, когда речь идет не о гомеопатических препаратах против простуды, а о попытках лечения каких-то более серьезных заболеваний. Потому что если мы возьмем, например, 100 человек, больных какой-нибудь онкологией, и будем их лечить вареной свеклой, над которой был прочитан заговор на полной луне, то из этих 100 людей, вполне возможно, кто-нибудь останется жив, потому что бывает спонтанная ремиссия, бывает ложный диагноз, бывает, что иммунная система как-то все-таки мобилизуется, и человек выживает.

И получится так, что кто-то один выжил, и он будет на всех углах рассказывать, что вареная свекла очень хорошо помогает, будет давать всем интервью, делиться личным опытом и в телепередачах выступать. А еще будут 99 человек, которым вареная свекла не помогла, но они лежат в сырой могилке и рассказать об этом ничего не могут, к сожалению.

Моя самая любимая история — про ошибку, которая называется «когнитивная легкость». Про то, что мы очень радуемся, когда видим что-то, что кажется нам понятным, знакомым и авторитетным, и про то, что мы, как правило, способны замечать ошибки только в тех областях, которые нам более или менее хорошо знакомы.

Например, есть стихотворная строчка: «Буря небо мглою кроет». И мы знаем, что у хорея ударение на первый слог, на нечетные слоги, а у ямба — на четные. Но тем не менее, если я вам скажу с умным видом, что «Буря небо мглою кроет» — это классический пример ямба, то среди вас насторожатся только литературоведы, а все остальные не насторожатся, потому что я тут сижу такая на сцене, и кому-то проще поверить мне на слово.
Поднимите руки, кого что-нибудь настораживает в этом слайде. Теперь оставьте руки те, кого настораживают в этом слайде две вещи.

Я однажды показывала этот слайд школьникам. Там было две школы. Одна школа была гуманитарная, вторая — математическая. И там было замечательно видно, что одна школа поднимает руки применительно к одной ошибке, другая школа поднимает руки применительно к другой ошибке.

Здесь изображен очень странный механизм. Мы точно не знаем; может, это тормозной механизм, но, скорее всего, это был пример гениального вирусного маркетинга, потому что это реальная обложка реального журнала «Инженер», которая разошлась по всем соцсетям, и теперь мы все знаем, что существует такой журнал.

Есть ли в зале редакторы, корректоры и всякие такие люди? Плохо ли вам от этого слайда? Да, мне тоже от этого слайда отвратительно, потому что разные люди настораживаются в ответ на разные стимулы, а вовсе даже не так, как тут написано.
Но дело в том, что многочисленные эксперименты подтверждают: когда мы видим что-то незнакомое, мы воспринимаем это как должное, а когда мы видим что-то знакомое, мы видим там ошибки.
Но если мы видим что-то знакомое и при этом еще и не видим там ошибок, то мы чувствуем, что нам хорошо, — нам нравится знакомое.

Это в принципе очень важный биологический механизм, он есть и у животных: он показывает, что можно не находиться в состоянии стресса в какой-то понятной ситуации — в прошлый раз вас не съели, и можно расслабиться.

Когда мы видим что-то новое, нужно насторожиться; когда мы видим что-то понятное, можно расслабиться. Когда мы приезжаем в город Лондон — незнакомый город, — когда мы видим какой-нибудь H&M, какой-нибудь Starbucks, какой-нибудь McDonald's, как-то уже сразу понятно, что здесь тоже люди живут, и примерно понятно, как с этим городом обращаться.

Был такой психолог Роберт Зайонц, который продемонстрировал, что, если людям просто что-то показывать, они начинают относиться к этому хорошо — совершенно независимо от того, есть ли у них хоть какие-то реальные данные о том, что это хорошая вещь.

Коварный Зайонц говорил людям, что он проводит филологический эксперимент, что он смотрит, как люди читают незнакомые слова. Он давал им списки слов, якобы турецких, хотя на самом деле не существующих, таких, как «экитаф», «кадрига», «бивжоня», «сарициг», и просил людей читать эти слова вслух.

А после этого, в следующем эксперименте, показывал слова и просил угадать, что они означают: означают ли они что-нибудь хорошее или что-нибудь плохое; теплое или холодное; доброе или злое; богатое или бедное и так далее.

И он обнаружил довольно четкую закономерность, которая видна на этом графике, — что чем больше раз люди видели это слово в тесте на чтение вслух, тем с большей вероятностью они приписывали этому слову «хорошее» значение.
35-37 очков набирали слова, которые они видели раньше 25 раз в таких лингвистических тестах. И гораздо меньше набирали слова, которых они не видели в таких тестах, — еле-еле за два очка переваливали.

Потому что когда мы видим что-то понятное, нам кажется, что это хорошо.

И это, на мой взгляд, — объяснение того, зачем вообще нужна профессия научного журналиста — в том, что касается борьбы с лженаукой.
Ученый, как правило, не может себе позволить говорить слишком просто, потому что над ним коллеги будут смеяться и не будут его уважать, если он будет делать категоричные заявления.
Ученый не может говорить, что что-то стопроцентно доказано, а тем более он не может говорить, что чего-то стопроцентно нет, потому что просто методологически проблематично доказать, что что-то отсутствует, — возможно, еще просто не подобрали такие условия экспериментов, в которых это можно найти.

Например, история про страх перед генно-модифицированными организмами, в которой, с одной стороны, есть лжеученый Ирина Ермакова, которая говорит, что ГМО по определению не могут быть безопасными. А с другой стороны, есть официальная позиция экспертного сообщества — Всемирной организации здравоохранения, которая говорит: «Различные генетически модифицированные организмы включают различные гены, вводимые различными путями. А это означает, что оценку отдельных ГМО-продуктов следует проводить на индивидуальной основе. ГМО-продукты, поступающие на рынок, подверглись оценкам безопасности, и вряд ли представляют угрозу для здоровья человека. Не было обнаружено никакого воздействия на здоровье человека в результате воздействия таких пищевых продуктов», и так далее. Абсолютно трехэтажная формулировка, которая означает, что ГМО безопасны. Но эксперт не может позволить себе так сказать. Нужно, чтобы для конкуренции на поле когнитивной легкости приходили наглые научные журналисты и говорили «Да, ГМО безопасны». И, скорее всего, это будет правдой.

Следующая важная история, которая приводит к когнитивным искажениям, называется эвристикой доступности.
Здесь речь идет вот о чем. Если я попрошу вас вспомнить примеры чего-нибудь, а потом попрошу вас оценить распространенность этого явления, то между этими двумя событиями будет связь.

Вот мы говорили про магазины H&M. А давайте я попрошу вас вспомнить три примера лондонских магазинов с одеждой. В общем, вы можете, да? Хорошо. Самое интересное будет, если я попрошу вас сейчас оценить, много ли в Лондоне магазинов одежды. Скорее всего, вы скажете, что в Лондоне все в порядке.

Но если бы я построила разговор другим образом, и спросила бы у вас, кто считает, что понимает в лондонской одежде? Если я попрошу вас назвать 10 магазинов одежды прямо сейчас, 10 брендов. Если я после этого задам вам вопрос, хорошо ли в Лондоне с одеждой, с разнообразием брендов одежды, то вы можете оценить его ниже, чем после того, как вас попросили назвать три бренда, потому что вы уже заметили, что сложно вспомнить.

Есть интересное исследование Пола Словика про оценку рисков. Брали настоящую статистику по нижней оси — от каких причин умирает сколько людей. А по вертикальной оси приводились оценки испытуемых.

Испытуемых звали в лабораторию и просили оценить, от каких причин умирает сколько людей в год. Если бы испытуемые оценивали правильно, то была бы диагональная прямая линия.

Но выяснилось, что для разных историй испытуемые либо завышают, либо занижают вероятность риска. Они, в частности, завышают вероятность риска умереть от ботулизма, от наводнения, от урагана, от осложнений беременности, и при этом занижают вероятность риска умереть от диабета, от инфаркта, от инсульта. По довольно простой причине. Когда у нас есть необычные случаи смерти, они попадают в новости, и их легко вспомнить.

Есть ли среди вас те, кто не любит, опасается летать на самолетах? Обычно на вопрос, боятся ли люди летать на самолетах, довольно много людей поднимают руки. А на следующий вопрос — боятся ли люди ездить на машинах — поднимает руки меньше людей, хотя в общем и целом статистика показывает, что на машине ездить опаснее (в пересчете на время, проведенное в машине, и количество километров, которые вы проезжаете).

На машине риск разбиться достаточно высокий. На самолете риск разбиться не очень высокий.
Но любая катастрофа с самолетом попадает в новости, любой человек может легко и быстро перечислить несколько крупных самолетных катастроф, а аварии мы как-то не помним, потому что аварии в новости не попадают.
За счет этого возникает когнитивное искажение.

Если возвращаться к лженауке, то когнитивные искажения замечательно влияют на вакцинаторское движение, на флуктуации между вакцинаторством и антивакцинаторством.

Лондон знает об этом как никто, потому что именно в Англии был лжеученый Эндрю Уэйкфилд, который в 1998 году опубликовал аж в научном журнале The Lancet статью про то, что он якобы нашел связь между прививками и аутизмом. Это было очень забавно, потому что в исследовании участвовало 12 человек.

Как потом раскопал медицинский журналист Брайан Дир, для них еще были сфальсифицированы медицинские данные. Скажем, симптомы аутизма появлялись, но за два месяца до прививки, а не через неделю после нее, как было написано в статье. Или через полгода после прививки. А прививки от кори, краснухи и паротита вообще делают детям как раз в том возрасте, когда появляются симптомы аутизма, если они появляются.

В общем, это исследование через некоторое время из научного журнала отозвали, и этого врача, Уэйкфилда, лишили права заниматься медицинской деятельностью, и провели кучу исследований на сотнях тысяч, на миллионах детей, и нет все-таки никакой корреляции между аутизмом и прививками.

Но дело в том, что деятельность Уэйкфилда не прошла даром. После этого в Англии действительно резко снизился уровень вакцинации против кори, краснухи и паротита, и случаи заболевания корью каждый год стали измеряться сотнями. И появились жертвы. Несколько детей в год стали от кори умирать, чего до этого не было на протяжении многих лет.

Через несколько лет после того, как вышла статья Уэйкфилда и упала вакцинация, британский минздрав был вынужден признать, что корь стала эндемичной болезнью, то есть она не исчезает, а на острове циркулирует.

Раньше ее завозили время от времени с континента, потом она опять исчезала, но сейчас она, видимо, все еще есть, хотя уровень вакцинации стал расти.
В истории XX века есть несколько таких случаев: в какой-то момент распространялся антивакцинаторский миф — люди переставали прививаться — начиналась эпидемия —
кто-то умирал.

Потом родители пугались, опять начинали прививаться, после этого опять несколько лет они не видели ни одного случая смерти от кори или от полиомиелита и так далее, но, с другой стороны, в случае каких-то осложнений новости обсуждались широко.

За счет этого возникало когнитивное искажение: гораздо легче вспомнить, когда кто-то умер в случае осложнений от прививки, чем когда от полиомиелита. Люди опять перестают вакцинироваться, а потом опять появляются случаи смерти. Вот такая бесконечность, так и происходит вследствие эвристики доступности.

Еще одна хорошая история связана с эвристикой аффекта.

Если взять студентов-испытуемых и дать им прочитать текст о плюсах ядерной энергии, о том, что она относительно дешевая после того, как построили большую ядерную станцию, что она экологически чистая, что она эффективная, что она не загрязняет планету и так далее, а после этого попросить оценить риски, то студенты говорят, что риски низкие, несмотря на то что про сами риски ни слова в этом тексте не было.

Если же, наоборот, дать им почитать текст о том, что ядерная энергетика вовсе даже не так эффективна, как принято считать, и вовсе не так с ней все хорошо; не в том дело, что она опасна, — в тексте было не про это, а про то, что пользы от нее не так много, как хотели бы думать ядерные физики, — а после этого попросить оценить риски, то студенты говорят, что риски высокие, хотя об этом в тексте ни слова не было.
В общем, мы склонны формировать некую целостную картину, и если в этой целостной картине мы видим какие-то кусочки пазла, то нам очень легко их экстраполировать на другие кусочки пазла.
Для меня очень интересно в этом отношении было отказаться в Лондоне; я здесь первые несколько часов в своей жизни. Понимаете, он настоящий! Действительно есть эти красные автобусы, которые мы видели в мультиках, действительно машины ездят не по той стороне, и я сегодня весь день хожу с полным ощущением, что Венди с Питером Пэном тоже есть, и Гарри Поттер тоже есть, и Камбербэтч есть, который Шерлок. Потому что автобусы-то есть!

И еще хорошо, что нет никого, кто подтвердил бы мне, что действительно есть Гарри Поттер, потому что вся моя история — про то, что во всех этих когнитивных искажениях есть плюсы и минусы. Минусы в том, что мы иногда становимся восприимчивы к ерунде, а плюсы в том, что в большинстве случаев такие быстрые рефлективные способы принятия решений работают хорошо, работают правильно и приводят к правильным выводам.

И есть ужасно интересное различие между тем, как учатся обезьяны, и тем, как учатся человеческие детеныши.

Я вам покажу целое видео на 3 минуты, потому что оно важно. Оно без звука, поэтому я буду комментировать.

Это история про исследовательницу из Университета Эмори, которую зовут Виктория Хорнер. Вот она подходит к обезьянам и дает им ящик, из которого можно достать конфету. Она демонстрирует человекообразным обезьянам, шимпанзе, как доставать из ящика конфету. Она показывает последовательность действий. Вот вы стучите палочкой, потом вы, еще раз постучав палочкой, сдвигаете эти столбики. Обезьяна смотрит, наблюдает, запоминает. Потом вы тыкаете палочкой в это отверстие. Потом вы открываете заслонку и с помощью палочки выковыриваете конфету. Вот вы выковыряли конфету, потом даете обезьяне сделать то же самое. Обезьяна воспроизводит ту же последовательность действий. Она сначала постучит кое-как, как поняла, потом выдвигает столбики, тыкает палочкой — она делает все, что нужно, чтобы достать конфету. И наконец вынимает себе конфету.

Ту же самую историю можно предложить повторить детишкам. Экспериментаторы из Университета Эмори занимаются с детишками, показывают им, как постучать, как вытянуть палочки, как тыкать и как, наконец, приоткрыть дверцу и достать конфету.

Они дают палочку детям, и дети воспроизводят ту же последовательность действий. Дети повторяют ничуть не хуже, чем обезьяны.

Но самое интересное начинается во второй серии эксперимента. На этот раз ящик прозрачный, и видно, что стучание палочкой по этой части и тыкание палочкой не имеют отношения к доставанию конфеты. Обезьяна игнорирует в такой ситуации все предшествующие действи, и сразу делает необходимые — открывает дверцу и сразу достает себе нужную конфету.

Ребенок не такой. Ребенок справедливо полагает, что взрослому виднее. Ребенок полагает, что если взрослый так делает, то какой-то смысл в этом есть. Ребенку не приходит в голову в этом усомниться, не приходит в голову задать вопрос и не приходит в голову сразу достать конфету. Ребенок делает все по-честному.

В том-то и дело, что не должно было быть наоборот.
Это история про нашу замечательную сложную культуру, про нашу многократно избыточную культуру, которую мы воспринимаем от взрослых именно благодаря тому, что мы делаем вещи сверх необходимого.
Это особенно хорошо видно на примере языка. Когда вы разговариваете, вам достаточно словарного запаса в 3000 слов, чтобы выразить все, что вам нужно, сказать: «Дай мне конфету» и так далее. Тем не менее у всякого уважающего себя человека, который активно читал и активно учился, словарный запас — это десятки тысяч слов, потому что наша культура многократно избыточна.

Этот эксперимент рассказывает нам о том, что человек легко воспринимает избыточные действия, что для человека нормально усложнять свою деятельность в том случае, если какие-то авторитеты демонстрируют, что усложнять деятельность имеет смысл.

И это важная культурная история, которая, с одной стороны, имеет свои положительные стороны, когда мы говорим про интеллект или про нашу многократно избыточную речь, которая в то же время выступает как аналог павлиньего хвоста. Мы с помощью нашей многократно избыточной речи производим друг на друга впечатление. В принципе нам с вами для выживания совершенно не нужно сидеть и разговаривать про какие-то когнитивные искажения.

Это позволяет и поддерживать религии в обществе. Есть совершенно замечательное исследование про сообщества, которые приезжали в Америку. Поселенцы образовывали там разные сообщества; в этих сообществах могло бы быть больше или меньше ритуалов. И было исследование, в котором посмотрели корреляцию между выживаемостью сообществ в долгосрочной перспективе, тем, ассимилируется ли оно или продолжает существовать как мормоны, амиши и так далее, и тем, сколько в нем трудозатратных ритуалов. Выяснилось, что если в сообществе два объединяющих его ритуала, то оно существует меньше 10 лет, а потом ассимилируется и распадается. Если в сообществе больше 10 трудозатратных ритуалов, то оно существует десятки лет, 50, 60 и больше.

Излишне, наверное, говорить, что все эти сообщества с ритуалами представляли собой религиозные сообщества. Потому что в долгосрочной перспективе вам нужно делать какие-то трудоемкие вещи — не сочетать одежду из разных видов ткани, не работать по субботам, не есть креветок, и гораздо удобнее поддерживать все это с помощью идеи бога, который против того, чтобы есть креветок и работать по субботам.

Но, тем не менее, ритуалы действительно могут быть очень сложными. И вот этот ролик показывает, что это может быть одним из эволюционных преимуществ человека по сравнению с обезьянами, что человек склонен к тому, чтобы добровольно следовать вот таким длинным цепочкам.
(См. ролик с 37:10)
Одна из тех вещей, которые способствуют процветанию лженауки, — это вера в справедливость мира.
Кто-нибудь из вас знает, кто вот этот хмырь? Это, между прочим, политический деятель нулевых, который убил 330 тысяч человек, а вы о нем не знаете. Да, его уже уволили. Его зовут Табо Мбеки, и он был президентом Южно-Африканской Республики. И в роли президента ЮАР он вел деятельность, связанную с ВИЧ-диссидентством. Он отрицал на государственном уровне, что ВИЧ вызывает СПИД, что эти две вещи связаны. И он хотя и не запретил, слава богу, в стране антиретровирусную терапию вообще, но свернул все благотворительные программы, все иностранные гранты, которые приводили к тому, что людям бесплатно раздавали таблетки.

В Южной Африке времен Табо Мбеки при определенной изворотливости можно было добыть себе лекарства. Но у большинства жителей Южной Африки изворотливости нет и денег больших нет, и поэтому из тех пяти миллионов зараженных ВИЧ, которые жили в стране на тот момент, около миллиона уже остро нуждались в терапии, потому что вирусная нагрузка дошла до такой стадии, когда уже начинается СПИД.

При этом, по оценкам Гарвардской школы здравоохранения, во всей этой истории около 330 тысяч людей погибли от СПИДа из-за того, что они не получали необходимые им лекарства, и еще 25 тысяч детей заразились у ВИЧ-инфицированных мам, несмотря на то что антиретровирусная терапия снижает меньше чем до одного процента вероятность того, что болезнь передастся ребенку.

ВИЧ-диссидентство — это вообще очень устойчивая история, она есть во многих странах.

Люди ведут довольно активную пропагандистскую деятельность о том, что вирус иммунодефицита никак не связан со СПИДом, что СПИДа не существует, что СПИДом болеют только наркоманы, геи, проститутки — те, кто ведет себя «против» бога, нравственности и чего-то еще.

Они, правда, обычно не соглашаются ввести себе инфицированную кровь, но тем не менее эта пропаганда широко распространена и, по-видимому, она связана с этим страхом, с той страусиной позицией.

Почему люди воспринимают эту пропаганду? Потому что ВИЧ — это страшно. На самом деле ВИЧ уже не должен быть таким страшным, потому что современная терапия очень эффективна и на современных лекарствах действительно можно жить практически так же долго, как без болезни.

Сейчас ожидаемая продолжительность жизни у человека, которому в 20 лет поставили диагноз и начали его лечить, составляет 69 лет. То есть еще 49 лет с момента постановки диагноза. Практически те же самые стандартные 70 лет.

Он успеет выплатить ипотеку, получить образование, вырастить детишек. В общем и целом, ВИЧ-инфекция сегодня — это такая неприятная хроническая болезнь типа диабета. Да, нужно делать анализы, принимать лекарства, но это не опаснее, чем диабет.

Тем не менее об этом не успели рассказать в новостях. Если вы жили в России в начале 90-х, то, может быть, помните, что там рассказывали всякие трагические истории про то, как кто-то сидит в кабинете у врача, ему говорят, что у него ВИЧ, и он начинает рыдать, потому что понимает, что умрет через 10 лет.

И в начале 90-х это действительно было так. Но в 1996 году, когда начали применять высокоэффективную терапию, комбинацию разных препаратов, это уже стало не так. Но об этом телевизор, который страшно смотреть, уже не успел рассказать.

Многие люди любят теории заговора, потому что всякий красивый мем повышает нашу коммуникативную ценность. Когда мы знаем какую-нибудь баечку и можем ее красиво рассказать, с нами охотнее дружат, общаются, девушки на нас смотрят восхищенно.

Можно это делать с помощью научных баечек, но научные баечки могут быть скучные, потому что в них много всяких деталей, подробностей. А вот лженаучная баечка — она еще и гнется, как хочет, принимает любую форму и при этом звучит столь же вдохновляюще, тоже показывает какие то сложные причинно-следственные связи.
А мы чувствуем радость, когда находим причинно-следственные связи, тем более — когда они такие стройные, логичные, и эта когнитивная легкость очень нам нравится.
И вот здесь мы плавно переходим к следующей истории — про неупорядоченную телеологию.

Так называют склонность приписывать всему смысл и цель. Это одна из тех вещей, которые очень мешают верить в эволюцию и тем более — ее понимать.

Многим людям сложно представить себе, что в силу случайных процессов может получиться что-то хорошее. Как вам сложно представить себе, что в силу случайных процессов может получиться эффективный проповедник ВИЧ-диссидентства. Хотя, может, просто потому что есть много разных проповедников, из которых одни случайно становятся эффективными.

И в этом смысле очень интересно, что, например, эволюция — это сложно. То есть мы не можем, в соответствии с эвристикой доступности, вспомнить о каких-то примерах, когда случайно появляется что-то хорошее. А, с другой стороны благодаря этому же принципу очень легко поверить в микробов.

Практически не встречается людей, которые отрицают роль микробов в развитии заболеваний. Потому что микробы — это интуитивно очень понятно. Микробы — это какая-то невидимая осмысленная сила, у которой есть какое-то поведение, какой-то злобный умысел, которая перемещается от одного к другому, вызывает болезни. Это хорошо укладывается в реальность.

И последняя история — про натуралистическую ошибку, про то, что многие люди считают, что естественно — это хорошо.

Я только что от этого огребла. В российском информационном сообществе — не знаю, следит ли за ним здесь кто-либо — происходит большая обида на меня феминистического сообщества вследствие того, что в желтенькой книжке (которую я сюда не привезла на всякий случай) написано, что женщины во многих сообществах склонны обменивать секс на ресурсы.

По крайней мере, это можно наблюдать гораздо чаще, чем обратную ситуацию — когда мужчина занимается сексом с женщиной за то, чтобы женщина дала ему больше ресурсов. И, значит, нельзя говорить о том, что это совершенно противоестественно. Могут быть какие-то механизмы психики, которые к этому предрасполагают. У меня в книжке это была подводка к гипотезе о том, что в какой-то момент наши предки практиковали обмен секса на пищу, и это позволило им в какой-то момент размножаться гораздо более эффективно и в конечном итоге стать прямоходящими и захватить мир.

Эту цитату через три года после выхода книжки вырвали из контекста, и на меня страшно-страшно обиделось все мыслящее сообщество, феминистично настроенное и, в частности, склонное к гуманитарным наукам. Потому что, как я понимаю, дело в том, что мне приписали логическую связку «естественно — значит хорошо».

Если я говорю, что обменивать секс на ресурсы может быть естественно, то, значит, я имею в виду, что все женщины должны это делать.
Реально в сети такие трактовки — что Ася Казанцева-то сама читает научно-популярные лекции, а мы должны заниматься проституцией.
Вовсе вы не должны — вы тоже можете читать научно-популярные лекции!

Я попалась вот на чем. Вся моя желтенькая первая книжка с названием «Как мозг заставляет нас делать глупости» рассказывает о том, что то, что естественно — то на самом деле глупо, плохо, и не надо вестись на свое естественное.

Но если взять отдельно цитату про то, что что-то может быть естественно, то все считают, что это хорошо. И мы наблюдаем это сплошь и рядом, например, в том, что касается органических продуктов против генно-модифицированных. Считается, что генно-модифицированные продукты — это неестественно и плохо, о органические продукты — это естественно и хорошо. Хотя это, мягко говоря, не так по обоим пунктам утверждения.

Во-первых, что касается органических продуктов, там тоже все не так естественно: их выращивают не то чтобы без пестицидов, инсектицидов, гербицидов. Их выращивают с теми пестицидами, которые можно добыть из природы.

Смысл органического земледелия состоит в том, чтобы использовать только те вещества, которые можно добыть из природы. Поэтому в качестве инсектицида используют вещество ротенон, у которого есть два применения. Во-первых, оно используется для убийства насекомых на органических фермах, потому что его можно добыть из растений, оно натуральное. А во-вторых, его можно использовать в лабораториях, чтобы вызывать у подопытных животных болезнь Паркинсона, точнее, комплекс неврологических нарушений, похожих на болезнь Паркинсона, потому что оно нейротоксичное — и для млекопитающих тоже. Есть даже данные о том, что фермеры, которые с ним работают, заболевают болезнью Паркинсона в два с половиной раза чаще, чем обычные фермеры, использующие нормальные инсектициды.

С другой стороны, когда мы говорим, наоборот, про ГМО, то, возможно, в рассказах про ГМО нужно подчеркивать, что вообще-то это абсолютно натуральный метод с тысячелетней историей.

Большинство тех генно-модифицированных продуктов, которые сегодня есть на рынке, получено с помощью генетической трансформации. Это метод, который агробактерии практикуют много-много сотен тысяч лет.

Агробактерии взаимодействуют с корнем растения и встраивают в растение кусочек своей ДНК для того, чтобы заставить растение, во-первых, образовывать корончатые галлы, чтобы бактерия в них жила, чтобы ей было комфортно и тепло. А во-вторых — вырабатывать вещества, которые называются опсинами, — это такой гибрид сахара с аминокислотой, очень хорошая, питательная, вкусная вещь.

Бактерия генно-модифицирует растения так, чтобы они вырабатывали то, что для бактерии вкусно. Это широко распространенная в природе сельскохозяйственная болезнь, которая называется «корончатые галлы» — когда агробактерия генетически модифицировала растения.

А что делают генные инженеры? Сейчас у них уже есть более современные технологии, а 20 лет назад они брали агробактерию, вырезали у нее те гены, которые заставляют растение бурно делиться, а затем вставляли вместо них что-нибудь полезное для человека, после чего точно так же подпускали бактерию к корню, бактерия модифицировала растение, потом из этой модифицированной клетки корня с помощью вегетативного размножения выращивали целое растение, которое обладало нужными человеку признаками.

Генная модификация — это абсолютно натуральный метод, проверенный временем.

Люди эволюционировали очень долго, и на протяжении большей части истории человечества у нас не было никакого научного метода. И буквально в последние лет 10-20 у нас появился интернет, который позволяет обеспечить доступ к научным методам для широкой общественности.
Например, при принятии какого-то решения мы можем сравнить 100 людей, принявших решение А, с сотней людей, принявших решение B, и показать, кто из них более благополучен.
До этого все время приходилось обходиться без такой информации, принимать решение интуитивно.

Потом появился научный метод как способ уменьшать необходимость принимать решения интуитивно. Смысл, дух, буква и идеалы научного метода заключаются в том, чтобы как можно меньше совершать когнитивных ошибок и как можно меньше устанавливать ложных причинно-следственных связей.

Люди в общем и целом склонны видеть причинно-следственные связи между разрозненными данными, потому что это всегда было выгодно и поддерживалось естественным отбором.

И вот здесь, на одном из завершающих слайдов у меня — две самые известные истории про то, как научный метод нарушался и как это приводило к появлению исследований, которые выглядели как научные, но на самом деле при последующей проверке таковыми не оказывались.

Первая история — это история про память воды.

Это история 80-х годов, тем не менее на некоторых гомеопатических сайтах вы можете до сих пор найти ее упоминание.

Жил-был иммунолог Жак Бенвенист, который воздействовал на клетки антителами к иммуноглобулину E, от чего клетки меняли свои свойства при окрашивании. Он эти тела разводил, потом еще разводил, потом еще разводил и обнаруживал, что тем не менее клетки все равно меняют свои свойства при окрашивании.

Он написал об этом статью и послал аж в журнал Nature, один из главных научных журналов. Это было в начале 80-х годов, журнал Nature тогда был не столь насторожен на тему странных вещей, как сегодня. И журнал опубликовал эту статью с честным предисловием о том, что «мы не понимаем, в чем дело, это противоречит всем известным нам законам физики, химии и биологии, поэтому мы сейчас отправим делегацию скептиков в лабораторию Жака Бенвениста. Следите за рекламой».

Собрались Джон Мэддокс, редактор журнала Nature, Уолтер Стюарт, сотрудник Института здравоохранения США, и Джеймс Рэнди, который был фокусником, но также много лет занимается борьбой с лженаукой. И то, что он был фокусником, очень ему помогает, потому что он может разоблачать какие-то трюки.

Приехала делегация скептиков. Они нашли много странных проблем в том, как Жак Бенвенист ставил эксперименты. Они почитали лабораторные журналы, увидели, что иногда эффекта не было на протяжении многих месяцев, но эти месяцы не вошли в статью, а вошли только те, где эффект был. Они узнали, что часть сотрудников лаборатории получает деньги от «Лаборатории Буарон» — известного производителя гомеопатических препаратов. Они предположили, что в ходе экспериментов может происходить загрязнение опытных образцов, которое само по себе может влиять на свойства клеток при окрашивании. Но, в принципе, все это было неважно.

Важно было другое: сотрудники при проведении эксперимента знали, что они разводят, работают ли с обычной водой или разведенным раствором антител к иммуноглобулину E. Оказалось достаточным убрать этот единственный фактор. Джеймс Рэнди просто пометил все пробирки секретным шифром. По легенде, он заклеил шифр в конверт, конверт повесил под потолок, после чего попросил сотрудников лаборатории еще раз провести эксперимент. После этого сотрудники лаборатории уже не были способны определить, где у них вода, а где — раствор антител, потому что клетки при окрашивании меняли свои свойства и не меняли с одинаковой частотой и в том, и в другом случае.

Этот метод называется слепым, потому что важно, чтобы вы не знали, что делаете, — иначе всегда остается огромный простор для бессознательных манипуляций.
Бессознательная манипуляция — это когда ваши клетки вроде бы чуть-чуть окрасились, а вроде бы чуть-чуть нет. И тогда мы пишем в журнал, что они окрасились, потому что знаем, что в этом случае они окраситься должны.
То есть это может быть совершенно неосознанно. В разоблачительной статье скептики писали, что Бенвенист, возможно, действительно считал, что совершил открытие. Но нет.

А вторая история — относительно свежая, 2013-го года, — про то, как в очередной раз доказали вред ГМО.

Вы, к счастью, не смотрите российское телевидение. Я, к счастью, тоже. Но, по доносящимся слухам, говорят, что каждый раз, когда по российскому телевидению упоминают ГМО, там показывают эту крысу с опухолью на животике. История там была в том, что Жиль-Эрик Сералини, французский исследователь, кормил крыс генно-модифицированными организмами, и у крыс появились страшные опухоли. Значит, ГМО вредны.

Интересна история публикации этой статьи. Он написал нескольким журналистам до того, как проводить пресс-конференцию, но со строгим условием, что это нельзя показывать ученым. И он следил за тем, чтобы слать ее только «нормальным» журналистам — с образованием журфака. И действительно, когда он провел пресс-конференцию, когда журналисты уже почитали статью, но еще не показали ее ученым, поднялся шум.

Пару дней шум продолжался. Да, действительно крыс кормили генно-модифицированной кукурузой, и выросли такие опухоли. Через пару дней во все научные и научно-популярные журналы посыпался поток писем и статей от ученых и научных журналистов. Я написала статью; Александр Панчин написал статью в научный журнал.

Мы все, научные журналисты и ученые, прочитали эту статью и схватились за голову. Сначала кажется, что все хорошо, потому что там 200 крыс, 100 самцов и 100 самок. Но когда начинаешь читать статью подробнее, выясняется, что все эти животные были поделены на 20 экспериментальных групп по 10 животных. После этого крысы сравнивались по изменениям в 37 разных органах, а затем описание результатов было примерно таким — я сейчас не преувеличиваю, а цитирую дословно: «Мы обнаружили, что у группы крыс, получавших 22% ГМО в своей пище, появлялись опухоли молочной железы в два раза чаще, чем в контрольной группе, а в контрольной группе такая опухоль была одна».

То есть у него было 20 групп по 10 животных, которые кормились разными дозами ГМО и пестицидов, и каждый раз, когда хоть в какой-нибудь группе хоть что-нибудь из состояния этих 37 органов оказывалось хуже хотя бы у одной крысы, чем в контрольной группе, это выносилось в вывод статьи о том, что ГМО вызывают страшные опухоли.

Это то же самое, как если бы мы с вами сейчас решили доказать, что носить клетчатые рубашки очень опасно. Мы возьмем всех, кто носит клетчатые рубашки, а еще возьмем девять других групп — тех, кто в полосатых рубашках, в сереньком, в розовеньком и так далее, и будем наблюдать за нашим здоровьем до 2090 года.
И если в 2090 году мы обнаружим, что в группе людей в клетчатых рубашках у кого-то, например, случился инсульт, в то время как в группе в полосатых рубашках не случился, то мы докажем, что носить полосатые рубашки очень опасно для здоровья.
Я не издеваюсь — там было написано именно это! И еще одна милая маленькая деталь о том, что он взял крыс специальной генетической линии, которая была выведена для того, чтобы изучать онкологические заболевания, — про которую еще в 70-годы было известно, что чем их ни корми, у них в 45% случаев к полутора годам образуется раковая опухоль, вот такая большая и красивая. Статью, конечно, отозвали, но тут ведь как: ложечки нашли, а осадок остался.

Традиционно считается, что ГМО могут повредить малому фермерству, потому что малое фермерство держится за счет высоких цен, генно-модифицированные продукты позволяют выращивать большой дешевый урожай и за счет этого становятся более экономически оправданными большие сельскохозяйственные концерны.

Считается, что ГМО могут быть опасными для производителей всяких разных удобрений, пестицидов и так далее, потому что ГМО могут снизить в них потребность.

Но мне больше всего нравится теория заговора, которую придумал мой коллега Александр Панчин, российский научный журналист, который недавно выпустил научно-популярную книжку «Сумма биотехнологии». Он не только научный журналист, но и действующий ученый-биоинформатик.

Это первая книга на русском языке о том, почему не надо бояться ГМО, — очень длинная, очень подробная, со всеми историями.

И там есть совершенно шикарная теория заговора о том, что на самом деле страх перед ГМО насаждает «Монсанто» — главный производитель генно-модифицированных продуктов. Чем больше страхов перед ГМО, тем больше общественность настаивает на том, чтобы была проведена их многократная избыточная проверка. Тем больше общественность настаивает на том, чтобы проходили такие тесты, сякие тесты — на добровольцах, много лет испытания на животных, на аллергенность, на токсичность.

Это очень забавная история, потому что в принципе нет оснований полагать, что ГМО могут быть более опасны, чем продукты традиционной селекции.

В традиционной селекции применяются методы мутагенеза, которые меняют сразу много генов. А генная модификация — это более новый метод, в котором меняют один ген и понимают, зачем и как.

Тем не менее столь многократные избыточные проверки могут позволить себе только большие корпорации, и таким образом, поддерживая страх перед ГМО, крупные корпорации препятствуют тому, что с ними начнут конкурировать маленькие фирмы, и сохраняют свое лидерство.

Наверное, это шутка, но я допускаю, что многие люди боятся ГМО искренне. Понимаете, у каждого из нас есть какой-то набор мемов, и есть стремление самих ли мемов или нас, их «носителей», к тому, чтобы эти мемы распространять.

Я думаю, что у каждого из нас хоть что-то такое есть, во что мы верим, что стараемся насадить другим, чтобы нам было комфортнее с ними дружить и сосуществовать.
Вопрос из зала:

— Если у человека какая-то иррациональная фобия, и он ее пытается как-то для себя рационализировать, то, может быть, проще всего это сделать, если убедить других в том, что она есть у них тоже?

Ася Казанцева:

— Да, конечно. Когда вокруг есть единомышленники, то, конечно, здорово.

Вопрос из зала:

— Что с этими товарищами сейчас? Они ушли со сцены?

Ася Казанцева:

— Они в основном теперь поддерживаются своими антинаучными товарищами. Из классической науки они, по-моему, ушли.

Книжек о когнитивных искажениях очень много. Но, может быть, вам нравится читать на русском и слушать лекции на русском. И потому я подобрала книжки специально по тому принципу, что они существуют на русском языке, они были переведены.

Самая главная книжка на свете про все когнитивные искажения — это книжка Даниэля Канемана, которая на русском языке называется «Думай медленно… Решай быстро», а на английском называется «Thinking Fast and Slow». Очень забавно, что на обложке английского издания нарисован карандашик, а если вы посмотрите на русское издание, то там тоже есть карандашик, только сломанный пополам. Я не знаю, что хотел сказать переводчик. Три примера из этой презентации — о когнитивной легкости, про эвристику доступности и эвристику аффекта — подробно описаны у Даниэля Канемана с кучей примеров.

Я думаю, что большинство из вас знает, кто такой Даниэль Канеман: он психолог, но при этом получил Нобелевскую премию по экономике за объяснение иррациональных человеческих экономических решений.

Книжка у него не только об этом, а о более широком процессе того, как мы принимаем решения. Там он пишет о том, что в мозге есть так называемая Система 1, которая отвечает за принятие быстрых интуитивных решений.

Если я вас сейчас попрошу не думать о том, сколько будет два плюс два, то, скорее всего, ни у кого из вас этого не получится.

А есть Система 2 — для принятия медленных рациональных решений, которые требуют, чтобы вы сознательно сосредоточились и подумали. И если я вас сейчас попрошу мне сказать, сколько будет 17 умножить на 24, я думаю, что у большинства из вас такое задание не вызовет никаких проблем.

Одна из моих любимых иллюстраций к книжке Даниэля Канемана — попробуйте, пожалуйста, быстро ответить на вопрос: «Сколько животных каждого вида взял на ковчег Моисей?» Это иллюстрация про то, что сначала срабатывает эта первая быстрая интуитивная система, которая стремится принимать решения, а потом уже включается или не включается Система 2, которая очень часто направлена на то, чтобы эти решения рационализировать.

На обложке этой книжки, по крайней мере, русского издания, написана рецензия из The New York Times о том, что, если у вас есть время на то, чтобы прочитать только одну книжку в год, то читайте эту. И, в принципе, они правы.

Следующая, беленькая книжка — это книжка, которая на русском языке называется «Теплая чашка в холодный день». Здесь она называется намного более логично — «New Science of Physical Intelligence».

Это книжка израильского психолога Тальмы Лобель о связи наших тактильных ощущений с эмоциональными.

В очень многих языках есть совершенно четкие связки между описанием тактильных вещей и описанием более сложных абстрактных процессов. «Все прошло гладко», «теплый прием», «грубый характер» — слова, которые могут описывать одновременно и абстрактные, и тактильные понятия. Это распространено очень широко и, как правило, сильно пересекается в разных языках.
По-видимому, в мозге одни и те же зоны вовлечены сначала, в младенческом опыте, в исследование тактильных стимулов, а потом эти же зоны задействуются для формирования каких-то более абстрактных концепций.
И одни и те же зоны мозга могут активироваться, когда мы говорим о чем-то, что оно прошло гладко, и когда мы представляем себе гладкий шелк.

Есть куча безумно интересных экспериментов про то, как тактильные ощущения влияют на решения, которые мы принимаем, на выборы, которые мы делаем. Например, можно дать испытуемым резюме человека на легком листочке, а можно дать этот легкий листочек приколотым на тяжелую доску-планшет. Во втором случае испытуемые решают, что человек более обстоятельный, более серьезный, больше стоит ему доверять, нанимать его на работу.

Люди по-разному соглашаются или не соглашаются с предложенными им выборами, если они сидят в мягком кресле или на жестком стуле, они по-разному ведут себя на переговорах, если им дать теплую чашку или холодный напиток. В ходе одного из экспериментов девушка вела испытуемого и делала вид, что роняла бумаги, а затем давала ему подержать свой кофе, пока она поднимает бумаги. И статистически достоверно, что в разных группах это приводило к принятию разных решений. Это тоже очень крутая книга. Я не знаю, была ли она написана изначально на английском или иврите, но это не так важно.

Есть хорошая книга, которая называется «Псевдонаука и паранормальные явления», «Pseudoscience and Extraordinary Claims of the Paranormal». Это еще более длинная и занудная книжка, чем у Канемана. Там очень плотно набиты факты, очень большая фактическая база, очень много примеров, но, в том числе, много интересных историй про то, как, например, люди выздоравливали, когда им говорили, что появилось новое эффективное лекарство, а потом немедленно заболевали, как только вычитывали, что лекарство не оправдало свою эффективность. А потом доктора им давали сахарные шарики, инъекции физиологического раствора, говорили, что это еще более эффективное лекарство, — они опять выживали.

То есть это книжка, в которой подробно описываются механизмы когнитивных искажений. Там мало про биологию, много про всякую астрологию, про ясновидение, экстрасенсов.

Есть книжка Карла Сагана «Мир, полный демонов. Наука — как свеча во тьме». Карл Саган — астрофизик и популяризатор астрофизики, но эта книжка представляет собой плод его размышлений.

Он был уже очень пожилой, когда ее писал, и она написана довольно давно, лет 20 назад. Это его печальные размышления о том, куда катится мир. Но, поскольку Карл Саган — умный и обаятельный, то читать книгу так же интересно, как разговаривать с дедушкой. Если у кого-нибудь из вас умер дедушка до того, как вы поумнели и повзрослели, как, например, у меня, то можно хотя бы прочитать книжку Карла Сагана. Он так же, как дедушка, всем недоволен, но недоволен очень обаятельно, с иронией, с сарказмом, с юмором. Очень круто.

И, наконец, книжка «Гарри Поттер и методы рационального мышления» — это, на мой взгляд, тот редкий случай, когда фанфик лучше оригинала.

Это книжка Элиезера Юдковского, создавшего сообщество Less Wrong и занимающегося популяризацией когнитивных искажений, в том числе за счет того, что он написал книжку про Гарри Поттера — про то, как сложилась бы судьба Гарри Поттера в том случае, если бы его мачеха вышла замуж за профессора биохимии в Оксфорде, и Гарри с детства рос бы в окружении хороших книжек и умных разговоров.

Потом он попадает в Хогвартс и исследует там генетику передачи способностей к магии, физические законы, пытается открыть законы, по которым работает магия. Лучшим другом у него становится, естественно, Малфой. Это довольно крутая книжка про то, как сильно меняется мир, когда вы начинаете о нем думать.

Вопрос из зала:

— Ваша книга, которая недавно вышла, называется «В интернете кто-то неправ». Я хотел спросить вас про феномен бурных баталий в интернете, когда по малозначительным поводам кипят большие страсти, и все это усиливается социальными медиа. мы следим за российскими социальными медиа, за российской блогосферой. Насколько это феномен российский или международный?
Ася Казанцева:

— Я слышала легенды от том, что якобы, когда была ЖЖ-шечка, именно русские пользователи предъявляли претензии, что нельзя делать больше 5000 комментариев к одному посту. Что невероятно поразило изобретателей ЖЖ. Возможно, отчасти это связано с тем, есть ли какие-то другие точки приложения усилий. В том случае, если, например, в стране хорошо развита общественно-политическая деятельность, хорошо развито волонтерство, хорошо развиты дискуссионные клубы, то, может быть, люди в среднем меньше воюют в интернете, больше воюют в реальной жизни.
А если в реальной жизни особо негде воевать за все хорошее против всего плохого, то они воюют в интернете. Могут быть какие-то связанные с менталитетом отличия, но я думаю, что больше — в том, есть ли какая-то благоприятная среда.
Вопрос из зала:

— Есть теория, можно ее назвать теорией заговора, но звучит она правдоподобно, — что большие фармацевтические компании в принципе могли бы делать какие-то более эффективные лекарства, допустим, против рака или диабета, но им это невыгодно, потому что они не смогут их так монетизировать, как современные лекарства, которые они могут продавать миллионами. Верите ли вы в такую теорию?

И второй вопрос. Когда мы сталкиваемся с антинаучными или просто бредовыми теориями, то довольно часто приходится вступать в конфликт с обществом, а именно быть неполиткорректным — на вашем примере, о котором вы рассказывали, что вы столкнулись с яростными феминистками. Вопрос у меня такой: как вы решаете проблему того, что нужно перестать быть политкорректным, что нужно пойти даже во многом против общества?

Ася Казанцева:

— Действительно существует проблема, которая касается редких заболеваний — не диабета, конечно, потому что диабет достаточно частый. Это касается, например, каких-то очень редких генетических нарушений.

Фармкомпания должна вбухать миллионы долларов, чтобы разработать лечение. Может, она может это сделать, но таких больных — один человек на два миллиона, и поэтому это лечение никогда не окупится.

Даже если компания будет эту таблетку продавать за $10 000, все равно не окупится, а при этом человек ее даже покупать не будет за такие деньги.

В случае с более или менее распространенными формами рака это как раз объясняет, почему лечение дорогое.

Если вы делаете лекарство против гриппа, которым болеют в год сотни тысяч человек, вы можете продавать его дешево. Потому что вы вложили миллионы, но потом получаете прибыль с большого числа людей. А если вы делаете лекарство против более редкой болезни, то вы вынуждены продавать его более дорого, для того чтобы каким-то образом отбить свои затраты.

Проблема такая есть, она особо остро касается самых редких заболеваний. Но в общем и целом есть надежда на то, что по мере улучшения технологий будет происходить удешевление этих технологий. В том числе компьютерные методы моделирования лекарств позволят существенно сокращать процесс доклинических испытаний, гораздо точнее понимать с самого начала, какая молекула нужна.

В начале XX века численность населения еле-еле перевалила за миллиард. Средняя продолжительность жизни тоже была не очень хорошая, гораздо меньше, чем сейчас. Я не назову точную цифру, но я думаю, что, если я скажу 50 лет, то скорее завышу, чем занижу. Это если мы даже смотрим на цивилизованное общество, на развитые страны.

Потом появились прививки и антибиотики, а также эффективное сельское хозяйство, за счет чего мы стали жить долго и нас стало семь с половиной миллиардов.

Теперь у нас вышли на первый план рак и сердечно-сосудистые заболевания. По мере того, как борются с ними, на первый план выступают Альцгеймер и другие старческие деменции.
Все время есть какие-то проблемы, но те проблемы, с которыми человечество сталкивается сейчас, все-таки гораздо приятнее, чем проблемы, с которыми оно сталкивалось полтора века назад.
Что касается политкорректности и неполиткорректности, это для меня новая тема, потому что моя известность сильно выросла после выхода розовенькой книжки. В общем и целом, я уже сейчас пришла к выводу: что бы я ни сказала, меня все равно будут ненавидеть, просто это будут разные группы населения.

Если я буду слишком политкорректной, меня будут ненавидеть те, кто неполиткорректны. Если я буду неполиткорректной, то меня будут ненавидеть те, кто политкорректен, и делать они это будут, кстати, довольно неполиткорректно.

Про религию у меня довольно мягкая глава в этой книжке — про то, что религия могла бы быть эволюционно выгодна для сплоченности сообществ, но многие моральные принципы, которые, как нам кажется, появились в обществе благодаря религии, скорее, наоборот, рационализируются с помощью религии. Мы видим базовые основы морали у маленьких детей, у животных. Возможно, мы в значительной степени предрасположены к тому, чтобы быть хорошими. Моя глава про религию гораздо мягче, чем могла бы быть, потому что если бы она была более жесткая, то, возможно, в свое время религиозные люди убили бы меня в подъезде, — а мне не хочется.
Вопрос из зала:

— Какие интернет-группы и интернет-платформы вы рассматривали в этой книге?

Ася Казанцева:

— Дело в том, что вся эта книга — наглое вранье: она вообще не про интернет. Эта книжка называется в честь мема: «Я не могу пойти спать, в интернете кто-то неправ». И у этой книжки такой дизайн, что названия глав вынесены на обложку. И названия глав все чудовищно идиотские. Например, есть главы: «У гомеопатии нет побочных эффектов», «Прививки вызывают аутизм», «ВИЧ не приводит к СПИДу», «Надо есть натуральное», «Мужчины умнее женщин».

Здесь 12 совершенно идиотских утверждений, и про каждое из этих исследований подобраны научные утверждения, которые показывают, что вообще про это можно сказать.

А самое важное в этой книжке — как самим людям искать научные исследования и как их находить.

Реплика из зала:

— Раньше больше было рекламы — нам предлагают покупать лекарство от гриппа, и мы его покупаем. Сейчас же мы можем обсудить с миллионом, с двумя миллионами людей, хотим ли мы это вообще использовать или не хотим.

Ася Казанцева:

— К сожалению, из двух миллионов большинство скажет, что хотим. Я сомневаюсь, что что-то могло измениться к лучшему, потому что все равно мозг редактирует реальность и все равно мы формируем у себя информационную среду, которая подтверждает наши интенции к тому, чему мы расположены в данный момент верить.

То есть если вы считаете, что волшебные белые шарики помогают от гриппа, то вы просто перестанете слушать, читать и доверять всем тем, кто говорит, что они не помогают от гриппа.

И не так часто происходит столкновение миров, как могло бы, если бы наша лента фейсбука, не дай бог, формировалась случайным образом.

Вопрос из зала:

— Вы проводите различение научного и ненаучного метода на основе когнитивных искажений. То есть у обычного человека меньше когнитивных искажений, у ученого — больше?

Ася Казанцева:

— Мне кажется, что ключевая особенность научного метода в том, чтобы пытаться опровергнуть теории вместо того, чтобы пытаться их доказать.
В хорошем научном эксперименте мы пытаемся гипотезу сфальсифицировать и опровергнуть, поставить такой эксперимент, чтобы он гипотезу опроверг, и по успеху этого мероприятия понять, верна она или нет.
Реплика из зала:

— Чем больше наука специализируется, тем меньше конкретный ученый может проверять положения, которые у него есть в распоряжении. Таким образом, ученый может оказаться в какой-то точке, в которой его теория может быть полностью опровергнута, потому что он избыточно полагался на авторитет. Насколько ученый сможет блокировать самореференцию для того, чтобы двигаться куда-то вперед и быть уверенным в том, что он движется вперед, а на самом деле не делает шаг назад?

Ася Казанцева:

— Проблема доверия к авторитетам есть и в научном сообществе. Научное сообщество ее осознает и для этого придумало рецензирование статей, причем, как правило, анонимное.

Важно понимать, что то, что говорит ученый на конференциях, в интервью, в своей популярной или не в популярной книжке, — это все, конечно, хорошо, но там ученый ведет себя как человек. Как тот, кто может увлекаться гипотезами, которые ему нравятся.

Элементарная единица нового знания — это научная статья, публикация в рецензируемом журнале. Она важна тем, что, когда ученый ее пишет, эту публикацию дают почитать другим специалистам в той же области. В большинстве случаев это делается анонимно, так что они не знают, кто ее написал — великий профессор из Гарварда или желторотый пэтэушник из Ужгорода — извините, если кто-то из Ужгорода.

Таким образом, в случае научной статьи можно хоть как-то надеяться на то, что другие специалисты без поправки на авторитет оценят, насколько это правдоподобно в принципе или нет. Поэтому в случае с научными статьями мы можем надеяться, что они имеют какое-то отношение к реальности.

При этом лучше надеяться на то, что отношение к реальности имеет не какая-то одна работа, а смотреть на метаанализы, на систематические обзоры, то есть истории, в которых собрали данные многих экспериментов на одну и ту же тему и попытались обобщить, что обычно получается, а что нет.
Реплика из зала:

— Чем больше наука специализируется, тем меньше конкретный ученый может проверять положения, которые у него есть в распоряжении. Таким образом, ученый может оказаться в какой-то точке, в которой его теория может быть полностью опровергнута, потому что он избыточно полагался на авторитет. Насколько ученый сможет блокировать самореференцию для того, чтобы двигаться куда-то вперед и быть уверенным в том, что он движется вперед, а на самом деле не делает шаг назад?

Ася Казанцева:

— Проблема доверия к авторитетам есть и в научном сообществе. Научное сообщество ее осознает и для этого придумало рецензирование статей, причем, как правило, анонимное.

Важно понимать, что то, что говорит ученый на конференциях, в интервью, в своей популярной или не в популярной книжке, — это все, конечно, хорошо, но там ученый ведет себя как человек. Как тот, кто может увлекаться гипотезами, которые ему нравятся.

Элементарная единица нового знания — это научная статья, публикация в рецензируемом журнале. Она важна тем, что, когда ученый ее пишет, эту публикацию дают почитать другим специалистам в той же области. В большинстве случаев это делается анонимно, так что они не знают, кто ее написал — великий профессор из Гарварда или желторотый пэтэушник из Ужгорода — извините, если кто-то из Ужгорода.

Таким образом, в случае научной статьи можно хоть как-то надеяться на то, что другие специалисты без поправки на авторитет оценят, насколько это правдоподобно в принципе или нет. Поэтому в случае с научными статьями мы можем надеяться, что они имеют какое-то отношение к реальности.

При этом лучше надеяться на то, что отношение к реальности имеет не какая-то одна работа, а смотреть на метаанализы, на систематические обзоры, то есть истории, в которых собрали данные многих экспериментов на одну и ту же тему и попытались обобщить, что обычно получается, а что нет.
Мы скорее ориентируемся на западных популяризаторов, которых привозил фонд «Династия», и на книжки, на которых мы росли.
Но там уже каждый находит свою нишу. Кто-то обстоятельно, как Карл Циммер, кто-то легкомысленно и весело, как Мэри Роуч. Кто-то вообще ученый, потому может писать книжки, как Докинз или Хокинг. Но не всякий может быть Докинзом или Хокингом.

Мэри Роуч — она такая веселая и легкомысленная, как-то рассказывала, как занималась сексом в томографах. Есть Карл Циммер, у которого такие обобщающие книжки — одна про паразитов, вторая про эволюцию. Есть прекрасный Мэтт Ридли, он биолог, по-моему.

Из очевидных популяризаторов ещё Джаред Даймонд, у него большие и красивые телеги. Еще Канеман.

Вообще, если говорить о том, как меняются размышления о мозге... Если кто-то хочет изменить свои представления о мозге и выйти на новую степень осознанности о том, как он думает, учится и принимает решения, то комплексное лекарство — это Даниэль Канеман с книжкой «Думай медленно, решай быстро» плюс Эрик Кандель с книжкой «В поисках памяти».

И тот, и другой — нобелевские лауреаты, только один — психолог с премией по экономике, другой — нейробиолог с премией в области физиологии и медицины. Один описывает, как работает мозг с точки зрения абстрактного мышления и абстрактных понятий, а другой описывает, как работает мозг с точки зрения того, как формируются новые связи между нейронами.

Эрик Кандель на простейшей экспериментальной системе из четырех нейронов улитки взял и установил все о том, как работает кратковременная память, как усиливаются связи между нейронами и как работает долговременная память, как возникают новые синапсы между нейронами. И вот когда обе эти книжки читаешь в комплексе, внезапно тебе про себя все становится понятным.

комментарии (57)