Автор книги – Александр Панчин – популяризатор науки, блогер [↪], автор нескольких книг и множества статей, член Комиссии по борьбе с лженаукой при Президиуме Российской академии наук. В последней роли он выступил соавтором меморандума о лженаучности дерматоглифики, которую мы обсуждали ранее.

В книге “Защита от темных искусств. Путеводитель по миру паранормальных явлений” он разбирает целый ряд лженаучных вопросов: гомеопатию, борьбу с ГМО, исследования в психологии, суеверия и т.п.

Поначалу казалось, что книга обычная, многие факты встречал в других источниках по научпопу. Однако, спустя где-то 50 страниц меня начало затягивать. Сработал интересный материал с кучей примеров и легкий стиль автора: он едко и кратко, но без потери научности, разбирает заблуждения и лженаучные доводы. Атмосферы темных искусств добавляют отличные психоделические иллюстрации, например:

По духу, задору и стилистике (название и многие главы отсылают к вселенной Гарри Поттера) похоже на книгу Гарри Поттер и Методы Рационального Мышления, которую Панчин тоже оценил [↪], хотя жанр, конечно, совсем другой.

В общем, всячески рекомендую эту книгу к прочтению.

Дальше остановлюсь на том, что больше всего зацепило меня, но в книге намного больше. Некоторые темы дополнил от себя.

Модели и ошибки мышления

  • Бритва Хэнлона:

    Никогда не приписывайте злому умыслу то, что вполне можно объяснить глупостью.

    Часто добавляют ”… или ошибкой”.

  • Частая ошибка мышления: post hoc ergo propter hoc, или “после этого – значит по причине этого”.

    То что событие Б следует после события А, позволяет говорить лишь о том, что А может быть причиной Б, но никак этого не доказывает. В лучшем случае, имея большое количество наблюдений, можно говорить о корреляции. Только из хронологии нельзя сделать вывод о причинно-следственной связи – для этого нужны дополнительные данные.

    Прекрасная иллюстрация этой ошибки – голуби Скиннера [↪]. Ученый помещал голубя в коробку, куда независимо от действий птицы с заданной периодичностью подавалась еда. Однако голуби находили несуществующую взаимосвязь между их случайными действиями и подачей еды: постоять на одной ноге, покрутиться вокруг своей оси и т.п. При этом с каждым повторением ритуала они все больше убеждались в его эффективности: еда поступала по расписанию.

  • Многие ложноположительные выводы порождаются так называемой ошибкой техасского стрелка: техасец стрелял по амбару, а затем дорисовывал мишень там, куда попало больше пуль. Поэтому очень важно заранее определить, что является целью и критериями оценки в исследовании, иначе постфактум можно сделать много интересных, но, как минимум, натянутых выводов.

  • Чайник Рассела [↪]: принцип, согласно которому бремя доказывания лежит на том, кто делает утверждение. Сам Бертран Рассел использовал его для иллюстрации неподкрепленности веры в бога, но предложенный им мысленный эксперимент применим и в других областях:

    Возьмем другой пример: никто не может доказать, что между Землей и Марсом нет фарфорового чайника, вращающегося по эллиптической орбите, но никто не считает, что это достаточно вероятно, чтобы быть учтенным на практике. Я думаю, что христианский Бог столь же маловероятен.

    Источник: pikabu.ru [↪]

    Другой вариант этой же идеи: бритва Хитченса [↪]“что можно утверждать без доказательств, то можно отвергнуть без доказательств”.

    Иными словами, аргументация из серии “я сказал, теперь докажите обратное” – это просто манипуляция, к которой чаще всего прибегают, когда нет других аргументов.

Байки

  • Звучит прекрасно, жаль что неправда:

    Стюарт Вайс рассказывает байку, как преподавателей психологических факультетов иногда разыгрывают их студенты. Они сговариваются одобрительно кивать и улыбаться, только когда лектор двигается, скажем, влево, поощряя такое поведение до тех пор, пока преподаватель не свалится с кафедры.

  • Мне часто попадались упоминания исследования под кодовым названием “здесь так принято”. В нем на удалении от группы обезьян повесили банан, который те пытались съесть. Однако исследователи обливали холодной водой и того, кто к нему приближался, и всех остальных. Со временем у них выработался рефлекс, что идти за этим бананом – плохая идея.

    Тогда исследователи заменили одну обезьяну. Когда она полезла за бананом, остальные начали ей мешать (в других версиях – бить), поскольку знали, что ничего хорошего из этого не выйдет. Со временем и эта обезьяна переставала лезть за бананом. Так исследователи меняли одну обезьяну за другой, пока в группе не осталось ни одной обезьяны, которая бы знала, почему нельзя лезть за бананом.

    Это элегантное и наглядное исследование, только одна проблема: его никогда не проводили. Первый раз прочитал про это в этой книге, полез проверять и действительно не нашел каких-либо свидетельств, что оно было, только указание на то, что это неправда [↪].

    Поэтому это не исследование, а в лучшем случае мысленный эксперимент. На мой взгляд от этого он не сильно потерял: описанный механизм все равно встречается в реальной жизни, особенно в структурах с жесткой иерархией и идеологией “я – начальник, ты – дурак”.

Парадоксы

Строго говоря, это не парадоксы, поскольку в них нет противоречий или нарушения логики. Они кажутся парадоксами только из-за того, что интуитивный ответ на них сильно отличается от правильного.

  • Парадокс тестов (анализов) на редкие заболевания. Дано: тест, который позволяет выявить настоящего больного в 90% случаев, а ошибочно сказать, что здоровый болен (ложноположительный результат) в 1% случаев.

    Если у вас положительный результат теста, то вероятность, что вы действительно больны не 90%, а намного меньше – точные цифры будут зависеть от частоты самого заболевания и количества проведенных тестов.

    [Предположим, что на] 100 000 человек, прошедших тест, приходится 100 больных. У 90 из них результат теста будет положительным, а у 10 – ложным отрицательным. Среди 99 900 здоровых у 999 человек тест даст ложный положительный результат, а у 98 901 человека – отрицательный.

    Итак, среди 1089 человек с положительным результатом теста только 90 по-настоящему больны. До прохождения теста ваша вероятность оказаться больным была 0,001 [0,1%], а после около 0,083 [8,3%]. Обратите внимание, что апостериорная вероятность (0,083) хоть и больше априорной (0,001), но все равно очень мала и далека от единицы. Так что, скорее всего, вы здоровы, а не больны.

  • Парадокс дней рождения [↪]: в группе из 23 человек вероятность совпадения дней рождения хотя бы у двух человек составляет более 50%, хотя интуитивно кажется, что 23-х человек для этого мало.

  • Парадокс Монти Холла [↪] – про него слышали по-моему все, но все же не помешает повторить (описание из Википедии):

    Представьте, что вы стали участником игры, в которой вам нужно выбрать одну из трёх дверей. За одной из дверей находится автомобиль, за двумя другими дверями — козы.

    Вы выбираете одну из дверей, например, номер 1, после этого ведущий, который знает, где находится автомобиль, а где — козы, открывает одну из оставшихся дверей, например, номер 3, за которой находится коза.

    После этого он спрашивает вас — не желаете ли вы изменить свой выбор и выбрать дверь номер 2? Увеличатся ли ваши шансы выиграть автомобиль, если вы примете предложение ведущего и измените свой выбор?

    Если еще не сталкивались с этой загадкой, то очень рекомендую подумать, прежде чем смотреть ответ.

Ответ

Определенно стоит поменять дверь – шанс на победу вырастет в два раза: с 1/3 до 2/3. Но почему? Дополнительная сложность этого парадокса в том, что его сложно объяснить словами ) Снова процитирую Википедию:

Интуитивно понятное объяснение – есть 111 наборов из 3 дверей. Игрок во всех 111 наборах делает свой первоначальный выбор. Известно, что он угадал в 37 наборах. Ведущий убирает из всех 111 наборов по 1 двери. Мы получаем 111 наборов с двумя дверьми, где уже сделан первый выбор. В этих 111 наборах правильно выбрано 37 раз. Если игрок поменяет свой выбор, то эти 37 окажутся неправильными, но оставшиеся 74 - правильными.

Также есть графическое отображение распределения вероятностей выиграть автомобиль в зависимости от того, меняете ли вы выбор:

Комментарии по этапам:

  1. Возьмем шесть человек. Каждую из трех дверей выберет по два человека.

  2. В каждом случае ведущий откроет одну из невыбранных дверей за которой будет коза.

  3. Один из двух человек, выбравших соответствующую дверь, изменит свой выбор, второй – нет.

  4. В итоге видно, что из 3-х человек, сменивших дверь, автомобиль получили двое (шанс победы 2/3), когда среди трех упрямцев – только один (шанс победы 1/3).

Работает ли гомеопатия

Общий вывод: гомеопатия не работает. Во-первых, с точки зрения механизма действия: нет никаких оснований говорить, что “подобное лечит подобное”.

Однако даже если бы это было так, то в силу вступает второй постулат второй постулат гомеопатии: потентизация – пафосное название для многократного разбавления действующего вещества. Разбавляют настолько сильно, что в дозе гомеопатического средства может остаться всего несколько молекул “действующего” вещества.

Здесь автор проводит интересный мысленный эксперимент, в результате которого оказывается, что (подробности в книге):

… молекул, прошедших через уретру фюрера [Гитлера], в стакане обычной воды больше, чем активного вещества в типичном гомеопатическом средстве.

На это у гомеопатов тоже есть ответ – якобы вода обладает памятью и перенимает свойства действующего вещества, но опять же, каких-либо доказательств этому нет. Если бы это было правдой, то вызвало бы много интересных эффектов:

Во-вторых, научные исследования показывают, что эффективность гомеопатии не превышает плацебо.

Хорошая новость: “качественная” гомеопатия, скорее всего, сама по себе безвредна – она просто не будет иметь никакого эффекта.

Три плохие новости:

  1. Гомеопатия не всегда “качественна”: как и любой производственный процесс, он может быть нарушен, могут быть негативные последствия.

  2. Гомеопатия не бесплатна. Мало кто может позволить выбрасывать деньги на ветер.

  3. “Неспособность гомеопатии на что-либо влиять, увы, не исключает другой опасности методов альтернативной медицины – отказа от эффективной терапии."

Есть отличное видео на тему гомеопатии:

Как говорить с близкими о гомеопатии

Долгое время я никак не мог решить, что делать, если кто-то из моего окружения принимает гомеопатические средства. В последнее время выработал следующий протокол, которого придерживаюсь в большинстве случаев:

  1. Изучить препарат, убедиться, что доказанной эффективности нет.

  2. Объяснить это принимающему человеку.

  3. Дальше все идет по одному из двух сценариев:

    1. Отлично, если разговор подействовал и препарат больше не принимают. Честно скажу, так получается случается редко.

    2. Если не сработало, то дальше развилка:

      а) Если прием препарата не замещает эффективное лечение и не сильно бьет по карману, то больше не настаиваю.

      б) Однако, если последствия гомеопатии негативные, то продолжаю беседу и попытку убедить как минимум не отказываться от конвенциональной терапии.

Эффективность зависит от нескольких факторов: мои навыки аргументации и убеждения (не высокие), открытость другого человека к диалогу, отношения между нами и т.п. Срабатывает не всегда, но несколько странных вещей удалось отбить.

Имитация научной деятельности

Панчин поднимает проблему имитации научной деятельности в России, в т.ч. на примере статьи “Корчеватель: алгоритм типичной унификации точек доступа и избыточности” (история мистификации на Википедии [↪], сама статья в Web Archive [↪]):

Она была создана генератором случайных текстов на английском языке и переведена машинным переводчиком на русский язык. В ней содержались графики, на которых время измерялось в цилиндрах, а задержка – в градусах Цельсия. Текст был бессмысленным. Однако [в 2008 году] статья получила положительную рецензию и была опубликована в российском научном журнале, признанном Высшей аттестационной комиссией.

Рецензент даже не заметил подсказку в конце: “Я благодарен профессору М.С. Гельфанду, привлекшему мое внимание к проблеме публикации случайных текстов”. В итоге после скандала из списка Высшей аттестационной комиссии журнал был исключен.

Конечно, это вопиющий пример и с тех пор много воды утекло, но лженаука, человеческая жажда наживы и лень не дремлют. Проблема актуальна как никогда.

Разное

  1. Автор поделился лайфхаком: покупать билет в тринадцатый вагон поезда – из-за суеверного отношения к числу 13 он часто более пустой. Несколько раз после прочтения ездил в поезде – могу подтвердить, что по крайней мере на этапе покупки билетов пустых мест было больше, чем в других вагонах.

    Только с этой идеей надо аккуратнее: много лет назад мне досталось место в самолете в 13-м ряду. При посадке выяснилось, что за 12-м рядом сразу идет 14-й 🤦 Место мне, конечно, нашли, но пришлось подождать, пока всех рассадят.

  2. “в негодных руках тележурналистика – одно из самых темных искусств, надежно защищает от которого только одно: кнопка выключения на пульте." Полностью согласен: я уже 10+ лет не смотрю централизованное телевидение. Для разума и критического мышления было было лучшее решение.

  3. Отличный пример от автора, какую иллюзию создает ассиметричность знания об экспериментах:

    Однажды после лекции ко мне подошла девушка, и мы заговорили о паранормальных явлениях и ошибках мышления. Я предложил ей загадать натуральное число от 1 до 20 и с первого раза его назвал – это было число 17. Девушка очень удивилась. Однако секрет трюка прост: он срабатывает примерно в одном случае из двадцати. Моя собеседница оказалась не первой девушкой, загаданное число которой я пробовал угадать. Но она стала первой, с кем это удалось!

    Тоже подобным развлекаюсь, только не с числами, а с попытками угадать какой-то факт в обычной беседе. Это даже проще – имея хоть какой-то контекст шанс угадать выше. Главное не повторять этот факт слишком часто в одной и той же компании. 😎