Думай «почему?». Причина и следствие как ключ к мышлению - Джудиа Перл

Если мы примем во внимание, что вероятность зажечь спичку намного ниже, чем вероятность иметь в доме кислород, мы обнаружим количественно, что для спичек высоки и PN, и PS, а для кислорода PN будет высоким, а PS — низким. Не поэтому ли мы интуитивно виним спичку, а не кислород? Вполне вероятно, но ответ может оказаться сложнее.

В 1982 году психологи Даниэль Канеман и Амос Тверски исследовали, как люди выбирают причину («Ах, если бы»), чтобы «отменить» в воображении нежелательный результат, и обнаружили определенные закономерности. Одна из них состоит в том, что люди чаще представляют «отмену» редкого, а не обычного события. Так, если мы «отменяем» пропущенную встречу, то с большей вероятностью скажем: «Ах, если бы поезд ушел по расписанию», чем «Ах, если бы поезд ушел раньше». Кроме того, мы склонны жалеть о собственных действиях (например, что подожгли спичку), а не о событиях вне нашего контроля. Способность оценивать PN и PS на основе нашей модели мира предполагает, что у нас есть систематический способ принимать во внимания эти соображения, а значит, когда-нибудь мы научим роботов давать содержательные объяснения для необычных событий.

Мы видели, что PN воплощает обоснования для критерия «необходимой причины» в юридической практике. Но надо ли учитывать PS в уголовном и гражданском праве? Я считаю, что это необходимо, ибо внимание к достаточности подразумевает внимание к последствиям своих действий. Человек, который зажег спичку, должен был предвидеть наличие кислорода, но обычно никто не считает, что следует откачать из дома кислород перед церемонией зажжения спички.

Какой же вес необходимым и достаточным компонентам причинно-следственной связи важно придавать закону? Философы права не обсуждали правовой статус этого вопроса, возможно, потому, что понятия PS и PN не были формализованы с такой точностью. Однако, с точки зрения ИИ, очевидно, что и PN, и PS нужно участвовать в формировании объяснений. У робота, которому было поручено объяснить, почему возник пожар, нет другого выбора, кроме как рассмотреть и то и другое. Сосредоточенность только на PN подтолкнет к необоснованному выводу о том, что поджигание спички и наличие кислорода в равной степени являются подходящими объяснениями. Робот, который будет давать такое объяснение, быстро утратит доверие владельца.

Необходимые причины, достаточные причины и климатические изменения

В августе 2003 года Западную Европу поразила ужасная жара, самая сильная за пять веков. Больше всего пострадала Франция. Правительство страны заявило, что жара стала причиной 15 тысяч смертей, причем жертвами в основном оказались одинокие пожилые люди, не имевшие дома кондиционеров. Что же было настоящей причиной их смерти: глобальное потепление или неудача оказаться не в то время и не в том месте?

До 2003 года ученые-климатологи избегали размышлений над такими вопросами. Расхожее мнение было примерно таким: хотя такой феномен чаще возникает из-за глобального потепления, невозможно приписать это конкретное его проявление предшествующим выбросам парниковых газов.

Майлз Аллен, физик из Оксфордского университета и автор приведенной выше цитаты, предложил способ добиться большего: использовать показатель, называемый долей приписываемого риска (Fraction of Attributable Risk; FAR), чтобы количественно оценить эффект климатических изменения. Для применения FAR надо знать два числа: p0 — вероятность аномальной жары, подобной жаре 2003 года, до климатических изменений (например, до 1800 года), и p1 — ее вероятность после климатических изменений. Так, если вероятность удваивается, справедливо сказать, что половина риска связана с изменениями климата. Если она утраивается, то с изменениями климата связаны две трети риска.

Поскольку FAR определяется исключительно на основе данных, у этого показателя не обязательно есть причинное значение. Но оказывается, что при двух умеренных причинно-следственных допущениях она идентична вероятности необходимости. Во-первых, мы должны допустить, что воздействие (парниковые газы) и результат (жаркая погода) не осложняют друг друга — у них нет общей причины. Это весьма рационально, ведь, насколько нам известно, на выброс парниковых газов влияем только мы сами. Во-вторых, нужно допустить монотонность. Мы кратко обсудили это допущение в предыдущей главе; в нынешнем контексте оно означает, что воздействие никогда не дает эффекта, противоположного ожидаемому, т. е. парниковые газы никогда не защитят нас от аномальной жары.

В отсутствие осложнителей и защиты FAR поднимается с первого уровня на третий уровень Лестницы Причинности, где становится PN. Но Аллен не знал причинной интерпретации FAR (вероятно, она не слишком популярна у метеорологов), и это заставило его представить результаты в достаточно туманных выражениях.

Но какие же данные мы можем использовать для оценки FAR (или PN)? Мы наблюдали только одну погодную аномалию такого рода. Мы не в состоянии провести контролируемый эксперимент, потому что для этого нужно проконтролировать уровень углекислого газа, будто щелкая выключателем. К счастью, у климатологов есть секретное оружие: они способны провести эксперимент in silico — компьютерное моделирование.

Аллен и Стотт из британской метеорологической службы взяли на себя эту задачу и в 2004 году стали первыми учеными-климатологами, которые решились сформулировать причинно-следственную связь для отдельного погодного явления. Удалось ли это? Судите сами. Вот что они написали: «Весьма вероятно, что более половины риска температурных аномалий в Европе, превышающих пороговое значение в 1,6 °C, связано с влиянием человека».

Хотя я высоко ценю храбрость Аллена и Стотта, мне жаль, что их важная находка была похоронена в дебрях непонятного языка. Я попробую разобрать это утверждение, а затем попытаюсь понять, почему они выразили его так запутанно. Во-первых, «температурные аномалии, превышающие пороговое значение 1,6 °C» — это их способ определить результат. Они выбрали этот порог, потому что средняя температура в Европе тем летом была более чем на 1,6 °C выше нормы, чего раньше не было за всю историю наблюдений. Их выбор уравновесил конкурирующие цели: остановиться на результате, достаточно экстремальном, чтобы уловить эффект от глобального потепления, но не слишком привязанном к конкретике 2003 года. Чтобы не использовать, например, среднюю температуру в августе во Франции, они взяли более широкий критерий средней температуры в Европе за все лето.

Во-вторых, что они имели в виду под «весьма вероятно» и «половиной риска»? С математической точки зрения Аллен и Стотт хотели сказать следующее: вероятность, что FAR превысила 50 %, составляет 90 %. Или, другими словами, есть 90 %-ная вероятность того, что летняя погода, как в 2003 году, будет наступать более чем в два раза чаще при нынешнем уровне углекислого газа по сравнению с доиндустриальным уровнем. Обратите внимание, что здесь есть два уровня вероятности: мы говорим о вероятности вероятности! Неудивительно, что от таких утверждений у нас вскипает мозг и плывет перед глазами. Причина удвоенной атаки в том,