Над какой проблемой лучше всего работать, если вы хотите приносить пользу миру: изменение климата, образование, пандемии или что-то ещё?

Люди часто считают, что сравнивать такие проблемы практически невозможно. Самый распространённый совет — просто заниматься тем, что вас больше всего волнует.

Но мы считаем, что некоторые глобальные проблемы намного более масштабны, чем другие, и заслуживают куда больше внимания, чем получают сейчас. Поэтому ваш вклад в улучшение мира в первую очередь зависит от того, над какой проблемой вы работаете.

Как сравнивать глобальные проблемы: введение

Было бы хорошо, если бы многие глобальные проблемы получали больше внимания. Но лучшее, что каждый из нас может делать — это находить наиболее недооценённые из них и участвовать в их решении.

Чтобы находить такие проблемы, можно начать со следующих критериев:

1. Важность: если продвинуться в решении этой проблемы, сколько пользы это принесёт?

2. Недооценённость: сколько ресурсов общество выделяет или планирует выделить на решение этой проблемы?

3. Разрешимость: сколько прогресса сможет дать каждая затраченная единица усилий?

В этой статье мы утверждаем, что существующие проблемы очень сильно различаются по важности и недооценённости, в то время как различия в их разрешимости не настолько значительны.

Это значит, что выбрав другую проблему, вы можете увеличить количество пользы, которую принесёте миру, более чем в 100 раз.

Некоторые проблемы масштабнее, чем другие

Изменение климата считается одной из самых важных мировых проблем, но мы полагаем, что ситуация даже более серьёзна, чем принято думать. Несмотря на то, что самый вероятный сценарий подразумевает повышение температуры на несколько градусов, из-за неопределенности в климатических моделях нельзя исключить возможность потепления более чем на 10°C к 2200 году.

Более того, CO₂, который мы выбрасываем в атмосферу сегодня, останется в ней на десятки тысяч лет, и нашим потомкам придётся с ним жить. Мы считаем, что будущие поколения важны, что делает эту проблему ещё масштабней.

Однако, как мы пишем в статье, посвящённой проблеме изменения климата, гибель человечества кажется маловероятной даже при потеплении на 13°C (хотя такое потепление может увеличить опасность других экзистенциальных рисков). И поэтому мы считаем, что могут существовать другие, потенциально более серьёзные проблемы.

Философ Тоби Орд утверждает, что в 1945 году для человечества началась новая эпоха — мы оказались "на краю пропасти"¹ . 16 июля 1945 года человечество взорвало первую атомную бомбу, и это в последующем привело к тому, что впервые в истории маленькая группа людей получила возможность уничтожить почти все города мира за несколько часов.

Ежегодный риск всеобщего обмена ядерными ударами невелик, но всё же больше нуля, поскольку нельзя исключать возможность несчастного случая или технической неисправности.

Опросы экспертов в среднем оценивают вероятность обмена ядерными ударами между США и Россией как 0,4% в год.

Вероятность полномасштабной ядерной войны ещё ниже, однако если учесть длительность наших жизней и жизней наших детей, то мы получим существенный шанс катастрофы, которая будет гораздо более разрушительной, чем изменение климата.

Помимо смертей большинства людей в городах и их окрестностях, последующие пожары могут поднять в воздух столько пепла, что он заслонит лучи солнца и снизит температуру на планете на годы вперёд, что, в свою очередь, приведёт к массовому голоду. Это называют "ядерной зимой".

В течение нескольких месяцев такой исход не только убьет большинство ныне живущих людей, но и может привести к краху цивилизации как таковой. Полный коллапс, по нашим оценкам, маловероятен, но если учесть масштаб его последствий — потерю всех будущих поколений, — то этот риск может быть самым страшным в ядерном конфликте.

Однако радикальное изменение климата и ядерная зима — лишь два примера из списка возможных проблем.

Благодаря техническому прогрессу, наше поколение способно оказать беспрецедентное влияние на будущее. Последствия наших сегодняшних решений по поводу ядерного оружия, генной инженерии, колонизации космоса, искусственного интеллекта и других развивающихся технологий могут отразиться на тысячах лет вперёд. И это влияние может оказаться как чрезвычайно хорошим, так и чрезвычайно плохим.

Итак, некоторые проблемы намного масштабнее, чем другие.

Некоторыми проблемами пренебрегают больше, чем другими

В 2016 году мы утверждали, что глобальная пандемия является значительным риском для мира, однако на предотвращение худших пандемий выделяется всего лишь около 10 миллиардов долларов в год² . Таким образом, этот вопрос недооценивается гораздо сильнее, чем изменения климата или международные отношения (на которые тратятся сотни миллиардов), а эти области в свою очередь недооцениваются гораздо сильнее, чем образование и здравоохранение в богатых странах (на которые выделяются триллионы).

Зачем работать над более недооценёнными проблемами? Как минимум если речь идёт о проблемах примерно одинаковой важности, внести большой вклад в решение более устоявшейся или популярной из них обычно сложнее, потому что работа над самыми перспективными решениями зачастую уже ведётся. Следовательно, если над проблемой работает всего сто человек, то ваш вклад, скорее всего, будет сильно более значимым, чем если их — тысячи.

Насколько более значимым? Мы считаем, что отдача от дополнительных усилий снижается довольно быстро — грубо говоря, логарифмически. Это значит, что степень недооценённости проблемы чрезвычайно важна.

По нашим оценкам, некоторые глобальные проблемы в тысячи раз более недооценены, чем другие проблемы сравнимой важности. На них выделяется лишь крохотная доля всех ресурсов. Следовательно, при прочих равных, работа в некоторых областях даёт в тысячи раз больше эффекта, чем в других.

Одна из наших читательниц, Кэссиди, вдохновилась этим аргументом. Будучи врачом, она обнаружила, что сможет приносить ещё больше пользы, занимаясь предотвращением пандемий.

Она подала документы в магистратуру на программу по здравоохранению, а оттуда смогла поступить в аспирантуру по биобезопасности в Оксфорде. Поскольку до появления COVID-19 вопросом предотвращения пандемий занималось относительно мало людей, Кэссиди смогла быстро продвинуться в этой сфере. Когда началась пандемия COVID-19, Кэссиди была готова консультировать правительство Великобритании по вопросам её сдерживания, а также по поводу того, как предотвратить следующую, потенциально более опасную пандемию.

Всё это означает, что если просто следовать своим интересам, то в большинстве случаев это приведёт к работе в широко известных областях, которые обычно являются наименее недооценёнными. Наилучшие варианты, как правило, не лежат на поверхности.

Какие проблемы могут быть недооценены ещё сильнее, чем пандемии?

На ведущих конференциях по машинному обучению (NeurIPS и ICLM) было проведено три независимых опроса исследователей в области ИИ — в 2016, 2019 и 2022 годах. Согласно результатам этих опросов, исследователи с вероятностью 50% ожидают, что примерно к 2060 году ИИ-системы превзойдут человеческие возможности в большинстве видов деятельности.³ Если это произойдёт, то станет одним из самых важных событий в истории.

Те же исследователи предполагали, что если такие ИИ-системы действительно появятся, то хотя результат может быть "крайне хорошим", также есть вероятность в 5%, что он окажется "крайне плохим" (например, человечество прекратит существовать).⁴ (Следует заметить, что непонятно, насколько надёжны эти оценки. Мы обсуждаем это подробнее в нашем профиле, посвящённом предотвращению катастрофы, связанной с ИИ.)

Одна из причин для беспокойства заключается в том, что мы не понимаем, будет ли искусственный интеллект продолжать учитывать человеческие ценности, если станет гораздо более сильным. И это означает, что в долгосрочной перспективе исследования "алайнмента ИИ" могут оказаться критически важными.

С тех пор как мы впервые написали об этом в 2012 году, проблема алайнмента ИИ превратилась в активно развивающуюся область научных исследований. Однако финансирование этой области по-прежнему составляет менее 100 миллионов долларов в год, то есть примерно в 100 раз меньше, чем выделяется на предотвращение пандемий.

Если же говорить о задачах долгосрочной политики в сфере ИИ — как общество и правительство должны регулировать использование развивающихся ИИ-систем, — то они недооценены ещё сильнее. (Изучите подробнее наши аргументы в пользу обоих вопросов.)

Насколько проблемы отличаются в целом?

Чтобы определить общую значимость проблемы, необходимо перемножить её важность на недооценённость.

Мы утверждали, что масштаб некоторых проблем в 100+ раз превышает масштаб других, а также что некоторые проблемы получают в 100+ раз меньше внимания.

Поскольку самыми недооценёнными обычно являются как раз самые масштабные проблемы, то можно предположить, что при прочих равных ваш вклад будет в 10 000+ раз больше, если работать именно над такими проблемами.

Тем не менее есть сильные аргументы против того, чтобы считать реальную разницу в эффекте настолько большой. Мы обсуждаем их в эпизоде нашего подкаста, посвящённом серии статей о ключевых идеях. В целом мы считаем, что на практике стоит вести себя так, будто общая значимость проблем различается где-то в 1000 раз.

Например, согласно нашему анализу глобальных приоритетов, вы можете принести в 10-100 раз больше пользы миру, если будете работать над проблемой глобальной бедности, а не над типичными социальными проблемами богатых стран. Работа над экзистенциальными рисками, в свою очередь, может позволить вам принести ещё в 10-100 раз больше пользы по сравнению с предыдущим вариантом.

Вне зависимости от того, какие проблемы вам кажутся наиболее приоритетными, мы ожидаем, что вы всё равно обнаружите огромные различия в их общей значимости.

Что следует из этих отличий?

В идеальном мире над всеми важными социальными проблемами работало бы намного больше людей. Но у каждого из нас всего лишь одна карьера, и мы сможем принести намного больше пользы, если в первую очередь сосредоточимся на том, что более важно.

Если вы можете ежегодно приносить в 100 или даже в 1000 раз больше пользы миру, переключившись на решение другой проблемы, то это чрезвычайно важно. Тогда одно лишь это решение может оказаться самым эффективным способом повлиять на то, сколько пользы приносит ваша деятельность.

Если у вас сейчас нет возможности серьёзно заняться своей карьерой, вы можете делать значимый вклад в решение наиболее важных проблем даже на своей текущей работе — через пожертвования, политическую активность или привлечение других людей. Но что же насчёт непосредственной работы над этими проблемами?

Иногда бывает довольно легко сделать вклад в решение новой проблемы, не меняя текущий вид деятельности. Например, если вы работаете в СМИ, то можно пробовать писать на другие, более релевантные темы.

Порой наши читатели удивляются тому, что их навыки могут быть задействованы в контексте таких необычных проблем, как алайнмент ИИ.

Брайан Тсе работал в инвестиционном банке в Гонконге и никак не был связан с ИИ, однако эта тема была ему интересна, и он начал изучать её в свободное время. Будучи билингвом, Брайан также стал переводить различные материалы, чтобы наладить связь между западными и китайскими исследователями.

Теперь он управляет независимой консалтинговой компанией, которая консультирует китайские, американские и европейские организации по вопросам безопасности и развития ИИ, а также других потенциально революционных технологий. Брайан считает, что его новый путь гораздо увлекательнее работы в инвестициях.

Работа в правительстве нередко позволяет значительную гибкость в отношении того, какой областью регулирования вы занимаетесь. Например, Клиодна работала над здравоохранением, но узнав больше об алайнменте ИИ, она смогла переключиться на вопросы, возникающие на стыке этих двух областей.

Но даже если подобные изменения ощущаются для вас сложными, подумайте об огромном количестве пользы, которое они принесут. Это может с лихвой окупить затраченные усилия — даже если понадобится пройти переподготовку, занять более младшую должность или примерить роль, в которой вы чувствуете себя неуверенно (например, потому что сомневаетесь, хватит ли ваших навыков или знаний для работы над этой проблемой).

Люди, которых мы консультируем, часто испытывают соблазн выбрать менее важную проблему с более низким порогом входа. Но если одна из наиболее важных проблем может позволить вам принести в 10 раз больше пользы, то в большинстве случаев стоит потратить хотя бы какое-то время на проверку того, насколько она вам подходит, даже если это может оказаться не так.

Однако мы не пытаемся преуменьшить сложность всех этих перемен. Перестроить свою карьеру вокруг новой проблемы — серьёзное решение. Наш главный посыл в том, что к этому вопросу стоит отнестись очень, очень ответственно. Он заслуживает куда больше внимания, чем обычно получает.

Какие же проблемы мы считаем наиболее важными?

Учитывая всю значимость этого вопроса, мы посвятили ему несколько статей в нашем цикле о ключевых идеях.

Сначала мы приводим доводы в пользу работы над снижением экзистенциальных рисков, а также объясняем, почему наш век может быть самым важным в истории. Затем мы приводим наш список проблем, отсортированных по приоритетности.

Мы также поддержали развитие области исследования глобальных приоритетов, которая ставит своей целью проанализировать эти вопросы и найти на них ответы. Например, можно снижать риски катастроф, или же можно работать с более насущными видами вреда. Как нам следует распределять ресурсы между этими двумя направлениями? Теперь в Оксфорде существует институт, занимающийся этими вопросами.

Несмотря на ключевую важность этих исследований, до сих пор лишь десятки исследователей работают непосредственно над ними.

Бен Гарфинкель планировал получать ученую степень по физике, но решил, что исследованиями в этой области уже и так занимается очень много умных людей, и ему будет трудно внести существенный вклад. Он узнал об исследованиях глобальных приоритетов из одного из наших докладов и, попробовав себя в этой области, решил перейти в неё. Впоследствии он написал важную критику аргументов по поводу приоритетности ИИ-рисков.

Именно такой критики мы хотели бы видеть больше. Вполне вероятно, что в наших оценках приоритетности глобальных проблем есть свои ошибки и недостатки. Мы хотим, чтобы люди приводили доводы в пользу других вариантов, а также находили проблемы, о которых мы ещё даже не задумывались.

Дальнейшее чтение на тему сравнения проблем

Для начала вы можете больше узнать про модель важности, недооценённости и разрешимости:

• Вот популярная вводная статья.

• Вот более техническая статья, в которой рассматривается количественная версия этой модели.

Также в нашем курсе по планированию карьеры есть подробный алгоритм для сравнения различных проблем.

Ещё материалы:

• Улучшаем мир вместе: координация внутри сообщества

• Бенджамин Тодд и Роберт Уиблин обсуждают различия в "эффективности" проблем на нашем подкасте про серию статей о ключевых идеях

• Принципиальные соображения и разумная благотворительность, Ник Бостром

• Моральная ценность информации, Аманда Аскилл