Предотвращение катастрофических пандемий

Авторы: Арден Колер и Бенджамин Хилтон · Опубликовано в апреле 2020 · Обновлено в июле 2022

Аудиозапись может не отражать последние изменения в этой статье.

Пандемии были одними из самых смертоносных событий в истории.1 Из-за развития техологий, а также нашей растущей взаимосвязанности, в будущем нас могут ожидать ещё более тяжёлые биологические катастрофы.

Глобальные катастрофические биологические риски (ГКБР) — это риски крайне тяжёлых пандемий, которые могут угрожать будущему человечества.

По причинам, обсуждаемым ниже, мы считаем, что шансы такой биологической катастрофы превышают комфортный уровень. Также есть ряд практических предложений по снижению этих рисков. Поэтому мы считаем, что работа над снижением ГКБР на данный момент является перспективным направлением для защиты будущего человечества.

Обратите внимание: На этой странице вы найдёте краткий обзор проблемной области, а также много ссылок на материалы по этой теме. Для более подробного обзора этой проблемы и работы над ней, читайте наш полный отчёт по проблеме глобальных катастрофических биорисков. (Данный отчёт был опубликован в марте 2020 и составлялся в основном до пандемии COVID-19, но мы считаем, что наши выводы всё ещё актуальны.)

Прочитать полный отчёт

Если вы стремитесь построить свою карьеру в этой области, мы также потенциально можем вам помочь в рамках личных консультаций.

Краткое изложение

Пандемии, как и другие глобальные катастрофические биориски (вроде биотерроризма или биологического оружия), представляют серьёзную экзистенциальную угрозу для человечества. Чем дальше развиваются биотехнологии, тем выше вероятность, что в будущем станет гораздо проще создавать чрезвычайно опасные патогены (будь то специально или случайно), причём потенциально гораздо более опасные, чем вирус SARS-CoV-2, вызывающий COVID-19.

Мы можем подготовиться к следующей пандемии — и попытаться предотвратить её. Есть ряд предложений по снижению этих рисков, которые кажутся нам перспективными. Например, мы могли бы найти технологические решения, которые позволили бы нам более эффективно избегать заражений и лечить инфекционные заболевания, а также решения в области регулирования, благодаря которым страны и организации будут лучше реагировать на пандемии. Хотя этой области уделяется много внимания, лишь малая часть всей работы связана с наихудшими рисками, и поэтому мы считаем, что работа над предотвращением пандемий с потенциалом экзистенциального масштаба крайне недооценена.

Наша оценка в целом

Уровень приоритетности — наивысший


Мы считаем, что это одна из самых важных проблем в мире.

Масштаб  

Пандемии — особенно искусственные пандемии — представляют серьёзный риск для выживания человечества. Мы считаем, что вероятность биологической экзистенциальной катастрофы в ближайшие 100 лет превышает 1/10000.2

Недооценённость  

Каждый год на предотвращение пандемий тратятся миллиарды долларов. Лишь малая часть этого направлена на снижение биологических рисков потенциально экзистенциального уровня — и мы считаем, что если вам важны будущие поколения, то снижение экзистенциальных рисков является особенно важной задачей. Итак, исходя из нашей оценки с поправкой на качество, на эти риски тратится около миллиарда долларов ежегодно. (Если сравнивать с другими значительными рисками, то, по нашим оценкам, на изменение климата ежегодно тратятся сотни миллиардов, в то время как снижение рисков от ИИ получает десятки миллионов долларов.)

Разрешимость  

Существуют перспективные подходы к улучшению биобезопасности, в том числе связанные с разработкой технологий, которые могли бы снизить эти риски (вроде более эффективного бионаблюдения), а также с работой над стратегиями и вопросами регулирования для разработки планов, которые позволят предотвратить или минимизировать последствия от биологических катастроф.

Проработанность профиля

Средняя 

Это один из многих обзоров, написанных нами, чтобы помочь людям найти самые важные проблемы, которые можно решить в ходе своей карьеры. Узнайте больше о том, как мы сравниваем различные проблемы, как мы пробуем оценивать их количественно, а также о том, как данная проблема соотносится с остальными, которые мы уже рассмотрели.

Почему стоит направить свою карьеру на предотвращение тяжёлых пандемий?

Развитие биотехнологий может привести к катастрофическим рискам.

COVID-19 указал на нашу уязвимость к глобальным пандемиям и выявил недостатки в том, как мы реагируем на ситуации, которые требуют слаженных действий и сложных планов. В свою очередь, исторические события вроде Чёрной смерти и гриппа 1918 года показывают, что пандемии могут быть одними из самых разрушительных бедствий для человечества.

Страшно представить, какие последствия могут быть у патогена с пандемическим потенциалом, который будет намного более заразным и/или более смертоносным по сравнению с теми, что нам уже известны.

К сожалению, появление такого патогена вполне возможно, особенно в свете недавних достижений в области биотехнологий, которые делают процесс разработки и создания биологических агентов гораздо более простым и точным. Если область продолжит развиваться в этом направлении, то в ближайшие десятилетия может появиться возможность создать патоген, который будет намного более заразным по сравнению с патогенами естественного происхождения, более смертоносным и/или более сложным для сдерживания стандартными мерами.2

Доступ к этим патогенам также может стать проще, в частности для государств и злонамеренных индивидов, поскольку релевантные технологии становятся всё более доступными и простыми в использовании.3

Опасные патогены, разработанные для исследовательских целей, могут также быть случайно выпущены в окружающую среду из-за нарушения техники лабораторной безопасности.4

Любой из этих сценариев может привести к катастрофической "искусственной пандемии". Хотя создание максимально опасного патогена вряд ли будет входить в интересы правительств или других акторов (в частности потому что это представляло бы угрозу и для них), специально разработанный патоген с пандемическим потенциалом может оказаться значительно более смертноносным и заразным. Из-за вероятности случайностей, ошибок и крайней злонамеренности, мы не можем исключить шанс того, что патоген с пандемическим потенциалом будет выпущен в окружающую среду и приведёт к смерти большой части населения.

Какова вероятность того, что нам придётся столкнуться с таким патогеном? Это спорный вопрос, но если говорить про ближайшие сто лет, то вероятность кажется нам достаточно высокой.5

Может ли искусственная пандемия представлять экзистенциальную угрозу для человечества? Опять же, это вопрос дискуссионный. В прошлом общества восстанавливались даже после таких тяжёлых пандемий, как Чёрная смерть, от которой погибло от трети до половины населения Европы.6 Но если исходить из наших данных, то будущие ГКБР являются одними из более серьёзных факторов экзистенциального риска в текущем столетии.7

Поэтому снижение рисков биологических катастроф при помощи снижения шансов потенциальных эпидемий или минимизации наиболее тяжёлых последствий кажется нам очень важной задачей.8

There are clear actions we can take to reduce these risks. 文

For example: 文

  • Work with government, academia, and industry to improve the governance of gain-of-function research involving potential pandemic pathogens, commercial DNA synthesis, and other research and industries that may enable the creation of (or expand access to) particularly dangerous engineered pathogens. At times this may involve careful regulation.

  • Strengthen international commitments to not develop or deploy biological weapons, e.g. the Biological Weapons Convention.9

  • Develop broad-spectrum testing, therapeutics, and other technologies and platforms that could be used to quickly test, vaccinate, and treat billions of people in the case of a large-scale, novel outbreak.10 文

Learn more about these ideas and others in our interview with Dr Cassidy Nelson. 文

Most existing work is not aimed at reducing risks of the worst outcomes. 文

The broader field of biosecurity and pandemic preparedness has made major contributions to GCBR reduction. Many of the best ways to prepare for more probable but less severe outbreaks will also reduce GCBRs, so many people who are not concerned with GCBRs in particular still do work that is useful for reducing them. For this reason, we think advancing parts of the broader field — especially in areas like vaccine research or broad-spectrum treatments — can be very valuable, even from the perspective of just trying to reduce the chances or severity of the worst potential outbreaks. 文

There may be even more valuable opportunities. It seems to be relatively uncommon for people in the broader field of biosecurity and pandemic preparedness to aim their work specifically at reducing GCBRs. Projects that disproportionately reduce GCBRs also seem to receive a relatively small proportion of health security funding.11 In our view, the costs of biological disasters grow nonlinearly with severity because of the increasing potential for the event to contribute to existential risk. This suggests that projects that reduce GCBRs in particular should receive more funding and attention than they currently seem to. 文

Moreover, insofar as more targeted interventions would be useful (and we’d guess they would be12 ) the fact that there is comparatively little work targeted toward reducing GCBRs right now suggests that the area is somewhat neglected. This means that if you enter the field of biosecurity and pandemic preparedness aiming to reduce GCBRs, there may be particularly good opportunities to do so that others have not already pursued. 文

If you do enter the field aiming to reduce GCBRs, it might be easier to work on broader efforts that have more mainstream support first, and then transition to more targeted projects later. 文

If you are already working in biosecurity and pandemic preparedness (or a related field), this might be a good time to advocate for a greater focus on measures likely to help us with whatever outbreak surprises us next. There may be a greater openness to ideas in this area now, as people reflect on how underprepared we were for COVID-19.13 文

What kinds of work are most needed? 文

Biosecurity and pandemic preparedness are multidisciplinary fields. To address these threats effectively, we need at least: 文

  • Technical and biological researchers to investigate and develop tools for controlling outbreaks, such as broad-spectrum testing and antivirals. (See examples of research questions.)

  • Strategic researchers and forecasters to develop plans, such as for how to develop or scale up vaccines quickly.

  • People in government to pass and implement policies aimed at reducing biological threats. 文

It’s also important to remember that this area involves information hazards, making it essential for people who can act with discretion to fill these roles. This also means that information security experts may be especially helpful in this area. 文

Example reader 文

What jobs are available? 文

There are many organisations and agencies that work on reducing biological threats. Here are some that work specifically on GCBRs: 文

We list particular jobs related to reducing biological threats at these organisations and others on our job board: 文

Want to work on reducing risks of the worst biological disasters? We want to help. 文

We’ve helped people formulate plans, find resources, and put them in touch with mentors. If you want to work in this area, apply for our free one-on-one advising service. 文

Apply for advising

Want to support work in this area by donating? 文

You can also help by donating to well-run organisations that are making important progress on this issue. 文

Which organisations should you give to? We haven’t investigated this question ourselves, but we asked a couple of advisors working on biosecurity and pandemic preparedness for their suggestions. 文

Two organisations seem to stand out as particularly good giving opportunities: 文

Open Philanthropy, a foundation that broadly shares our values, has made grants to both of these organisations based on assessments of the quality of their work, staff, and structure; their global influence; and how they are likely to use the grant. 文

However, both organisations might still have room for more funding.14 You can help fill any gaps by ‘topping up’ Open Philanthropy’s grants with your own donations.15 (Disclosure: Open Philanthropy is our single largest funder.) 文

To learn more, read Open Philanthropy’s assessment of these organisations and their specific justifications for making NTI a grant of $6 million and CHS a grant of $16 million, both in 2017. 文

Learn more 文

Articles and podcasts 文

See our full profile on GCBRs and how to reduce them, and our interview with the profile’s author, Greg Lewis: 文

Или прослушайте аудиоверсию статьи:

Аудиозапись может не учитывать последние изменения в этой статье.

У нас также есть несколько других эпизодов подкаста, в которых обсуждаются ГКБР и стратегии их снижения:

Книги

Две книги по биологическим катастрофам, которые мы особенно рекомендуем:16

Другие ресурсы:

О ГКБР и как их уменьшить


Ресурсы для общей осведомлённости о пандемиях:


Ресурсы, связанные с поиском карьеры в этой области


Notes and references

  1. Люк Мюльхаузер сравнивает самые смертоносные события прошлого в этом обзоре. Мы также ссылаемся на эти данные в нашем полном обзоре проблемы глобальных катастрофических биорисков. Обратите внимание, что три из десяти крупнейших событий являются пандемиями:

    ↩

  2. Секвенирование, редактирование и синтез генов уже доступны, и все эти процессы становятся всё более систематизированными, что делает принципиально возможным разрабатывать и производить биологических агентов примерно таким же образом, как мы сейчас разрабатываем и производим компьютеры или другие продукты. Это может позволить людям придумывать и создавать патогены, которые будут комбинировать в себе свойства естественных патогенов, или же патогены с совершенно новыми свойствами. (Узнать больше)

    Учёные также исследуют вопрос того, что делает патогены более или менее заразными и смертоносными. С этими знаниями может быть проще предотвращать и минимизировать последствия вспышек, но это также означает, что необходимая информация для разработки более опасных патогенов становится всё более доступной.

    Помимо опасностей, все эти технологии имеют важное медицинское применение. Например, технология секвенирования генов может оказаться незаменимой для быстрого диагностирования новых болезней. (Вот один из подобных примеров) Следовательно, чтобы обеспечить правильное использование этих научных достижений, может потребоваться внимательность и аккуратность.↩

  3. Раньше генную инженерию можно было охарактеризовать как "ремесло", в котором было много неопределенности, негласных знаний, а также метода проб и ошибок. Некоторые биологи-синтетики ( 1, 2, 3 и 'BioBricks') поставили своей целью сделать этот процесс более систематическим и модульным, что позволило бы большему количеству людей создавать биологические материалы надёжным и экономичным образом, при этом не имея обширных знаний и опыта — то есть, примерно так же, как мы производим другие продукты.

    В этой области наблюдается устойчивый прогресс. Инновации последних десятилетий упростили разработку и производство генетического материала. Коммерческий синтез становится всё более доступным и экономичным. Появляются всё более обширные библиотеки генетического кода, а стоимость секвенирования снижается. Уже были предприняты некоторые шаги для ограничения рисков, связанных с такой доступностью, вроде проверок коммерческих заказов на синтез, но по мере развития отрасли будет необходимо принять ещё больше различных мер.

    Уже через год-два после их изобретения многие передовые разработки становятся доступными для студентов бакалавриата, участвующих в Международном конкурсе генно-инженерных машин (iGEM). Движение DIY-биологии показывает, что некоторые из этих разработок доступны людям, не имеющим никакой формальной подготовки (что схоже с тем, как 3D-печать сделала некоторые виды производства более доступными).

    Следует ещё раз подчеркнуть, что эти разработки несут в себе как и преимущества, так и риски. Если больше людей получит доступ к секвенированию и синтезированию генетического материала, то это ускорит прогресс в ряде областей, таких как создание инновационных лекарственных препаратов.↩

  4. Зачем исследователям специально создавать неестественно опасные патогены? Одна из причин — "исследования приобретения функции", в которых учёные стараются повысить заразность или вирулентность патогена, чтобы лучше изучить его характеристики, в том числе для того, чтобы понять, стоит ли беспокоиться по поводу некоторых видов мутаций, которые могут возникнуть в природе. Часто результатом таких исследований является немного более опасный патоген, в целом сравнимый с болезнями, над которыми обычно работают вирусологи. Но если исследования проводятся над патогенами с пандемическим потенциалом, или же над особенно вирулентными патогенами, то возможность создания неестественно заразного микроорганизма может стать поводом для беспокойства. Самым известным примером такого исследования был эксперимент 2011 года, когда учёные пробовали повысить заразность птичьего гриппа (H5N1) для млекопитающих. Это был скандальный эксперимент, повлёкший за собой проверку от Национального научно-консультативного совета по биобезопасности США.↩

  5. В опросе 2008 года медианной экспертной оценкой была 10% вероятность того, что миллиард людей погибнет по причине искусственной пандемии до 2100 года, а также 2% шанс того, что искусственная пандемия приведёт к вымиранию человечества. При этом авторы подчёркивают, что этим оценкам не стоит полностью доверять по различным причинам. Тем не менее, аргументы вроде тех, что представлены в нашей статье, придают этим цифрам сравнительную правдоподобность.↩

  6. В работе Люка Мюльхаузера на тему индустриальной революции, где также обсуждаются некоторые из самых смертоносных событий в истории, автор в частности рассматривает данные для Чёрной смерти и других эпидемий. Мюльхаузер резюмирует: "Самый распространённый взгляд заключается в том, что где-то 1/3 населения Европы погибла в результате Чёрной смерти, начиная от 75-80 миллионов человек. Однако диапазоном правдоподобных оценок будет 25%-60%." См. сноску 1 из таблицы Мюльхаузера с оценками глобальной смертности от различных исторических событий.↩

  7. В книге "На краю пропасти: Экзистенциальный риск и будущее человечества" Тоби Орд оценивает шанс вымирания человечества в следующие 100 лет от биологического организма как 1 из 30. Тоби обсуждает этот и другие потенциальные риски на нашем подкасте, где мы разговариваем про его книгу. Также есть критический обзор "Пропасти", в котором утверждается, что этот риск гораздо ниже.↩

  8. Здесь мы приводим доводы в пользу работы над ГКБР. Однако вопрос того, стоит ли вам строить свою карьеру вокруг решения этой проблемы, зависит (помимо всего прочего) от вашей личной совместимости с данной областью, а также от того, как эта область соотносится с другими направлениями работы, которые вам доступны. Например, Грег Льюис отмечает, что работа по обеспечению безопасности и полезности ИИ выглядит на порядки более недооценённой, чем работа над ГКБР, и по крайней мере столь же важной для защиты будущего человечества. Из этого следует, что если ваши условия и личная совместимость одинаково позволяют вам заниматься и тем и другим, то работа над безопасным и полезным ИИ, скорее всего, будет лучшим выбором. (Конечно, есть также и множество других направлений, которые могут ещё лучше вам подходить.)↩

  9. The only existing agreement — the Biological Weapons Convention (BWC) — lacks resources and has no verification or enforcement power. (Learn more about weaknesses of the BWC under ' State actors and the Biological Weapons Convention' in our full profile on GCBRs.)↩

  10. Much has been written on specific technologies. For example, Broad-Spectrum Antiviral Agents: A Crucial Pandemic Tool (2019). A number of the podcast episodes listed above discuss some of the most promising ideas, as do many of the papers in the "Other resources" section above.↩

  11. Greg Lewis estimates that a quality-adjusted ~1 billion USD is spent annually on GCBR reduction. Most of this comes from work that is not explicitly targeted at GCBRs, but is rather disproportionally useful for reducing them. The US budget for health security in general is ~14 billion. Worldwide the budget is probably something like double or triple that, so spending that's particularly helpful for GCBR reduction is probably just a few percent of the total; the spending for explicit GCBR reduction would be much less. See the relevant section of our GCBR profile, including footnote 21. 文

    Why might people focus less on work targeted toward GCBRs, even though they are the risks of the worst catastrophes? One answer is that people with the power to allocate resources are not sufficiently aware of GCBRs, or think that they are extremely low. Another answer is short-term thinking: since the technologies most worrying for GCBRs haven't yet been fully developed, it's very unlikely we'll see a biological catastrophe in the next few years; people subject to political and other pressures to prioritise the near future may therefore be less inclined to focus on them. Finally, GCBRs are a type of ' public good' problem, so we generally have reason to expect them to be somewhat neglected. Read more.↩

  12. How useful more targeted work is for reducing GCBRs vs growing the broader field of biosecurity and pandemic preparedness is a matter of debate. In a recent podcast episode, Marc Lipsitch argued that the best way to address GCBRs may be to simply build up the broader field, because of the substantial overlap between biological threats of all sizes and the tools needed to combat them. In our writeup on reducing GCBRs, Greg Lewis suggested that this strategy — which he calls "buying the index" of conventional biosecurity — would probably be less effective than trying to complement the existing portfolio with work that's particularly important for reducing GCBRs. 文

    We suspect Greg's view is closer to the truth, though it's not obvious, and Greg also expresses uncertainty on the matter. We have a general heuristic: all else equal, a more targeted intervention -- one whose primary goal is to make progress on a smaller number of issues -- is likely to have a bigger effect on those issues than a less targeted intervention that has more goals. In pursuing the less targeted intervention, you can face more tradeoffs between the different goals, which can reduce your impact on each one considered separately. 文

    Furthermore, with regard to this particular case: the people who have shaped the broader field of biosecurity and pandemic preparedness seem to have generally been optimising for reducing the risks of smaller, more likely pandemic outbreaks. It would be surprising if in doing so they also optimised the field for reducing GCBRs, such that just building the field in general was the best thing someone could do to reduce GCBRs. 文

    That said, because there's already a lot of support for the kinds of interventions favoured by the broader field, including interventions that do reduce GCBRs, it could in some cases be higher impact to expand the field or in some other way make it more effective at achieving its goals. For example, if you could manage to expand the entire field by 1% in terms of funding and labour, that might easily be better than a more targeted project aimed at reducing GCBRs. 文

    Indeed, Greg also guesses that it's sometimes better to complement the existing biosecurity portfolio with work that's especially useful for reducing GCBRs (but which is also helpful for addressing threats of less severe events) than it would be to explicitly target reducing GCBRs. This suggests that the argument for targeting interventions can be taken too far.↩

  13. How to prevent the next unknown would-be pandemic is, of course, an existing field of research. The COVID-19 pandemic may raise this field's profile, or it might lower it. This depends on whether enough people are inspired to focus on preventing anything like COVID-19 (or worse) from happening in the future, or if the large majority of people prioritise combating the current crisis. The publication of this New York Times Magazine article suggests that there is mainstream interest in pursuing more broad prevention efforts.↩

  14. Open Philanthropy generally doesn't aim to provide 100% of an organisation's funding, as doing so might make the organisation too dependent on them alone. This creates a need for smaller donors to match or 'top up' their funding.↩

  15. Open Philanthropy is the leading foundation we know of that takes an ' effective altruism' approach to giving. You can learn more about their mindset and research by listening to interviews with current and former research staff, or by looking through their database of grants. 文

    Because of Open Philanthropy's research capacity, we find that one of the most efficient ways to donate effectively is to simply 'top up' their grants -- filling the funding gap left by their grants to organisations they've selected. Read more about this methodology.↩

  16. Это основные рекомендации по книгам от одного из наших консультантов по ГКБР. Мы также слышали, что людям, интересующимся вопросами биобезопасности, стоит обратить внимание на следующие книги: Germs: Biological Weapons and America's Secret War; Pandemic: Tracking Contagions, from Cholera to Ebola and Beyond; Spillover: Animal Infections and the Next Pandemic; The Pandemic Century: One Hundred Years of Panic, Hysteria, and Hubris; The Viral Storm: The Dawn of a New Pandemic Age; а также Deadliest Enemy: Our War Against Killer Germs.↩