Motivation

Was sind globale katastrophale biologische Gefahren?

Unter globalen katastrophalen Gefahren (engl.: Global Catastrophic Risk(s) = GCR(s)) versteht man grob gesagt Gefahren, die eine fundamentale Bedrohung, sowohl für das weltweite menschliche Wohlergehen als auch für die langfristige Entwicklung unserer Spezies, darstellen.¹ Existenzielle Gefahren sind die extremsten Vertreter dieser Klasse. Globale katastrophale biologische Gefahren (GBCRs) sind ein Sammelbegriff für jede Art von Gefahr, die im weitesten Sinne biologischer Natur ist (z. B. eine verheerende Pandemie).

Ich schreibe aus einer weitgehend longtermistisch ausgerichteten Perspektive. Kurz gesagt vertritt der Longtermism, dass es von großer moralischer Bedeutung ist, wie sich die Zukunft der Menschheit entwickelt, und dass daher der Versuch, diese Zukunft zu verbessern, ein Hauptziel unserer ethischen Entscheidungen sein sollte (mehr dazu hier).² Betrachtet man biologische Gefahren aus dieser Perspektive, so ist die primäre Frage, ob ein bestimmtes Ereignis die langfristige Entwicklung der Menschheit bedroht. Diese Frage ist viel schwieriger zu beurteilen als die Frage, ob das gleiche Ereignis eine Bedrohung für das globale Wohlergehen der Menschheit darstellt. Ich vermute, dass die „Schwelle“, ab der ein biologisches Ereignis die menschliche Zivilisation bedroht, sehr hoch liegt: ein grober Indikator ist eine Todesrate von 10 % der Weltbevölkerung, eine ungefähre Obergrenze aller im Laufe der Menschheitsgeschichte beobachteten Katastrophen.

Daher bin ich der Meinung, dass einige biologische Katastrophen, selbst wenn sie gravierend und von globalem Ausmaß sind, nicht als GCBRs gelten. Ein Beispiel ist die antimikrobielle Resistenz (AMR): AMR verursacht weltweit großes menschliches Leid und droht zu einem noch größeren Problem zu werden, und dennoch halte ich sie nicht für eine plausible GCBR. Ein Versuch, das Worst-Case-Szenario von AMR zu modellieren, ergab die Schätzung, dass innerhalb von 35 Jahren 100 Millionen Menschen sterben und das globale BIP um 2% bis 3,5% sinken würde.³ Obwohl dieses Szenario katastrophale Einschnitte für das weltweite menschliche Wohlergehen bedeuten würde, glaube ich nicht, dass es die Macht besitzt, die Zukunft der Menschheit ernsthaft zu gefährden.

Natürlich würde eine Pandemie, die weniger als 10 % der menschlichen Bevölkerung tötet, immer noch zu den schlimmsten Ereignissen in der Geschichte unserer Spezies gehören. Nehmen wir die derzeitige COVID-19-Pandemie als Beispiel, die sich bereits zu einer gravierenden humanitären Krise entwickelt hat und droht, noch viel schlimmer zu werden, auch wenn es sehr unwahrscheinlich ist, dass sie unser Fortbestehen als Menschheit (definiert nach dem eingangs erwähnten Schwellenwert) gefährdet. All dies soll nicht heißen, dass wir nicht enorme Ressourcen aufwenden sollten, um solche Katastrophen abzumildern und in Zukunft zu verhindern.

Der Grund, warum wir uns hier auf Ereignisse konzentrieren, die einen größeren Teil der Bevölkerung töten, ist erstens, dass sie nicht allzu unwahrscheinlich sind, und zweitens, dass der durch sie verursachte Schaden noch bedeutend größer ausfallen könnte — und womöglich dauerhafter.

Dies alles spielt eine entscheidende Rolle, wenn wir uns fragen, welche Bedeutung wir GCBRs beimessen wollen, sowohl im Allgemeinen als auch in der Auswahl der dringlichsten Maßnahmen. Ferner sind diese Ereignisse sehr umstritten: Manche setzen die „Schwelle“, ab der ein Ereignis eine glaubwürdige Bedrohung für die menschliche Zivilisation darstellt deutlich höher an, als ich es hier tue (und sehen das Risiko, dass ein biologisches Ereignis diese Schwelle tatsächlich überwindet, als äußerst gering an). Andere gehen davon aus, dass die Katastrophe viel niederschwelliger eintreten könnte (oder wir zumindest andere Indikatoren einbeziehen sollten), so dass ein breiteres oder anderes Spektrum von Risiken Gegenstand des Longtermism sein sollte.⁴ Zu all dem aber später mehr.

Die Plausibilität von GCBRs

Die Behauptung, dass GCBRs eine glaubwürdige und dringende Bedrohung für die Menschheit darstellen, stützt sich auf einige unterschiedliche Beweisquellen. Keine davon ist ganz eindeutig.:

1. Expert:innen äußern sich besorgt über biologische Gefahren im Allgemeinen, und es gibt Hinweise darauf, dass sich einige dieser Stimmen explizit auf die Möglichkeit von GCBRs beziehen (andere Expert:innen sind jedoch skeptisch).

2. Historische Belege für „Beinahe-GCBR“-Ereignisse liefern eine Art „Grundsatzbeweis“ dafür, dass die Zukunft noch verheerendere Ereignisse bereithalten könnte (Allerdings hat uns keines dieser Beinahe-Ereignisse an den Rand des Aussterbens gedrängt oder erkennbare langfristige Spuren hinterlassen, die an das Ausmaß einer GCBR heranreichen).

3. Beunruhigende Aspekte der fortschreitenden Biotechnologie.

4. Numerische Schätzungen und Hochrechnungen (die Hochrechnungen sind jedoch äußerst unsicher).

Expert:innenmeinung

Verschiedene Gemeinschaften von Expert:innen haben auf die Gefahr einer biologischen Katastrophe gigantischen Ausmaßes hingewiesen und festgestellt, dass die vorhandenen Mittel zur Verhinderung und Eindämmung dieser Gefahr unzureichend sind.⁵

Doch wie bereits erwähnt, würden nicht alle großen Ereignisse eine GC(B)R darstellen. In welche Richtung die Expert:innenmeinungen über die Wahrscheinlichkeit solcher Ereignisse deuten, ist schwer festzustellen, obwohl ich den Eindruck habe, dass diese Themen mit großer Skepsis betrachtet werden.⁶ Die einzige mir bekannte Umfrage in der Expert:innen zu diesem konkreten Thema interviewt wurden, ist eine Studie über globale Katastrophenrisiken aus dem Jahr 2008. Im Folgenden ist jeweils die Wahrscheinlichkeit angegeben, die die Expert:innen dem Eintreten eines gegebenen Ereignisses vor dem Jahr 2100 zuschreiben:

Tabelle 1: Ausgewählte Risikoschätzungen aus der Umfrage von 2008 (angegeben ist der Median aller gesammelten Schätzungen)

	Mind. 1 Mio. Tote	Mind. 1 Mrd. Tote	Aussterben der Menschheit
Anzahl der Todesopfer der größten künstlich ausgelösten Pandemie	30%	10%	2%
Anzahl der Toten bei der größten natürlichen Pandemie	60%	5%	0,05%

Diese Daten sollten mit Bedacht beurteilt werden. Wie Millett und Snyder-Beattie (2017) anmerken:

Der Nachteil ist, dass die Schätzungen womöglich höchst subjektiv und unzuverlässig waren, zumal die Umfrage keine Antwortverzerrungen berücksichtigt hat und die Befragten nicht im Voraus kalibriert wurden.

Auch zeigen die Rohdaten eine beträchtliche Schwankung der Schätzungen⁷, wobei Ungenauigkeiten bei Risikoschätzungen im Allgemeinen Grund zu noch größerer Sorge bieten.

„Beinahe-GCBR-Ereignisse“ in historischen Aufzeichnungen

Dass ein „natürlich entstandenes“ biologisches Ereignis die Menschheit auslöschen wird, scheint unwahrscheinlich. Das restlose Aussterben einer Spezies durch Krankheitserreger ist in der Naturgeschichte äußerst selten und seit dem Aufkommen des archaischen Homo Sapiens vor ca. 200.000 Jahren ist die Menschheit von einem solchen Ereignis verschont geblieben. Ein Blick in die historischen Aufzeichnungen spricht außerdem gegen ein bedeutendes Risiko für „natürlich entstandene“ GCBRs (dazu später mehr). Dennoch gibt es in der Geschichte vier Ereignisse, die in gewisser Weise einer globalen biologischen Katastrophe ähneln und somit die grundsätzliche Gefahr verdeutlichen⁸:

1. Justinianische Pest (541-542 n. Chr.): Es wird angenommen, dass die Justinianische Pest in Asien auftrat, bevor sie sich im byzantinischen Reich, rund um das Mittelmeer ausbreitete. Man geht davon aus, dass der erste Ausbruch ca. 6 Millionen Menschen tötete (~ 3% der Weltbevölkerung).⁹ Auch spielte er eine entscheidende Rolle in der Umkehrung der Gebietsgewinne des byzantinischen Reiches um das Mittelmeer herum sowie (möglicherweise) des Erfolgs seines Gegners in den nachfolgenden arabisch-byzantinischen Kriegen.

2. Der Schwarze Tod (1335-1355 n. Chr.): Schätzungen zufolge starben 20 bis 75 Millionen Menschen (~ 10% der Weltbevölkerung) an den Folgen dieser Pestwelle, und man geht davon aus, dass sie tiefgreifende Auswirkungen auf den weiteren Verlauf der europäischen Geschichte hatte.

3. Kolumbianischer Austausch (1500-1600 n. Chr.): Eine Reihe von Pandemien (u. a. wahrscheinlich Pocken und Paratyphus), die von den europäischen Kolonisten eingeschleppt wurden, töteten große Teile der eingeborenen Bevölkerung: Man geht davon aus, dass diese Pandemieserie im Verlauf des 16. Jahrhunderts maßgeblich zum Tod von 80% der eingeborenen Bevölkerung Mexikos beigetragen hat. Es wird angenommen, dass andere Gruppen in Amerika unter einer noch stärkeren Entvölkerung litten — mit einer proportionalen Sterblichkeit (Der Anteil an der Gesamtsterblichkeit, der auf eine bestimmte Krankheit oder Gruppe von Krankheiten zurückzuführen ist) von bis zu 98 %.¹⁰

4. Die Spanische Grippe (1918 n. Chr.): Eine Pandemie, die sich fast über den gesamten Globus ausbreitete und 50 bis 100 Millionen Menschen tötete (2,5 bis 5% der Weltbevölkerung) — womöglich mehr als die beiden Weltkriege.

COVID-19, das von der Weltgesundheitsorganisation am 11. März 2020 zur globalen Pandemie erklärt wurde, hat der Menschheit bereits schweren Schaden zugefügt und wird dies, aller Voraussicht nach, leider noch weiter tun. Glücklicherweise scheint es unwahrscheinlich, dass uns diese gegenwärtige Pandemie in gleichem Maße treffen wird, wie die vorgenannten historischen Plagen.

Es ist wichtig zu erwähnen, dass alle Schlüsse, die wir über die Effekte der oben genannten Ereignisse ziehen, höchst ungewiss sind, denn:

• Die Bevölkerungsstatistiken sind bestenfalls lückenhaft (1918), oder fehlen gänzlich. Historische Bevölkerungsentwicklungen (von Sterblichkeitsraten oder proportionaler Sterblichkeit mal ganz abgesehen) unterliegen sehr ungenauen Schätzungen.
• Behelfsindikatoren (z. B. historische Berichte, Archäologie) sind nicht besonders verlässlich, so dass vieles auf Vermutungen und Hochrechnungen beruht (z. B. „Die Befunde deuten darauf hin, dass in der europäischen Stadt X ca. Y% der Bevölkerung an der Pest starben“ — wie soll man dies auf die Bevölkerung Asiens übertragen?).
• Einem Ausbruch bestimmte historische Folgen zuzuschreiben, ist höchst anfechtbar: Ereignisse, die sich zur gleichen Zeit abgespielt haben, könnten womöglich alternative (oder dominierende) Erklärungen darstellen.

Doch selbst wenn man die mutmaßlichen Auswirkungen dieser Plagen für bare Münze nimmt, weist jede von ihnen Merkmale auf, die sie als „echte“ globale Katastrophe disqualifizieren könnte. So befielen die ersten drei zwar einen substanziellen Teil der Menschheit, andere Bevölkerungsgruppen blieben jedoch völlig unversehrt (es bestand eine stabile Trennung zwischen den Einwohnern Eurasiens und Amerikas). Und obschon die Spanische Grippe sehr viele Todesopfer forderte und den gesamten Globus traf, tötete sie einen vergleichsweise geringen Teil der damaligen Weltbevölkerung und hatte recht begrenzte historische Auswirkungen. Hingegen hatte der Kolumbianische Austausch eine hohe proportionale Sterblichkeit und verheerende Auswirkungen auf die betroffenen Zivilisationen. Da die Amerikas jedoch dünn besiedelt waren und die europäischen Kolonialisten gleichzeitig starkes Bevölkerungswachstum erlebten, fiel der Effekt auf die Weltbevölkerung als Ganzes gering aus.

Auch wenn es sich bei diesen historischen Fällen nicht um „echte“ GCBRs handelt, so könnte man sie vielleicht am ehesten als Beinahe-GCBRs einstufen. Sie legen nahe, dass bestimmte Merkmale einer globalen Katastrophe (z. B. Zusammenbruch der Zivilisation, hohe proportionale Sterblichkeit) durch biologische Ereignisse ausgelöst werden können. Weiterhin zeigt uns der aktuelle COVID-19-Ausbruch leider allzu deutlich, dass sich Krankheiten auch heute, trotz all unserer Eindämmungsversuche, über die ganze Welt ausbreiten können. Es scheint kein Naturgesetz zu geben, das verhindert, dass ein künftiges Szenario noch extremer ausfallen oder die schlimmsten Merkmale der oben genannten Ereignisse in sich vereinen könnte (auch wenn es unwahrscheinlich ist, dass ein solches Ereignis auf natürliche Weise eintritt).

Ob die Wahrscheinlichkeit „natürlicher“ biologischer Katastrophen zunimmt oder abnimmt, ist unklar

Bei den oben genannten Fällen handelt es sich um „natürlich“ auftretende Pandemien, die sich in Zeiten geringer technologischer Möglichkeiten ereigneten. Ob der spätere technische Fortschritt diese Gefahr vergrößert oder verringert hat, ist unklar.

Gute Daten sind schwer zu finden: Die Belastung durch endemische Infektionskrankheiten ist tendenziell rückläufig, aber das gibt wenig Sicherheit darüber, ob auch die schlimmsten Fälle unwahrscheinlicher werden. Einen Hinweis liefert eine weltweite AIR-Studie, die abschätzt, welche Auswirkungen ein Ausbruch der Spanischen Grippe (1918) heutzutage hätte. Diesem Modell zufolge wären die absoluten Todeszahlen zwar ähnlich (mehrere zehn Millionen), aber da die Wahrscheinlichkeit an der Infektion zu sterben heute ca. 90 % geringer ist, läge die proportionale Sterblichkeit der Weltbevölkerung weit unter der von 1918.

Ausgehend von grundsätzlichen Überlegungen, könnte das Pendel in beide Richtungen ausschlagen.

Gründe für sinkende Gefahr durch natürliche GCBRs:

• Eine gesündere (und geografisch breiter verteilte) Bevölkerung.
• Bessere Hygiene und sanitäre Einrichtungen.
• Das Potenzial für wirksame Impfungen und Therapeutika.
• Ein besseres Verständnis der Mechanismen der Krankheitsentstehung und -übertragung.

Gründe für steigende Gefahr durch natürliche GCBRs:

• Handel und Flugverkehr ermöglichen eine viel schnellere und großflächigere Verbreitung.¹¹ So scheint beispielsweise der Flugverkehr eine große Rolle bei der Verbreitung von COVID-19 gespielt zu haben.
• Der Klimawandel kann (neben anderen Auswirkungen) die Wahrscheinlichkeit des Auftretens neuer zoonotischer Krankheiten erhöhen.
• Eine höhere Bevölkerungsdichte.
• Das hohe Aufkommen von Haus- und Nutztieren bietet ein größeres Reservoir für Krankheiten.

Es gibt viele weitere relevante Überlegungen. In der Zusammenschau ist mein (sehr unsicherer) Eindruck, dass die Gefahr natürlicher GCBRs zurückgegangen ist.

Künstliche GCBRs sind sehr gefährlich und werden immer wahrscheinlicher

„Künstliche“ GCBRs erregen aufgrund der derzeit fortschreitenden biotechnologischen Entwicklungen und der damit wachsenden Risiken von Missbrauch zunehmend Besorgnis.¹² Die derzeitige Situation (und die plausiblen Prognosen über ihre künftige Entwicklung) weist alarmierende Merkmale auf, die den versehentlichen oder vorsätzlichen Missbrauch von Biotechnologie zu einer ernstzunehmenden globalen Gefahr machen.

Die Neuauflage der schlimmsten historischen Ausbrüche

Polio, die Grippepandemie von 1918 und zuletzt die Pferdepocken (eng verwandt mit den Pocken) konnten bereits vollständig künstlich hergestellt werden und die Gensequenz all dieser Krankheitserreger (und vieler anderer) ist öffentlich zugänglich. Ferner könnten der Fortschritt und die Demokratisierung der Biotechnologie auch rücksichtslose oder böswillige Menschen auf den Plan rufen.¹³ Diese prekären Umstände könnten zu einer raschen (und wiederholten) Nachbildung derjenigen Organismen führen, die historisch den größten Schaden anrichteten.

Konstruierte Krankheitserreger könnten noch gefährlicher sein

Neben der Möglichkeit der Nachbildung erlaubt uns die moderne Biotechnologie, Krankheitserreger zu synthetisieren, die weitaus gefährlicher sind als ihre naturgeschichtlichen Vorgänger. Die Evolution ist bekanntermaßen kurzsichtig. Ihr unmittelbares Ziel ist die Steigerung reproduktiver Fitness, nicht die maximale Schädigung einer bestimmten Spezies (vgl. optimale Virulenz). Es ist nur schwer vorstellbar, dass die Natur selbst sich als unübertroffene „Bioterroristin“ erweisen wird. Die Bedrohung, die von der Synthese völlig neuer Krankheiten ausgeht, könnte die des evolutionären Zufalls in den Schatten stellen.

Hinweise darauf finden sich in der wissenschaftlichen Literatur. „Gain-of-Function“-Experimente an Influenzaviren deuten darauf hin, dass durch künstlichen Selektionsdruck Erreger mit gefährlicheren Eigenschaften entstehen können.¹⁴ Hinzu kommen Fälle, in denen die tierischen Pendants potenzieller Pandemieerreger gentechnisch verändert wurden, um die Wirksamkeit bestehender Impfstoffe zu verringern.

Bei den hier genannten Beispielen kamen Techniken zum Einsatz, die weit hinter dem aktuellen Stand der Biotechnologie zurückliegen. Außerdem wurden diese Fälle mehr oder weniger „zufällig“ von Wissenschaftler:innen erzeugt, die keine bösen Absichten hegten. Die Tatsache, dass es Personen durch moderne Biotechnologie möglich ist, gezielt neue oder veränderte Krankheitserreger zu produzieren, ist umso erschreckender.

Wie wir die Natur übertreffen

Die natürliche Selektion setzt enge Grenzen dafür, welches Leben sich auf unserem Planeten entwickelt. Nur Organismen, die eine gewisse Überlebensfähigkeit aufweisen, können sich über die Zeit behaupten. Folglich ist der Teil der Biologie, der zur Zeit beobachtbar ist, nur ein winziger Teil der biologischen Systeme, die generell möglich sind.¹⁵ Die Biotechnologie könnte damit beginnen, diesen viel breiteren Raum zu erforschen.

Ein Beispiel sind Enzyme: Proteine, die biologische Reaktionen katalysieren. Das Repertoire an biochemischen Reaktionen, die von natürlichen Enzymen katalysiert werden, ist relativ klein, und aufgrund des begrenzten Selektionsdrucks oder „kurzsichtiger Evolution“ sind nur wenige für eine sehr hohe Leistung optimiert.¹⁶ Enzym-Engineering ist ein relativ neues Gebiet, das jedoch bereits Enzyme hervorgebracht hat, die neuartige Reaktionen (1, 2, 3) und Modifikationen bestehender Enzyme mit verbesserter katalytischer Leistung und Thermostabilität katalysieren (1, 2).

Ähnliches ist für andere Aspekte der Biologie beschrieben und zusammengenommen deuten diese Entwicklungen auf das Potenzial nie dagewesener biologischer Fähigkeiten hin. Die Annahme, dass dieses enorme Potenzial ungeahnter biologischer Möglichkeiten mit ausschließlich vertrauten Gefahren einhergeht, scheint allzu optimistisch zu sein.

Numerische Schätzungen

Millett und Snyder-Beattie (2017) bieten eine Reihe verschiedener Modelle an die das Risiko der Menschheit, durch einen Krankheitserreger auszusterben, abbilden:

Tabelle 2: Schätzungen des biologischen Aussterberisikos¹⁷

Modell	Mind. 1 Mrd. Tote	Methode (skizzenhaft)
Krankheitserreger mit Pandemie- Potenzial	0,00016% bis 0,008%	0,01 bis 0,2% jährliches Risiko einer globalen Pandemie durch versehentliche Freisetzung in den USA. → Mit 4 multipliziert, um das weltweite Risiko abzuschätzen. → Mit 2 multipliziert, um die Möglichkeit beabsichtigter Freisetzung zu berücksichtigen. → Risiko der Ausrottung durch eine Pandemie: 1 zu 10000
Potenzgesetz (Bioterrorismus)	0,014%	Skalenparameter von ~0,5 Risiko von 5 Milliarden Todesfällen = (5 Milliarden)-0,5 = 0.000014 → 10%ige Chance, dass 5 Milliarden Todesfälle zum Aussterben führen.
Potenzgesetz (Biokriegsführung)	0,005%	Skalenparameter von ~0,41 Risiko von 5 Milliarden Todesfällen = (5 Milliarden)-0,41 = 0.0001; Ein Krieg alle 2 Jahre. → 10%ige Chance, dass die Massensterblichkeit durch biologische Ursachen ausgelöst wird, 10%ige Chance auf Ausrottung.

Diese groben Näherungen könnten auch zu niedrig angesetzt sein. Das liegt zum einen an den recht konservativen Annahmen in den Modellen, zum anderen daran, dass die drei Szenarien das breite Feld der möglichen Risiken nicht vollständig abbilden und dass die Hochrechnung aus historischen Daten nicht an Trends angepasst ist, die das Risiko (meiner Meinung nach insgesamt) erhöhen.

Die Hauptquelle der Ungewissheit ist jedoch der extrem große Sprung in der Hochrechnung: Potenzgesetz-Annahmen führen zu einer sehr endlastigen Verteilung, in diesem Bereich kann diese Verteilung jedoch signifikant durch andere Faktoren beeinflusst werden (entweder in Bezug den Typen- oder den Skalenparameter). Die Modelle werden hier (grob) in eine ungefähre Schätzung umgewandelt.¹⁸

GCBRs könnten sowohl vernachlässigt als auch lösbar sein

Selbst wenn GCBRs ein „großes Problem“ sind, bedeutet dies nicht automatisch, dass sich mehr Menschen damit befassen sollten. Einige große Probleme sind sehr schwer zu lösen, oft weil sie bereits von vielen anderen angegangen werden oder weil es keine guten verfügbaren Interventionen gibt.¹⁹

Die Sorge um die GCBRs — die zum großen Teil von einem kosmopolitischen Interesse an der Weltbevölkerung und einem Gefühl der Verantwortung für die langfristige Zukunft getragen wird, einer Sorge, die sich größtenteils an den Interessen von bisher nonexistenten Menschen orientiert — hat noch große Hürden zu überwinden.

Dies scheint auf GCBRs nicht zuzutreffen. Es gibt gute Gründe für die Annahme, dass dieses Problem auch weiterhin vernachlässigt wird; bei der Untersuchung des Bereichs finden sich schnell Hinweise auf mangelnde Förderung, Fehlallokationen und Beispiele für offenbare Defizite.

Die Erwartungen sind a priori niedrig

Die menschliche Kognition, geformt durch die Anforderungen der Umwelt unserer Vorfahren, ist möglicherweise schlecht an die modernen Herausforderungen angepasst. Yudkowsky gibt einen Überblick über Heuristiken und kognitiven Verzerrungen, die uns leicht in die Irre führen: Für unseren Verstand scheinen GC(B)Rs durch ihre Seltenheit, Unvorhersehbarkeit und ihre enormen Auswirkungen ein trügerisches Thema zu sein, das wir leicht unterschätzen.

Manchmal können Entscheidungen, die von größeren Gruppen getroffen werden, diese individuellen Fehler abmildern. Aber das breitere soziale und politische Umfeld stellt seine eigenen Herausforderungen dar. Es kann beispielsweise zu einer Divergenz der Werte kommen: Ein Staat kann die eigene Zerstörung und die völlige Auslöschung der Menschheit als ähnlich schlimm ansehen, auch wenn sich das Ausmaß dieser beiden Ereignisse aus der Sicht der gesamten Menschheit stark unterscheidet. Werden Anreize falsch ausgerichtet, so kann dies den Fokus auf sehr kurze Zeiträume beschränken und engstirniges Denken fördern sowie eine Politik, die eher danach geht, welche Meinung am lautesten vorgetragen wird, statt herauszufiltern, welche tatsächlich mehr Gehör verdient.²⁰ Die Sorge um die GCBRs — die zum großen Teil von einem kosmopolitischen Interesse an der Weltbevölkerung und einem Gefühl der Verantwortung für die langfristige Zukunft getragen wird, einer Sorge, die sich größtenteils an den Interessen von bisher nonexistenten Menschen orientiert — hat noch große Hürden zu überwinden.

Im Wesentlichen liegen GC(B)Rs meist im toten Winkel unserer individuellen Weltsicht. Laut gängiger Theorien wird das Ziel, ihre Reduzierung zu einem globalen und generationenübergreifenden öffentlichen Gut zu erheben, von Märkten und politischen Systemen verfehlt werden.

Ein defizitär ausgerichtetes Portfolio

Im Allgemeinen werden sehr große Anstrengungen unternommen, um biologische Risiken abzumildern. Allein die US-Regierung hatte für 2019 Ausgaben in Höhe von rund 3 Mrd. US-Dollar für Biosicherheit geplant.²¹ Selbst wenn nur ein kleiner Teil davon „GCBR-relevant“ ist, erscheinen diese Mittel viel größer als die jährlichen Ausgaben für KI-Sicherheit, einem weiteren Schwerpunktbereich von 80,000-Hours, die lediglich im zweistelligen Millionenbereich liegen.

Nichtsdestoweniger kann man sowohl die gesammelten Bemühungen zur Vermeidung biologischer Katastrophen als auch die spezifischen Maßnahmen zur GCBR-Prävention als unzureichend bezeichnen. Millett und Snyder-Beattie (2017) stellen einen „Black-Box“-Ansatz zur Abschwächung von extrem verheerenden biologischen Katastrophen vor (z. B. „X Milliarden Dollar würden existentielle Gefahren von Biotechnologie um Y% reduzieren“). Unter Berücksichtigung der Tatsache, dass das Aussterben nicht nur alle derzeit lebenden Menschen tötet, sondern auch den Verlust aller zukünftigen Generationen bedeutet, geben sie die „Kosten pro QALY“ eines 250-Milliarden-Dollar-Programms, das existentielle Gefahr biologischen Ursprungs um 1% gegenüber ihren früheren Schätzungen reduziert (d. h. eine absolute Risikoreduzierung von 0,02 auf ~ 2/1.000.000 über ein Jahrhundert) mit 0,13 bis 1.600 US-Dollar an.²² Das bedeutet, Interventionen gegen GCBR sichern Lebensjahre kosteneffizienter als die marginalen Gesundheitsausgaben in reichen Ländern. Im Gegensatz dazu stehen die milliardenschweren Bemühungen zur Entwicklung und Bevorratung von Impfstoffen gegen Milzbrand.

Anschauliche Beispiele

Die folgenden beiden Beispiele zeigen behebbare Mängel im Bereich der GCBR-Prävention auf (auch wenn sie nicht unbedingt die besten Möglichkeiten darstellen) und deuten darauf hin, dass es viele Wege gibt, etwas zu verändern.

Staatliche Akteure und das Biowaffenübereinkommen

Biologische Waffen sind für staatliche Akteure aus verschiedenen Gründen attraktiv: Sie stellen ein neuartiges Angriffsmittel dar, sind schwer zuzuordnen und können als strategisches Abschreckungsmittel verwendet werden, das leichter zugänglich ist als Atomwaffen (auch wenn sie diesen unterlegen sind).²³ Der Trend des biotechnologischen Fortschritts kann diese attraktiven Eigenschaften noch verstärken, sodass der vorsätzliche Missbrauch durch staatliche Akteure, die biologische Waffen entwickeln und einsetzen, eine plausible GCBR darstellt (neben anderen Risiken, die zwar nicht „global katastrophal“ im Sinne der vorstehenden Definition, aber dennoch extrem schlimm sind).

Der wichtigste Schutz gegen die Verbreitung biologischer Waffen unter den Staaten ist das Biowaffenübereinkommen (BWÜ). Von 197 Vertragsstaaten, die das BWÜ ratifizieren konnten, haben dies 183 getan. Dennoch haben einige Staaten, die das BWÜ unterzeichnet oder ratifiziert haben, geheime Biowaffenprogramme verfolgt. Das bekannteste Beispiel war das Biopreparat-Programm der UdSSR²⁴, das auf seinem Höhepunkt Milliarden schluckte, Zehntausende von Menschen in einem Netzwerk geheimer Einrichtungen beschäftigte und auch nach der Unterzeichnung des BWÜ durch die UdSSR weitergeführt wurde.²⁵ Zu den Aktivitäten gehörten angeblich die industrielle Produktion von waffenfähigen Erregern wie Pest, Pocken und Milzbrand sowie die erfolgreiche Entwicklung von Krankheitserregern mit erhöhter Tödlichkeit und Mehrfachresistenz gegen Therapeutika.²⁶ Es wird weithin vermutet, dass es noch weitere vergangene und andauernde Verstöße in einer Reihe von Ländern gegeben hat.²⁷

Das BWÜ steht vor anhaltenden Schwierigkeiten. Eine davon ist die Verifizierung: Dem Übereinkommen fehlen Mechanismen, mit denen die Länder ihre Einhaltung nachweisen können²⁸ und die technische und politische Durchführbarkeit einer solchen Verifizierung ist problematisch — ebenso fehlt ein System für die Durchsetzung der Maßnahmen. Eine weitere Problemquelle ist, dass Staaten Abrüstungsverträge (einschließlich des BWÜ) als Druckmittel für andere politische Ziele nutzen können: Entscheidungen müssen einstimmig getroffen werden, und so endete die achte Überprüfungskonferenz im Jahr 2017 aufgrund der Unnachgiebigkeit eines Staates ohne Einigung.²⁹ Schließlich (und dies ist vielleicht am schwerwiegendsten) kämpft das BWÜ mit Ressourcenmangel; es hat etwa drei Vollzeitmitarbeiter:innen, ein Budget, das kleiner ist als das eines durchschnittlichen McDonalds-Restaurants und viele Staaten kommen ihren finanziellen Verpflichtungen nicht nach: Das Treffen der Vertragsstaaten war 2017 nur dank der Überzahlung einiger Staaten möglich, und das Treffen 2018 musste wegen unzureichender Mittel um einen Tag verkürzt werden.³⁰

Bedenkliche Dual-Use-Research

Die „Gain-of-Function“-Grippe-Experimente sind ein Beispiel für die bedenkliche Forschung mit doppeltem Verwendungszweck (engl.: dual use research of concern (DURC)): Forschung, deren Ergebnisse das Potenzial haben, missbräuchlich verwendet zu werden. Die De-novo-Synthese der Pferdepocken ist einer der jüngsten Fälle. Eine verantwortungsvolle Handhabung von DURC bleibt nach wie vor mehr Wunsch als Wirklichkeit.

Die Entscheidungsgewalt darüber, ein risikoreiches Experiment durchzuführen oder nicht, obliegt größtenteils den einzelnen Forschenden. Weiterhin könnten die typischen wissenschaftlichen Normen von freier Forschung ungeeignet sein für Projekte, bei denen es potenziell um globale Gefährdungen geht, die jenseits des Horizonts individueller Überlegungen liegen. Selbst im besten Fall, wenn also die wissenschaftliche Gemeinschaft nur aus Personen mit besten Intentionen für die Welt besteht, führt die Unabhängigkeit der Entscheidungsfindung zu einer gefährlichen Einseitigkeit (dem sogenannten „Fluch des Unilateralismus“): Die Entscheidung darüber, ob etwas nun getan werden sollte oder nicht, fällt stets der/die „optimistischste Ausreißer:in“, da es nur eine einzige Person braucht, die fälschlicherweise glaubt, dass etwas getan werden sollte, damit es getan wird — auch wenn es alles andere als ratsam wäre, es zu tun.

In Wirklichkeit gibt es für Wissenschaftler:innen neben dem öffentlichen Interesse noch andere Anreize (z. B. Veröffentlichungen, Patente). Dies treibt die wissenschaftliche Gemeinschaft dazu, alle zugänglichen Entdeckungen so schnell wie möglich zu machen, auch wenn die sich daraus ergebende Reihenfolge der Entdeckungen aus Sicht des öffentlichen Wohls nicht die beste ist: Sicherheitsfördernde Entdeckungen den (leichter zugänglichen) gefährlichen Entdeckungen vorzuziehen, würde unsere Welt deutlich sicherer machen (vgl. differentielle technologische Entwicklung).

Es kommt vor, dass einzelne Wissenschaftler:innen unverantwortlich oder rücksichtslos handeln. Als Ron Fouchier zum ersten Mal seine Arbeit über Gain-of-Function der Vogelgrippe vorstellte, beschrieb er sie nicht im Sinne verantwortungsbewusster Vorsicht: Er sagte, dass er zunächst „das H5N1-Virus auf Teufel komm raus zum mutieren“ gebracht habe, um seine Übertragbarkeit unter Säugetieren zu fördern. Obwohl es sich erfolgreich an Säugetierzellen anlagerte, konnte es nicht von Säugetier zu Säugetier übertragen werden. Dann „überzeugte schließlich jemand [Fouchier] davon, etwas absolut hirnrissiges zu tun“ — nämlich Frettchen das mutierte Virus einzuimpfen, was letztendlich einen H5N1-Stamm hervorbrachte, der von Säugetier zu Säugetier übertragen werden konnte.³¹

Governance und Aufsicht können Risiken, die durch Schwächen oder Fehler von Individuen entstehen, abmildern. Die Erfolgsbilanz dieser präventiven Maßnahmen ist jedoch nicht ideal.

Eine grundsätzliche Herausforderung besteht darin, dass es keine klare Linie gibt, die man für alle Forschungsbereiche ziehen kann. Listenbasierte Ansätze wie die Listen der selektiven Erreger oder die sieben bedenklichen Experimente sind für die derzeitige und die sich abzeichnende Praxis zunehmend ungeeignet (zum Beispiel würde keine dieser Listen die Synthese von Pferdepocken „kennzeichnen“, da Pferdepocken nicht gelistet sind und die De-novo-Synthese an sich nicht zu den bedenklichen Experimenten gehört). Die Listen zu erweitern, nachdem neue Fälle nachgewiesen wurden, scheint keine erfolgreiche Strategie zu sein. Eine klare Alternative zu Listen liegt jedoch nicht vor: Die Folgen wissenschaftlicher Entdeckungen sind nicht immer ohne Weiteres vorherzusagen.

Selbst wenn es gelänge, ein zuverlässigeres „Sicherheitsnetz“ zu schaffen, gäbe es weiterhin Probleme mit seinem geografischen Geltungsbereich. Wer sich (aus welchen Gründen auch immer) mehr mit bedenklicher Forschung befassen will, kann an Orte auswandern, an denen weniger strenge Vorschriften gelten; selbst wenn eine Zeitschrift eine Veröffentlichung aus Gründen der öffentlichen Sicherheit ablehnt, ist ein erneuter Antrag bei einer anderen, weniger vorsichtigen, Zeitschrift möglich.³²

Dennoch sind diese Herausforderungen nicht unüberwindbar: Die Forschungspolitik kann an moderne Herausforderungen angepasst werden; Man kann die wissenschaftliche Gemeinschaft für Biosicherheitsfragen sensibilisieren und versuchen, schwarze Listen durch bessere Mittel zur Risikobewertung zu ersetzen (vgl. Lewis et al. (2019)); eine breitere intra- und internationale Zusammenarbeit kann einige der Gefahren rund um den Fluch des Unilateralismus abschwächen. In all diesen Bereichen gibt es bereits Bemühungen, die ohne Ausnahme noch weitere Verstärkung gebrauchen könnten.

Eindrücke zum Problembereich

Auch wenn die obigen Ausführungen nahelegen, dass GCBRs ein wichtiger Teil des „Longtermism-Portfolios“ sein sollten,³³ beantwortet dies weder die Frage, welche Priorität diesem Problembereich im Vergleich zu anderen Gebieten des Longtermism (z.B. KI-Sicherheit, nukleare Sicherheit) zukommen sollte, noch welche Bereiche unter der allgemeinen Überschrift „GCBRs“ am dringlichsten zu bearbeiten sind. Im Folgenden möchte ich einen Überblick über einige der wichtigsten Fragen rund um das Thema GCBRs geben und meine persönliche Einschätzung (sofern es mir möglich ist) als grobe Orientierung teilen.

Die größten Unsicherheiten

Was ist die Schwelle, ab der ein Ereignis eine globale Katastrophe auslösen kann?

Biologische Ereignisse variieren stark in ihrem Ausmaß und wie ein glaubwürdiges GCBR definiert werden soll, ist derzeit noch umstritten. Ich habe zuvor einen groben Indikator von „[dem Sterben von] 10% der Bevölkerung“ vorgeschlagen, der die fragliche Schwelle für GCBRs nahe der Obergrenze der in der menschlichen Geschichte beobachteten Ereignisse ansetzt.

Diesem Schwellenwert kommt eine Schlüsselrolle in den von mir angeführten Gefahrenabschätzungen zu: Ein niedrigerer Wert würde GCBRs eher in den Bereich „konventioneller“ Priorisierung bewegen, woraus folgen würde, dass wir unsere Anstrengungen vermehrt auf Ereignisse konzentrieren sollten, die einen deutlich geringeren Teil der Menschheit das Leben kosten könnten.
Umgekehrt würde eine höherer Schwellenwert bedeuten, dass wir uns fast ausschließlich auf Szenarien konzentrieren sollten, die noch weitaus mehr als 10% der Menschheit töten könnten.

Wie wahrscheinlich ist es, dass sich die Menschheit von einer globalen Katastrophe erholt?

Ich bin bisher davon ausgegangen, dass ein biologisches Ereignis, das den Zusammenbruch menschlicher Zivilisation nach sich zieht, gleichsam großen Schaden für die Zukunft der Menschheit bedeuten würde, sodass solche Risiken für Longtermist:innen (neben denen des restlosen Aussterbens der Menschheit) von großer Relevanz wären. Dies ist einleuchtend, aber nicht unbestreitbar.

Vieles hängt von der Resilienz der Menschheit gegenüber Katastrophen ab, die extrem groß sind, jedoch keine Aussterbeereignisse. Ein Ereignis, das 99% der Menschheit auslöscht, würde eine Bevölkerung von etwa 78 Millionen Menschen hinterlassen, ein Vielfaches der geschätzten prähistorischen Gesamtbevölkerung (die ihrerseits die 200.000 Jahre Urgeschichte überlebte, was auf eine angemessene Widerstandsfähigkeit gegenüber künftiger Bedrohungen hindeutet). Anders als in der Urgeschichte verfügen die Überlebenden einer „99%-Katastrophe“ höchstwahrscheinlich über viel größeres Wissen und einen besseren Zugang zu Technologien, sodass sie viel eher in der Lage sind, sich schnell zu erholen, zumindest im Verhältnis zu den Hunderten von Millionen Jahren, in denen die Erde noch bewohnbar bleibt.³⁴ Die Wahrscheinlichkeit, dass dieser Zeitraum von wiederholten Katastrophen durchzogen ist, die die menschliche Entwicklung ein ums andere Mal „zurücksetzen“, scheint gering.

Wenn dem so ist, hat eine Menschheit, deren Vergangenheit durch eine so große Katastrophe gezeichnet wurde, dennoch gute Aussichten auf eine blühende Zukunft. In diesem Fall sollten aus longtermistischer Perspektive gesehen, mehr Anstrengungen auf Katastrophen verwendet werden, die keine realistischen Aussichten auf Wiederherstellung bieten, wobei das „Risiko der völligen Auslöschung“ der bedeutendste (wenn auch nicht der einzige) Kandidat ist.³⁵

Was spricht dagegen?

• Die Vergangenheit ist ggf. kontingent und zerbrechlich, und die Geschichte, die hinter uns liegt, kann bestenfalls begrenzte Gewissheit darüber geben, dass ein Erholen wahrscheinlich wäre, wenn wir uns „zurück in die Steinzeit“ katapultieren.
• Es könnte auch Wechselwirkungen zwischen katastrophalen Risiken geben: Vielleicht kann eine globale Katastrophe weitere auslösen, die sich zu einem existenziellen Risiko „summieren“.
• In Anbetracht aller denkbaren Szenarien, könnte man die Entwicklung unserer gegenwärtigen Zivilisation als ausgesprochen günstig betrachten (man denke nur an mögliche Welten mit totalitären Supermächten oder an einen tobenden Krieg zwischen Großmächten). Selbst wenn eine GCBR „nur“ zu einem Zivilationskollaps führt, von dem man sich schnell wieder erholt, könnte sie dennoch indirekt Risiken erhöhen, wenn nachfolgende Zivilisationen dazu neigen, die sie betreffenden existenziellen Gefahren schlechter zu bewältigen.³⁶
• GCBRs und anderen globalen Katastrophen könnten überlappende Risikofaktoren haben (z.B. verheißt die weitere Verbreitung von Massenvernichtungswaffen nichts Gutes für die Fähigkeit der Menschheit, andere Herausforderungen durch neue Technologien zu meistern). Somit kann das Risiko großer biologischer Katastrophen ein stellvertretender Indikator für diese wichtigen Risikofaktoren sein.³⁷

Je größer das Vertrauen in die Resilienz der Menschheit, desto mehr sollte der Fokus auf existenziellen anstelle von globalen katastrophalen Gefahren liegen (und umgekehrt). Eine solche Sichtweise hätte nicht nur Einfluss auf die Verteilung der Arbeit innerhalb des GCBR-Problembereichs, sondern auch auf die Verteilung zwischen den Problembereichen. Das Gesamtrisiko von GCBRs scheint sich hauptsächlich aus nicht existenziellen Gefahren zusammenzusetzen, und daher haben wir dem Bereich vielleicht etwas weniger Aufmerksamkeit geschenkt, als Bereichen in denen die Gefahr hauptsächlich aus existenziellen Katastrophen besteht (Der Bereich der KI-Gefahren könnte diese Liste anführen).

Ein paar Mutmaßungen bzgl. der Gefahren

Wo stehen GCBRs im Vergleich zu KI-Gefahren?

Eine relativ weit verbreitete Ansicht innerhalb des Effektiven Altruismus ist, dass biologische Risiken und KI-Gefahren die beiden wichtigsten Themen sind, an denen aus Sicht des Longtermism gearbeitet werden sollte.³⁸ KI stellt insgesamt wahrscheinlich die größere Gefahr dar. Nichtsdestotrotz stellt die Arbeit an GCBRs für Menschen, die mehr bewegen möchten, gute Möglichkeiten bereit. Rund um GCBRs existiert bereits ein sehr großes Portfolio. Der Bereich bietet mehr sofort umsetzbare Interventionen und nur sehr wenige Menschen, die in relevanten Bereichen arbeiten und diese Arbeit zu ihrer höchsten Priorität gemacht haben (dazu später mehr).

In einem idealen „Zukunftsportfolio“ wäre meiner Ansicht nach die KI-Sicherheit der Prävention von GCBRs vorzuziehen.³⁹ Allerdings handelt es sich hierbei mitnichten um einen klaren Fall: Einige Merkmale von GCBRs sind durchaus besorgniserregend und viele andere sind unvorhersehbar. Vor dem Hintergrund, dass GCBRs vergleichsweise vernachlässigter sind (zumindest unter denjenigen, die sich vorrangig mit der langfristigen Zukunft befassen), ist die Kluft zwischen den Bereichen GCBR und KI wahrscheinlich nicht tief genug um Erwägungen über persönliche Fähigkeiten und Eignung zu verschlucken. Ich empfehle denjenigen, die über Kenntnisse oder Fertigkeiten verfügen, die sich besonders gut für die Arbeit an GCBRs eignen, zunächst diesen Bereich zu erkunden, bevor sie einen Wechsel in Richtung KI in Betracht ziehen. Sollte sich aus Deinem persönlichen Profil keinerlei Neigung zu dem einen oder dem anderen Bereich ergeben, plädiere ich dafür, die GCBR-Prävention als würdige Alternative zur KI-Sicherheit anzusehen.

Wahrscheinlich sind anthropogene GCBRs größer als natürliche GCBRs

Zusammenfassend lässt sich festhalten, dass GCBRs wahrscheinlicher durch Menschen als durch natürliche Ereignisse ausgelöst werden. Hierfür spricht vor allem die äußerst geringe Quote an natürlichen GCBRs in unseren Beobachtungsdaten:⁴⁰

• Durch Krankheitserreger ausgelöste Aussterbeereignisse scheinen relativ selten zu sein.
• Wie Dr. Toby Ord in dem Abschnitt über natürliche Risiken in seinem Buch „The Precipice“ argumentiert, ist die Tatsache, dass der Mensch schon 200.000 Jahre lang überlebt haben, ein Beweis dafür, dass es kein hohes Grundrisiko für ein Aussterben durch jegliche Ursachen (inklusive biologischer) gibt. Hiermit sinkt also auch das statistische Risiko, dass sich ein Aussterbeereignis in (sagen wir) 100 Jahren ereignet.⁴¹
• Ähnliches gilt für GCBRs, da die Menschheit in der Vergangenheit (unseres Wissens nach) keine „echte“ GCBR und nur wenige (oder gar keine) Beinahe-GCBRs gesehen hat.

Dieses Basisrisiko sollte an alle neuartigen Veränderungen der jüngeren Geschichte angepasst werden (z. B. Antibiotika, Flugverkehr, öffentliche Gesundheit, Klimawandel, Tierhaltung — siehe oben). Schätzungen zu den gesammelten Effekten dieser Veränderungen sind höchst unbeständig. In Anbetracht dieser Ungewissheit scheint es jedoch übertrieben, die zentrale Risikoabschätzung um die Größenordnungen nach oben zu korrigieren, die notwendig wären, um das Risiko einer natürlichen GCBR in diesem Jahrhundert auf 1% oder mehr zu bringen.⁴²

Ich denke, dass das Risiko anthropogener GCBRs in diesem Jahrhundert bei 1% oder mehr liegt, was ich zum Teil auf die oben erwähnten, beunruhigenden Entwicklungen in der Biotechnologie zurückzuführe, zum Teil aber auch auf den Umstand, dass für diese spezifische Gefahr die historische Versicherung eines langen katastrophenfreien Intervalls fehlt. Kurz gesagt: die menschengemachten Szenarien sehen deutlich gefährlicher aus.

Absichtlicher und versehentlicher Missbrauch

Bei anthropogenen Risiken kann man (wenn auch nicht ganz perfekt) zwischen absichtlichem und versehentlichem Missbrauch unterscheiden.⁴³

Welcher besorgniserregender ist, ist schwer zu sagen — in beide Richtungen gibt es nur wenige Daten und Überlegungen. Beim vorsätzlichen Missbrauch geht man davon aus, dass Szenarien einer großen biologischen Katastrophe (glücklicherweise) selten sind und daher eher durch zielgerichtete Suche als durch Zufall gefunden werden. Bei Unfällen in diesem Bereich geht man davon aus, dass die meisten Beteiligten (glücklicherweise) gute Absichten haben. Daher ist die Anzahl der Beteiligten, die schlichtweg Fehler begehen, viel höher als die derer, die vorsätzlich handeln. Ich neige zum ersteren Ansatz⁴⁴ und tendiere daher dazu, dass vorsätzliche Szenarien wahrscheinlicher (und somit gefährlicher) sind als versehentliche.

Von welchen Akteuren geht das größte Risiko aus?

Es gibt Akteur:innen, die zu vorsätzlichem Missbrauch neigen: von Staaten über terroristische Gruppen bis hin zu individuellen Misantropen. Ein Schlüsselmerkmal ist hier, welche Fähigkeiten die jeweiligen Akteur:innen aufweisen (zu verstehen als oberflächliche Bestandsaufnahme ihrer Ressourcen, ihres Verständnis usw.). So gibt es weniger Akteur:innen mit fortgeschrittenen Fähigkeiten, aber die Gefahr, die von jeder/jedem einzelnen ausgeht, ist größer: Potenziell gibt es viel mehr individuelle Verbrecher:innen als bösartige staatliche Akteure, aber ein staatliches Programm ist tendenziell viel gefährlicher als ein individuelles Vorhaben (und Staaten selbst können sich stark in ihren Fähigkeiten unterscheiden).

Aus meiner Sicht ist zu erwarten, dass das Gesamtrisiko anfangs hauptsächlich von hochentwickelten, erfahrenen Akteur:innen ausgeht, wobei sich dieses Gleichgewicht im Laufe der Zeit hin zu weniger fähigen Akteur:innen verschiebt. Dies liegt am Fortschritt der Technologie, die es Individuen zunehmend leichter macht, Krankheitserreger zu synthetisieren und gefährlicher zu machen.

Es gibt erhebliche Überschneidungen zwischen GCBRs und anderen Problembereichen wie globaler Gesundheit (z. B. die Global Health Security Agenda), Massentierhaltung (z. B. „One Health“-Initiativen) oder transformativer KI (z. B. aufgrund ähnlicher politischer Herausforderungen in beiden Bereichen). Obwohl diese Überschneidungen nützliche Perspektiven für die Zusammenarbeit bieten, würde ich davon abraten, GCBR als eine gute „Absicherung“ zu empfehlen für diejenigen, die sich noch nicht auf einen Problembereich festlegen möchten: Die Arbeit in diesem Bereich ist vergleichsweise spezifisch und erreicht ihre positiven Effekte tendenziell auf indirekten Wegen. Diese Kombination macht es unwahrscheinlich, dass diese hauptsächlich von der Biologie geprägte Domäne, gleichzeitig die beste Lösung für andere Probleme birgt (Zwar hoffe ich, dass die Arbeit an GCBR beispielsweise der Steuerung von KI einen gewissen Dienst erweisen kann, es würde mich aber überraschen, wenn diese Arbeit einen größeren Beitrag zum Umgang mit KI leisten würde als Arbeit am Umgang mit KI selbst — vgl.).

Wie du helfen kannst

Wünschenswerte persönliche Eigenschaften

Es gibt einige Eigenschaften, die eine Person besonders für die Arbeit an GCBRs prädestinieren.

1. Diskretion: Biosicherheit im Allgemeinen (und GCBR im Besonderen) ist ein heikler Bereich, in dem Fehler leicht zu begehen, aber schwer zu korrigieren sind. Risikofreude und ein Streben nach schnellen Erfolgen sind in diesem Feld fehl am Platz, während Vorsicht und Diskretion essentiell sind. Zur Veranschaulichung:

• Erstens sind GCBRs ein Bereich, in dem eine erhebliche Gefahr durch Information (“Information hazard“) besteht, da ein signifikanter Teil der möglichen Gefahren aus Szenarien des vorsätzlichen Missbrauchs resultiert. Wenn Informationen also in die falschen Hände geraten, kann dies sehr gefährlich werden. Dazu gehören nicht nur spezifische „gefährliche Anleitungen“, sondern auch allgemeine Heuristiken oder Prinzipien, die Verbrecher:innen nutzen könnten, um noch mehr Schaden anzurichten: Den historischen Trend verblüffender Inkompetenz unter jenen, die versuchten Krankheiten als Waffe einzusetzen, gilt es zu kultivieren. Es ist wichtig zu erkennen, wann Informationen gefährlich sein könnten, genau so, wie es wichtig ist, die Risiken und Vorteile einer breiteren Offenlegung unvoreingenommen zu beurteilen (ungeachtet des persönlichen Interesses, z. B. „interessante Arbeiten zu veröffentlichen“ oder „für coole Ideen bekannt zu werden“) und bei Entscheidungen Vorsicht walten zu lassen (und diese Entscheidungen nicht einseitig zu treffen).⁴⁵
• Zweitens handelt es sich tendenziell um einen politisch sensiblen Bereich, da er viele etablierte Interessenfelder berührt (z. B. staatliche Diplomatie, Regulierung von Wissenschaft und Industrie, Sicherheitspolitik). In der Regel muss man stabilisierende Koalitionen zwischen diesen Bereichen aufbauen, da man selten auf eigene Faust handeln kann und alte Konflikte oft Fallstricke hinterlassen, die ohne implizites Wissen schwer zu erkennen sind.
• Drittens gilt dies auch für den Einstieg der EA-Bewegung in die Biosicherheit selbst. Die Geschichte zeigt, dass die Zusammenführung einer bereits bestehenden Expertengemeinschaft mit einer „Außenseiter“-Gruppe, die eigene Interessen einbringt, nicht immer gut verläuft. Im Falle der Biosicherheit verlief diese Fusion bislang unproblematisch, aber hart erkämpfte Fortschritte können durch unpassende Worte oder Taten rasch zunichtegemacht werden.

2. Klarer Fokus: Wenn man glaubt, dass GCBRs unterbewertet werden, dann folgt daraus, dass sich die besten Maßnahmen zur GCBR-Prävention deutlich von der typischen Arbeit in den Bereichen Biosicherheit, öffentliche Gesundheit und anderen verwandten Bereichen unterscheiden könnten. Eine wichtige Fähigkeit besteht also darin, das Ziel vor Augen zu behalten, entsprechende Prioritäten zu setzen und sich nicht von Arbeiten ablenken zu lassen, die zwar gut und hilfreich, jedoch weniger wichtig sind.

3. Fachwissen und einschlägige Qualifikationen: Fortgeschrittene Vorkenntnisse und/oder formale Qualifikationen (z. B. eine Promotion im biowissenschaftlichen Bereich) sind aus drei Gründen von großem Vorteil. Erstens sind für viele Berufe, die für GCBR relevant sind, fortgeschrittene Qualifikationen (z. B. Dr., Dr. med., LL.M) unerlässlich oder sehr wünschenswert. Zweitens scheint ein genaues Verständnis der relevanten Bereiche wichtig zu sein, um gute Arbeit leisten zu können: Ein Großteil der Arbeit in GCBRs wird konkreter Natur sein, und selbst abstraktere Ansätze werden sich wahrscheinlich auf genaues Sachverständnis stützen.

Rat zu potenziellen Berufswegen

In diesem Abschnitt mache ich einige Vorschläge dazu, was man tun kann, um einen Beitrag zu den hier behandelten Themen zu leisten. Allerdings möchte ich betonen, dass diese Empfehlungen sehr unsicher und unbeständig sind: Ich empfehle Personen, die eine Karriere in diesem Bereich in Erwägung ziehen, dies durch eigene Nachforschungen (und Gespräche mit anderen) zu ergänzen, bevor sie große Entscheidungen treffen.

1. Welcher Studiengang?

Die Landschaft der GCBR-relevanten Themen ist breit gefächert. Personen, die in diesen Bereichen arbeiten, haben die unterschiedlichsten beruflichen Hintergründe.⁴⁶ Eine Herausforderung besteht darin, dass GCBRs mit einer Reihe von Bereichen zusammenhängen, die ihrerseits von interdisziplinärer Natur sind.

Diese können grob in technische und politische Bereiche unterteilt werden. Die meisten Berufe erfordern ein gewisses Wissen in beiden Bereichen. Wahrscheinlich ist es günstiger, sich zuerst im technischen Bereich zu bilden: Es scheint im Allgemeinen schwieriger zu sein, sich dieses technische Wissen später anzueignen als dies bei den meisten nicht-technischen Fächern der Fall ist, und es ist deutlich häufiger, dass sich Personen mit technischem Hintergrund der Politik zuwenden als andersherum.

Technischer Bereich

Die synthetische Biologie (grob definiert als „Bioengineering, das funktioniert“) ist ein wichtiger Motor für die Erweiterung der biologischen Möglichkeiten und damit auch der Risiken und Chancen, die für GCBR relevant sind. Synthetische Biologie ist ein weites und etwas schwammiges Feld. Es ist daher möglich, sich ihm aus verschiedenen Richtungen anzunähern, wie eher mechanistischen (z. B. Molekularbiologie), rechnerischen (z. B. Bioinformatik) oder integrativen (z. B. Systembiologie) Aspekten.

Der typische Weg zum/zur Biolog:in der „synthetischen Biologie“ führt über ein Studium der Biowissenschaften oder der Chemie mit Schwerpunkt auf einem oder mehreren der genannten Teilgebiete sowie Forschungserfahrung im Labor, gefolgt von einer Graduiert:innenausbildung in einem der einschlägigen Labore. iGEM ist eine weitere sehr gute Möglichkeit, wenn die eigene Universität daran teilnimmt. Andere Teilgebiete der Biologie bieten ebenfalls Hintergrundwissen und Erfahrungswerte, die aufgrund ihrer Nähe zur synthetischen Biologie ebenfalls relevant sind (z. B. ist Biophysik im Allgemeinen besser als Histologie).

Ein weiterer Ansatz, der insbesondere für die eher makrostrategische Forschung von Bedeutung ist, sind Bereiche der Biologie mit einer eher abstrakten Ausrichtung (z. B. mathematische und theoretische Biologie, Evolutionsbiologie, Ökologie). Hier ist in der Regel eine Mischung aus mathematisch veranlagten Biolog:innen und biologisch veranlagten Mathematiker:innen (/Informatiker:innen und Personen aus anderen mathematiklastigen Bereichen) anzutreffen.

Eine weitere Möglichkeit ist eine wissenschaftliche Ausbildung in einem Bereich, dessen Themen mit großer Wahrscheinlichkeit für bestimmte GCBRs relevant sind (Beispiele wären Virologie oder Mikrobiologie für bestimmte Infektionserreger, Immunologie, Pharmakologie und Vakzinologie für Gegenmaßnahmen). Obwohl in einem ausgereiften GCBR-Ökosystem ein breit gefächertes Portfolio von Personen mit bereichsspezifischem wissenschaftlichem Fachwissen höchst wünschenswert wäre, spricht die derzeit geringe Größe des Systems gegen eine starke Subspezialisierung. Dies liegt auch an der Möglichkeit, dass sich unser Verständnis der Risikolandschaft (und damit die Frage, welche Fachgebiete am wichtigsten sind) ändern könnte.

Wenn es eindeutig neue Technologien gibt, die wir entwickeln müssen, um GCBRs zu entschärfen, ist es möglich, dass man auch als Ingenieur:in oder Tech-Unternehmer:in sehr viel bewirken kann. Dies könnte bedeuten, dass eine allgemeine Ausbildung in quantitativen Fächern, insbesondere im Ingenieurwesen, hilfreich sein könnte.

Policy Bereich

Im Gegensatz zu technischen Bereichen sind politische Bereiche für Personen mit einem geistes- oder sozialwissenschaftlichen Hintergrund sowie für „klassische“ naturwissenschaftliche Fächer zugänglich.⁴⁷ Für Personen, die bereits einen Hochschulabschluss in Geistes- oder Sozialwissenschaften erworben haben mag das politische Feld, verglichen mit einem Quereinstieg in technische Bereiche, den besseren Ansatz darstellen (allerdings sind Personen mit technischem Hintergrund für Stellen in der Regierung oft sehr gefragt).

Die relevantesten politischen Themen laufen unter den Bezeichnungen „health security“, „biosecurity“ oder „biodefense“ (auf deutsch vor allem unter „Biosicherheit“).⁴⁸ Der Schwerpunkt dieser Bereiche liegt auf dem Schutz von Mensch und Umwelt vor biologischen Bedrohungen, womit ihnen die größte „GCBR-Relevanz“ zukommt. Es gibt gezielte Programme, wie z. B. die Biodefense-Programme der George Mason University (MS, PhD). Akademische Zentren in diesem Bereich können Forschungspraktikant:innen oder Doktorand:innen in verwandten Disziplinen aufnehmen, auch wenn keine direkte Lehre angeboten wird (z. B. Johns Hopkins Center for Health Security, Georgetown Center for Global Science and Security). Das ELBI Fellowship und Synbio LEAP sind ebenfalls gute Möglichkeiten (wenn auch in der Regel für Personen in der Mitte oder am Ende ihrer beruflichen Laufbahn), sich in diesem Bereich weiter zu engagieren.

Der Bereich wird oft im Zusammenhang mit anderen Fachrichtungen bzw. interdisziplinären Ansätzen betrachtet. Security-Studies/International-Relations (IR) decken Aspekte der biologischen Verteidigung ab, wobei die Nichtverbreitung von biologischen (und chemischen) Waffen im Mittelpunkt der Überschneidungen steht.
Science-and-Technology-Studies (STS) mit ihrem Interesse an einem sozial verantwortlichen Wissenschaftsmanagement haben einige Gemeinsamkeiten mit Biosicherheit. Auch Public-Health und Epidemiologie sind in diesem Kontext relevant. Public-Policy könnte für einige Bereiche ebenfalls von Bedeutung sein.

„Explizite“ Arbeit an GCBRs

Es gibt nur wenige Zentren, die sich explizit mit GCBRs beschäftigen. Meines Wissens nach sind die folgenden die wichtigsten:

• The Center for Health Security (CHS)
• The Nuclear Threat Initiative (NTI)
• The Future of Humanity Institute (FHI)
• Centre for the Study of Existential Risk (CSER)

Wie bereits erwähnt, bedeutet dies nicht, dass dies die einzigen Stellen sind, die zur Verringerung von GCBRs beitragen: Viele andere Interessensgruppen reduzieren GCBRs, auch wenn sie nicht mit dieser Funktion assoziiert werden (oder nicht in erster Linie darauf ausgerichtet sind).

Es wird sowohl erhofft als auch erwartet, dass der Bereich der „expliziten“ GCBR-Reduzierung in den nächsten Jahren dramatisch wachsen und letztlich in der Lage sein wird, Dutzende von geeigneten Personen aufzunehmen. Zum gegenwärtigen Zeitpunkt sind die Aussichten auf eine direkte Beschäftigung jedoch eher begrenzt: Die zu besetzenden Stellen sind rar und hart umkämpft — das Gleiche gilt für Praktika und ähnliche „befristete“ Stellen. Bei einigen dieser Unternehmen sind möglicherweise eher vorübergehende Anstellungen (z. B. Auftragsarbeiten, Arbeit an eigenständigen Projekten) möglich, die jedoch für viele unattraktiv sind (z. B. aufgrund von Ungewissheit, Fernarbeit, unklarer Berufsentwicklung und geringem Karrierekapital).

Studiengänge in Deutschland und der EU

In Deutschland existieren keine Universitäten mit ähnlichen Renommees wie dem von “Oxbridge“ oder der Ivy-League-Universitäten. Neben dem Renommee sind jedoch selbstverständlich die Qualität der Lehre und ein grundlegender Fokus auf für Biosicherheit relevante Themen wichtig. Einen Fokus auf Biosicherheit oder gar Forschung zu GCBRs gibt es bisher nirgends. Daher bleibt der beste Ansatz, sich nach etablierten Ressourcen, wie z.B. dem ZEIT-Studienführer zu richten, und andere persönliche Entscheidungskriterien stärker zu gewichten. Ferner ist es sinnvoll, ein Studium im Vereinigten Königreich oder den USA in Erwägung zu ziehen.

Technischer Bereich

In Deutschland bietet sich der Genome Based Systems Biology M.Sc. oder ein PhD in synthetischer Biologie in Bielefeld an. Die German Association for Synthetic Biology (GASB) hat dort ihren Standort, weshalb es vor Ort ein gesteigertes Bewusstsein für Biosicherheit gibt.

Policy Bereich

Für eine politische Laufbahn empfehlen wir Berlin als Studienort. Dort bieten sich neben dem Studium gute Möglichkeiten für direkte Arbeit, Weiterbildung und Netzwerken im politischen bzw. diplomatischen Betrieb.

2. Implizite Ansätze

Implizite Ansätze umfassen Arbeit in der näheren Umgebung wichtiger Interessenvertreter. Diese Herangehensweise verspricht, aktiv zur Reduzierung von GCBR beitragen zu können und gleichzeitig relevantes Karrierekapital zu kultivieren. Im Folgenden werden ich die entsprechenden Ansätze skizzieren und versuchen, sie (grob) in der Reihenfolge ihrer Relevanz zu nennen:

Die US-Regierung

Die US-Regierung ist einer der größten Akteure in den Bereichen, die sich mit GCBR befassen. Relevante Positionen sind hart umkämpft und die meisten Posten werden kaum ausschließlich mit GCBR-relevanten Themen betraut sein. Personen, die diesen Weg einschlagen, sollten sich nicht an eine bestimmte Behörde gebunden fühlen: Karrierekapital ist zwischen verschiedenen Behörden übertragbar (und Erfahrung in mehreren Behörden ist oft wünschenswert). Arbeit bei bestimmten Auftragnehmer:innen der Regierung ist ein guter Weg, um später direkt für die jeweilige Behörde zu arbeiten.

Zu den relevanten Behörden gehören:

1. Department of Defence (DoD; Verteidigungsministerium)

• Defence Advanced Research Projects Agency (DARPA)
• Defence Threat Reduction Agency (DTRA; Behörde zur Reduzierung von Bedrohungen im Verteidigungsbereich)
• Office of the Secretary of Defence (Büro des Verteidigungsministers)
• Ämter, die sich auf die Überwachung und Umsetzung des Cooperative Threat Reduction Program (Counter WMD Policy & Nuclear, Chem Bio Defense) fokussieren.
• Office of Net Assessment (Büro für Netzbewertung - einschließlich Gesundheitsangelegenheiten)

2. State Department (Außenministerium)

• Bureau of International Security and Nonproliferation (Büro für internationale Sicherheit und Nichtverbreitung)
• Biosecurity Engagement Program (BEP; Programm zum Engagement für Biosicherheit)

3. Department of Health and Human Services (HHS; Ministerium für Gesundheit und Soziale Dienste)

• Centers for Disease Control and Prevention (CDC; Zentren für Krankheitskontrolle und Prävention)
• Office of the Assistant Secretary for Preparedness and Response (ASPR; Büro des stellvertretenden Sekretärs für Abwehrbereitschaft und Reaktion)
• Biomedical Advanced Project and Development Agency (BARDA; Agentur für fortgeschrittene biomedizinische Projekte und Entwicklung)
• Office of Global Affairs (Büro für globale Angelegenheiten)

4. Department of Homeland Security (Ministerium für Innere Sicherheit)

5. Federal Bureau of Investigation, Weapons of Mass Destruction Directorate (Direktion für Massenvernichtungswaffen)

6. US-Agency for International Development, Bureau of Global Health, Global Health Security and Development Unit (US-Behörde für internationale Entwicklung, Amt für globale Gesundheit, Abteilung für globale Gesundheitssicherheit und Entwicklung)

7. The US intelligence community (US-Geheimdienstgemeinschaft als gedehnter Begriff)

• Intelligence Advanced Research Projects Agency (IARPA)

Häufig sind Qualifikationen, wie z. B. ein PhD, MD, MA oder Ingenieur:innenabschlüsse erforderlich. Gute Einstiegsmöglichkeiten in diese Laufbahnen sind das Presidential Management Fellowship, AAAS Science and Technology Policy Fellowship, Mirzayan Fellowship, und das Epidemic Intelligence Service Fellowship (für Gesundheitswesen/Epidemiologie).

Wissenschaftliche Gemeinschaft (insbesondere synthetische Biologie)

Es wäre sehr erfreulich, wenn auch wichtige Personen in der Forschung und in führenden Biotech-Start-Ups das Thema GCBR ernst nehmen würden. Hier hilft es, berufliche Erfahrung im wissenschaftlichen Bereich mitzubringen, um sich bei entsprechenden Personen Gehör zu verschaffen. SynbioLEAP ist in diesem Zusammenhang ein empfehlenswertes Programm. Dieser Bereich ist vor allem für diejenigen sinnvoll, die direkt an technischen Beiträgen und Gegenmaßnahmen arbeiten wollen.⁴⁹

Internationale Organisationen

Die drei wichtigsten Institutionen sind das UN Office for Disarmament Affairs (UNODA; UN-Büro für Abrüstungsfragen), die World Health Organisation (WHO; Weltgesundheitsorganisation) und die World Organization for Animal Health (OIE; Weltorganisation für Tiergesundheit).

Bei der WHO arbeiten in der Regel Personen, die eine Laufbahn bei einer anderen einschlägigen Organisation vorzuweisen haben. Für Nachwuchs-Positionen innerhalb des UN-Systems gibt es ein Programm für Berufsanfänger:innen, das Junior Professional Officers (JPO) Programme. Diese Positionen sind außerordentlich stark umkämpft. Eine weitere Herausforderung ist die begrenzte Anzahl von Stellen, die speziell auf GCBRs ausgerichtet sind: Wie bereits erwähnt, umfasst die Einheit zur Implementierung und Unterstützung biologischer Waffen (Biological Weapons Implementation and Support Unit — ISU) lediglich drei Personen.

Forschung / Zivilgesellschaft

Es gibt relativ wenige Forschungszentren, die sich mit verwandten Bereichen befassen, sowie eine ebenso kleine Diaspora von Akademiker:innen, die unabhängig voneinander an ähnlichen Themen arbeiten (einige sind oben aufgeführt). Zusätzliche Arbeit in diesen Bereichen wäre wünschenswert.⁵⁰

Relevante zivilgesellschaftliche Gruppen sind dünn gesät, aber Chatham House (Abteilung für internationale Sicherheit) und die National Academies of Sciences, Engineering, and Medicine (NASEM) sind zwei Beispiele.

(Siehe auch diesen Leitfaden über Karrieren in Think Tanks).

Öffentliche Gesundheit / Medizin

Das öffentliche Gesundheitswesen und die Medizin sind unter dem Gesichtspunkt der Krankheitsbekämpfung und -prävention sowie der Behandlung von Infektionskrankheiten naheliegende Wege und ein medizinischer und gesundheitspolitischer Hintergrund ist bei leitenden Entscheidungsträger:innen in den entsprechenden Bereichen üblich. Allerdings ist die Ausbildung in diesen Bereichen zeitaufwendig und eine höhere Position stellt in diesen Feldern, anders als in den vorgenannten, nicht unbedingt das wertvollste Karrierekapital (vgl. medizinische Laufbahnen) dar.

Implizite Ansätze in Deutschland und der EU

Einige Organisationen in (Kontinental-)Europa, die Nähe zum Thema Biosicherheit besitzen, sind hier zusammengestellt. Es folgt eine Auswahl aus dieser Übersicht:⁵¹

Bundesrepublik Deutschland und Europäische Union

Im (über)staatlichen Apparat werden prinzipiell wichtige Entscheidungen im Bezug auf existentielle Risiken getroffen. Wie bereits angedeutet, gibt es dort allerdings noch keine spezifischen Positionen, die daran arbeiten. Daher bietet es sich an, stattdessen an angrenzenden Themen zu arbeiten — entweder bereits in Ministerien, in Think Tanks / Lobbyorganisationen oder an Forschungsinstituten — um das Thema im richtigen Moment einbringen zu können, in den Fokus zu rücken oder in passendere Stellen zu wechseln.

In Deutschland und der EU kommen für die Prävention und Mitigation von Pandemien verschiedene Akteure in Frage:

Thema	Bundesrepublik Deutschland	Europäische Union
Vermeidung von Biowaffen	- Bundesministerium für Verteidigung	---
---	- Bundeswehr, insbesondere: → Institut für Mikrobiologie der Bundeswehr, eine Schlüsseleinrichtung in Bezug auf Fragen der Biosicherheit → Zentrum für Verifikationsaufgaben der Bundeswehr; stellt die Umsetzung der Rüstungskontrollverträge sicher, die Deutschland mit anderen Staaten geschlossen hat, und bereitet vertrauensbildendende Maßnahmen für Deutschland bei BWÜ-Zusammentreffen vor	---
---	- Auswärtiges Amt, insbesondere: → Biosicherheitsprogramm → ORF 12	---
Verminderung von dual use risk of concern (DURC)	Bundesministerium für Bildung und Forschung	Generaldirektion der Kommission zu Forschung und Innovation
Reaktion auf biologische Katastrophe	Bundesministerium für Gesundheit	Generaldirektion der Kommission zu Gesundheit
---	Bundesamt für Bevölkerungsschutz und Katastrophenhilfe	European Center for Disease Prevention and Control
---	---	European Medicines Agency
---	---	HERA (EU-Behörde für Krisenvorsorge und -reaktion bei gesundheitlichen Notlagen)

Außerdem gibt es noch EU-Exzellenzzentren zur Minderung chemischer, biologischer, radiologischer und nuklearer Risiken.

Wissenschaftliche Gemeinschaft (insbesondere synthetische Biologie)

• German Association for Synthetic Biology (GASB)
  Diese Gemeinschaft von Wissenschaftler:innen beschäftigt sich im Allgemeinen mit synthetischer Biologie. Ihr ist aber auch das Thema Biosicherheit ein Anliegen und sie setzt sich aktiv dafür ein, einen verantwortungsvollen Umgang mit biologischer Forschung zu stärken.
• Deutsche Gesellschaft für Epidemiologie
  Die Fachvertretung von Epidemiolog:innen in Deutschland.
• Gemeinsamer Ausschuss zum Umgang mit sicherheitsrelevanter Forschung der Leopoldina und DFG
  „Der Gemeinsame Ausschuss ist ein [...] eingerichtetes Gremium, das das Bewusstsein für die doppelte Verwendbarkeit (Dual-Use) von Forschungsergebnissen, den verantwortungsvollen Umgang mit sicherheitsrelevanter Forschung und die diesbezügliche Selbstregulierung der Wissenschaften nachhaltig stärken soll. [...] [Zur Arbeit] gehören insbesondere die Etablierung und Arbeit von lokalen Kommissionen für die Ethik sicherheitsrelevanter Forschung an den deutschen Forschungsinstitutionen. Gleichzeitig dient der Ausschuss zum Erfahrungsaustausch.“ Als Gremium der bedeutenden Institutionen Leopoldina und DFG haben dessen Ergebnisse häufig substantiellen Einfluss auf die Gesetzgebung in Deutschland.

Internationale Organisationen

Dependancen der oben aufgeführten Organisationen in Europa:

• UN DRR (UN-Büro für Katastrophenrisikominderung)
• UNODA (UN-Büro für Abrüstungsfragen), in dem auch die Implementation Support Unit der BWÜ angesiedelt ist.
• WHO Programm für gesundheitliche Notlagen, Teil dessen auch das WHO-Referat für Biosicherheit und Schutz der Gesundheitssicherheit ist.
• WHO Hub for Pandemic and Epidemic Intelligence

Forschung / Zivilgesellschaft

Die folgenden 4 Forschungsinstitute beschäftigen sich unter anderem im Rahmen des Forschungsprojekts CBWNet mit der Frage wie Normen gegen Chemie- und Biowaffen umfassend gestärkt werden können:

• Carl Friedrich von Weizsäcker-Zentrum für Naturwissenschaft und Friedensforschung (ZNF), Universität Hamburg:
  Hier gibt es eine Forschungsgruppe (INFABRI) mit langjähriger Erfahrung zum Thema Biowaffenkontrolle. Forscher:innen des Instituts sind auch regelmäßig bei den Review Conferences des Biowaffenübereinkommens vertreten.
• Institut für Friedensforschung und Sicherheitspolitik (IFSH), Universität Hamburg:
  Hier gibt es einen Forschungsbereich zu Rüstungskontrolle und Technologien.
• Peace Research Institute Frankfurt (PRIF) = Leibniz-Institut Hessische Stiftung Friedens- und Konfliktforschung (HSFK):
  Hier wird sich mit internationaler Sicherheit, neuen Technologien und DURC beschäftigt. Mitarbeiter:innen des Instituts nehmen beratende Funktionen beim BWÜ ein. Weitere relevante Projekte des HSFK: (1) Das Besitzverbot biologischer Waffen – eine Norm des Völkergewohnheitsrechts?, (2) Krise(n) der Rüstungskontrolle
• Professur für Öffentliches Recht und Völkerrecht, Justus-Liebig-Universität Gießen:
  Hier gibt es allgemeine juristische bzw. völkerrechtliche Expertise.

Außerdem spielt im Diskurs um das Thema Biosicherheit die Münchner Sicherheitskonferenz international eine wichtige Rolle. Mitwirkung z.B. im Rahmen des Junior-Ambassador-Programms oder durch direkte Arbeit in der zugehörigen Stiftung ist empfehlenswert.

Zuletzt gibt es z.B. in der Schweiz den Think Tank Pour Demain, der sich mit GCBRs beschäftigt.

Öffentliche Gesundheit / Medizin

• Robert-Koch-Institut
• Labor Spiez (Schweiz)

Konferenzen / Meetings

Potenziell relevante Zusammentreffen (frei zugänglich):

• Science, Peace, Security
• Medical Biodefense Conference
• World Health Summit

3. Spekulativere Möglichkeiten

Einige weitere, (noch) hypothetischere Wege um sich für die Reduzierung von GCBRs zu engagieren sind erwähnenswert:

Grant-Making

Der Großteil der Finanzierung für die Reduktion von GCBRs (explizit) wird von Open Philanthropy (unter der Rubrik „Biosecurity and Pandemic Preparedness“) vergeben.⁵² Im Vergleich zu anderen potenziellen Geldgebern, die lose mit der EA-Bewegung assoziiert sind und sich für GCBRs interessieren, hat Open Philanthropy zwei beträchtliche Vorteile:

1. einen viel größeren Pool an verfügbaren Mitteln;

2. Mitarbeiter:innen, die sich der Suche nach Möglichkeiten in diesem Bereich widmen. Selbst wenn die eigene Arbeit keinen Bezug zu GCBRs hat, kann eine Stelle bei Open Phil aus einer reinen GCBR-Perspektive (d.h. ohne Berücksichtigung des Nutzens für andere Zwecke) eine gute Wahl sein.⁵³

Trotz dieser Stärken ist Open Phil womöglich nicht in der Lage, alle verfügbaren Bereiche einer idealen Förderungslandschaft auszufüllen, wie Carl Shulman in seinem Aufsatz über Spender-Lotterien erläutert.⁵⁴ Doch selbst wenn andere Finanzierungsquellen auftauchen, die diese Bereiche ausfüllen können, bleibt die „Förderkapazität“ für diesen spezifischen Bereich knapp. Personen, die über entsprechende Fähigkeiten verfügen, könnten einen beträchtlichen Einfluss haben (entweder bei Open Phil oder anderswo). Mir ist jedoch nicht klar, wie solche Fähigkeiten erkannt oder entwickelt werden können. 80,000 Hours bietet zu der Tätigkeit des Grant-Making (das Vergeben von Geldern) einen allgemeinen Überblick.

Operative Tätigkeiten und Managementaufgaben

Eine Schwierigkeit bei der Schaffung von Stellen, die direkt an GCBRs arbeiten, ist die begrenzte Kapazität in den Bereichen Organisation und Management. Wie auch in der erweiterten EA-Gemeinschaft sind Menschen mit diesen Fähigkeiten nach wie vor Mangelware (obwohl sich dies ganz langsam zu verbessern scheint).⁵⁵

Ein verwandter Bereich, in dem großer Bedarf besteht, wird als „Forschungsmanagement“ bezeichnet. Er erfordert sowohl ein gewisses Talent für Management, als auch für Operations sowie tiefgreifende Kenntnisse in einem konkreten Problembereich. Diese Art von Aufgaben wird mit dem Wachstum des Bereichs immer wichtiger werden.

Öffentlichkeitsarbeit

Es ist möglich, dass öffentliche Interessenvertretung ein hilfreicher Hebel ist, um GCBRs abzuschwächen, obwohl dies auch kontraproduktiv wirken kann. Im ersten Fall können Erfahrungen in der Politik, bei Interessengruppen (vielleicht analog zu nuklearen Abrüstungskampagnen) oder im Journalismus wertvoll sein.⁵⁶ Wie bereits in der vorangegangenen Diskussion über Informationskontinuität erwähnt, ist eine umfassende Koordinierung mit anderen Effektiven Altruist:innen, die sich mit existenziellen Risiken befassen, von entscheidender Bedeutung.

Technik und Unternehmer:innentum

Zu vielen Herangehensweisen an das Problem von GCBR gehört auch das Entwickeln neuer Technologie. Das bedeutet, dass es durchaus sinnvoll sein kann, als Ingenieur:in oder Technologieunternehmer:in zu arbeiten. Wenn man einen dieser Wege einschlägt, kann man sein Fachwissen durch die Arbeit als Ingenieur:in in einem „Hard-Tech-Unternehmen“ oder in einem Start-Up aufbauen, anstatt biologisches Fachwissen im akademischen Rahmen einer Universität zu erwerben. Wer sich dafür entscheidet, sollte jedoch darauf achten, dass das Projekt, an dem man mitarbeitet, nicht zu Fortschritten in der Biotechnologie beiträgt, die das Problem verschärfen könnten.

Sonstiges

Relevantes Wissen und Kenntnisse

GCBRs sind tendenziell ein interdisziplinäres Problem. Und obwohl es wenig Sinn hat, zu versuchen, „Expert:in für alles“ zu werden, ist ein Grundwissen über relevante Bereiche außerhalb des eigenen Fachgebiets entscheidend. In der Praxis bedeutet dies, dass sich diejenigen, die sich aus einem politischen Blickwinkel heraus mit GCBRs befassen, mit den relevanten Grundlagenwissenschaften (insbesondere Molekular- und Zellbiologie) vertraut machen sollten, und diejenigen mit technischer Prägung mit dem politischen und verwaltungstechnischen Hintergrund.

Vorsicht bei der Originärforschung

Obwohl es sich lohnt, sich mit dem Thema zu befassen, sollte man bei unabhängiger Originärforschung zu GCBRs vorsichtig sein. Die Risikolandschaft von GCBR beinhaltet viele potenziell gefährliche Informationen, und in einigen Fällen ist es am besten, prophylaktisch vorzugehen, d. h. bestimmte Forschungsrichtungen zu vermeiden, die diese Gefahren womöglich öffentlich machen. Einige Bereiche sind eher positiv zu bewerten, was typischerweise auf ihre defensive Ausrichtung zurückzuführen ist. Beispiele umfassen: (1) bessere Verfahren für die Zuordnung der Herkunft von Erregern, (2) technische und politische Arbeiten zur Beschleunigung der Entwicklung und des Einsatzes von Gegenmaßnahmen und (3) wirksamere Bio-Überwachung. Im Gegensatz dazu sind „Red-Teaming“ oder die Erforschung der gefährlichsten genetischen Veränderungen, die an einem bestimmten Krankheitserreger vorgenommen werden könnten, Beispiele für Forschungsarbeiten, die wahrscheinlich besser gar nicht durchgeführt werden sollten, schon gar nicht öffentlich.

Entscheidungen in diesem Bereich sind kompliziert und sollten besser im Konsens innerhalb der GCBR-Gemeinschaft getroffen werden, als durch Amateur:innen, die außerhalb dieser Gemeinschaft arbeiten. Viel Energie in die wenig zielgerichtete Erkundung der Risikolandschaft zu stecken, kann insgesamt mehr schaden als nutzen. Eine Liste von eigenständigen Projekten und Forschungsthemen, die für „externe“ Forscher:innen geeignet sind, wird derzeit erstellt: Interessent:innen werden gebeten, sich mit 80.000 Hours in Verbindung zu setzen.

Ansprechpartner

Du hast Fragen zum Thema Biosecurity in Deutschland und der EU und denkst darüber nach, selbst in diesem Bereich aktiv zu werden?

Hierzu haben wir zwei kompetente und gut vernetzte Ansprechpartner, Simon Grimm und Jasper Götting, gefunden, die dir gerne weiterhelfen:

Simon Grimm:
Simon hat in Basel Medizin studiert und beschäftigt sich seit 2 Jahren mit Biosicherheit. Dafür hat er beim Biowaffenübereinkommen in Genf, von Open Philanthropy unterstützt, ein Praktikum absolviert, forscht aktuell zu Dual Use Research of Concern und schreibt ab Herbst 2022 in Prof. Kevin Esvelts Gruppe am MIT seine medizinische Doktorarbeit. Er ist insbesondere daran interessiert, die Biosicherheits-Gemeinschaft in Deutschland und Europa weiter aufzubauen und nimmt politische Arbeit in Berlin oder Brüssel als vielversprechend war. Ihr könnt ihn unter simonleandergrimm@gmail.com erreichen.

Jasper Götting:

Jasper hat nach seinem Biologie- und Biomedizin-Studium in Virologie promoviert, um im Bereich der Biosicherheit zu arbeiten. Derzeit ist er für die Metascience Organisation Convergent Research tätig und evaluiert dort unter anderem technische Biosicherheits-Interventionen wie zum Beispiel Luftdesinfektion mittels Far UV-C-Strahlung.
Ihr könnt ihn unter jasper.goetting@icloud.com erreichen.

---

¹ Verschiedene Definitionsversuche für GC(B)Rs deuten im Allgemeinen in die gleiche Richtung:

Bostrom und Cirkovic (2007):

[GCRs sind ein] Risiko, dass das Potenzial hat, dem menschlichen Wohlergehen auf globaler Ebene ernsthaften Schaden zuzufügen.

Open Philanthropy:

Wir verwenden den Begriff „globale katastrophale Risiken“ für Risiken, die global so destabilisierend sein könnten, dass sie die Zukunft der Menschheit dauerhaft verschlechtern oder zum Aussterben der Menschheit führen.

Schoch-Spana et al. (2017)

Die Arbeitsdefinition des Johns Hopkins Center for Health Security für globale katastrophale biologische Gefahren (GCBRs): Ereignisse, bei denen biologische Erreger — unabhängig davon, ob sie auf natürliche Weise entstehen, wieder auftauchen, absichtlich erzeugt und freigesetzt werden oder im Labor hergestellt werden und entweichen — zu einer plötzlichen, schwerwiegenden und weit verbreiteten Katastrophe führen könnten, die die kollektiven Kontrollmöglichkeiten der nationalen und internationalen Regierungen und des privaten Sektors übersteigt. Wenn keine Kontrolle gelingt oder möglich ist, würden GCBRs zu großem Leid, zum Verlust von Menschenleben und zur nachhaltigen Schädigung von nationalen Regierungen, internationalen Beziehungen, Volkswirtschaften, gesellschaftlicher Stabilität oder globaler Sicherheit führen.

² Weitere Informationen zum Thema Longtermism findest du in anderen Arbeiten von 80000 Hours.

³ Obwohl die Modelle (von KPMG und RAND Europe) nur darauf abzielen, ein mögliches Worst-Case-Szenario zu illustrieren, wird sich ein plausibler „Worst-Case“ durch AMR weniger verheerend darstellen.

• Das RAND-Szenario, wonach alle Krankheitserreger innerhalb von 15 Jahren eine 100 %ige Resistenz gegen alle Antibiotika erreichen, ist unwahrscheinlich — viele Organismen zeigen eine anhaltende Empfindlichkeit gegenüber antimikrobiellen Stoffen, die seit Jahrzehnten gegen sie eingesetzt werden.
• Auch die Annahme von KPMG, dass die Resistenz um 40 % zunimmt, erscheint zu pessimistisch. Außerdem halte ich die Prognose, dass die Resistenz zu einer Verdoppelung der Übertragung führen würde, für unwahrscheinlich.
• Die Modelle gehen von einer konstanten Inzidenz der Infektionen aus, obschon die meisten Infektionskrankheiten einen rückläufigen Trend aufweisen, der nur zu einem geringen Teil auf den Einsatz antimikrobieller Mittel zurückzuführen ist.
• Bei der Entwicklung der Resistenzmechanismen büßen die Erreger in der Regel, zumindest in gewissem Maße, an Fitness ein.
• Die Modelle bilden keine Versuche zur Abschwächung oder anderweitige Reaktionen ab (z. B. eine verstärkte Forschung und Entwicklung im Bereich der Antibiotika bei steigenden Resistenzraten).

⁴ So hat z. B. Saskia Popescu eine Abhandlung über „Die existenzielle Bedrohung durch antimikrobielle Resistenz“ verfasst, in der sie aufzeigt, dass eine weit verbreitete antimikrobielle Resistenz einen Grippeausbruch zu einem deutlich fataleren Ereignis machen könnte (in der Regel ist ein großer Teil der Grippetodesfälle auf eine bakterielle Sekundärinfektion zurückzuführen).
Eine mögliche Erklärung für diese vermeintliche Meinungsverschiedenheit ist einfach, dass Popescus den Begriff „existenzielle Bedrohung“ nicht in dem Sinne verwendet, den der Longtermism für „existenzielle Risiken“ vorsieht. Ich vermute jedoch, dass sie (und mit Sicherheit auch andere) nicht einverstanden wäre mit meinem „Ausschluss“ der AMR von der Liste plausibler GCBRs.

⁵ Zu nennen sind hier: der Bericht des Harvard Global Health Institute über das globale Monitoring der Abwehrbereitschaft bei Krankheitsausbrüchen:

Nur wenige natürliche Gefahren bedrohen mehr Menschenleben, sorgen für größere wirtschaftliche Störungen und soziale Unruhen als der Ausbruch einer schweren Infektionskrankheit. Eine Grippepandemie oder ein Ausbruch einer ähnlich ansteckenden Krankheit könnte Milliarden von Menschen infizieren, Millionen von Menschen töten und das Welt-Bruttoinlandsprodukt um Billionen von Dollar schmälern. Selbst eine begrenztere Epidemie könnte Millionen von Menschen töten und Dutzende oder Hunderte von Milliarden Dollar kosten. Doch im Vergleich zu den Ressourcen, die für die Eindämmung anderer globaler Risiken wie Terrorismus, Klimawandel oder Krieg aufgewendet werden, investiert die Weltgemeinschaft relativ wenig in den Bereich der Pandemieprävention bzw. Pandemievorbereitung. Das typische Reaktionsmuster lässt sich als Zyklus von Panik und Nachlässigkeit beschreiben: ein überstürzter Einsatz beträchtlicher Ressourcen, wenn ein Ausbruch auftritt, gefolgt einem Abebben des Interesses und der Investitionen, wenn die Erinnerung an den Ausbruch verblasst. Die daraus resultierenden unzureichenden Investitionen in tatsächliche Vorbereitungen und das übermäßige Vertrauen auf kurzfristige Reaktionen verursachen enorme Kosten in Form von Menschenleben und Geld und verschärfen das globale Risiko.

… oder der Bericht des Blue Ribbon Study Panel of Biodefense von 2014 (allerdings nur im US-Kontext):

Die biologische Bedrohung könnte Millionen von Todesopfern und wirtschaftliche Verluste in Milliardenhöhe mit sich bringen. Die (US-)Regierung hat die Ernsthaftigkeit dieser Bedrohung erkannt. Um ihr zu begegnen, hat sie Milliardenbeträge für ein breites Spektrum von Maßnahmen über viele Ministerien und Behörden hinweg bereitgestellt. Diese Anstrengungen zeigen, dass das Problem erkannt wurde, und den deutlichen Versuch, Lösungen zu finden. Dennoch schenkt die Nation der biologischen Bedrohung nicht die gleiche Aufmerksamkeit wie anderen Bedrohungen: Es gibt keine zentralisierte Leitung für Biosicherheit. Außerdem fehlen in diesem Bereich ein nationaler Strategieplan und ein allumfassendes Budget.

[...]

Die biologische Bedrohung ist nicht gebannt. Es wird wahrscheinlich der Tag kommen, an dem wir mit einer biologischen Waffe angegriffen werden und mit Sicherheit werden wir tödlichen, natürlich vorkommenden Infektionskrankheiten und zufälligen Expositionen ausgesetzt sein, gegen die unsere Maßnahmen voraussichtlich nicht ausreichen werden. Hierfür gibt es zwei Gründe: 1) mangelnde Einsicht in das Ausmaß, die Schwere und die Realität der biologischen Bedrohung und 2) mangelnder politischer Wille. Diese Bedingungen haben sich gegenseitig verstärkt.

⁶ Es ist schwierig die Wurzeln dieser Skepsis genau zu ermitteln (was zum Teil darauf zurückzuführen ist, dass der Begriff GCBR erst 2017 eingeführt wurde, und auch auf die Ungewissheit darüber, wie „groß“ ein Risiko sein muss, damit eine globale Katastrophe droht). Ich denke, man kann sie am besten als skeptische Ansichten gegenüber den Gründen skizzieren, die ich hier anführe, d.h.:

• Die Alarmierung der Expertengemeinschaft kann sehr anfällig für Irrtümer sein (und birgt das Risiko eines eigennützigen Interessenkonflikts: „Natürlich werden die Leute, die mit dem fraglichen Risiko Karriere machen, nicht sagen, dass es keine große Sache ist“).

• Die Aufzeichnungen über Ausbrüche sollten als ermutigend angesehen werden, insbesondere was die Wahrscheinlichkeit eines Ereignisses angeht, das noch schlimmer ist als der Schwarze Tod oder die Grippe von 1918. („Dies sind extrem seltene Ereignisse und ihr Risiko ist aufgrund von (z. B.) Fortschritten in der modernen Medizin glaubhaft zurückgegangen — wenn wir den rechten Rand der Verteilung noch weiter nach rechts verschieben, sollten wir das Risiko als unglaublich gering einschätzen“).

• Skepsis gegenüber „neuartigen“ Risikoerregern (Das Risiko (z. B.) des Bioterrorismus wird stark überbewertet: Jahr für Jahr sterben daran viel weniger Menschen (d. h. ~ 0) als bei praktisch jeder anderen Infektionskrankheit — und um Größenordnungen weniger als bei der jährlichen Grippesaison. Abgesehen von der Empirie gibt es viele objektive Gründe, warum das Szenario von „Bioterroristen, die einen Superbazillus freisetzen, der Millionen tötet“ viel leichter gezeichnet ist, als das es wirklich passieren könnte.)

⁷

⁸ Luke Muelhauser hat eine Liste der schlimmsten historischen Ereignisse zusammengestellt (grob definiert als tödlich für 1 % oder mehr der menschlichen Bevölkerung über 30 Jahre). Unter den 14 aufgelisteten Ereignissen befinden sich 3 biologische Katastrophen (Justinianische Pest, Schwarzer Tod, Influenza 1918):

⁹ Die genaue Zahl der Todesopfer der justinianischen Pest ist wie immer in der „historischen Epidemiologie“ sehr schwer zu ermitteln — man beachte z. B. diese jüngste Studie, die von einer viel geringeren Zahl von Todesopfern ausgeht. Luke Muehlhauser erörtert das Thema hier ausführlich: Angesichts der Indizien, die auf einen asiatischen Ursprung der Pest hindeuten (und damit auf mögliche Auswirkungen auf asiatische Zivilisationen zusätzlich zu Byzanz), würde ich zu etwas höheren Schätzungen tendieren, aber bei einer so großen Bandbreite an Unsicherheiten spielen Streitigkeiten über Punktschätzungen kaum eine Rolle.

¹⁰ Er könnte zu den nachfolgenden Klimaveränderungen („Kleine Eiszeit“) beigetragen haben.

¹¹ Dies ist jedoch ungewiss. Thompson et al. (2019) vermuten, dass mehr Flugreisen einen protektiven Effekt haben könnten. Der Mechanismus besteht darin, dass vermehrtes Reisen und eine stärkere Durchmischung der Bevölkerung eine größere Verbreitung „präpandemischer“ Erregerstämme ermöglichen und so eine Kreuzimmunität in der globalen Population aufbauen, die der Weltbevölkerung einen größeren Schutz gegen den nachfolgenden Pandemiestamm verleiht.

¹² Man kann dies mit einer Mischung aus qualitativen und quantitativen Kriterien begründen. Zu ersteren kann man die jüngsten großen biotechnologischen Durchbrüche zählen (CRISPR-Cas9-Genom-Editing, synthetische Bakterien, das Human Genom Project, usw.). In quantitativer Hinsicht deuten Metriken zu Sequenzierungskosten oder Veröffentlichungen auf Trends zur Beschleunigung des Fortschritts hin.

¹³ Obwohl über die Richtung dieses Effekts weitgehend Einigkeit besteht, ist das Ausmaß nicht so eindeutig. Es gibt (glücklicherweise) nach wie vor gewaltige praktische Herausforderungen, die über die „prinzipielle“ Wissenschaft zur Durchführung eines biologischen Waffenangriffs hinausgehen, und in der Vergangenheit scheiterten viele staatliche und nichtstaatliche Biowaffenprogramme an diesen Hürden (Ouagrham-Gormley 2014). Biotechnologische Fortschritte spielen wahrscheinlich eine geringere (aber merkliche) Rolle darin, diese Herausforderungen zu beseitigen.

¹⁴ Die Interpretation dieser Gain-of-Funtion-Experimente wird durch die Tatsache erschwert, dass die resultierenden Stämme zwar von hochpathogenen Vogelgrippeviren abstammen und zwischen Säugetieren übertragen werden konnten, dass diese Stämme aber gleichzeitig eine relativ schwache Übertragung auf Säugetiere und eine geringere Pathogenität aufwiesen.

¹⁵ Drew Endy: „Der Großteil der Biotechnologie muss erst noch erdacht, geschweige denn verwirklicht werden.“ Siehe auch Hecht et al. (2018): Are natural proteins special? Can we do that?

¹⁶ Oftmals sorgt der Selektionsdruck für eine „ausreichende“ Leistung, wobei der Druck zwischen „ausreichend“ und katalytischer Perfektion nur wenig zunimmt. Ein gängiges Beispiel sind anaplerotische Reaktionen, bei denen Stoffwechselzwischenprodukte aufgefüllt werden, wobei die maximal erforderliche Rate durch andere Enzyme begrenzt ist, die der Reaktion vor- oder nachgeschaltet sind oder durch den Fluss durch den Stoffwechselweg, der bei normaler Funktion des Organismus „gedeckelt“ ist.

¹⁷ Diese sind im Wesentlichen hundertmal größer als die angegebenen Risiken pro Jahr: Der Korrekturfaktor für bedingte Ereignisse des Jahrhundertrisikos = 1 - (1 - jährliches Risiko)^100 wirkt sich bei diesen kleinen Werten des jährlichen Risikos lediglich auf die fünfte Nachkommastelle aus.

¹⁸ Es ist anzumerken, dass diese Übertragung sehr grob ist, und die Einschätzungen bezüglich geeigneter Glaubwürdigkeitsintervalle und verwendeter Verteilungen sind alles andere als unanfechtbar. Leser sind eingeladen, das Modell zu duplizieren und die Parameter nach eigenem Ermessen anzupassen.
Ein weiteres Merkmal (siehe oben) ist, dass die Einführung von Unsicherheit um die Punktschätzungen herum in das Modell die Punktschätzung des Gesamtrisikos erhöht: Für jeden Parameter erhöht Wahrscheinlichkeitsmasse im „rechten Rand“ der Unsicherheit das mittlere Risiko stärker als symmetrische Beträge im flacheren linken Teil es reduzieren.

¹⁹ Mit anderen Worten: Manche Probleme können ein großes Ausmaß haben, aber gleichzeitig wenig vernachlässigt und schwer lösbar sein. (q.v.)

²⁰ Zwei Beispiele mit Bezug zu GCBRs:

• Gesundheitssicherung folgt einem Kreislauf aus Panik und Vernachlässigung: Nach einer globalen Gesundheitskatastrophe werden große Anstrengungen unternommen, die jedoch wieder abklingen, wenn sich keine weitere Katastrophe ereignet.

• Initiativen im Bereich der öffentlichen Gesundheit weisen in der Regel eine wesentlich höhere Grenzkostenwirksamkeit auf als therapeutische Interventionen. Dieses Muster ist weltweit stabil. Allerdings wird die öffentliche Gesundheit weltweit vernachlässigt, und zwar aufgrund einer Mischung aus individueller kognitiver Verzerrungen (vgl. identifizierbare Opfer und die Pflicht zur Rettung), einer hohen impliziten zeitlichen Diskontierung und neuer politischer Ökonomie (diejenigen, die durch den Entzug von Präventionsdiensten benachteiligt werden, wissen nicht darum, und um wen es sich letztlich dabei handelt wird in der Regel erst jenseits der typischen Amtszeitgrenze einer gewählten Person klar; im Gegensatz zu der klar identifizierbaren Wählerschaft, die sofort benachteiligt wird, wenn ein therapeutischer Dienst nicht finanziert wird).

²¹ Die „Gesundheitssicherung“ umfasst auch Gesundheitsbedrohungen durch nukleare oder chemische Quellen sowie allgemeinere Bereitschaftsmaßnahmen. In der verlinkten Quelle habe ich sowohl das Budget für „Biosicherheit“ (1,6 Mrd. US-Dollar) als auch für „Pandemieprävention“ (1,6 Mrd. US-Dollar) berücksichtigt, was etwa 23 % des 14 Mrd. US-Dollar umfassenden Budgets für „Gesundheitssicherung“ ausmacht.

Abgesehen von den Herausforderungen bei der Buchführung gibt es auch Schwierigkeiten bei der Entscheidung, welche Programme in welche Bereiche fallen. Es scheint wahrscheinlich, dass ein Teil des Postens “Multi-hazard and preparedness“ auch für biologische Risiken relevant ist. Trotz dieser Vorbehalte steht außer Zweifel, dass die Ausgaben der USA für die biologische Verteidigung (unabhängig von der Klarheit der Definition) in die Milliarden gehen würden.

²² Dies setzt die totale Betrachtung der Bevölkerungsethik voraus, die ihrerseits umstritten ist. Wird der künftige Nutzen abgezinst (was ebenfalls umstritten ist), verschlechtert sich das Kosten-Nutzen-Verhältnis angesichts der konservativen numerischen Schätzungen drastisch, obwohl es mit den Gesundheitsausgaben (reicher Länder) konkurrenzfähig bleibt, wenn die (höheren) Zahlen aus der Expertenbefragung verwendet werden.
Parallel dazu versuche ich, den Wert der Verringerung existenzieller Risiken aus der Personen-bezogenen Betrachtung abzuschätzen — wobei ich nur den durch verkürzte Leben entstehenden Schaden einrechne und den Nutzen der Leben, die hätten sein können, völlig außer Acht lasse. Ich verwende etwas höhere Risikoschätzungen (d. h. 1 % über das Jahrhundert) und etwas günstigere „1 % relative Risikominderung“ (1 % RRR für 1 Milliarde pro Jahr über das Jahrhundert), obwohl ich diese für vernünftig bis konservativ halte, und komme zu einer höheren Zahl (1500-26000 $), die jedoch immer noch (z. B.) mit den Gesundheitsausgaben reicher Länder konkurriert.

²³ Die These von den „Atomwaffen des armen Mannes“ ist umstritten. Auf der einen Seite wurde der einseitige Verzicht der Vereinigten Staaten auf offensive biologische Waffen im Jahr 1969 zu einem großen Teil mit dem begrenzten Wert begründet, den sie einer Atommacht bieten, verglichen mit den Vorteilen, die sich daraus ergeben, andere Staaten (ohne Atomwaffen) davon abzuhalten, eine bedeutende, wenn auch schlechtere, strategische Abschreckung zu entwickeln, z. B.:

Das [wissenschaftliche Beratungskomitee des Präsidenten] und andere Kritiker hatten [Nixon] davon überzeugt, dass biologische Waffen (BW) nur einen begrenzten taktischen Nutzen auf dem Schlachtfeld haben und kein zuverlässiges oder wirksames strategisches Abschreckungsmittel darstellen. Der Mangel an institutioneller Unterstützung für eine offensive BW-Kapazität innerhalb des uniformierten Militärs — mit der einzigen Ausnahme der Armee, die die Interessen des Chemischen Korps vertrat — erleichterte die Entscheidung, das aufzugeben, was weithin als eine unbedeutende Waffe angesehen wurde. Gleichzeitig war sich Nixon bewusst, dass biologische Waffen in den Händen feindlicher Länder potenziell eine strategische Bedrohung für die Vereinigten Staaten darstellen. Die US-Armee hatte heimlich groß angelegte Feldversuche mit aus Flugzeugen freigesetzten BW-Stimulanzien durchgeführt, die gezeigt hatten, dass der Einsatz von biologische Waffen die Macht hat ein Massensterben in amerikanischen Großstädten auszulösen. Daher war es erstrebenswert, den Erwerb dieser Waffen durch weitere Staaten zu verhindern und die strategische Abschreckung auf der Grundlage anderer Waffensysteme aufrechtzuerhalten. Ein einseitiger Verzicht der USA auf ihre eigenen BW-Kapazitäten würde die Botschaft aussenden, dass biologische Waffen unwirksam sind, und damit feindliche Staaten davon abhalten, sich eine „Atombombe des armen Mannes“ zuzulegen, die als militärisches Gegengewicht dienen könnte.

Darüber hinaus verwenden Horowitz und Narang (2014) historische Daten, um die Wahrscheinlichkeit zu modellieren, dass ein Staat nukleare, biologische oder chemische Waffen anstrebt oder besitzt. Sie finden Hinweise auf eine Hierarchie: Der Besitz von Atomwaffen macht es für einen Staat unwahrscheinlicher, biologische oder chemische Waffen zu besitzen; der Besitz von biologischen Waffen macht es für einen Staat sehr unwahrscheinlich, chemische Waffen zu besitzen, aber nicht andersherum (Atomwaffen > biologische Waffen > chemische Waffen).

Andererseits sind in der Geschichte der (bekannten) BW-Programme nur wenige in die Nähe einer glaubwürdigen strategischen Abschreckung gekommen und haben bestenfalls Waffen für einen kleineren oder geheimen Einsatz produziert (es ist unklar, ob dies daran liegt, dass die strategische Abschreckung tatsächlich kein Ziel dieser Programme war oder dass diese Fertigkeit viel schwieriger zu erreichen war). Um es noch deutlicher zu sagen: Es ist schwer, einen Gegner mit einer Waffe abzuschrecken, von der er nicht weiß, dass man sie besitzt: Von Staaten, die Abschreckung betreiben, sollte erwartet werden, dass sie ihre BW-Kapazitäten offen zur Schau stellen, anstatt sie geheim zu halten und ausdrücklich jeden BW-Besitz zu leugnen. (vgl.)

²⁴ Der gesamte Militärhaushalt der UdSSR (ganz zu schweigen von den einzelnen Komponenten) wurde geheim gehalten und kann nur geschätzt werden. Eine weitere Herausforderung besteht darin, dass das sowjetische Umfeld zu einer Unterscheidung zwischen „Hartwährungsbudgets“ (in Dollar, die international ausgegeben werden konnten) und „Inlandsbudgets“ (in Rubel) führte. Alibek (ein Überläufer aus dem sowjetischen Programm) behauptete, dass allein 1990 eine Milliarde Dollar für BW-Forschung und -Entwicklung ausgegeben wurde; Pasechik (ein weiterer Überläufer) schätzte für den Zeitraum 1974-1989 ein Budget von 50-150 Millionen Dollar in harter Währung pro Jahr für ausländische Ausrüstung und Lieferungen. Ein vertrauliches Interview, über das in Mangold und Goldbergs Plague Wars berichtet wird, deutet darauf hin, dass 1969 beschlossen wurde, 3 % des Militärhaushalts für BW auszugeben. Daraus ergeben sich Schätzungen in der Größenordnung von 0,1 bis 1 % des gesamten BIP.

²⁵ Russland räumte 1992 ein, dass die UdSSR seit ihrem Beitritt zum BWÜ ein Offensivprogramm zur biologischen Kriegsführung betrieben hat, und verpflichtete sich, dieses unverzüglich einzustellen (siehe z.B. The 1992 Joint US/UK/Russian statement, Dahlberg (1992)).

Es ist bemerkenswert, dass russische Quellen aus dieser Zeit nur die Forschung und nicht den Besitz oder die Lagerung von Angriffswaffen angeben. Die beiden russischen (nichtstaatlichen) Quellen, die in westlichen akademischen Arbeiten über das russische Eingeständnis von 1992 häufig zitiert werden, sind ein Bericht von Victor Livotkin in der Zeitung Izvestiia und ein Interview mit Anatoly Kuntsevich.

Livotkins Titel lautet [übersetzt von BBC Monitoring] „Jelzin verbietet die Arbeit an bakteriologischen Waffen. Das bedeutet, dass die Arbeiten im Gange waren und wir getäuscht wurden“. BBC-Ms Zusammenfassung lautet: „Jüngstes Dekret über die Einhaltung des Verbots biologischer Waffen impliziert frühere Nichteinhaltung der vereinbarten Konvention; wirksame Überwachung der damit verbundenen wissenschaftlichen Arbeit erforderlich und die Arbeit sollte offen sein; biologische Konversion könnte dem Land finanziell zugute kommen“. Die direkte Übersetzung:

Nach Aussage russischer Militärexperten hätten wir zwar keine Probleme mit der Vernichtung bakteriologischer Waffen, da es in Russland keine Lagerbestände dieser Waffen gäbe, aber es hätte entsprechende Forschung und experimentelle Entwürfe gegeben. Wir hätten die BW in Laboratorien und sogar in sehr geringer Dosierung auf einem speziellen Testgelände ausgetestet, das inzwischen geschlossen und nach den entsprechenden Kontrollinspektionen der nationalen Wirtschaft übergeben wurde. Wissenschaftler behaupten, dass das Testgelände sicher sei. Die Zunahme der Wildtierpopulation auf dem Gebiet beweise dies. Diese Aussage muss natürlich sorgfältig überprüft werden.

Kuntsevich räumt Verstöße gegen das Übereinkommen ein, bestreitet aber in dem Interview ausdrücklich, dass Russland biologische Waffen besitzt (übersetzt vom (US-)Bundespressedienst):

Frage: Es dauerte fast 20 Jahre, bis die Verstöße zugegeben und die Forderungen der internationalen Konvention vollständig erfüllt wurden.

Antwort: Ja, offensichtliche Verstöße gegen die Konvention wurden erst nach dem Zusammenbruch des totalitären Regimes zugegeben, und erst nachdem wir die Heuchelei in der Politik überwunden haben. Wir haben eingeräumt, dass nach der Ratifizierung des Übereinkommens die Offensivprogramme im Bereich der biologischen Waffen nicht sofort gestoppt wurden, sondern die Forschung und Produktion fortgesetzt wurde. In einem St. Petersburger Forschungsinstitut und in drei Militäreinrichtungen in Kirow, Jekaterinburg und Sergijew Posad entwickelten die Forscher weiterhin biologische Kampfstoffe und Mittel zu deren Ausbringung durch Flugzeuge und Raketen. Sie wurden auf der Insel Vozrozhdeniye im Aralsee getestet.

[…]

Frage: Wie werden die gelagerten biologischen Waffen vernichtet?

Antwort: Wir hatten noch nie Vorräte an biologischen Waffen. Sie können nicht für lange Zeit gelagert werden. Deshalb stellt sich auch nicht das Problem ihrer Beseitigung.

Diese Position stimmt auch mit anderen Quellen überein: Der russische Rundfunk behauptete damals ebenfalls, es gäbe keine biologischen Waffen, das russische CBM von 1992 behauptete, dass „während des gesamten Zeitraums der Arbeit keine Munition für biologische Waffen hergestellt wurde“ (vgl. Knoph und Westerdahl (2005)), und Jelzin erwähnt in seiner Rede vor dem Kongress von 1992 lediglich „Experimente mit biologischen Waffen“.

Derzeit vertritt Russland den Standpunkt, dass es in der Sowjetunion nach der Unterzeichnung des BWÜ kein offensives BW-Programm gegeben hat (siehe Zilinskas (2016), Knoph und Westerdahl (2005)).

²⁶ Öffentliche Informationen über Staatsaktivitäten im Bereich der biologischen Kriegsführung sind in der Regel geheimnisumwittert (insbesondere seit das BWC in Kraft getreten ist). Die zugänglichste (wenn auch nicht die zuverlässigste) Quelle über Biopreparat ist Alibeks Buch Biohazard. Die von mir erwähnten Aktivitäten werden ebenfalls in dem viel bedeutenderen Buch von Leitenburg und Zilinskas dargelegt: The Soviet Biological Weapons Program: A History.

²⁷ Der Nachweis, dass ein Staat biologische Waffen besitzt oder entwickelt, ist sehr schwierig. Solche Programme werden zwangsläufig im Geheimen durchgeführt, und es ist zu erwarten, dass entsprechende Anschuldigungen unabhängig von ihrem Wahrheitsgehalt heftig bestritten werden. Außerdem können Staaten aufgrund der politischen Brisanz von BW andere Gründe haben, die dafür ausschlaggebend sind, ob sie behaupten, dass ein anderer Staat ein BW-Programm verfolgt oder nicht, unabhängig von den tatsächlich vorliegenden Beweisen.

Eine häufig zitierte Quelle ist der Bericht des US-Außenministeriums über die Einhaltung der Rüstungskontrolle. Die jüngste (2019) freigegebene Version dieses Berichts beschuldigt nur Nordkorea, ein Biowaffenprogramm zu besitzen, und verweist auch auf die Besorgnis der USA über die Einhaltung des BWÜ durch Russland, China und den Iran. Carus (2017) gibt einen aktuellen Überblick über mutmaßliche frühere und laufende BW-Programme.

²⁸ Das BWÜ sieht vertrauensbildende Maßnahmen vor, mit denen sich die Länder verpflichten, Informationen über (unter anderem) ihre Laboraktivitäten, Forschungs- und Entwicklungszentren für biologische Waffen usw. zu liefern. In den vergangenen drei Jahren hat weniger als die Hälfte der Vertragsstaaten des BWÜ einen entsprechenden Bericht vorgelegt, und 57 Länder haben dies noch nie getan (ISU (2019)).

²⁹ Dies wurde auf der Tagung der Staatsparteien im darauf folgenden Jahr größtenteils korrigiert.

³⁰ Vgl. diesen öffentlichen “Pitch“ an Bill Gates zur Deckung des Finanzierungsdefizits.

³¹ Obwohl insbesondere dieses Zitat häufig wiederholt wurde, behauptet Fouchier, es sei dem Zusammenhang gerissen: Es sollte darauf hinweisen, dass die Technik der seriellen Passage eine dumme, einfältige Methode ist, und nicht, dass sie in Bezug auf ihre möglichen Folgen dumm und gefährlich ist. Ähnlich könnte eine wohlwollende Interpretation die anderen ausgewählten Äußerungen (meines Wissens gibt es keine Mitschrift seines Vortrags) dahingehend interpretieren, dass sie mit seiner Position übereinstimmen, dass die Risiken dieser Arbeit durch den Nutzen für die öffentliche Gesundheit gerechtfertigt seien: Es sei eine „sehr schlechte Nachricht“, dass so wenige Mutationen erforderlich seien, um die Vogelgrippe zwischen Säugetieren übertragbar zu machen, aber keine „sehr schlechte Nachricht“, dass er sich der Entwicklung eines extrem gefährlichen Erregers annäherte.

Andererseits war Fouchiers Kommunikation rund um seine Arbeit sowohl im Stil als auch im Inhalt überspitzt. Bei besagtem Treffen berichtete er, dass sein Virus jedes der Versuchs-Frettchen tötete und zwischen ihnen ähnlich übertragbar war wie die saisonale Grippe. Im November desselben Jahres bezeichnete er seinen Stamm als „vermutlich eines der gefährlichsten Viren, die man herstellen kann“, und seine direkt zitierten Äußerungen um diese Zeit (sowie die Pressemitteilungen seines Instituts) deuteten an (ohne es jedoch offen auszusprechen), dass seine Arbeit ein Virus hervorgebracht hatte, das ausnahmslos tödlich war, zwischen Frettchen etwa so gut übertragbar war wie die saisonale Grippe und wahrscheinlich ähnliche Folgen beim Menschen haben würde.

Dies war jedoch nicht wirklich der Fall. Fouchier hat später „klargestellt“, dass sein Virus nicht so besorgniserregend war, wie die Presse zunächst angenommen hatte. Das Virus wurde zwar von Frettchen zu Frettchen übertragen, aber in viel geringerem Ausmaß als die saisonale Grippe (oder die „Schweinegrippe“ H1N1 von 2009). Es war nur dann ausnahmslos tödlich, wenn es den Frettchen in sehr hohen Titern direkt in die Nase verabreicht wurde — bei den durch Aerosolübertragung infizierten Frettchen starb hingegen kein einziges Versuchstier. Tatsächlich zeigten die so infizierten Frettchen kaum Anzeichen von Krankheit.

Vielleicht kann man dies mit einer gewissen Nachsichtigkeit deuten. Aber eine alternative Erklärung ist diese: Fouchier wollte seine Arbeit bewusst „aufwerten“, indem er zum Teil fälschlicherweise behauptete, er habe ein viel gefährlicheres Virus produziert, als es tatsächlich der Fall war. Erst als diese Vorgehensweise sehr negative Aufmerksamkeit erregte, bemühte er sich, die Gefahr, die seine früheren Mitteilungen suggerierten, zu dementieren. In Anbetracht dessen ist unklar, ob er in der ursprünglichen Sitzung wirklich aus dem Zusammenhang gerissen zitiert wurde: Die Behauptung, die eigene Arbeit sei „dumm und gefährlich“ und „sehr übel“, wäre mit einer solchen Strategie der Eigenwerbung kongruent.

Sollte dies wirklich sein Kalkül gewesen sein, so ging die Rechnung auf: Fouchier wurde im Jahr nach der Vorstellung seiner Arbeit in die Liste der 100 einflussreichsten Personen der Zeitschrift Time aufgenommen.

³² Auf eine Voranfrage der Pferdepocken-Synthesegruppe an eine Zeitschrift antwortete der Herausgeber:

Auch wenn wir die technische Leistung anerkennen, haben wir letztlich entschieden, dass Ihre Arbeit den Science-Lesern keinen ausreichenden Gewinn an neuen biologischen Erkenntnissen bietet, um den erheblichen Verwaltungsaufwand auszugleichen, den das Manuskript im Hinblick auf die bedenkliche Forschung mit doppeltem Verwendungszweck darstellt. (Dies passt zu meiner Argumentation)

³³ GCBR trägt auch zum Progress anderer Problembereiche bei (sowohl direkt als auch im Sinne von “Spillover“), wenn auch in geringem Maße, z.B.:

• Es gibt eine natürliche Überschneidung zwischen GCBRs und globaler Gesundheit im Allgemeinen, insbesondere im Sinne von Programmen wie der Global Health Security Agenda.

• Es besteht eine gewisse Wechselwirkung zwischen “One Health“ (der gemeinsamen Betrachtung der Gesundheit von Mensch und Tier) und dem Tierschutz, wobei allerdings die Motivation für “One Health“ eher darin besteht, die Tiere als Mittel zum Wohl des Menschen zu betrachten (z. B. zoonotische Krankheiten, wirtschaftliche Produktivität), als in einem Selbstzweck.

Dies bedeutet wahrscheinlich, dass es für diejenigen, die einen geeigneten Hintergrund haben, um eine Arbeit in GCBRs in Betracht zu ziehen, und die Problembereiche der globalen Armut oder des Tierleids am stärksten gewichten, in der Regel „Standardthemen“ in diesen Problembereichen gibt, die attraktiver sind (z.B. für EA-Biologen mit Schwerpunkt globale Gesundheit, vielleicht vernachlässigte tropische Krankheiten oder medizinische Forschung; für EA-Biologen mit Schwerpunkt Tierschutz, vielleicht ethisch sauberes Fleisch oder Wildtierforschung).

³⁴ Joe Carlsmith, Orienting towards the long-term future: (q.v.)

Hier ist der erste Flug der Gebrüder Wright im Jahr 1903 (zu sehen). Und hier ist Buzz Aldrin 66 Jahre später auf dem Mond unterwegs. Das ist eine Menge Fortschritt in 66 Jahren — weniger als ein ganzes Leben. Unsere Spezies lernt schnell, vor allem in jüngster Zeit, und 500 Millionen Jahre sind eine lange Ausbildungszeit. Ich denke, wir werden weit weniger brauchen.

³⁵ Vgl. Bostrom (2009)

³⁶ Damit verbunden ist die Überlegung, dass globale Katastrophen (einschließlich GCBRs) mit „echten“ existenziellen Risiken interagieren können. Es hat den Anschein, dass die Chance darauf, (z. B.) die Entwicklung der KI gut zu steuern, in Welten mit einer großen biologischen Katastrophe in der jüngeren Vergangenheit sinkt, selbst wenn diese nicht zu einem zivilisatorischen Zusammenbruch führt.

³⁷ Vgl. die Ausführungen von Nick Beckstead über „breite“ und „begrenzte“ Interventionen.

³⁸ Dieser Abschnitt stimmt im Großen und Ganzen mit dem Vortrag von Claire Zabel überein:

³⁹ Soweit ich das beurteilen kann, entspricht dies der vorherrschenden Meinung derjenigen, mit denen ich spreche, unabhängig davon, ob sie in „Bio“ (Prävention von GCBR), in „KI“ (KI-Sicherheit) oder in beiden Bereichen arbeiten (z. B. Prioritätenforschung). Es handelt sich jedoch um einen sehr groben Konsens: Die meisten bekennen sich zu einer beträchtlichen Unsicherheit, es herrscht große Uneinigkeit darüber, ob KI bedeutender als Bio ist und wie groß der Unterschied sein sollte, und einige Leute (einschließlich einiger, die in der KI arbeiten) glauben, dass Bio wichtiger als KI ist.

⁴⁰ Die Erkenntnis aus solchen Überlegungen sollte nicht als unumstößlich angesehen werden — siehe Manheim (2018) — aber diese Arbeit stimmt dennoch mit dem Kern des Arguments überein.

⁴¹ Zur Erläuterung. Wenn das Basisrisiko 10 % pro Jahrhundert beträgt, ist die Chance, 2000 Mal „Glück“ zu haben, um die fragliche Geschichte zu beobachten, sehr gering, während sie bei einem Risiko von 0,001 % pro Jahrhundert weit weniger überraschend wäre. Wenn wir ein Dutzend Mal hintereinander ein Erschießungskommando überleben, ist dies ein deutlicher Beweis dafür, dass wir es nicht mit kompetenten Exekutoren zu tun haben (vgl.).

Snyder-Beattie, Ord und Bonsall (2019) verwenden die Beobachtung von 200 000 Überlebenden, um in ihrer Schätzung zu einer Obergrenze für das „natürlich entstandene“ Aussterberisiko von 1/14 000 pro Jahr zu gelangen.

⁴² Hierin weiche ich von der mittleren Schätzung der Erhebung von 2008 ab. Wenn man es jedoch (durchaus vernünftigerweise) vorzieht, den Autoren bei den quantitativen Schätzungen zu folgen, stimmen sie qualitativ dennoch darin überein, dass die anthropogene GCBR größer ist als die natürliche GCBR.

⁴³ Zu den Grenzfällen gehören z. B.:

• Unbeabsichtigte Verwendung: Die ursprüngliche Entwicklung ist ein vorsätzlicher Missbrauch, aber die Freisetzung ist ein versehentlicher Missbrauch. Dies entspricht in etwa dem Risiko der Detonation einer Atombombe, wenn ein damit bewaffneter Bomber abstürzt (vgl.).

• Unbefugte Nutzung: Auch hier ist die Entwicklung beabsichtigt, und die Verwendung ist beabsichtigt (aus der Sicht des unbefugten Agenten), aber aus der Sicht des Auftraggebers unbeabsichtigt. Dies entspricht in etwa den „Dr. Strangelove-Szenarien“ für Kernwaffen (vgl. Permissive Action Links).
  Siehe auch Cotton-Barrett, Daniels und Sandberg (2020) für eine umfassendere Typologie.

⁴⁴ In Bezug auf den versehentlichen/vorsätzlichen Missbrauch anderer Technologien gibt es einige analoge Belege. Obwohl Unfälle mit Schusswaffen viele Menschen töten (wenn auch weniger als der vorsätzliche Gebrauch, zumindest in den Vereinigten Staaten), ist es schwer, einen solchen Unfall zu finden, bei dem mehr als fünf Menschen ums Leben kamen; bei Verkehrsunfällen sterben weitaus mehr Menschen als bei Rammattacken auf Fahrzeuge. Dennoch sind letztere bei den Ereignissen mit hohen Opferzahlen überrepräsentiert; bei Flugzeugunfällen sterben (relativ) viel mehr Menschen als bei Terroranschlägen mit Flugzeugen, dennoch war das Ereignis mit den meisten Todesopfern der letzteren Kategorie zuzuordnen usw.
Eine noch losere Analogie: Es ist sehr schwer, Unfälle zu finden, bei denen mehr als 10 000 Menschen ums Leben gekommen sind. Dies gilt nicht für vorsätzliche Handlungen wie Krieg oder Völkermord (obwohl vieles davon abhängt, wie die Ereignisse im Einzelnen erfasst werden und wie weit die Folgen verfolgt und dem „ursprünglichen Ereignis“ zugeschrieben werden).

⁴⁵ Dieses Profil wurde sorgfältig und wiederholt von mehreren Personen unter dem Gesichtspunkt der Informationsrisiken geprüft. Ähnliche Grundsätze gelten für alle Arbeiten, die ich in diesem Bereich durchführe. Ich fordere andere dringend dazu auf, ähnliche Vorsicht walten zu lassen.

⁴⁶ Das Beispiel des FHI zeigt die Diversität der akademischen Hintergründe auf: Die Mitglieder des dreiköpfigen „Bioteams“ haben internationale Beziehungen, Mathematik und Medizin/öffentliche Gesundheit studiert.

⁴⁷ Die Studienabschlüsse der Forscher am Johns Hopkins Center for Health Security und an der Fakultät für Biodefense an der George Mason University umfassen z. B. Biologie, Neurowissenschaften, Anthropologie, Ingenieurwesen, Industriemanagement, Politikwissenschaften, Kunstgeschichte und englische Literatur.

⁴⁸ Die Bedeutungsnuancen zwischen Gesundheitssicherheit (engl.: Health Security), Biosicherheit (engl.: Biosecurity) und biologischer Verteidigung (engl.: Biodefense) sind zwar durchlässig, implizieren aber in der Regel einen immer klareren Fokus. Die Gesundheitssicherheit „umfasst“ alles, was die öffentliche Gesundheit bedrohen kann, einschließlich nicht direkt biologischer Bedrohungen (z. B. humanitäre Krisen). Bei der Biosicherheit (engl.: Biosecurity) liegt der Schwerpunkt auf der Untergruppe der „unmittelbar biologischen“ Bedrohungen, einschließlich der zufälligen oder natürlich auftretenden Bedrohungen (z. B. Laborunfälle, zoonotische Krankheiten). Bei der biologischen Verteidigung liegt der Schwerpunkt auf der Untergruppe der feindlichen Risiken eines vorsätzlichen Missbrauchs (z. B. Bioterrorismus, biologische Kriegsführung). (Biosafety ist das Gegenteil, bei dem zufällige Risiken im Vordergrund stehen).

⁴⁹ Verwandtes Karriereprofil: Biomedizinische Forschung

⁵⁰ Verwandtes Karriereprofil: Akademische Forschung

⁵¹ Beide Zusammenstellungen sind keine vollständigen Auflistungen. Stattdessen sollen diese einen ersten Anhaltspunkt bieten. Aktuell sind deutsche Organisationen stark überrepräsentiert. Stand: Juli 2022

⁵² Interessenkonflikt: Ich werde teilweise durch ein Open-Philantropy-Stipendium unterstützt, und mein Arbeitsplatz hat in der Vergangenheit bereits Mittel von Open Philantropy erhalten.

⁵³ Das Argument wäre, dass Open Phil ein einzigartig fähiger und an den Werten des Effektiven Altruismus orientierter Geldgeber ist und daher die Kanalisierung von fähigem Personal mit verschiedensten Hintergründe in Richtung von Open Philantropy das Grant-Making in seinem gesamten Portfolio verbessern würde. Aus einer reinen „GCBR-Perspektive“ kann dieser erwartete Nutzen, selbst wenn er mit dem Anteil der GCBRs am Open-Phil-Portfolio multipliziert wird, immer noch mit den Auswirkungen anderer GCBR-relevanter Laufbahnen mithalten.

⁵⁴ Insbesondere die Punkte 5 bis 9:

Organisationsweite Risiken und Ablenkungen sind für größere Geldgeber kostspieliger, so dass kleinere Geber die mit diesen Nachteilen verbundenen Chancen besser nutzen können.

• Die Finanzierung von Wohltätigkeitsmaßnahmen aus einer einzigen Quelle ist mit einigen Nachteilen verbunden. Mehrere Geldgeber mittlerer Größe können diese verringern.
• Geldgeber mittlerer Größe können unter Umständen mehr Zeit pro zugewiesenem Dollar aufwenden als kleinere oder größere Geldgeber.
• Unterschiedliche Wertvorstellungen oder Weltanschauungen können dazu führen, dass ein kleiner Geldgeber keinen großen Geber mit vollständig übereinstimmenden Zielen finden kann, an den er delegieren kann, und daher einen solchen Geber schaffen oder einen Delegierten von mittlerer Größe einsetzen möchte, der seine Ziele besser verfolgt.
• Meiner Ansicht nach konnten einige mittelgroße Geber einige dieser Faktoren nutzen, um den „letzten Dollar“ (im Sinne des Nutzens, der durch den marginalen („letzten“) ausgegebenen Dollars erzielt wurde) der Giga-Spender zu übertreffen.

⁵⁵ Siehe das 80000-Hours-Profil zum Betriebsmanagement.

⁵⁶ Verwandtes Karriereprofile: Parteipolitik (UK), Journalismus.