Abgabetermin für Angebote ist der 30. August 2024.

Biotechnologie und künstliche Intelligenz: Risiken der Forschung für die Sicherheit und Proliferation von Biowaffen

Gutachter/innen gesucht
Wissenschaftler arbeitet an modernen 3D-Virus-Bakterien-Keim- oder Krankheitsmodellen in kreativen Hochtechnologie-Labors.

Im Rahmen des TA-Projekts sind zwei Gutachten zu vergeben: eines zum aktuellen Stand existierender Regulierungen und Kontrollmaßnahmen auf nationaler und internationaler Ebene, ein weiteres zu technischen Voraussetzungen und notwendigen Kenntnissen und Erfahrungen für die Herstellung von Biowaffen.

Inhaltsübersicht

sprungmarken_marker_4478

Thematischer Hintergrund

Die rasanten Fortschritte bei der Analyse und Synthese von Erbgut (DNA) sowie bei der gezielten Veränderung von Genen in verschiedensten Organismen durch Genomeditierung haben die Möglichkeiten der Erforschung und der Veränderung biologischer Systeme bzw. Organismen in den letzten 10 bis 15 Jahren vereinfacht und stark erweitert. Ein wichtiges Werkzeug sind dabei computergestützte Analyse- und Designprozesse. Diese oft unter den Begriff der Synthetischen Biologie gefassten Entwicklungen (TAB-Arbeitsbericht Nr. 164 »Synthetische Biologie – die nächste Stufe der Bio- und Gentechnologie«) konvergieren zunehmend mit jüngeren Fortschritten in Bereichen der künstlichen Intelligenz (KI) sowie der Automatisierung von Laborprozessen, bis hin zu automatisierten Laboren, die über Clouddienste nutzbar sind (Cloud Labs). In der Grundlagenforschung (z. B. bei der Erforschung von Genfunktionen und Krankheiten), in der industriellen Biotechnologie (Design neuer Stoffwechselwege in Mikroorganismen) oder in der Medizin (CAR-T-Zelltherapien, Gentherapien) haben diese neuen Möglichkeiten bereits revolutionäre Entwicklungen eingeleitet.

Gleichzeitig werden die Synthetische Biologie und ihre Anwendungsmöglichkeiten seit ihren Anfängen von Diskussionen um Risiken durch missbräuchliche Verwendung oder mögliche (Labor-)Unfälle begleitet– insbesondere im Hinblick auf die potenziell erweiterte Zugänglichkeit zu technologischen Entwicklungen für Personen, die nicht in etablierte und registrierte öffentliche oder private wissenschaftliche Einrichtungen eingebunden sind. In Zusammenhang mit diesen Diskussionen um die Biosicherheit wurden in den USA verbindliche Regelungen für bestimmte Bioforschungsprojekte mit doppeltem Verwendungszweck (Dual Use Research of Concern) sowie zum Einbringen neuer Eigenschaften (Gain of Function) in bestimmte Pathogene entwickelt.

In jüngster Zeit werden insbesondere in Zusammenhang mit weiteren technologischen Fortschritten bei DNA-Synthesetechnologien (einschließlich Desktop-DNA-Druckern), Cloud Labs sowie neuen KI-Modellen (wie ChatGTP-ähnliche Large Language Models – LLM und Biodesignwerkzeuge) mögliche neue bzw. erhöhte Sicherheitsrisiken durch missbräuchliche Nutzungen diskutiert. Verschiedene Dokumente unterschiedlicher Akteure zu diesem Thema stammen vor allem aus den USA, darunter ein im Oktober 2023 veröffentlichter Bericht der Non-Profit-Organisation Nuclear Threat Initiative (NTI) über mögliche Auswirkungen und Governancemaßnahmen. Forderungen nach Aktivitäten, um solchen Risiken entgegenzuwirken und die biologische Forschung vor Gefahren durch KI zu schützen, wurden kürzlich auch in einer Executive Order zu KI des US-Präsidenten Joe Biden formuliert.

Leistungsbeschreibung der zu vergebenden Gutachten

Das Projekt sieht zum einen eine breit angelegte, aber konzentriert aufgearbeitete Analyse möglicher Sicherheitsrisiken neuerer biotechnologischer Entwicklungen und ihrer Wechselwirkungen mit Entwicklungen im Bereich der KI vor. Zum anderen sollen Kontroll- und Regulierungsmöglichkeiten dargestellt sowie Möglichkeiten zu deren Weiterentwicklung diskutiert werden, um diese Sicherheitsrisiken zu minimieren und die Nichtverbreitung potenzieller Biowaffen zu stärken.

Als Teil der Informationsbasis soll einerseits ein Gutachten zum aktuellen Stand existierender Regulierungen und Kontrollmaßnahmen auf nationaler und internationaler Ebene sowie zu Möglichkeiten zu deren Weiterentwicklung vergeben werden. Ein weiteres Gutachten soll relevante Informationen zu technischen Voraussetzungen und notwendigen Kenntnissen und Erfahrungen für die Herstellung von Biowaffen liefern.

Gutachten 1: Gegenwärtige Regulierungen und Maßnahmen zur Kontrolle von Biowaffen sowie zu sicherheitsrelevanter Dual-Use-Forschung in den Biowissenschaften – in Deutschland, auf EU-Ebene und international

Das Gutachten soll folgende Aspekte abdecken:

  • Gesetzliche Regulierungen (EU-Ebene, in Deutschland), völkerrechtliche Abkommen oder informelle Übereinkommen zum Schutz gegen möglichen Missbrauch von biologischer Forschung und biotechnologischen Anwendungen zur Entwicklung von Biowaffen
  • Regulierungen (inkl. soft-law, code of conducts etc.) von Dual-Use(-of concern)-Forschung sowie Dual-Use-Gütern in Deutschland und auf EU-Ebene, Darstellung besonders relevanter Beispiele für Regulierungsansätze anderer Länder (z.B. USA, UK, …?)
  • Überblick zu offenen Regulierungsfragen und zu Möglichkeiten, die in der wissenschaftlichen und sicherheitspolitischen Debatte diskutiert werden, um existierende Regulierungen bzw. Abkommen zu verbessern oder auch bezüglich neuartiger Maßnahmen (z.B. der Überwachung und Kontrolle).
  • Stand aktueller politischer Initiativen für verbesserte Regelungen und Abkommen (in Deutschland, auf EU-Ebene, international)

Gutachten 2: Notwendige Kenntnisse und technische Voraussetzungen für die Herstellung und den Einsatz von biologischen Agenzien als Biowaffen

Das Gutachten soll Unterschiede in Entwicklungs- und Herstellungsprozessen von Biowaffen gegenüber zivilen Forschungs- und Produktionsprozessen sowie die damit verbundenen Implikationen für Wissen und Fähigkeiten von beteiligten Personen charakterisieren/herausarbeiten:

  •  Zusammenfassung und Analyse existierender Fallstudien/Berichte zum erfolgten Einsatz von Biowaffen mit Blick auf die erzielten Wirkungen sowie die Schwierigkeiten und "Misserfolge" der verschiedenen Akteure (staatliche, staatlich unterstütze oder nicht-staatliche).
  • Welche Rolle spielt tazites, also Erfahrungswissen für die praktische Umsetzung der Herstellung von Biowaffen über die in wissenschaftlichen Publikationen oder veröffentlichten Protokollen zugänglichen Informationen hinaus? Welche Art von Erfahrungen wird benötigt?
  • Welche Rolle spielt die praktische Testung von potenziellen Kampfstoffen? Was ist bekannt über tatsächlich durchgeführte Versuche mit entsprechenden Agenzien?
  • Welche wissenschaftlichen, technologischen, personellen und oganisatorischen Voraussetzungen sind für die genannten verschiedenen Akteure notwendig, um biologische Waffen für ihre Zwecke auf einem bedrohlichen Niveau entwickeln zu können?
  • Inwieweit könn(t)en neue Technologien (z.B. Gene editing, KI-Modelle, robotiserte Labore/“Cloud labs“) die Wissens- und Erfahrungsschwelle für unterschiedliche Akteure (Laien, Personen mit akademischer biologischer Ausbildung, ausgebildete Mikrobiologen oder Virologen mit Laborerfahrung in zivilen Forschungseinrichtungen) soweit senken, dass sie in die Lage versetzt werden, waffenfähige biologische Agenzien zu entwickeln und zu produzieren?

Bearbeitungsaufwand und Termine

Der vergütbare Bearbeitungsaufwand beträgt 3–5 Personenmonate.

  • Abgabetermin für die Angebote ist der 30. August 2024.
  • Mit der Bearbeitung der Gutachten soll (voraussichtlich) am 15. Oktober 2024 begonnen werden.
  • Ein Auftakttreffen soll voraussichtlich im November 2024 im TAB oder als Videokonferenz stattfinden.
  • Die Gutachten müssen bis zum 15. März 2025 fertiggestellt sein.

Gutachtenvergabe und -erstellung zu den genannten Terminen erfolgen vorbehaltlich der rechtzeitigen Zustimmung bzw. Mittelbewilligung durch den Deutschen Bundestag.

Hinweise zur Angebotserstellung

Aufgabe des TAB ist es, eingehende Angebote zu sichten und wissenschaftlich zu bewerten sowie dem Deutschen Bundestag Vorschläge zur Gutachtenvergabe zu unterbreiten.

Qualitative und formale Anforderungen an das Gutachtenangebot – fachliche Bewertung und Vergleich der eingereichten Angebote

Um die Qualität der Gutachtenangebote (auch vergleichend) seitens des TAB bzw. des Deutschen Bundestages bewerten zu können, sind qualitative Kriterien bei der Angebotserstellung zu berücksichtigen bzw. zu erfüllen; diese Kriterien werden gleichwertig bei der Bewertung berücksichtigt:

  • Aus dem Angebot muss die besondere fachliche Kompetenz der Anbietenden sowie auch des konkret eingesetzten wissenschaftlichen Personals insgesamt im hier nachgefragten Themenfeld ausführlich, deutlich, fundiert und transparent hervorgehen und belegt werden. Anzuführen sind insbesondere die relevanten wissenschaftlichen und Forschungserfahrungen und/oder sonstigen hervorragenden Kompetenzen (inkl. Anerkennungen und Erfolge) im Themenfeld sowohl in der Breite als auch in der Tiefe. Nachzuweisen ist dies in der Regel durch die Darlegung von verantwortlich durchgeführten Projekten, themenrelevanten Tätigkeiten und (wissenschaftlichen) Beratungsleistungen sowie den Nachweis von themenrelevanten Publikationen (z.B. peer-reviewed).
  • Betrachtet und bewertet wird auch die Qualität der inhaltlichen und formalen Aufbereitung des Angebots insgesamt. Notwendig ist eine klare Strukturierung des Angebots. Ausführlich und nachvollziehbar müssen die beabsichtigte Vorgehensweise bei der Erstellung des Gutachtens und der notwendige und vorgesehene Bearbeitungsaufwand verdeutlicht und begründet werden. Relevant ist zudem die (möglichst vollständige) Beachtung bzw. Adressierung der in der Bekanntmachung angeführten Bearbeitungsaspekte.
  • Bewertet wird zudem die Beschreibung des beabsichtigten methodischen Vorgehens zwecks Generierung bzw. Aufbereitung der für das Gutachten relevanten wissenschaftlichen Expertisen und Arbeitsergebnisse. Die gewählte Methodik bzw. die besondere Eignung des methodischen Vorgehens muss nachvollziehbar dargelegt und überzeugend begründet werden. Transparent nachvollziehbar und begründet müssen zudem die inhaltliche Zuordnung und die zeitlichen Abläufe der jeweiligen Arbeitsschritte bzw. Arbeitspakete sein.
  • In die Bewertung der Gutachtenangebote fließt schließlich auch der Preis des jeweiligen Angebots ein.

Bitte beachten Sie bei der Erstellung Ihres Angebots die Hinweise zu Pflichtangaben. Senden Sie uns zunächst eine elektronische Version Ihres Angebots zusammen mit dem ausgefüllten Formblatt (Word-Dokument zum Ausfüllen) an unsere E-Mail-Adresse buero-tab-beim-bundestag.de. Unserer Erfahrung nach bedürfen detaillierte Angebote häufig einer schriftlichen, formalen und kalkulatorischen Überarbeitung. Sollten wir Ihr Angebot nach unserer Prüfung in die engere Wahl ziehen und dem Deutschen Bundestag zur Vergabe vorlegen wollen, werden wir Sie ggf. um eine entsprechende Modifizierung und anschließend um die Übersendung eines unterschriebenen Angebots an das TAB (Neue Schönhauser Straße 10, 10178 Berlin ) bitten.

Sollte es zu einer Zusammenarbeit zwischen Ihnen und dem TAB kommen, wird diese auf der Grundlage eines Vertrages zwischen dem Deutschen Bundestag und Ihnen erfolgen. (Einen entsprechenden Mustervertrag mit dem Deutschen Bundestag senden wir Ihnen auf Anfrage gerne zu).

Das TAB ist Ansprechpartner für alle projektspezifischen wissenschaftlichen Fragen und zuständig für die Prüfung und Abnahme Ihres Gutachtens. Die Bereitschaft zur intensiven Diskussion und engen Kooperation mit dem TAB wird vorausgesetzt.

Weitere Informationen und Downloads

Büro für Technikfolgen-Abschätzung beim Deutschen Bundestag (TAB)
Neue Schönhauser Straße 10
10178 Berlin
+49 30 28491-0
buero∂tab-beim-bundestag.de