Die rasanten Fortschritte bei der Analyse und Synthese von Erbgut (DNA) sowie bei der gezielten Veränderung von Genen in verschiedensten Organismen durch Genomeditierung haben die Möglichkeiten der Erforschung und der Veränderung biologischer Systeme bzw. Organismen in den letzten 10 bis 15 Jahren vereinfacht und stark erweitert. Ein wichtiges Werkzeug sind dabei computergestützte Analyse- und Designprozesse. Diese oft unter den Begriff der Synthetischen Biologie gefassten Entwicklungen (TAB-Arbeitsbericht Nr. 164 »Synthetische Biologie – die nächste Stufe der Bio- und Gentechnologie«) konvergieren zunehmend mit jüngeren Fortschritten in Bereichen der künstlichen Intelligenz (KI) sowie der Automatisierung von Laborprozessen, bis hin zu automatisierten Laboren, die über Clouddienste nutzbar sind (Cloud Labs). In der Grundlagenforschung (z. B. bei der Erforschung von Genfunktionen und Krankheiten), in der industriellen Biotechnologie (Design neuer Stoffwechselwege in Mikroorganismen) oder in der Medizin (CAR-T-Zelltherapien, Gentherapien) haben diese neuen Möglichkeiten bereits revolutionäre Entwicklungen eingeleitet.

Gleichzeitig werden die Synthetische Biologie und ihre Anwendungsmöglichkeiten seit ihren Anfängen von Diskussionen um Risiken durch missbräuchliche Verwendung oder mögliche (Labor-)Unfälle begleitet– insbesondere im Hinblick auf die potenziell erweiterte Zugänglichkeit zu technologischen Entwicklungen für Personen, die nicht in etablierte und registrierte öffentliche oder private wissenschaftliche Einrichtungen eingebunden sind. In Zusammenhang mit diesen Diskussionen um die Biosicherheit wurden in den USA verbindliche Regelungen für bestimmte Bioforschungsprojekte mit doppeltem Verwendungszweck (Dual Use Research of Concern) sowie zum Einbringen neuer Eigenschaften (Gain of Function) in bestimmte Pathogene entwickelt.

In jüngster Zeit werden insbesondere in Zusammenhang mit weiteren technologischen Fortschritten bei DNA-Synthesetechnologien (einschließlich Desktop-DNA-Druckern), Cloud Labs sowie neuen KI-Modellen (wie ChatGTP-ähnliche Large Language Models – LLM und Biodesignwerkzeuge) mögliche neue bzw. erhöhte Sicherheitsrisiken durch missbräuchliche Nutzungen diskutiert. Verschiedene Dokumente unterschiedlicher Akteure zu diesem Thema stammen vor allem aus den USA, darunter ein im Oktober 2023 veröffentlichter Bericht der Non-Profit-Organisation Nuclear Threat Initiative (NTI) über mögliche Auswirkungen und Governancemaßnahmen. Forderungen nach Aktivitäten, um solchen Risiken entgegenzuwirken und die biologische Forschung vor Gefahren durch KI zu schützen, wurden kürzlich auch in einer Executive Order zu KI des US-Präsidenten Joe Biden formuliert.

Ziel und Vorgehensweise

Das Projekt sieht zum einen eine breit angelegte, aber konzentriert aufgearbeitete Analyse möglicher Sicherheitsrisiken neuerer biotechnologischer Entwicklungen und ihrer Wechselwirkungen mit Entwicklungen im Bereich der KI vor. Zum anderen sollen Kontroll- und Regulierungsmöglichkeiten dargestellt sowie Möglichkeiten zu deren Weiterentwicklung diskutiert werden, um diese Sicherheitsrisken zu minimieren und die Nichtverbreitung potenzieller Biowaffen zu stärken.

Dazu wird zunächst ein aktueller Überblick über relevante Entwicklungen in der Biotechnologie und der Synthetischen Biologie sowie deren Konvergenz mit jüngeren KI-Entwicklungen erstellt. Darauf aufbauend werden mögliche Sicherheitsrisiken, die in der fachwissenschaftlichen Literatur sowie von verschiedenen gesellschaftlichen Akteuren (z. B. Entwicklern/Unternehmen, Forschenden, politkberatenden Organisationen, Sicherheitsexpert/innen) diskutiert werden, vorgestellt und zugrunde liegende Argumente oder Evidenzen erörtert. Schließlich sollen auf dieser Basis die bestehenden Kontroll- und Regulierungsmöglichkeiten auf nationaler (deutscher) und supra- bzw. internationaler Ebene charakterisiert, die fachwissenschaftliche, gesellschaftliche und politische Debatte zu ihrer Hinlänglichkeit bzw. der Notwendigkeit neuer Maßnahmen aufbereitet und Handlungsoptionen abgeleitet werden. Die Analyse des TAB wird wie üblich auf öffentlich zugänglichen Wissensbeständen basieren, die durch Experteneinschätzungen in Form von schriftlichen Ausarbeitungen, Interviews oder Workshops ergänzt werden.

Stand der Projektbearbeitung

Im Rahmen des TA-Projekts sind zwei Gutachten vergeben worden: eines zum aktuellen Stand existierender Regulierungen und Kontrollmaßnahmen auf nationaler und internationaler Ebene, ein weiteres zu technischen Voraussetzungen und notwendigen Kenntnissen und Erfahrungen für die Herstellung von Biowaffen. 

Zur Ausschreibung