Die Einreichungsfrist für Angebote ist am 15. November 2022 abgelaufen.

Im Rahmen der TA-Kurzstudie »Rechtliche und gesellschaftliche Herausforderungen sowie Innovationspotenziale von Deepfakes« ist ein Gutachten zu vergeben, in dem aus rechtswissenschaftlicher Sicht die aktuelle Rechtslage in Deutschland dargestellt und bestehende Regulierungslücken herausgearbeitet werden. 

Thematischer Hintergrund 

Medienwirksame Vorfälle wie das vermeintliche Deepfake-Videotelefonat zwischen der Regierenden Bürgermeisterin von Berlin Franziska Giffey und Kiews Bürgermeister Vitali Klitschko im Juni 2022 haben öffentliche Aufmerksamkeit für Deepfakes genannte manipulierte Medien geweckt.

Unter Deepfakes werden im Allgemeinen wirklichkeitsgetreu erscheinende, manipulierte oder synthetische mediale Inhalte, in erster Linie Filme und sonstige Audio- oder Bildmedien, verstanden, die mit Hilfe künstlicher Intelligenz (KI) entstanden sind. Die Bezeichnung Deepfake setzt sich aus den Begriffen Deep Learning, als eine Form von künstlichen neuronalen Netzen (eine Unterart der KI), und Fake (Fälschung) zusammen. Die öffentliche und wissenschaftliche Aufmerksamkeit für Deepfake-Filme, -Bilder oder -Tonspuren ist unter anderem deshalb so groß, weil es auch für Einzelpersonen zunehmend leicht wird, Deepfakes zu erstellen, und weil der technische Fortschritt die Qualität der Manipulation deutlich erhöht (und damit die Detektion erschwert). Eine Herausforderung, die mit dieser Entwicklung einhergeht, ist die Nutzung von Deepfakes als Teil von gezielten Desinformationskampagnen, die potenziell das Vertrauen in Institutionen oder Personen nachhaltig erschüttern und Situationen wie etwa Wahlkämpfe negativ beeinflussen können. Auch können Deepfakes bei Video- oder Bild-Identverfahren genutzt werden, um eine Identifizierung bzw. Authentifizierung zu umgehen oder Identitätsdiebstahl zu begehen. Zudem könnten als Beweismittel vorgelegte manipulierte Video- oder Tonsequenzen Gerichte vor neue Herausforderungen stellen. Schließlich können Deepfake-Filme auch bei Verletzungen von Persönlichkeitsrechten und bei der öffentlichen Herabwürdigung von Einzelpersonen zunehmend bedeutsam werden, etwa wenn Gesichter Dritter in Pornosequenzen montiert werden. Insgesamt sind pornografische Darstellungen eines der häufigsten bekannten Anwendungsfelder von Deepfakes.

Folgende Szenarien erscheinen aus wissenschaftlicher Sicht besonders bedeutsam und sollen im Gutachten adressiert werden: (1) die Nutzung von Deepfakes in gesellschaftlichen oder politischen Desinformations- oder Diffamierungskampagnen, die sich beispielsweise entweder gegen einzelne Personen des öffentlichen Interesses (z.B. Inhaber politischer Ämter) oder größere Verbünde (wie Parteien, aber auch Nationen oder Regionen) richten; (2) die Nutzung von Deepfakes zur Diffamierung von Privatpersonen oder Unternehmen mit ggf. persönlichen und/oder wirtschaftlich schädigenden Konsequenzen; (3) die Nutzung von Deepfakes zur Erstellung vermeintlichen Beweismaterials, um Gerichte im Prozess der Rechtsprechung zu täuschen (etwa mittels falscher Videobeweise). Akteursgruppen, die für die Erstellung und Verbreitung von derlei Deepfakes eine Rolle spielen können, sind die Urheber des Ausgangsmaterials, die Ersteller der Manipulation, die abgebildete Person(en), die Veröffentlichenden des Deepfakes, die Betreiber von Suchmaschinen und Plattformen, über die die Deepfakes zugänglich gemacht werden, sowie die Rezipienten der manipulierten Videos/Audios.

Leitfragen

In dem zu vergebenden Gutachten soll aus rechtswissenschaftlicher Sicht die aktuelle Rechtslage in Deutschland dargestellt und bestehende Regulierungslücken herausgearbeitet werden. Zudem sollen die Realitäten der Rechtsdurchsetzung bei derzeit geltendem Recht ebenso wie bei gegebenenfalls neuen Gesetzesvorhaben im Bereich von Deepfakes thematisiert werden. Dabei sollte bei rechtswissenschaftlicher Genauigkeit zugleich eine möglichst breite Allgemeinverständlichkeit angestrebt werden. Die folgenden Fragen sollen in dem Gutachten behandelt werden:

• Wie ist die spezifische deutsche sowie die für Deutschland relevante europäische Rechtslage mit Blick auf Deepfakes und die zuvor skizzierten Einsatzszenarien von Deepfakes sowie die beteiligten Akteure? Welche Regulierungsobjekte werden berücksichtigt und wie sind diese definiert und in Beziehung gesetzt (Desinformation, illegale Inhalte, systemische Risiken, Synthetische Inhalte, Cyberkriminalität etc.)?
• Welche Regulierungslücken ergeben sich für die aktuelle Situation? Welche erscheinen darüber hinaus möglich bei einem weiteren technologischen Fortschritt?
• Wie gestaltet sich die aktuelle Rechtsdurchsetzung für die verschiedenen Szenarien für Deepfakes (z.B. mit Blick auf Plattformbetreiber)?
• Welche Auswirkungen können Deepfakes im Bereich des Rechts selbst entfalten? Welche Folgen sind etwa durch Deepfakes als (vermeintliche) Beweismittel im Bereich der Rechtsprechung zu erwarten (zum Beispiel mit Blick auf die Beweismittelsicherheit)?

Bearbeitungsaufwand und Termine

Der vergütbare Bearbeitungsaufwand beträgt 3-4 Personenmonate. Änderungen oder Konkretisierungen der Untersuchungsaspekte sind möglich und sollten ggf. zwischen TAB und potenziellen Auftragnehmer/innen im Rahmen der Angebotserstellung abgestimmt werden.

• Abgabetermin für die Angebote ist der 15.11.2022.
• Mit der Bearbeitung des Gutachtens soll (voraussichtlich) im Januar 2023 begonnen werden.
• Ein (ggf. digitales) Auftakttreffen soll voraussichtlich Mitte Januar 2023 stattfinden.
• Das Gutachten muss bis zum 30. April 2023 fertiggestellt sein.

Gutachtenvergabe und -erstellung zu den genannten Terminen erfolgen vorbehaltlich der rechtzeitigen Zustimmung bzw. Mittelbewilligung durch den Deutschen Bundestag.

Hinweise zur Angebotserstellung

Bei der Erarbeitung der Angebote sind die Hinweise für Gutachter/innen zu beachten. Insbesondere muss die Kompetenz der Anbieter/innen aus den Angeboten hervorgehen und es müssen die beabsichtigte Vorgehensweise und der erforderliche Bearbeitungsaufwand verdeutlicht werden. Die wissenschaftlichen Methoden zur Erarbeitung der behandelten Fragestellungen sowie ein Zeitplan sollen dargestellt werden.

Die Bereitschaft zur intensiven Diskussion und engen Kooperation mit dem TAB wird vorausgesetzt ebenso wie bei mehreren Auftragnehmern die Bereitschaft zur Zusammenarbeit untereinander.

Senden Sie uns zunächst eine elektronische Version Ihres Angebots zusammen mit dem ausgefüllten Formblatt (Word-Dokument zum Ausfüllen) an unsere E-Mail-Adresse buero∂tab-beim-bundestag de.. Nach unseren Erfahrungen müssen die eingehenden Angebote häufig inhaltlich, formal und kalkulatorisch überarbeitet werden. Sollten wir Ihr Angebot nach Prüfung durch uns in die engere Wahl ziehen und dem Deutschen Bundestag zur Vergabe vorschlagen wollen, werden wir Sie um eine entsprechende Modifizierung bitten.

Weitere Informationen und Downloads

• Formblatt für Gutachtenangebot (Word-Dokument zum Ausfüllen)
• Hinweise für Gutachter/innen
• Zur Projektseite