Social Bots sind Computerprogramme, die darauf ausgerichtet sind, in sozialen Netzwerken, beispielsweise auf Facebook oder Twitter, maschinell erstellte Beiträge wie Kommentare, Antworten oder Meinungsäußerungen zu generieren, um Diskurse zu beeinflussen oder zu manipulieren. Sie sind in der Lage, sinnvolle Texte zu erzeugen, die von Menschen geschriebenen Inhalten ähneln. Die Menschenähnlichkeit wird auch dadurch suggeriert, dass Social Bots nicht immer nur politisch agieren und kommentieren, sondern auch Belangloses posten, etwa Kommentare zu Fußballergebnissen oder Hinweise auf Serieninhalte. Für Menschen ist es also nur selten offensichtlich, dass die Beiträge von einer Maschine stammen.

Fakeaccounts von Social Bots, d. h. gefälschte Nutzerprofile, hinter denen keine authentische Person steht, lassen sich leicht vervielfachen, sodass beispielsweise auf Twitter tausende Benutzerkonten geschaffen werden können, die wiederum zehntausende Tweets pro Tag erzeugen. Es wird vermutet und ist teilweise auch belegt, dass Social Bots sowohl von Staaten als auch von Unternehmen und Interessengruppen gezielt eingesetzt werden.

Die Kurzstudie hatte zum Ziel, einen Überblick über den aktuellen Stand der Technik von Social Bots (Fähigkeiten der eingesetzten Algorithmen), Anwendungsfelder und Anwender, Verbreitung sowie tatsächliche und angenommene Risiken zu erarbeiten. Darüber hinaus sollte der momentane Kenntnisstand zum tatsächlichen Ausmaß des Einsatzes von Social Bots und deren Wirkungskraft dargestellt werden. Im Mittelpunkt der Untersuchung stand die Frage nach den potenziellen Gefahren von Social Bots, die aus einer möglichen Manipulation politischer Diskussionen und Trends in sozialen Netzwerken oder der Beeinflussung des Kaufverhaltens von Personen resultieren.

Die Kurzstudie orientierte sich im Wesentlichen an den folgenden drei Fragestellungen:

• Was ist heute technisch machbar und wie kann der Einfluss von Social Bots nachgewiesen werden?
• Wofür können Social Bots zukünftig eingesetzt werden?
• Wie lassen sich Social Bots erkennen und verhindern?

Zentrale Ergebnisse

Das Potenzial von Social Bots in Bezug auf politische Prozesse wird von Experten überwiegend hoch bewertet. Social Bots können dafür genutzt werden, Nachrichten im Internet zu verbreiten, um so Trends zu manipulieren oder politische Debatten und Diskurse zu beeinflussen. Besonderes Gefahrenpotenzial besteht, wenn sie massenhaft Falschnachrichten in Krisensituationen verbreiten, z. B. nach Anschlägen. So können Social Bots zur Veränderung der politischen Debattenkultur im Internet beitragen und zu Desinformation und zur »Klimavergiftung« im öffentlichen Diskurs führen.

Ein weiterer Einflussbereich von Social Bots sind wirtschaftliche Prozesse. Sie bergen das Potenzial, das Kunden- und Kaufverhalten Einzelner (über das sogenannte Influencer Marketing) zu beeinflussen und sogar ganze Märkte wie den Börsenhandel zu manipulieren.

Mit Blick auf die IT-Sicherheit scheint eine Gefährdung durch Social Bots aktuell noch unwahrscheinlich, da sie Hardware oder Software von IT-Systemen nicht direkt angreifen. Vor dem Hintergrund immer intelligenter werdender IT-Geräte (Industrie 4.0, Internet of Things) einerseits und der zu erwartenden Weiterentwicklung von Social Bots andererseits sind künftige Risiken, wie z. B. das Kapern von Geräten für schadhafte Zwecke, nur schwer abzuschätzen bzw. vorherzusehen. Social Bots können sich aber insbesondere dann zu einer Gefahr entwickeln, wenn sie den Menschen als potenzielle Schwachstelle der IT-Sicherheit ins Visier nehmen und diesen für Angriffe instrumentalisieren (z. B. durch Versenden von Links, über die Schadsoftware installiert wird).

Die Geschäftsmodelle sozialer Netzwerke basieren überwiegend auf dem Verkauf von Werbung und/oder Nutzerdaten. Diese Modelle funktionieren nur dann, wenn Menschen auf den Plattformen agieren und schließlich Kaufentscheidungen treffen. Social Bots stellen langfristig eine Bedrohung für das Geschäftsmodell von sozialen Netzwerken dar. Denn Nutzer könnten sich abwenden, weil sie das Vertrauen in die Echtheit der Beiträge verlieren, und Investoren könnten sich zurückziehen.

Der Einsatz von Social Bots muss nicht per se mit negativen Absichten verbunden sein. Zu den positiven Einsatzmöglichkeiten zählen künstlerisch-kreative Anwendungen sowie Ansätze, sie als Gegenmaßnahme (sogenannte Counter-Speech-Kampagnen) zur Bekämpfung von Falschnachrichten einzusetzen. Ferner könnten sie für eine positive Beeinflussung menschlichen Verhaltens (Nudging) eingesetzt werden. Dies wäre jedoch nur dann ethisch unbedenklich, wenn die Prinzipien der informationellen Selbstbestimmung berücksichtigt würden.