19.12.2018

Kennzeichnungspflicht für Social Bots – Plattformregulierung und Medienintermediäre

Markus Heins, LL.M. / Sharon Sitzer

Aktuell werden in der Bundesregierung und im Bundesrat Stimmen laut, die eine gesetzliche Regulierung sogenannter Social Bots fordern. In einem aktuellen Beschluss moniert der Bundesrat den Missbrauch digitaler Informationen im Kontext sozialer Netzwerke sowie die verstärkte Verbreitung von Fake News durch Social Bots und fordert die Einführung einer Kennzeichnungspflicht. Aus rechtlicher Sicht stellt sich dabei insbesondere die Frage, ob Social Bots den öffentlichen Meinungsbildungsprozess derart gefährden können, dass sie besonders reguliert werden müssen  und ob eine Kennzeichnungspflicht für Social Bots diese potentielle Gefahr beseitigen kann.
 

Was sind Social Bots?

Social Bots sind computergesteuerte Programme, die automatisiert bestimmte Aufgaben übernehmen. Dies können zum Beispiel Nutzeraccounts sein, die in sozialen Netzwerken aktiv sind und dort automatisiert oder teilautomatisiert Inhalte und Nachrichten veröffentlichen, teilen, liken oder kommentieren. Dabei treten sie wie reale, menschliche Nutzer auf. Sie verbreiten ihre Botschaften hochfrequentiert, so dass sie schnell Diskussionen beherrschen oder eine Meinungsmehrheit bilden können. Findet ein Bot beispielsweise einen gewünschten Suchbegriff, kommentiert er den entsprechenden Beitrag mit vorgefertigten Antworten oder versucht andere Nutzer in eine bestimmte Diskussion zu verwickeln.
 

Welche Gefahren bestehen bei Social Bots?

Bei dem Einsatz derartiger Bots besteht aus Sicht vieler Kritiker vor allem die Gefahr der Manipulation der öffentlichen Meinungsbildung. Beispielsweise könnten politische Debatten im Rahmen von sozialen Netzwerken beeinflusst und gesteuert werden, was aus Sicht der Bundesregierung ein besonders hohes Irreführungspotential für die Nutzer birgt. Als abschreckendes Beispiel dient dabei der Skandal um Cambridge Analytica: Das Datenanalyse-Unternehmen aus Großbritannien hatte rechtswidrig Daten von etwa 87 Millionen Facebook Nutzern erlangt. Die Daten hatte ein Psychologie-Professor der Universität Cambridge mittels einer App gewonnen und an Cambridge Analytica weitergeleitet. Nach Angaben von Facebook wurde die App etwa 270.000 Mal heruntergeladen. Es wird vermutet, dass diese Daten auch im amerikanischen Wahlkampf verwendet wurden, da Cambridge Analytica 2016 das Wahlkampfteam des heutigen US-Präsidenten Donald Trump unterstützte.

Auch in Deutschland gab es in den vergangenen Jahren einen medialen Diskurs über den Einsatz von Social Bots. Anlass war die Veröffentlichung eines Untersuchungsergebnisses des Berliner Unternehmens Botswatch, wonach in der Debatte über den UN-Migrationspakt rund 28 Prozent aller deutschsprachigen Beiträge auf Twitter von Social Bots stammten. Jedoch hatte Botswatch weder die Untersuchung selbst noch deren Methodik publiziert, was dieses Ergebnis wenig belastbar macht.
 

Wie soll eine Regulierung aussehen?

Der Gesetzgeber plant eine neue Plattformregulierung und eine Regulierung von Medienintermediären einzuführen. Dabei sollen Facebook, Twitter und Co. dazu verpflichtet werden, Bots und von ihnen erstellte Inhalte als solche zu kennzeichnen. Außerdem sollen sie dazu verpflichtet werden, das gesamte Nachrichtenaufkommen von Social Bots öffentlich zu markieren. Alternativ käme eine Sperrpflicht der entsprechenden Konten in Betracht, wenn die Verantwortlichen nicht selbst ihrer Kennzeichnungspflicht nachkommen.

Für die Einführung der Regulierung spricht sich neben der Bundesregierung auch der Bundesrat aus. In seinem Beschluss fordert er, dass es zukünftig für die Nutzer stets erkennbar sein muss, welche Nachrichten von Menschen und welche von Bots herrühren. Dabei verwies der Bundesrat auf die Empfehlung der Länderarbeitsgruppe, die eine Einführung einer bußgeldbewehrten Kennzeichnungspflicht für Social Bots fordert. Um dem nachzukommen, sollten in den entsprechenden Gesetzen, insbesondere im Telemediengesetz, dem Rundfunkstaatsvertrag und auf unionsrechtlicher Ebene neue Regelungen geschaffen werden.

Im Entwurf des neuen Medienstaatsvertrages (MStV-E), der den Rundfunkstaatsvertrag ablösen soll, ist bereits eine solche Kennzeichnungspflicht für Social Bots vorgesehen. Diese befindet sich neben der geplanten Regulierung von Intermediären im § 53 d Abs. 4 MStV-E. Dieser enthält zu dem einen Verweis auf die neue Regelung des § 55 Abs. 3 MStV-E (Transparenzpflicht). Demnach sollen die Anbieter von sozialen Netzwerken dazu verpflichtet werden, Social Bots und deren Inhalte offenzulegen („bei mittels eines Computerprogramms automatisiert erstellten Inhalten oder Mitteilungen den Umstand der Automatisierung kenntlich zu machen“). Entsprechend haben die Plattformbetreiber dafür Sorge zu tragen, dass die Nutzer ebenfalls dieser Kennzeichnungspflicht nachkommen.
 

Ist eine Regulierung notwendig?

Letztlich erscheint die dargestellte Manipulation per Social Media und des damit verbundenen Datenmissbrauchs zwar erschreckend, allerdings ist nach wie vor unklar, ob dies überhaupt auf den Einsatz von Social Bots zurückgeführt werden kann. Denn es gibt neben Social Bots zahlreiche weitere Einflussmöglichkeiten in Form von menschlich betriebenen Accounts wie „Fake-Influencer“, dark ads oder Accounts staatlich kontrollierter Medien, welche Bots eher als Randfigur auf dem Schaubild manipulativer Falschmeldungen erscheinen lassen. Diese sollten bei der Einführung einer neuen Regulierung ebenfalls berücksichtigt werden. Letztlich gibt es momentan keine verlässliche Methode, Bots in sozialen Netzwerken zu identifizieren.

Markus Heins, LL.M. Wirtschaftsjurist Associate Luther Rechtsanwaltsgesellschaft mbH Köln Telefon +49 221 9937 25743 markus.heins@luther-lawfirm.com