Fake-Kommentare und Fake-Profile auf Social Media: Das kannst du dagegen tun

Fake-Accounts und Fake-Kommentare auf Social Media beeinflussen nicht nur politische Debatten. Sie können auch den Austausch in Communitys von Unternehmen empfindlich stören. Manchmal verursachen sie sogar finanzielle Schäden. 

Dabei ist es oft schwer, unechte Profile oder betrügerische Aktivitäten zu erkennen. 

Hilflos sind Unternehmen trotzdem nicht. 

Hier präsentieren wir dir Hilfestellungen für den Kampf gegen Bots und Co. Wir stellen verschiedene Arten von Betrugsversuchen vor, erklären, wie man sie erkennt, und geben Tipps für Prävention und Reaktion. 

Warum Fakes auf Social Media immer gefährlicher werden

Es ist noch nicht lange her, da ging Papst Franziskus in einer überdimensionierten Daunenjacke viral. 

OKAAYYY pic.twitter.com/MliHsksX7L

— leonardo (@skyferrori) March 25, 2023

Ein Problem daran: Bei dem Bild des Papstes in der protzigen Jacke handelte es sich nicht um ein echtes Foto, sondern um das Produkt eines KI-Bildgenerators, wahrscheinlich Midjourney. 

Das wahrscheinlich größere Problem: Selbst Social-Media-erfahrene Zeitgenossen erkannten nicht, dass es sich um eine Fälschung handelte. 

Das passt zu den Ergebnissen einer Studie, die ein Team der Universität Kopenhagen durchführte:

Die Wissenschaftler:innen baten die 375 Teilnehmenden in einem simulierten Twitter-Feed zum Ukraine-Krieg, künstlich generierte und echte Profile zu identifizieren. Die Beiträge der Fake-Profile stammten von GPT-3, die Profilbilder von StyleGAN.

Das Ergebnis: Die Teilnehmenden versagten auf ganzer Linie. Oftmals fanden sie echte Profile sogar verdächtiger als gefälschte.

Dieses Ergebnis zeigt, wie einfach es mittlerweile ist, überzeugende Fake-Profile und Fake-Kommentare zu erstellen. 

Welche Arten von Social Spam gibt es?

Social Spam lässt sich in unterschiedliche Gruppen unterteilen: 

• Propaganda: Für die Accounts von politischen Organisationen, Behörden und Medien sind Bots relevant, die Fake News verbreiten und versuchen, politische Meinungen zu beeinflussen. Auf Twitter und Facebook ist dieses Problem besonders groß. 
• Werbung: Weniger gefährlich für die demokratische Meinungsbildung, aber lästig sind Kommentare, mit denen andere Accounts Follower:innen oder Kund:innen gewinnen wollen. 
• Bösartige Links: Als wir für einige Zeit ein Webinar auf LinkedIn promotet haben, das auf reges Interesse stieß, postete kurz vor Veranstaltungsbeginn eine Fake-Seite einen Link in der Veranstaltung, über den angeblich notwendige Kreditkartendaten für die Teilnahme abgefragt wurden. 

Das ist ein Beispiel für Kommentare, mit denen Betrüger ahnungslose Nutzer:innen auf Websites locken und versuchen, an Daten zu kommen.

Ein anderes Beispiel sind Kommentare wie die folgenden: 

Diese Kommentare zielen darauf ab, dass Seitenadministrator:innen aus Panik den Links folgen und Daten angeben. Eine andere gefährliche Masche sind gefakte Beschwerden von Kund:innen, die darauf abzielen, dass du eine Datei herunterlädst. Vorsicht ist bei ungewöhnlichen Dateiendungen geboten.

Oft werden solche Kommentare oder Nutzer:innen schnell wieder gelöscht. Wenn du ein Social-Media-Tool verwendest, siehst du sie weiterhin in deiner Inbox, auch wenn das Original bereits verschwunden ist. Lass dich davon nicht beunruhigen.

Schließlich gibt es Trolle, die in erster Linie Unfrieden stiften wollen. Hier ist die Grenze zu Propaganda-Bots vielfach fließend. 

Wie erkennst du Fake-Profile und Fake-Kommentare?

Manchmal sind Spam-Kommentare schnell erkennbar. Dann zum Beispiel, wenn ein fremder Account in deiner Community Werbung für seine Marke oder seine Produkte macht, oder wenn plötzlich ein Post von einem Profil auftaucht, das vorgibt, du zu sein. 

In vielen anderen Fällen ist die Sache deutlich schwieriger. 

Folgende Eigenschaften deuten auf Fake-Accounts hin:

• Das Profil ist sehr jung. 
• Es gibt kein Profilfoto. 
• Das Profil postet sehr selten oder es postet sehr oft bzw. jeden Tag Beiträge zu denselben (politischen) Themen, aber nichts oder fast nichts Privates.
• Profile reagieren sehr schnell auf Nachrichten bzw. Posts. Sie retweeten etwas beispielsweise Sekunden, nachdem es gepostet wurde. 
• Zu dem Nutzernamen und Profilbild finden sich keine Informationen im Netz. 
• Eine Bildersuche ergibt, dass das verwendete Foto zu einer anderen Person gehört. 
• Bei genauem Hinsehen weist das Bild Unstimmigkeiten auf, die darauf hinweisen, dass es sich um ein KI-Produkt handelt. 
• Es fehlen Informationen zum Arbeitgeber, zu Hobbys und andere Details, die echte Personen meist angeben.
• Profilnamen enthalten unnatürliche Aneinanderreihungen von Buchstaben und Ziffern, wie auch im folgenden Fall: 

Leider sind manche Fake-Profile mit viel Liebe gepflegt. Deshalb kostet es Mühe und Zeit, sie zu identifizieren. 

Um Fake- beziehungsweise Spam-Kommentare als solche zu erkennen, kannst du dich an folgenden Merkmalen orientieren: 

• Kommentare weisen eine seltsame Formatierung und/oder viele sprachliche Fehler auf. 
• Ein Account postet immer wieder dieselben oder ähnlichen Dinge, auch wenn sie inhaltlich nicht zum Kontext passen.
• Kommentare lesen sich wie eine maschinelle Übersetzung. 
• Seltsame Links werden mit reißerischen Vorschaubildern kombiniert. Allgemein ist bei Links in Kommentaren äußerste Vorsicht angebracht. 

Schließlich ergibt es immer wieder Sinn, die Glaubwürdigkeit eines Kommentars zu überprüfen. Ist es wirklich denkbar, dass Meta die Sperrung eines Accounts durch einen Kommentar mitteilt?

Vorbeugen und reagieren: So vermeidest du Schaden für dein Unternehmen

Einfach laufen lassen? Das ist keine Option. Denn Aktivitäten von Fake-Accounts, Betrüger:innen und Trolls können den Austausch in Communitys nachhaltig beeinträchtigen und das Image von Marken schwer beschädigen. 

Wir empfehlen dir deshalb, folgende Maßnahmen zu implementieren:

• Klare Guidelines entwickeln: Halte öffentlich auf deinen Profilen und/oder Webseiten fest, welche Regeln für den Austausch in deiner Community gelten. Führe möglichst genau auf, welches Verhalten du dir wünschst und welches gegen die Richtlinien verstößt (zum Beispiel das Posten von Werbung). Behalte es dir ausdrücklich vor, Kommentare zu löschen, die gegen deine Richtlinien verstoßen.

• Social Media Management Tool nutzen: Um rechtzeitig und wirksam auf Fake-Kommentare, Fake-Accounts und Co. zu reagieren, brauchst du eine möglichst komplette Übersicht über die Aktivitäten in allen deinen Kanälen. Mit einem Social Media Management Tool wie Swat.io bleibst du immer auf dem Laufenden. Außerdem kannst du dich zum Beispiel automatisch benachrichtigen lassen, wenn in einem kurzen Zeitraum ungewöhnlich viele Kommentare eingehen. 

• Kundenprofile anlegen: Ein Customer Relationship Management ermöglicht es dir, Kunden- bzw. Nutzerprofile anzulegen. Damit kannst du nicht nur Top-Fans identifizieren, sondern auch potenzielle Störenfriede. Am besten vergibst du Tags wie “Troll”, sodass sich alle im Team auskennen.

• Zielgerichtetes Monitoring einsetzen: Monitore Social-Media-Konversationen konsequent nach ausgewählten Keywords. Intensiviere deine Anstrengungen zum Beispiel bei Live-Events.

• Kommentare verbergen: Nutze dein Social Media Management Tool oder ein anderes Werkzeug, um Kommentare, die bestimmte Keywords enthalten, automatisch zu verbergen. So kannst du sie prüfen, bevor du sie freigibst. Typische Ausschlusskriterien sind vulgäre Ausdrücke oder Begriffe, die auf Spam hindeuten.

• Schnell reagieren: Lösche offensichtlichen Spam oder Fake-Links und blockiere die Absender:innen. 

Aber Vorsicht: Mach nicht den Fehler, ernst gemeinte Kritik zu löschen, zumindest nicht, solange sie sich im Rahmen deiner Community-Guidelines bewegt. In diesem Fall ist es sinnvoller, auf den Kommentar zu antworten und den/die Nutzer:in zum Beispiel dazu einzuladen, das Problem per PM zu lösen.

• Auf dem Laufenden bleiben: Weil sich die Strategien von Betrüger:innen auf Social Media ständig ändern, ist es wichtig, sich auf dem Laufenden zu halten beziehungsweise halten zu lassen. Dazu kann dein Team regelmäßige Meetings abhalten, unter Umständen mit Beratung durch externe Fachleute. 

Langfristiges Engagement zahlt sich aus

Fake-Accounts, Spam, Trolls und Bots wird es wahrscheinlich geben, solange Social Media existiert. Dabei erschweren es neue KI-Tools vielfach, sie also solche zu erkennen. 

Umso wichtiger ist es für Unternehmen und Organisationen jeder Art, im Community Management aufmerksam zu bleiben und sich über neue Erscheinungsformen von Social Spam auf dem Laufenden zu halten. 

Ein gutes Social Media Management Tool erleichtert es, die Übersicht zu behalten. Mit seiner Hilfe kannst du auch schnell und gezielt reagieren, bevor beispielsweise böswillige Links Schaden anrichten. Denn Prävention und Reaktion gehen bei der Bekämpfung von Fake-Accounts und Fake-Kommentaren auf Social Media Hand in Hand.