Handbuch für Community Manager

Ein praktischer Leitfaden, um Spam, Betrug, codierte Hassrede und Filter-Umgehung in Social-Media-Kommentaren zu erkennen und darauf zu reagieren.

Kapitel 1Aktualisiert 2026-04-10

Worum es in diesem Handbuch geht

Warum es dieses Handbuch gibt, für wen es ist und wie du es nutzt.

Wir wissen, dass nicht alle mit automatischer Klassifizierung vertraut sind, und das ist völlig in Ordnung. Deshalb möchten wir Best Practices auf hoher Ebene teilen, die alle anwenden können, egal welche Tools sie einsetzen. Indem wir dieses Wissen frei zugänglich machen, sorgen wir dafür, dass Community Manager mit jedem Budget von unserer Branchenerfahrung profitieren. Wenn dir etwas fehlt oder etwas nicht so klar ist, wie es sein sollte, melde dich bei uns, wir hören gerne von dir.

Warum es dieses Handbuch gibt

Kommentare in sozialen Medien sind ein Schlachtfeld. Spammer, Betrüger und Hassgruppen nutzen immer ausgefeiltere Taktiken, um deine Community auszunutzen. Sie tarnen Links, verstecken sich hinter codierten Symbolen und setzen psychologischen Druck ein, um dein Publikum zu manipulieren.

Dieses Handbuch bündelt jahrelange Musteranalyse aus Hush, unserer Engine zur Spam-Erkennung, in einem praktischen Nachschlagewerk. Jedes Muster, das hier beschrieben wird, stammt aus echten Erkennungsdaten von tausenden Social-Media-Accounts.

Für wen das ist

Du bist Community Manager, Social Media Manager oder Moderator und dafür verantwortlich, dass die Kommentarbereiche sicher bleiben. Vielleicht arbeitest du allein, vielleicht im Team. Du willst:

  • Spam- und Betrugskommentare schnell erkennen
  • die Taktiken dahinter verstehen
  • mit der richtigen Aktion zur richtigen Zeit reagieren
  • dein Team zu neuen Mustern schulen

Wie du diesen Leitfaden nutzt

Jedes Kapitel behandelt eine bestimmte Kategorie schädlicher Inhalte:

  • Betrugsmuster: die häufigsten Betrugstaktiken in Social-Media-Kommentaren
  • Sexuelle Inhalte und Anmache: wie sich expliziter Spam tarnt
  • Codierte Hassrede: versteckte extremistische Symbole, die für das ungeschulte Auge harmlos wirken
  • Umgehungstaktiken: technische Tricks, mit denen Spammer Filter austricksen
  • Aktionsleitfaden: ein Schritt-für-Schritt-Playbook für deine Reaktion

Jedes Kapitel endet mit einer Kurz-Checkliste, die du bei deiner täglichen Moderationsarbeit nutzen kannst.

Ein lebendiges Dokument

Spam-Taktiken entwickeln sich ständig weiter. Dieses Handbuch wird regelmäßig aktualisiert, sobald neue Muster auftauchen. Das Datum “Zuletzt aktualisiert” bei jedem Kapitel sagt dir, wann es zuletzt überarbeitet wurde.

Kurz-Checkliste

  • Speichere diese Seite als Lesezeichen, damit du sie während der Moderationsschichten schnell zur Hand hast
  • Lies jedes Kapitel mindestens einmal durch, um dich mit den Mustern vertraut zu machen
  • Teile das Handbuch mit deinem Moderationsteam
  • Schau regelmäßig vorbei, um Updates zu neuen Taktiken mitzubekommen
Kapitel 2Aktualisiert 2026-04-10

Betrugskommentare erkennen

Wie du Telegram-Weiterleitungen, Krypto-Betrug, gefälschte Gewinnspiele, Follower-Betrug und Identitätsdiebstahl erkennst.

Überblick

Betrugskommentare sind die häufigste Art schädlicher Inhalte in sozialen Medien. Sie folgen vorhersehbaren Vorlagen und setzen auf Dringlichkeit, Gier oder Vertrauen, um dein Publikum zu täuschen. Sobald du die Muster erkennst, fallen sie dir leicht auf.

Telegram- und Messenger-Weiterleitungen

Betrüger versuchen, Gespräche von der Plattform wegzulenken, dorthin, wo es keine Moderation gibt. Telegram ist bei Weitem das häufigste Ziel.

Worauf du achten solltest:

  • Direkte Links wie t.me/username
  • Formulierungen wie “Schreib mir auf Telegram” oder “Tritt meinem TG-Kanal bei”
  • WhatsApp- oder Signal-Nummern, die in Kommentaren gepostet werden

Diese Muster tauchen in vielen Sprachen auf. Die Kerntaktik ist immer dieselbe: Menschen von der Plattform weglocken.

Warum das wichtig ist: Sobald ein Nutzer zu Telegram wechselt, können Betrüger Phishing-Links senden, Zahlungen verlangen oder Anlagebetrug betreiben, ganz ohne Aufsicht der Plattform.

Krypto- und Anlagebetrug

Diese Betrugsmaschen versprechen unrealistische Renditen. Oft hängen sie mit Telegram-Weiterleitungen zusammen.

Wallet-Adressen in Kommentaren sind fast immer Spam. Das sind lange Ketten aus Buchstaben und Zahlen, die Kryptowährungs-Wallets darstellen (Bitcoin, Ethereum, Tron und so weiter). Wenn du eine unbekannte alphanumerische Zeichenkette in einem Kommentar siehst, ist das wahrscheinlich eine Wallet-Adresse.

Häufige Taktiken:

  • Verdopplungsmaschen: “Schick 1 ETH und erhalte 5 ETH zurück”
  • Gefälschte Erfahrungsberichte: “Ich habe 100 Dollar investiert und 10.000 Dollar gemacht”
  • Garantierte Renditen mit konkreten Prozentsätzen oder Dollarbeträgen
  • Verweise auf erfundene Berater, Mentoren oder Trading-Plattformen

Die Sprache dreht sich oft um garantierte Gewinne, bestimmte Kryptomünzen und Dringlichkeit.

Gefälschte Gewinnspiele

Diese imitieren legitime Aktionen, sind aber darauf ausgelegt, persönliche Daten oder Zahlungsinformationen zu stehlen.

Klassische Vorlagen:

  • “Herzlichen Glückwunsch, du wurdest als Gewinner ausgewählt!”
  • “Du hast X Dollar gewonnen”, mit einem konkreten Betrag und einem Link, um ihn “einzulösen”

Drucktaktiken sind ein typisches Merkmal: Sie erzeugen Dringlichkeit (“jetzt handeln”, “nur begrenzte Zeit”), damit du nicht kritisch nachdenkst.

Warnsignale, die echte von gefälschten Gewinnspielen unterscheiden:

  • Der Kommentar erscheint unter einem thematisch unpassenden Beitrag
  • Er fordert dich auf, einen Link zu klicken oder eine externe Seite zu besuchen
  • Er erzeugt Dringlichkeit (“läuft in 24 Stunden ab”)
  • Der Account hat keine Historie und keine Beziehung zur Marke

Follower- und Interaktions-Betrug

Diese zielen auf Creator und Unternehmen ab, die ihr Publikum vergrößern wollen.

Meist versprechen sie sofortige Follower, Likes oder Views, oder sie betreiben “Follow für Follow”-Maschen. Sei misstrauisch bei jeder unbekannten Domain, die Social-Media-Wachstum verspricht, besonders wenn von “SMM-Panels” die Rede ist.

Warum das schädlich ist: Gefälschte Follower verschlechtern die Interaktionsraten, verstoßen gegen die Nutzungsbedingungen der Plattform und können zur Sperrung des Accounts führen.

Identitätsdiebstahl

Betrüger geben sich als Account-Inhaber, offizieller Vertreter oder verifizierte Instanz aus.

Sie behaupten vielleicht, sie seien der Kanal-Inhaber, der offizielle Support oder ein verifizierter Verkäufer. Eine häufige Variante ist der gefälschte Kundensupport: “Kontaktiere unseren Support unter [Link].”

So erkennst du es: Vergleiche den Benutzernamen des Kommentierenden mit dem echten Account-Inhaber. Betrüger nutzen oft ähnlich aussehende Namen mit kleinen Abweichungen (ein zusätzlicher Unterstrich, vertauschte Buchstaben, angehängte Zahlen).

Häufige Betrugsphrasen über alle Kategorien hinweg

Manche Phrasen tauchen bei mehreren Betrugsarten auf. Klassiker sind “Das hat mein Leben verändert”, “Kein Betrug” (was ironischerweise fast immer Betrug ist) und “Schreib mir für Collab/Business”. Wenn ein Kommentar zu enthusiastisch über Geld oder lebensverändernde Ergebnisse klingt, ist es wahrscheinlich Spam.

Kurz-Checkliste

  • Jeder Telegram-, WhatsApp- oder Signal-Link in einem Kommentar ist verdächtig
  • Wallet-Adressen (lange alphanumerische Zeichenketten) sind fast immer Spam
  • “Garantierte Renditen” oder konkrete Dollarbeträge deuten auf Anlagebetrug hin
  • “Herzlichen Glückwunsch, du hast gewonnen!” unter unpassenden Beiträgen ist immer gefälscht
  • Prüfe, ob der Benutzername des Kommentierenden zu dem passt, wofür er sich ausgibt
  • “Follow für Follow” und Dienste, die Follower verkaufen, verstoßen gegen die Plattformregeln
  • Kommentare, die Dringlichkeit erzeugen (“jetzt handeln”, “nur begrenzte Zeit”), verdienen besondere Aufmerksamkeit
Kapitel 3Aktualisiert 2026-04-10

Spam mit sexuellen Inhalten und Anmache

Wie sich expliziter Spam und sexuelle Anmache in Kommentarbereichen tarnen.

Überblick

Sexueller Spam ist eines der hartnäckigsten Probleme in der Social-Media-Moderation. Er reicht von offensichtlich expliziten Inhalten bis zu subtilen Anmachetaktiken, die Nutzer zu Erwachsenenplattformen umleiten sollen. Wenn du das ganze Spektrum verstehst, erkennst du auch das, was automatische Filter übersehen.

Explizite Inhalte und Plattform-Weiterleitungen

Die direkteste Form von sexuellem Spam bewirbt Plattformen mit Erwachseneninhalten.

Abwandlungen von Plattformnamen: Spammer verschreiben Plattformnamen absichtlich, um Filter zu umgehen. “OnlyFans” erscheint zum Beispiel als 0nlyfans, 0nlyf4ns oder onlyf@ns. Achte auf jeden erkennbaren Namen einer Erwachsenenplattform mit kreativer Schreibweise.

Explizite Marker sind Begriffe wie “18+”, “nudes” (oft in Leetspeak als nud3s) und Verweise auf “heiße” oder “adult” Inhalte.

Muster zur Profil-Weiterleitung sind subtiler und treten oft zusammen mit den oben genannten auf: Formulierungen wie “check mein Profil”, “Link in meiner Bio” oder “exklusive Inhalte”, die Nutzer auf eine externe Seite lenken sollen.

Achte auf Kombinationen: Ein Kommentar mit nur “Link in Bio” ist mehrdeutig. Aber “heiße exklusive Inhalte, Link in Bio” ist eindeutig sexueller Spam. Je mehr Signale du zusammen siehst, desto sicherer kannst du sein.

Anmachetaktiken

Diese sind subtiler als expliziter Spam. Sie nutzen Social Engineering, um Gespräche zu beginnen, die zu Erwachseneninhalten oder -diensten führen.

Köder für nächtliche Interaktion: Kommentare wie “Wer ist noch wach?” oder “Ist gerade jemand da?”, die nach Antworten angeln. Sie tauchen in vielen Sprachen auf.

Köder mit Einsamkeit und Gesellschaft: Ausdrücke von Langeweile oder Einsamkeit, die ein Gespräch anstoßen sollen, das zu Erwachseneninhalten führt. Beispiele: “So einsam gerade”, “Leiste mir Gesellschaft.”

Partnersuche als Anmache: direkte Aufforderungen wie “Suche Spaß für heute Nacht” oder “Suche einen Typen/ein Mädchen”. Diese tauchen auf Englisch, Deutsch, Spanisch und in anderen Sprachen auf.

Euphemismen für Körperteile: codierte Verweise auf Körperteile, darunter Abkürzungen mit einzelnen Buchstaben und anzügliche Emoji wie die Aubergine.

Interaktionsköder mit anzüglichem Rahmen: “Like, wenn du wach bist” oder ähnliche Handlungsaufrufe, die in einem anzüglichen Kontext nach Interaktion angeln.

Direkte Kontaktaufforderungen: “HMU” (hit me up), “Schreib mir” und Entsprechungen in anderen Sprachen.

Voyeuristische Anmache

Eine besonders schädliche Unterkategorie umfasst Aufforderungen, intime Bilder anderer zu teilen, oft von Familienmitgliedern oder Bekannten. Diese Kommentare fragen typischerweise “wer zeigt” oder “wer hat”, gefolgt von einem Verweis auf eine weibliche Verwandte oder Bekannte. Dieses Muster ist im deutschsprachigen Raum besonders verbreitet.

Das ist nicht nur Spam, sondern potenziell illegaler Inhalt. Eskaliere sofort, wenn du dieses Muster siehst.

Anzügliche Emoji-Muster

Manche Emoji werden als codierte sexuelle Sprache verwendet:

  • Aubergine plus Pfirsich in anzüglichem Kontext
  • Häufungen anzüglicher Emoji mit wenig Text

Hinweis: Kommentare, die nur aus Emoji bestehen (ohne sexuellen Kontext), sind meist harmlos. Menschen nutzen Emoji, um Reaktionen auszudrücken. Bedenklich wird es, wenn anzügliche Emoji zusammen mit Anmachesprache auftreten.

Kurz-Checkliste

  • Verschriebene Plattformnamen (0nlyfans, onlyf@ns) sind bewusste Filterumgehung
  • “Link in Bio” plus sexuelle Sprache ergibt sexuellen Spam
  • Köder für nächtliche Interaktion (“wer ist wach?”) sind ein Anmache-Einstieg
  • Köder mit Einsamkeit oder Gesellschaft führen oft zur Bewerbung von Erwachseneninhalten
  • Voyeuristische Anmache, die Familienmitglieder betrifft, solltest du sofort eskalieren
  • Achte auf Kombinationen aus anzüglichen Emoji und Text, nicht auf Emoji allein
  • Phrasen zur Profil-Weiterleitung sind nur dann bedenklich, wenn sie mit sexuellen Inhalten einhergehen
Kapitel 4Aktualisiert 2026-06-24

Hassrede — Entmenschlichung, Aufhetzung und codierte Symbole

Hassrede in all ihren Formen erkennen — Entmenschlichung, Aufrufe zu Gewalt und die versteckten Codes, mit denen extremistische Gruppen Hass ganz offen verbreiten.

Überblick

Hassrede greift Menschen für das an, was sie sind — ihre Herkunft oder Ethnie, ihre Religion, ihr Geschlecht, ihre sexuelle Orientierung, eine Behinderung oder ein anderes geschütztes Merkmal. Sie zeigt sich in vielen Formen: offene Beschimpfungen und Entmenschlichung, Aufrufe zu Gewalt oder Ausgrenzung und, weil die Moderation besser geworden ist, zunehmend über codierte Sprache, die an Filtern vorbeikommen soll.

Eine verbreitete Falle ist, sich unter “Extremismus” nur eine einzige Ideologie vorzustellen (etwa Neonazi-Codes). In der Praxis ist Hassrede viel breiter, und eine gesunde Community muss sie in allen Formen erkennen. Dieses Kapitel beginnt mit den breiten Formen und geht dann tief auf die codierten Symbole ein, die am schwersten zu erkennen sind.

Formen von Hassrede

Hass muss nicht codiert sein, um zu schaden. Das sind die breiten Kategorien, auf die du achtest — über jede angegriffene Gruppe hinweg, nicht nur eine:

Entmenschlichung

Sprache, die eine Gruppe als weniger als menschlich darstellt, ist eines der klarsten und gefährlichsten Signale. Beispiele:

  • Eine Gruppe als “Untermenschen”, “Ungeziefer”, “Tiere” oder “eine Krankheit” zu bezeichnen
  • “Diese Leute sind eine Plage / Parasiten in unserem Land”

Das gilt für jede Gruppe — nach Herkunft, Ethnie, Religion, Geschlecht oder anderem.

Aufrufe zu Gewalt oder Vertreibung

Offene Aufhetzung — dass einer Gruppe geschadet werden, dass sie vertrieben oder ausgelöscht werden soll. Beispiele:

  • “Die gehören alle abgeschoben / eingesammelt”
  • Aufrufe, eine genannte Gruppe “loszuwerden” oder auszurotten

Religiöser Hass

Feindseligkeit gegen Menschen wegen ihres Glaubens — darunter Antisemitismus (etwa “globalistische” Verschwörungserzählungen, die behaupten, eine verborgene Gruppe “kontrolliere heimlich” Banken oder Medien) und antimuslimischer Hass (etwa einen ganzen Glauben als “Bedrohung” oder “Invasion” darzustellen).

Misogynie und geschlechtsbezogener Hass

Menschen aufgrund ihres Geschlechts zu entmenschlichen oder zu bedrohen — etwa “Frauen sind bloß Objekte/Besitz” oder Sprache aus der Incel-Ideologie, die zu Gewalt gegen Frauen aufruft. Hass aufgrund des Geschlechts ist ebenfalls Hassrede.

Anti-LGBTQ+-Hass

Beschimpfungen und Entmenschlichung, die sich gegen schwule, lesbische oder trans Menschen richten, einschließlich der codierten Emoji-Kombinationen, die weiter unten in diesem Kapitel behandelt werden.

Ein Hinweis, wie Hush damit umgeht: Die Erkennung sucht nach diesen Strukturen — Entmenschlichung und Aufhetzung gegen eine geschützte Gruppe — und nicht bloß nach einer Checkliste rechtsextremer Symbole, damit Hass gegen jede Gruppe erfasst werden kann. (Die genauen Signale halten wir vertraulich, damit man sie nicht austricksen kann.)

Codierte Symbole und extremistische Codes

Über die offenen Formen oben hinaus verwenden Hassgruppen bewusst codierte Sprache, um ganz offen miteinander zu kommunizieren. Was für die meisten Menschen wie eine zufällige Zahl oder ein harmloses Emoji aussieht, trägt für die “Eingeweihten” eine ganz bestimmte hasserfüllte Bedeutung. Dieser Teil des Kapitels stützt sich auf die Forschung zu extremistischen Kommunikationsmustern, darunter die Arbeit von Organisationen, die Online-Hassrede beobachten.

Numerische Hasscodes

1488

Das ist der bekannteste numerische Code weißer Rassisten.

  • 14 verweist auf die “14 Words”, einen Slogan weißer Rassisten
  • 88 steht für “HH” (H ist der 8. Buchstabe des Alphabets) — ein codiertes “Heil Hitler”

Wie er auftaucht:

  • 1488 als eine einzelne Zahl
  • 14/88, 14-88 oder 14 88 mit Trennzeichen
  • Manchmal in Benutzernamen oder Bios eingebettet

88

Wenn “88” allein auftaucht — besonders als ganzer Kommentar — ist es oft ein codierter Gruß unter Extremisten.

Der Kontext zählt: Die Zahl 88 kann harmlos sein (Geburtsjahr, Trikotnummer). Achte aber auf:

  • “88” als kompletter Kommentar ohne weiteren Kontext
  • “88” kombiniert mit extremistischen Emoji (siehe unten)
  • “88” in einem Benutzernamen zusammen mit anderen verdächtigen Signalen

Emoji-Hasscodes

Extremistische Gruppen haben bestimmte Emoji-Kombinationen als codierte Symbole übernommen. Sie sollen für Moderatoren harmlos aussehen und dabei hasserfüllte Botschaften transportieren.

Doppelter Blitz

Zwei Blitz-Emoji hintereinander stehen für die SS-Runen (NS-Insignien).

Beispiel: Ein Kommentar, der nur lightning-lightning enthält (zwei Blitz-Emoji nebeneinander)

Doppelte 8er-Billardkugel

Zwei Billard-8er-Emoji stehen für “88” — derselbe Code wie oben.

Beispiel: Ein Kommentar mit zwei 8er-Billardkugel-Emoji nebeneinander

Blitz + Stuhl

Ein Blitz-Emoji neben einem Stuhl-Emoji steht für Hinrichtung/elektrischer Stuhl — verwendet als Aufruf zu Gewalt.

Beispiel: Sowohl die Reihenfolge lightning-chair als auch chair-lightning

Anti-LGBTQ+-Kombinationen

Hass-Emoji neben dem Regenbogenflaggen-Emoji signalisieren eine anti-LGBTQ+-Haltung:

  • Verbotszeichen + Regenbogenflagge = “LGBTQ+ verbieten”
  • Feuer + Regenbogenflagge = Bilder von Brennen/Zerstörung
  • Angewidertes oder sich übergebendes Gesicht + Regenbogenflagge = Ekel
  • Seife + Regenbogenflagge = ein Verweis auf den Holocaust (“Säuberung”)

Diese Kombinationen sind bewusst gesetzt und sollten immer als Hassrede behandelt werden, nicht als beiläufige Emoji-Nutzung.

Warum codierte Sprache wichtig ist

Extremistische Gruppen verwenden Codes gezielt, weil:

  1. Abstreitbarkeit — “Ist doch nur eine Zahl/ein Emoji, du übertreibst”
  2. Signal an die eigene Gruppe — Mitglieder erkennen einander
  3. Filterumgehung — Die meisten Moderationswerkzeuge markieren Zahlen oder Emoji nicht
  4. Normalisierung — Wiederholte Konfrontation stumpft Communitys ab

Deine Aufgabe ist es, diese Muster zu erkennen und darauf zu reagieren, auch wenn einzelne Elemente harmlos wirken.

Wie du reagierst

Wenn du codierte Hassrede entdeckst:

  1. Blende den Inhalt aus — Lass ihn nicht stehen, während du noch überlegst
  2. Dokumentiere ihn — Screenshot vor dem Ausblenden für die Unterlagen
  3. Prüf den Account — Schau in Kommentarverlauf, Benutzernamen und Bio nach weiteren Signalen
  4. Sperre bei wiederholtem Muster — Ein einzelnes “88” mag harmlos sein; “88” plus Blitz-Emoji in der Bio ist es nicht
  5. Melde es an die Plattform — Nutze die Meldewege der Plattform für Hassrede

Checkliste zum schnellen Nachschlagen

Offene Formen (jede angegriffene Gruppe):

  • Entmenschlichung — eine Gruppe als “Untermenschen”, “Ungeziefer”, “Tiere”, “eine Krankheit” bezeichnen
  • Aufrufe zu Gewalt oder Vertreibung — “die gehören alle [abgeschoben / ausgerottet / losgeworden]”
  • Religiöser Hass — antisemitische “kontrolliert heimlich alles”-Verschwörungen; einen Glauben als “Invasion”/“Bedrohung” darstellen
  • Misogynie — “Frauen sind Objekte/Besitz”; Aufrufe zu Gewalt gegen Frauen
  • Beschimpfungen oder Entmenschlichung, die sich gegen LGBTQ+-Menschen richten

Codierte Formen:

  • 1488, 14/88, 14-88 = Code weißer Rassisten — immer ausblenden
  • 88 allein als Kommentar rechtfertigt eine Prüfung, besonders mit weiteren Signalen
  • Zwei Blitz-Emoji nebeneinander = SS-Runen
  • Zwei 8er-Billardkugel-Emoji nebeneinander = codiertes “88”
  • Blitz + Stuhl-Emoji = Aufruf zur Hinrichtung
  • Hass-Emoji + Regenbogenflagge = anti-LGBTQ+-Hassrede
  • Seifen-Emoji im Hass-Kontext = Verweis auf den Holocaust
  • Im Zweifel den gesamten Verlauf des Accounts auf Muster prüfen
Kapitel 5Aktualisiert 2026-04-10

Wie Spammer Filter umgehen

Technische Tricks, mit denen Spammer die automatische Erkennung austricksen — und wie du sie erkennst.

Überblick

Spammer wissen, dass Plattformen und Werkzeuge Schlagwortfilter nutzen. Also greifen sie zu technischen Tricks, damit ihre Nachrichten für Computer anders aussehen, für Menschen aber weiter lesbar bleiben. Diese Tricks zu verstehen hilft dir, Spam zu erkennen, den automatische Werkzeuge übersehen — und zu verstehen, warum offensichtlicher Spam manchmal durchrutscht.

Zeichenersetzung und Doppelgänger

Kyrillisch-lateinische Mischungen

Das ist eine der raffiniertesten Umgehungstechniken. Spammer ersetzen lateinische Buchstaben durch optisch identische kyrillische Zeichen. Für dein Auge sieht das Wort normal aus. Für einen Computer ist es eine völlig andere Zeichenfolge.

Viele kyrillische Buchstaben sind optisch identisch mit ihren lateinischen Gegenstücken — a, e, o, c, p und andere haben kyrillische Doppelgänger, die für das menschliche Auge gleich aussehen, für einen Computer aber völlig andere Zeichen sind.

Beispiel: Das Wort “telegram” mit einem kyrillischen “e” sieht für dich identisch aus, passt aber nicht zu einem Filter, der nach “telegram” sucht.

Wie du es erkennst: Mit dem Auge kannst du es meist nicht sehen. Wenn ein Kommentar wie offensichtlicher Spam aussieht, aber nicht von den Filtern erwischt wurde, kann Zeichenersetzung der Grund sein. Kopiere den Text in ein Unicode-Prüfwerkzeug, um es zu überprüfen.

Leetspeak und Symbolersetzung

Buchstaben durch Zahlen oder Symbole ersetzen — zum Beispiel 0nlyfans (Null statt O) oder nud3s (3 statt E). Das ist sichtbarer als die kyrillische Ersetzung und leichter zu erkennen, sobald du weißt, worauf du achten musst. Der Trick ist immer derselbe: einen Buchstaben gegen etwas tauschen, das ähnlich aussieht.

Unsichtbare Zeichen

Spammer fügen unsichtbare Unicode-Zeichen in Wörter ein, um Schlagworttreffer zu zerreißen.

Es gibt viele unsichtbare Unicode-Zeichen, die sich in Text einfügen lassen — unsichtbare Leerzeichen, Richtungsmarkierungen, Formatierungszeichen und mehr. Ein Wort wie “telegram” mit einem unsichtbaren Zeichen in der Mitte sieht völlig normal aus, passt aber zu keinem Schlagwortfilter.

Wie du es erkennst: Wenn ein Wort sich beim Markieren merkwürdig verhält (der Cursor scheint in der Mitte “hängen zu bleiben”), können unsichtbare Zeichen vorhanden sein.

Zalgo-Text

Zalgo-Text stapelt übermäßig viele diakritische Zeichen (Akzente, Tilden und so weiter) auf Buchstaben und erzeugt verzerrten, “glitchigen” Text, der schwer zu lesen und schwer zu filtern ist.

Beispiel: Text, der zu tropfen oder sich vertikal auszudehnen scheint, mit gestapelten Zeichen über und unter jedem Buchstaben.

Zweck: Macht den Text für automatische Filter unlesbar, während er für Menschen (gerade noch) lesbar bleibt. Oft für den Schockeffekt eingesetzt oder um Hassrede schwerer erkennbar zu machen.

Vollbreite Zeichen

Das sind “breite” Versionen normaler Buchstaben und Zahlen aus asiatischen Zeichensätzen. Sie sehen normalen Zeichen ähnlich, haben aber andere Unicode-Werte.

Wie du es erkennst: Der Text wirkt etwas breiter oder auseinandergezogener als normal. Wenn du gleichmäßig, aber seltsam gespreizten Text in einem Kommentar siehst, sind womöglich vollbreite Zeichen im Spiel.

Missbrauch von URL-Kürzern

Spammer verstecken schädliche oder spammige Ziele hinter gekürzten URLs.

Es gibt Dutzende URL-Kürzungsdienste im Einsatz. Manche sind bekannt (wie bit.ly), andere obskurer. Bio-Link-Dienste (wie linktr.ee) sind risikoärmer, aber trotzdem beobachtenswert, wenn sie zusammen mit anderen Spam-Signalen auftauchen.

Warnzeichen bei gekürzten URLs:

  • Mehrere gekürzte URLs in einem einzigen Kommentar
  • Gekürzte URL kombiniert mit Dringlichkeitssprache (“jetzt handeln!”, “nur begrenzte Zeit!”)
  • Gekürzte URL in einem Kommentar, der nichts mit dem Thema des Beitrags zu tun hat
  • Gekürzte URL von einem Account ohne Beitragsverlauf

Was du tust: Klick niemals auf gekürzte URLs in verdächtigen Kommentaren. Nutze ein URL-Expander-Werkzeug, um zu prüfen, wohin sie tatsächlich führen.

Emoji-Spam

Übermäßiger Emoji-Einsatz kann sowohl ein Spam-Signal als auch eine Umgehungstechnik sein.

Muster, auf die du achtest:

  • Wiederholte identische Emoji: Viele gleiche Emoji hintereinander (etwa eine Reihe Geldsäcke)
  • Emoji-Überladung: Viele Emoji mit sehr wenig echtem Text — die Emoji ziehen die Aufmerksamkeit an, während die Botschaft einen Link oder Betrug versteckt
  • Krypto-Emoji-Cluster: Rakete, Geldsack, Geldschein, Edelstein und Diagramm-Emoji zusammen signalisieren oft Krypto-Betrug

Hinweis: Reine Emoji-Reaktionen (Herzen, Daumen hoch, lachende Gesichter) von echten Nutzern sind normal und harmlos. Das Problem sind Emoji, die als optisches Rauschen neben Betrugsinhalten eingesetzt werden.

Checkliste zum schnellen Nachschlagen

  • Wenn offensichtlicher Spam nicht von den Filtern erwischt wurde, verdächtige Zeichenersetzung
  • Achte auf Zahlen-/Symbolersetzungen in bekannten Spam-Wörtern (Nullen statt O, 3 statt E und so weiter)
  • Merkwürdiges Cursor-Verhalten beim Markieren von Text kann auf unsichtbare Zeichen hindeuten
  • Glitchiger, tropfender Text (Zalgo) ist immer absichtliche Störung
  • Klick niemals auf gekürzte URLs in verdächtigen Kommentaren — nutze ein Expander-Werkzeug
  • Mehrere gekürzte URLs in einem Kommentar sind ein starkes Spam-Signal
  • Gekürzte URL + Dringlichkeitssprache = fast immer Betrug
  • Übermäßig viele identische Emoji oder Krypto-Emoji-Cluster signalisieren Spam
Kapitel 6Aktualisiert 2026-03-27

Was du tust, wenn du es entdeckst

Ein praktischer Reaktionsleitfaden für den Umgang mit Spam, Betrug und Hassrede in deiner Community.

Überblick

Zu wissen, wie man schädliche Inhalte erkennt, ist nur die halbe Arbeit. Dieses Kapitel gibt dir einen klaren Schritt-für-Schritt-Leitfaden, wie du auf jede Art von Bedrohung reagierst — von alltäglichem Spam bis zu ernster Hassrede.

Der 4-Schritte-Reaktionsrahmen

Bei jedem schädlichen Inhalt, dem du begegnest, folgst du diesem Rahmen:

1. Einschätzen

Frag dich:

  • Um welche Art von Inhalt handelt es sich? (Betrug, sexueller Spam, Hassrede, Umgehung)
  • Wie schwerwiegend ist es? (alltäglicher Spam gegenüber aktivem Schaden)
  • Ist der Account ein Ersttäter oder ein wiederkehrendes Muster?
  • Könnte es ein Fehlalarm sein? (echter Nutzer, harmlose Verwendung einer Zahl und so weiter)

2. Handeln

Sofortmaßnahmen je nach Schwere:

Schwere Art des Inhalts Maßnahme
Kritisch Hassrede, Gewaltdrohungen, CSAM Sofort ausblenden. Account sperren. An Plattform melden.
Hoch Krypto-Betrug, Phishing-Links, Identitätsdiebstahl Sofort ausblenden. Account sperren. Community bei Bedarf warnen.
Mittel Sexueller Spam, gefälschte Gewinnspiele, Follower-Betrug Inhalt ausblenden. Je nach Verlauf warnen oder sperren.
Niedrig Grenzwertiger Spam, Link-Kürzer, Engagement-Köder Beobachten. Ausblenden, wenn das Muster anhält.

3. Dokumentieren

Was du festhältst:

  • Screenshot des Inhalts (vor dem Ausblenden)
  • Den Benutzernamen des Accounts und alle Profildetails
  • Die erkannte Art von Spam/Betrug
  • Die Maßnahme, die du ergriffen hast
  • Datum und Uhrzeit

Warum dokumentieren: Muster zeigen sich mit der Zeit. Dokumentation hilft dir, koordinierte Kampagnen zu erkennen, den Bedarf an besseren Werkzeugen zu belegen und neue Teammitglieder einzuarbeiten.

4. Eskalieren (wenn nötig)

Eskaliere an die Plattform, wenn du siehst:

  • Koordinierte Spam-Angriffe (viele ähnliche Accounts posten gleichzeitig)
  • Identitätsdiebstahl deiner Marke oder von Personen des öffentlichen Lebens
  • Inhalte, die möglicherweise illegal sind (CSAM, Gewaltdrohungen, Doxxing)
  • Accounts, die nach einer Sperre neu entstehen

Eskaliere an die Strafverfolgung, wenn du siehst:

  • Glaubwürdige Gewaltdrohungen
  • Inhalte zu Kindesmissbrauch
  • Doxxing mit klarer Schädigungsabsicht
  • Betrug, der deinen Community-Mitgliedern echten finanziellen Schaden zugefügt hat

Playbooks für einzelne Kategorien

Betrugskommentare

Alltäglicher Betrug (Krypto, Telegram, gefälschtes Gewinnspiel):

  1. Lösch den Kommentar
  2. Sperr den Account (Betrugs-Accounts bessern sich selten)
  3. Wenn der Betrug auf einen bestimmten Beitrag zielt, überleg, einen Warnkommentar anzupinnen
  4. Auf den Betrüger musst du nicht antworten

Ausgefeilter Betrug (Identitätsdiebstahl, gefälschter Support):

  1. Lösch den Kommentar sofort
  2. Sperr den Account
  3. Poste eine Warnung an deine Community: “Wir bitten dich niemals, uns über Telegram/WhatsApp zu kontaktieren”
  4. Melde den Account bei der Plattform wegen Identitätsdiebstahls
  5. Wenn der Betrüger sich als reale Person ausgegeben hat, informiere diese Person

Sexueller Spam

Bewerbung expliziter Inhalte:

  1. Lösch den Kommentar
  2. Sperr den Account
  3. Meist ist kein weiterer Schritt nötig

Voyeur-Aufforderungen (Bitten um Bilder von anderen):

  1. Sofort löschen
  2. Account dauerhaft sperren
  3. An die Plattform als sexuelle Ausbeutung melden
  4. Für eine mögliche Weitergabe an die Strafverfolgung dokumentieren

Hassrede

Codierte Hassrede (numerische Codes, Emoji-Kombinationen):

  1. Lösch den Kommentar
  2. Prüf den Verlauf des Accounts auf weitere Signale
  3. Sperre bei einem Muster (oder wenn das Signal eindeutig ist, wie 1488)
  4. An die Plattform als Hassrede melden
  5. Geh nicht mit dem Verfasser in den Austausch und erklär nicht, was du erkannt hast — das lehrt ihn nur, besser zu umgehen

Offene Hassrede:

  1. Sofort löschen
  2. Dauerhaft sperren
  3. An die Plattform melden
  4. Für eine mögliche Weitergabe an die Strafverfolgung dokumentieren, wenn Drohungen im Spiel sind

Filterumgehung

Wenn du Spam findest, der die automatischen Filter umgangen hat:

  1. Blende den Inhalt aus
  2. Notier die verwendete Umgehungstechnik (Zeichenersetzung, unsichtbare Zeichen und so weiter)
  3. Melde die Technik deinem Werkzeuganbieter, damit er die Erkennung verbessern kann
  4. Prüf auf ähnliche Kommentare vom selben Account oder von ähnlichen Accounts

Eine gesündere Community aufbauen

Über die reaktive Moderation hinaus kannst du vorausschauende Schritte gehen:

Erwartungen früh setzen:

  • Pinn die Community-Richtlinien gut sichtbar an
  • Sag klar, was erlaubt ist und was nicht
  • Erklär die Konsequenzen (Warnung, Stummschaltung, Sperre)

Automatische Werkzeuge wirksam nutzen:

  • Automatische Moderation fängt den Großteil des Spams ab, damit du dich auf die Grenzfälle konzentrieren kannst
  • Sieh markierte Inhalte regelmäßig durch — Fehlalarme lehren dich, was in deiner Community normal ist
  • Melde übersehenen Spam deinem Werkzeuganbieter, um die Erkennung zu verbessern

Dein Publikum aufklären:

  • Warn deine Community vor aktiven Betrugskampagnen
  • Sag den Nutzern, niemals auf verdächtige Links zu klicken oder zu externen Messengern zu wechseln
  • Ermutige zum Melden — deine Community-Mitglieder sind deine erste Verteidigungslinie

Kümmer dich um dich selbst:

  • Moderationsarbeit kann emotional zehren, besonders im Umgang mit Hassrede oder Missbrauchsinhalten
  • Mach Pausen zwischen den Moderationsphasen
  • Teil die Arbeit mit deinem Team, wo es möglich ist
  • Organisationen wie das Content Moderator Wellness Program bieten Unterstützung

Checkliste zum schnellen Nachschlagen

  • Folg dem 4-Schritte-Rahmen: Einschätzen, Handeln, Dokumentieren, Eskalieren
  • Mach immer einen Screenshot vor dem Löschen (für die Dokumentation)
  • Betrugs-Accounts solltest du fast immer sperren, nicht bloß verwarnen
  • Geh niemals mit Verfassern von Hassrede in den Austausch — nur ausblenden, sperren, melden
  • Voyeur-Aufforderungen und Drohungen erfordern eine Meldung an die Plattform und möglicherweise eine Eskalation an die Strafverfolgung
  • Melde Umgehungstechniken deinem Werkzeuganbieter
  • Pinn die Community-Richtlinien an und warn vor aktiven Betrugskampagnen
  • Kümmer dich um dein eigenes Wohlbefinden — Moderation ist zehrende Arbeit