Ist im Zusammenhang mit dem Internet oder sozialen Medien von Trollen die Rede, so sind in der Regel keine mystischen Wesen gemeint. Hinter Trollen im Netz stecken nämlich echte Menschen, die unter echtem Namen oder Pseudonym im Internet absichtlich als Störenfriede unterwegs sind. Sie provozieren, emotionalisieren oder beleidigen in den Kommentarspalten von Facebook, TikTok, Instagram und Co. mit dem Ziel, Diskussionen zu untergraben.

Trolle können auch gezielt Desinformationen verbreiten, um andere zu täuschen oder zu manipulieren. In einigen Fällen werden Trolle von Organisationen oder Regierungen eingesetzt, um gezielt politische Diskussionen oder Debatten zu beeinflussen.

Bots sind Computerprogramme, die menschliches Verhalten im Internet nachahmen. Chat-Bots werden zum Beispiel zunehmend in der Online-Kundenbetreuung von Unternehmen eingesetzt und antworten automatisch auf Kund*innenanfragen. In sozialen Medien gibt es zwei weitere Arten von Bots. Spam-Bots dienen dazu, Spam-Nachrichten massenhaft zu verbreiten. Dazu werden meistens populäre Hashtags verwendet. Social-Bots hingegen werden politisch eingesetzt, zum Beispiel um Propaganda zu verbreiten. So verwendeten sowohl Donald Trump als auch Hillary Clinton 2016 im US-Wahlkampf Social-Bots in sozialen Medien, um die Meinung der Wählerschaft online zu beeinflussen. Durch die schiere Masse und Reichweite der künstlichen Intelligenzen können so wichtige Informationen verschleiert oder Trends beeinflusst werden. Wie spezifisch die Bots dabei agieren können, zeigen zum Beispiel Social-Bots aus Russland, die teilweise Russlandkritische Kommentare erkennen können und mit Propaganda-Nachrichten antworten.

Algorithmen sind im Grunde Anleitungen für Computer, welche durch Menschen programmiert werden. Sie sagen dem Computer also, welche Schritte dieser durchlaufen muss, um an ein bestimmtes Ziel zu kommen. Auf diese Weise können auch bestimmte Daten aus dem Internet gesammelt und ausgewertet werden. Da Computer mit Hilfe von Algorithmen dazu in der Lage sind, riesige Datenmassen zu analysieren, können Muster in den Daten gefunden werden, die vorher nicht ersichtlich waren. Dies kann zum Beispiel dazu genutzt werden, um Kund*innen eines Online-Shops auf Grundlage ihrer bisherigen Käufe und ihrer persönlichen Daten wie Alter oder Geschlecht, weitere Produkte vorzuschlagen, die ihnen mit hoher Wahrscheinlichkeit gefallen. Das gleiche Prinzip wenden auch Streaming-Plattformen wie Spotify oder Netflix an, um passende Musik und Filme vorzuschlagen, oder soziale Medien, um den Feed der einzelnen Nutzer*innen zu personalisieren. Wenn auch oftmals unsichtbar, sind Algorithmen so zunehmend allgegenwärtig und strukturieren viele digitale Bereiche unseres Lebens, indem sie in Suchmaschinen, in Gesundheitsapps oder sogar in der Kriminalistik angewandt werden.

Trotzdem können auch Algorithmen oder algorithmisches Verhalten fehlerhaft sein, denn sie werden von Menschen programmiert. Sie funktionieren also immer nur so gut wie sie programmiert wurden. Die Algorithmen, die in sozialen Medien den News-Feed strukturieren, können zum Beispiel nicht zwischen Desinformationen oder wahren Meldungen unterscheiden. Algorithmen, die zum Beispiel bei der Polizeiarbeit eingesetzt werden, können stereotype und diskriminierende Annahmen über Menschengruppen beinhalten und reproduzieren.

Mit dem Echokammer-Effekt ist ein virtueller Raum gemeint, in dem die eigene Meinung durch den verstärkten Umgang mit Gleichgesinnten wie ein Echo zurückschallt. Die Inhalte, die den Nutzer*innen in sozialen Medien angezeigt werden, bestätigen somit oftmals ihre eigene Meinung, während anderslautende Stimmen nicht sichtbar sind. Dieser Effekt entsteht sowohl durch die Tendenz von Nutzer*innen, die Inhalte auszusuchen und zu konsumieren, die ihre Meinung bestätigen, als auch durch die Empfehlungs-Algorithmen, die eben jene Inhalte verstärkt in den Feed spülen. Es entstehen dabei virtuelle Echoräume, in denen sich Desinformationen oder Verschwörungserzählungen besonders schnell verbreiten können.

Confirmation-Bias (dt. Bestätigungsfehler) ist ein Begriff aus der Psychologie und beschreibt die Tendenz der Menschen, sich mit Gleichgesinnten zu umgeben. So wird die eigene Meinung im Umfeld bestätigt und kollektiv verstärkt. Das ist erstmal nichts Schlimmes. Im virtuellen Raum kann dies jedoch dazu führen, dass sich Desinformationen in bestimmten Kreisen schnell verbreiten und verfestigen können. Dieses Phänomen im Netz wird vom Echokammer-Effekt beschrieben.