Die Labels beschreiben typische sprachliche Merkmale von Desinformationen. Sie wurden auf Grundlage einer wissenschaftlichen Literaturrecherche durch das Forschungszentrum Informatik (FZI) erstellt.

Kommentare, die Desinformationen enthalten, zeichnen sich durch eins oder mehrere der folgenden Merkmale aus:

widersprüchlich

Ist in sich widersprüchlich und nicht logisch in der Argumentation.

uninformativ/ nicht argumentativ

Enthält wenig Information und Argumente, die jedoch häufig wiederholt werden.

polarisierend

Starke Abgrenzung von anderen Bevölkerungsgruppen, Unterteilung in "wir" und "die Anderen".

emotionalisierend

Setzt auf eine emotionale Sprache und sensible Themen.

sensationalistisch

Ist überspritzt formuliert, nutzt z.B. einen hohen Anteil an Großbuchstaben und Ausrufezeichen.

erniedrigend

Enthält Vorurteile, um andere Gruppen gezielt schlecht zu machen.

aktuell/ brandaktuell

Konzentriert sich auf sehr aktuelle Themen, welche Aufmerksamkeit erregen.

unbestimmt formuliert

Verwendet eine erhöhte Anzahl an Wörtern, die Unsicherheiten hervorrufen (z.B. möglicherweise, normalerweise).

nicht belegt

Nutzt falsche oder gar keine Quellen oder setzt Quellen in einen falschen Zusammenhang.

pseudowissenschaftlich

Gibt sich wissenschaftlich aus ohne konkrete Quellen anzugeben oder manipuliert Quellen, um falsche Theorien aufzustellen.

gefälschter Inhalt

Nutzt bewusst gefälschte Inhalte (Text oder Bild).

falscher Kontext

Enthält richtige Informationen, die aus dem Zusammenhang gerissen bzw. in einem falschen Kontext dargestellt werden.

verschwörungstheoretisch

Enthält nicht belegte Geschichten und Theorien, die wichtige Ereignisse scheinbar einfach erklären.

propagandistisch

Enthält Informationen, die voreingenommen oder irreführend sind und darauf abzielen, eine bestimmte politische Sichtweise in der Gesellschaft zu fördern.

nicht faktenbasiert

Es geht in erster Linie um Meinungen oder Satire und hat keinen sachlichen Anspruch.

Die defakts-KI wurde auf der Basis von Nachrichten aus verdächtigen Social-Media- und Messenger-Gruppen trainiert. Sie erkennt die für Desinformationen charakteristischen Faktoren und Stilmittel. Das bedeutet, dass sie auf die Art und Weise schaut, wie ein Kommentar verfasst wurde. Dabei kategorisiert sie den Text nach den oben beschriebenen Labeln. Wenn die in dem Kommentar vorkommenden Wörter oberhalb eines bestimmten Werts liegen, zeigt die KI diejenigen Wörter an, die am stärksten zu der Einschätzung beitragen, dass der Beitrag möglicherweise Desinformationen enthält. Der Confidence Score zeigt an, wie sicher die KI in ihrer Einschätzung ist. Je höher die Prozentzahl, desto sicherer ist sich die KI in ihrer Einschätzung.

Die KI macht keinen Faktencheck und vermeidet eine Einordnung von Beiträgen in „Desinformation“ und „keine Desinformation“. Vielmehr soll die KI selbst erklären, wie sie zu ihrer Einschätzung gekommen ist und damit ihre Einschätzung transparent machen. Im Englischen nennt man diesen Ansatz „Explainable Artificial Intelligence“, kurz XAI. Das bedeutet auch: Die Interpretation und Entscheidung, ob Desinformationen vorliegen oder nicht, liegt letztlich bei den Nutzerinnen der Anwendungen. Es findet keine Filterung oder gar automatisierte Löschung von Inhalten statt.

Desinformationen sind gezielt verbreitete falsche oder irreführende Informationen, die mit der Absicht erstellt werden, Menschen bewusst zu täuschen oder zu beeinflussen. Entscheidend ist also die bewusste Täuschungsabsicht – das unterscheidet sie von unbeabsichtigten Falschnachrichten. Werden Desinformationen ungeprüft weitergeleitet, können die Inhalte als unbabsichtigte Falschnachrichten verbreitet werden.

Der rot hinterlegte Kasten mit dem Hinweis der KI springt nur dann an, wenn der Confidence Score über 50% liegt. Nach dem Abschicken eines Kommentars kann die Prüfung ein paar Sekunden dauern. Damit der Beitrag angezeigt werden kann, muss die Seite neu geladen werden. Das können Sie z.B. tun, indem Sie in das URL-Feld klicken und noch einmal die Enter-Taste betätigen.

Defakts steht für: Desinformationskampagnen beheben durch Offenlegung der Faktoren und Stilmittel. Hinter diesem Namen steht ein durch das Bundesministerium für Bildung und Forschung (BMBF) gefördertes Projekt. DeFaktS verfolgt einen umfassenden Ansatz zur Erforschung und Bekämpfung von Desinformation. Zu diesem Zweck wurde eine KI darauf trainiert, Desinformationen zu erkennen. Sie soll transparent über das mögliche Auftreten von Desinformationen informieren und die Nutzer:innen der Anwendung warnen. Perspektivisch soll eine Programmierschnittstelle auch für Dritte zugänglich gemacht werden, damit sich Onlineplattformen möglichst automatisiert moderieren lassen.

Projektpartner sind: FZI Forschungszentrum Informatik, Philipps-Universität Marburg,Murmuras UG und Liquid Democracy e.V. Das Projekt läuft seit Januar 2022 und endet im Juni 2025.

Faustregeln:

→ Informationen kritisch hinterfragen und nicht ungeprüft weiterleiten

→ Absender von Informationen prüfen

→ Quellen vergleichen

→ Bilder und Videos auf Manipulation prüfen (Deepfakes)

Widersprechen

Sie können argumentieren, verdeutlichen, konfrontieren und klarstellen. So werden auf einer sachlichen Ebene Gegenargumente deutlich. Sie können auch Gegenargumente anderer Personen liken und somit unterstützen. Auch wenn der:die Verfasser:in nicht überzeugt werden kann, so werden auf diesem Weg auch die Menschen erreicht, die mitlesen, ohne selbst aktiv zu werden. Das verhindert das Verbreiten von Desinformationen.

Nach Quellen fragen

Sie können nachfragen, aus welcher Quelle die Information kommt. Indem faktenbasierte Meinungen ausgetauscht werden, wird die Diskussion in eine sachliche Richtung gelenkt, macht sie transparenter und glaubwürdiger. Nach einer Quelle zu fragen ist ein guter Weg, um (Des)Information zu hinterfragen, ohne auf Konfrontation zu gehen. Besonders bei sensiblen Themen ist es wichtig, ruhig und sachlich zu bleiben.

Kommentar Melden

Über die Meldefunktion können Sie der Moderation signalisieren, dass der Beitrag gegen die Diskussionsregeln verstößt. So helfen Sie der Moderation insb. bei Diskussionen mit vielen Beiträgen, schnell reagieren zu können.

Faktenchecks nutzen

Es gibt spezielle Onlineplattformen, die Faktenchecks anbieten. Auf verlässlicher Grundlage werden durch Rechercheteams Informationen eingeordnet oder wo nötig widerlegt. Hier können Sie nachlesen, ob die angezweifelten Fakten bereits untersucht wurden. Oder Sie können die Redaktion bitten, Fakten zu prüfen.

Dokumentieren und Anzeigen

Wenn Sie vermuten, dass ein Kommentar strafrechtlich relevant sein könnte, sollten Sie ihn mit Screenshots dokumentieren. Relevant sind dabei alle Daten, die auf den Kontext schließen lassen (Webseite, Tag und Uhrzeit, Autor:in, URL des Profil und Kommentar). Eine Anzeige kann auch anonym z.B. bei der nächsten Polizeiwache in Ihrer Stadt oder über die Online-Wachen im Internet erfolgen.