Fraunhofer entwickelt Software zur automatischen Erkennung von Fake News
Das Fraunhofer FKIE hat ein neues Werkzeug auf Basis von maschinellem Lernen entwickelt, das Social-Media-Beiträge analysiert, um gefälschte Nachrichten und Desinformation automatisch zu erkennen. Die Software kann auch Hassrede identifizieren.
Deutschland – Das Fraunhofer-Institut für Kommunikation, Informationstechnologie und Ergonomie (FKIE) hat ein Softwaresystem zur Bekämpfung von online verbreiteter Desinformation entwickelt. Das Werkzeug analysiert Beiträge in sozialen Medien, wie Tweets, und nutzt Techniken des maschinellen Lernens, um gefälschte Nachrichten und Desinformation automatisch zu identifizieren.
Das System untersucht sowohl den Inhalt der Beiträge als auch deren Metadaten, einschließlich der Veröffentlichungsfrequenz und der Nutzernetzwerke. Die Analyse basiert auf Modellen des maschinellen Lernens, die darauf trainiert sind, sprachliche Merkmale wie ungewöhnliche Formulierungen, Grammatikfehler oder atypische Interpunktion zu erkennen. Diese Faktoren können darauf hindeuten, dass ein Nachrichtenbeitrag manipuliert oder fabriziert wurde.
Professor Ulrich Schade und seine Forschungsgruppe haben das Werkzeug mithilfe von Trainingsdatensätzen entwickelt, die sowohl aus glaubwürdigen Nachrichtenartikeln als auch aus von Nutzern als falsch identifizierten Inhalten bestehen. Die Software ist zudem in der Lage, Hassrede zu erkennen, da gefälschte Nachrichten oft solche Elemente enthalten, um Misstrauen zu säen oder Einzelpersonen oder Gruppen anzugreifen.
Die von Fraunhofer FKIE entwickelte Software kann an spezifische Kundenbedürfnisse angepasst werden. Sie kann als Frühwarnsystem für Behörden oder Unternehmen dienen, um die Verbreitung von gefälschten Nachrichten und Desinformation in sozialen Medien einzudämmen.