https://x.com/Birgit_Kelle/status/1856655725696565333[*quote*]
Birgit Kelle @Birgit_Kelle
Innenminister in Hessen ist Roman Poseck von der CDU.
Fast 300.000 Euro Steuergeld um KI-gesteuert "Hasskommentare" automatisiert an die Meldestelle "Hessen gegen Hetz" im (!) Innenministerium zu melden.
Wir sind über "irre" hinweg, es wird gefährlich.
Quote
[***/quote***]
https://x.com/fraaanie/status/1856650773737660691Franziska Zimmerer @fraaanie
„Die neue Anwendung soll mit Hilfe automatischen Lernens und künstlicher Intelligenz diese Inhalte nicht nur erkennen, auswerten und vorklassifizieren, sondern sie auch gleich an die Meldestelle ,Hessen gegen Hetze’ weiterleiten.“
https://ikum.mediencampus.h-da.de/blog/hate-speech-forschung-botox/Image
https://pbs.twimg.com/media/GcQmCW0WAAATSPP?format=jpg&name=medium[***/quote***]
12:09 PM · Nov 13, 2024
11.3K Views
[*/quote*]
Wo diese toxische Software im Staatsauftrag produziert wird:
https://ikum.mediencampus.h-da.de/projekt/projekt-botox/[*quote*]
Hochschule Darmstadt ikum
Institut
F&E-Projekte
Termine
Blog
Main Page (English)
Suche
Anfahrt
Projekt BoTox
Zur ikum-Projektübersicht
Hatespeech nicht nur zu erkennen, sondern auf strafrechtliche Relevanz, Kontext und die Beteiligung von "Hate Bots" zu prüfen, ist Ziel dieses Projekts.
Projektleitung: Prof. Dr. Melanie Siegel
Beteiligte Institutionen: Hochschule Fresenius Gemeinnützige Trägergesellschaft MBH (Institut für Digitale Analytische Forensik)
Dauer: 08/2023 bis 01/2025
Förderer/Auftraggeber: Hessisches Ministerium des Innern, für Sicherheit und Heimatschutz (HMdI)
ikum
Die automatische Klassifikation von Hasskommentaren hat sich bisher meistens darauf beschränkt, Hasskommentare zu erkennen, also einen Kommentar als Hasskommentar oder „normalen“ Kommentar zu klassifizieren. Das Projekt BoTox geht über diese binäre Klassifikation hinaus:
Automatisierte Erkennung von Hatespeech
mit strafrechtlicher Relevanz
Das deutsche Strafrecht hat 12 Paragraphen, die für Hatespeech relevant sind. Im Projekt BoTox wird Hatespeech automatisiert daraufhin untersucht, ob die Inhalte der Kommentare strafrechtlich relevant sind und welche Paragraphen zutreffen könnten. Das Ziel ist, Plattformbetreibern und Strafverfolgungsbehörden Hilfestellungen bei der Bewältigung der Mengen und der rechtlichen Einschätzung zu geben.
Das Forschungsprojekt DeTox war das erste, das einen Datensatz zur Verfügung gestellt hat, der auch die strafrechtliche Relevanz von Hatespeech berücksichtigte. Im Projekt BoTox wird nun ein Fokus auf strafrechtlich relevante Hasskommentare gelegt und diese weiter analysiert und feiner nach den relevanten Straftatbeständen klassifiziert.
BotCacher:
Automatisierte Bot-Erkennung im Umfeld von Hatespeech
Besonders problematisch sind Social Bots, die Hasskommentare verbreiten und damit die Diskussion vergiften und der demokratischen Diskussionskultur schaden. Solche „Hate Bots“, die vorgeben Menschen zu sein, beeinflussen die Diskurse entweder dadurch, dass sie selbst automatisiert Inhalte verbreiten und mit anderen Nutzern kommunizieren oder aber durch das Liken, Teilen und Kommentieren von Hatespeech. Beide Varianten sollen im Rahmen des Forschungsprojektes betrachtet werden.
Die Erkennung von Hate Bots ist für die Meldestelle Hasskommentare des Hessen3C für die strafrechtliche Verfolgung von Hasskommentaren äußerst relevant. Darüber hinaus können bei einer Erkennung von Hate Bots die Netzwerke zur Löschung aufgefordert oder auch die Öffentlichkeit informiert werden, sodass das manipulative Ziel nicht mehr erreicht werden kann.
Kontextdetektor:
Hatespeech-Detektion unter Einbeziehung des Kontextes
Bisher ist es im Rahmen der Hatespeech-Detektion und -Analyse in der Regel so, dass nur einzelne aus dem Kontext gerissene Kommentare betrachtet und bewertet werden. Jedoch können Kommentare oft nur im konkreten Kontext richtig interpretiert werden. Insbesondere wenn Metaphern, Ironie oder Sarkasmus eine Rolle spielen, kann der Kontext zum Verständnis beitragen.
Bereits im Projekt DeTox wurde der Bereich der Konversationsanalyse tangiert, theoretische
Betrachtungen durchgeführt und erste Statistiken zu Konversationen vorgenommen. Der in diesem Projekt erstellte Datensatz bietet erste Konversationsdaten, die für die Analyse herangezogen werden können.
Im Projekt BoTox wird an der automatisierten Analyse des Kontexts von Hasskommentaren geforscht und eine automatisierte Konversationsanalyse entwickelt.
Logo des HMdI
https://ikum.mediencampus.h-da.de/wp-content/uploads/sites/33/2023/08/Logo_ForschungCybersicherheit_blau_HMdI_2024-768x189.pngWeiterführende Links
Projekt DeTox
Forschungsförderung Innovationsmanagement & Cybersicherheit des HMdI
nicht mit Facebook verbunden
Facebook "Like"-Dummy
nicht mit Twitter verbunden
"Tweet this"-Dummy
Zur ikum-Projektübersicht
Mehr aus dem Institut
Digital-Immersive Technologies in Script Development
08/2024 bis 07/2027
Digital-Immersive Technologies in Script Development
Virtual Production revolutioniert Drehbuchentwicklung: Studie erforscht, wie neue Technologien Autoren helfen, komplexe Nachhaltigkeitsthemen zu vermitteln.
Zum Projekt
An ongoing and unending journey: Prototyping and Refining Virtual Beings and Environments into Virtual Realities
Dienstag, 26. November 2024
An ongoing and unending journey: Prototyping and Refining Virtual Beings and Environments into Virtual Realities
Prof. Tilmann Kohlhaase on the VR experience "InVisible" and exploring interaction with virtual characters and environments
Zum Termin
Rückblick: ScienceFriday
Freitag, 9. August 2024
Rückblick: ScienceFriday
Rückblick zum zweiten ScienceFriday: Ein inspirierender Workshop für Forscherinnen und Forscher
Zum Artikel
Mediencampus der Hochschule Darmstadt
Am Mediencampus der Hochschule Darmstadt werden Studierende in zahlreichen innovativen Medienstudiengängen auf verschiedene Beschäftigungsfelder in der Medienindustrie vorbereitet.
Studieren am Mediencampus
Am Mediencampus befinden sich Studiengänge, die sich mit Medien, Information und Journalismus beschäftigen.
Mehr erfahren
Campusleben
Der Mediencampus bietet eine hervorragende Infrastruktur für Studium, Forschung und Entwicklung.
Mehr erfahren
Forschung und Entwicklung
Forschung und Entwicklung sind Alltag am Mediencampus. Sie sind Grundstein für eine exzellente Lehre.
Mehr erfahren
Mediencampus-Blog
Neues zu Lehre, Projekten, Forschung und Campusleben gebündelt im Campusradar des Mediencampus.
Mehr erfahren
© 2024 h_da
Anfahrt Impressum Datenschutzerklärung
[*/quote*]
