Rechtsverstöße sind in der virtuellen Welt an der Tagesordnung. Insbesondere Kinder und Jugendliche kommen beim Surfen häufig ungewollt mit fragwürdigen oder gar kriminellen Inhalten in Berührung. Die Condat AG hat für die Landesanstalt für Medien NRW ein KI-System entwickelt, das die Medienaufsicht im Internet vereinfachen, beschleunigen und verbessern soll.

Gewaltdarstellungen, Volksverhetzung, die Verwendung verfassungsfeindlicher Symbole oder frei zugängliche Pornografie: Die Liste der Webseiten oder Social Media-Angebote mit illegalen Inhalten ist lang und wächst ständig. Mitarbeitende der Landesmedienanstalten bringt das an die Grenze ihrer Belastung. Den virtuellen Raum manuell nach kritischen Inhalten zu durchforsten, lässt sich schlichtweg nicht bewältigen.

KIVI heißt eine Software, die für mehr Sicherheit im Netz sorgen soll. Sie wurde von der Berliner Firma Condat AG entwickelt und kam erstmals 2020 bei der Landesanstalt für Medien NRW zum Einsatz – zunächst als Prototyp, seit 2021 im Produktivbetrieb. Ob World Wide Web, YouTube, Twitter, Telegram oder andere Social Media-Plattformen: KIVI kann täglich mehr als 10.000 Seiten automatisch durchsuchen. Wofür ein Mensch Tage oder Wochen bräuchte, schafft das KI-Tool im Bruchteil einer Sekunde.

Laufende Verbesserung durch tägliche Rückmeldung

KIVI lernt durch Bild- und Textbeispiele, die aktiv eingespeist werden und die in der Vergangenheit als Verstoß bewertet wurden. Zudem erhält die Software von Beschäftigen der Landesmedienanstalt täglich Rückmeldung, ob sich ein gefundener Verdacht bestätigt hat oder nicht. Generell gilt: Je mehr Behörden mit dieser Software arbeiten, desto effizienter kann das KI-Tool lernen. Aktuell ist KIVI nur für deutschsprachige Textinhalte trainiert. Zum Einsatz kommt sie mittlerweile auch in einigen weiteren Landesmedienanstalten in Deutschland.