Wie Kinder sicher chatten
Wie Kinder sicher chatten

Mit dem Fachwissen über Deep-Learning-Programme aus seiner Promotion hätte Nicolai Erbs auch Fintech-Unternehmer werden können – aber hätte das die Welt besser gemacht? Stattdessen holte er sich Medienwissenschaftler Patrick Schneider ins Team und startete mit einem Instant Messanger durch, der Kinder vor Pädokriminellen schützt: Privalino.

Wie Kinder sicher chatten

Mit dem Fachwissen über Deep-Learning-Programme aus seiner Promotion hätte Nicolai Erbs auch Fintech-Unternehmer werden können – aber hätte das die Welt besser gemacht? Stattdessen holte er sich Medienwissenschaftler Patrick Schneider ins Team und startete mit einem Instant Messanger durch, der Kinder vor Pädokriminellen schützt: Privalino.

Wie Kinder sicher chatten

Vor ein paar Tagen flatterte die Nominierung zum „Startup of the Year Award“ rein, schon Ende 2017 wurden sie als Kultur- und Kreativpiloten 2017 ausgezeichnet – und nur wenige Wochen danach konnte das Privalino-Team vermelden, dass es einen Investor gewinnen konnte. Was sozusagen der Ritterschlag für Startups ist. Das auf Business Intelligence und Big Data spezialisierte IT-Beratungsunternehmen Infomotion aus Frankfurt stieg mit einem mittleren sechsstelligen Betrag in das Startup aus Duisburg ein – das gerade nach Frankfurt umgezogen ist.
Man kann also durchaus behaupten: Es läuft gerade für Nicolai und Patrick, die beiden Gründer des Messenger-Dienstes Privalino, der Kinder vor sexuellem Missbrauch im Internet schützen soll. „Die Erfolge und der Einstieg des Investors sind natürlich großartig“, sagt Privalino-Mitgründer Patrick Schneider. „Jetzt können wir konzentriert und in Ruhe daran arbeiten, unsere App erfolgreich am Markt zu etablieren.“

Wie Kinder sicher chatten

Bis zu diesem Punkt mussten sich die Gründer allerdings durchkämpfen – so wie jedes andere Startup auch. Angefangen hat alles damit, dass Co-Gründer und Ideengeber Nicolai Erbs, heute 33 Jahre alt, einen Gastvortrag eines Informatikprofessors gehört hat. Es ging um automatische Sprachanalyse per Computer. Am Schreibstil, erzählte der Hochschullehrer vor rund drei Jahren, könne man mit Hilfe von Software, die mit künstlicher Intelligenz (KI) arbeitet, prinzipiell Erwachsene von Kindern sicher unterscheiden. Das sei relevant, um Cybergrooming vorbeugen zu können.
Unter dem Anglizismus versteht man das Vorbereiten sexueller Kontakte an Minderjährige durch gezieltes Ansprechen in Foren, Chat-Rooms, sozialen Netzwerken oder Messengern. „Und warum gibt es das noch nicht? Wollen Sie das machen?“, fragte Nicolai den Professor nach dem Vortrag. Die Software sei eben noch nicht geschrieben worden und ihm sei das wirtschaftliche Risiko zu groß, sagte der. „Mir nicht“, dachte Nicolai.

Wie Kinder sicher chatten

Der damalige Informatik-Doktorand begann sich mit KI-basierter Sprachanalyse zu beschäftigen, verschlang Bücher, las wissenschaftliche Veröffentlichungen – und bewarb sich schließlich mit der Idee bei einem kleinen Gründerwettbewerb an seiner Universität, der TU Darmstadt. Zu seiner eigenen Überraschung kam er aufs Podium. Es war zwar nicht der erste Platz und es gab nur ein kleines Preisgeld von 1.000 Euro, die Bestätigung aber reichte, um Nicolai weiter an dem Thema dranbleiben zu lassen.
Anfang 2016 wollte es der Zufall, dass sich Nicolai und der Medienwissenschaftler Patrick Schneider trafen. „Ein wichtiges und cooles Projekt, mir war sofort klar, dass ich da mitmachen muss“, sagt Patrick im Rückblick. Im Frühjahr 2016 beschlossen die beiden, sich auf das Abenteuer Gründung einzulassen. „Das erste halbe Jahr bestand darin, den Förderantrag für das EXIST-Gründerstipendium auszufüllen, auf das Geld zu warten und wann immer unsere Finanzlage das zuließ, an Privalino weiterzuarbeiten“, sagt der 29-jährige Patrick.

Wie Kinder sicher chatten

Im Herbst 2016 kam dann die EXIST-Zusage. „Mit dem Geld konnten wir Privalino dann im Kern technisch fertigstellen“, sagt Nicolai. Die App wird auf dem Smartphone des Kindes installiert und analysiert fortlaufend den Text. Das laufe automatisch über eine selbstlernende KI-Software im Hintergrund, erklärt der Data Scientist. Das Programm prüft Merkmale der Schriftsprache und kann daraufhin erkennen, ob der betreffende Text Muster von Cybergrooming enthält.
Diese Muster zeigen beispielsweise bestimmte Ausdrücke sexueller Kommunikation, die zwischen Kindern so nicht genutzt werden oder die Bitte, auf einen anderen Kommunikationskanal zu wechseln, etwa WhatsApp oder Skype. Neben diesen gibt es noch hunderte abstrakte Merkmale, die durch das Deep Learning analysiert werden. Auf den Kanalwechsel sind Pädokriminelle besonders aus, weil sie dort, anders als bei Privalino, auch ohne Einschränkung Fotos und Videos verschicken und empfangen können.

Wie Kinder sicher chatten

Identifiziert die Messenger-App einen möglichen Übergriff, informiert das System die Gründer und die Eltern des betroffenen Kindes per E-Mail. Explizite und sofort an der sexualisierten Sprache erkennbare Übergriffe werden direkt gesperrt. „Als wir Ende 2017 kurz vor der Veröffentlichung standen, bekamen wir leichten Gegenwind“, sagt Patrick. Einige Leute wollten ihnen damals nicht abkaufen, dass wir gute Absichten haben und das können, was wir mit Privalino versprechen.
„Ihr wollt ja nur das Geld der Eltern hieß es“ und „Ein solches System ist ein harter Eingriff in die Autonomie von Kindern.“ Nicolai und Patrick wussten zwar, dass es nicht so war, aber sie waren zunächst doch verunsichert, wie man damit richtig umgeht. „Die DSGVO und der Facebook-Skandal haben ihr Übriges getan. Mittlerweile diskutieren wir leider mehr über Datenschutz als über Schutz vor sexuellem Missbrauch, der unserer Ansicht nach viel wichtiger ist“, so die Gründer.

Wie Kinder sicher chatten

„Glücklicherweise waren wir dann auch schnell bei den Kultur- und Kreativpiloten“, sagt Patrick. Sie analysierten das Thema unter anderem in dem Format der kollegialen Beratung, das die Expertisen und Sichtweisen der anderen Kreativpilotenteams mit in die Analyse eines Problems einbringt. „Dabei kam zwar kein Masterplan heraus, was wir nun exakt Schritt für Schritt tun sollten – aber eben die mindestens ebenso hilfreiche Erkenntnis, dass wir zu kritisch mit uns selbst waren“, sagt Patrick.
Heute sagen wir: „Ja, das ist ein Eingriff in die Privatsphäre eines Kindes. Wie übrigens jeder Arztbesuch mit den Eltern und wie jede andere Entscheidung auch, die Eltern aufgrund ihrer Aufsichtspflicht machen müssen. Und das ist gut so!“ Und wer das nicht so sehe, was kein Problem sei, so Patrick, der kauft Privalino später eben nicht. Fertig.  

Wie Kinder sicher chatten

Die „menschlichere Beratung“ bei den Screenings im Kreativpiloten-Programm, so Nicolai und Patrick, habe den beiden ebenfalls sehr gut gefallen. „Zur wirtschaftlichen Expertise der Coaches kommt noch eine besondere Offenheit und ein Verständnis für normale Sorgen im Gründerleben“, sagt Patrick. „Da öffnet man sich einfacher.“ Und nebenbei gesagt, sei es heute auch nicht selbstverständlich, dass man anderswo mehrere Coaching-Termine bei denselben Leuten hat.
„Da muss man nicht jedes Mal bei Adam und Eva anfangen“, so Patrick. Mittlerweile ist Privalino gestartet. Seit dem 22. Februar kann die App im Google Play Store geladen werden. Noch ist das kostenlos und soll auch für die Basisversion immer kostenlos bleiben. Das Team zu dem auch Data Scientist Max Schumacher gehört,  will jetzt eine Nutzerbasis aufbauen und Erfahrungen beim Betrieb sammeln.

Wie Kinder sicher chatten

"Zur wirtschaftlichen Expertise der Coaches kommt noch eine besondere Offenheit und ein Verständnis für normale Sorgen im Gründerleben"

„Später planen wir für den Service der Elternbenachrichtigung dann eine monatliche Gebühr, die wir bei 4,99 Euro sehen“, sagt Patrick. Das erste Feedback der aktuell noch dreistelligen aber stetig wachsenden Usergruppe und deren Eltern sei positiv. „Der nächste Schritt ist nun, eine bezahlfähige Version zu programmieren und erstes Geld zu verdienen“, sagt Patrick.
Eine App für das Apple-System iOS soll auch folgen. „Wenn wir Ende des Jahres auf rund 5.000 Nutzer kommen, wäre das fantastisch“, skizziert Patrick vorsichtig die Pläne für Privalino. Aber selbst wenn das etwas länger dauern sollte: Von ihrer Vision lässt sich das Team nicht mehr abbringen: „Wir arbeiten daraufhin, Privalino zum Standard für das erste Handy eines Kindes zu machen“, sagt Patrick. Die ersten Schritte sind getan. Im Juli 2018 haben Privalino inzwischen den Wettbewerb „Ausgezeichnete Orte im Land der Ideen" gewonnen. Das zeigt, wie wichtig das Thema jetzt ist und wie wichtig es in Zukunft noch werden wird. 

Wie Kinder sicher chatten

Newsletter Sign up

Die angegebenen persönlichen Daten (E-Mail) werden vom u-institut für unternehmerisches Denken und Handeln e.V. im Rahmen der Durchführung der „Kultur- und Kreativpiloten Deutschland" zum Zweck des Newsletter-Versands verarbeitet. Wir informieren Sie über aktuelle Entwicklungen im Netzwerk und bei den Titelträgern der Kultur- und Kreativpiloten Auszeichnung. Der Newsletter wird ca. monatlich versendet.
Die Daten werden an die datenschutz-zertifizierte Newsletter-Software Cleverreach zum technischen Versand weitergegeben. Diese Einwilligung kann jederzeit, ohne Angabe von Gründen, über den Abmeldelink widerrufen werden. Die Möglichkeit des Widerrufes besteht auch bei jeder einzelnen Zusendung. Um den Newsletter für Sie zu optimieren, willigen Sie in unsere Auswertung ein, mit der wir messen, wie häufig der Newsletter geöffnet wird und auf welche Links die Leser klicken. Weitere Informationen finden Sie in unserer Datenschutzerklärung www.kultur-kreativpiloten.de/impressum.