Kurz zusammengefasst: Wir haben 6 Monate und viel Geld in einen offiziellen Zugang zu YouTube gesteckt und ihn als eines der ersten Unternehmen überhaupt bekommen. Dann kam heraus: Google gibt die Daten nur für Konten ab 18 Jahren frei, also ausgerechnet für Kinder nicht. Unsere Analyse dafür ist fertig, ihr fehlen nur die Videos. Wir arbeiten jetzt an einem Weg über den Browser und setzen uns mit der Europäischen Kommission dafür ein, dass sich diese Altersgrenze ändert.
Warum YouTube
YouTube ist für die meisten Kinder die erste Plattform, lange vor dem ersten eigenen Handy, und sie bleibt die meistgenutzte. Zwischen 8 und 10 wechseln die meisten von YouTube Kids zur normalen App, weil dort die Videos laufen, über die auf dem Schulhof geredet wird. Ab da passiert das meiste allein und mit Kopfhörern.
Zwei Dinge machen YouTube für Eltern schwer einzuschätzen. Erstens verschwindet die Zeit: Shorts läuft einfach weiter, ohne dass eine Entscheidung nötig wäre, und aus zehn Minuten vor dem Einschlafen wird eine Stunde. Zweitens sind es selten die Suchbegriffe, die ein Kind zu schwierigen Inhalten bringen, sondern die Empfehlungen. Vom Minecraft Video sind es ein paar Klicks bis zu einem Streamer, der für echtes Geld Kisten öffnet, oder bis zu Gruselformaten, die in der Vorschau harmlos aussehen.
Was Helmit für YouTube können soll
Unser Anspruch ist nicht, dir jedes Video vorzulegen. Kein Kind soll das Gefühl haben, dass ihm dauernd jemand über die Schulter schaut, und kein Elternteil hat Zeit, Wiedergabelisten zu lesen.
Was wir wollen, ist ein Hinweis, wenn etwas kippt:
- wenn die Empfehlungen über Wochen in eine Richtung ziehen, die deinem Kind nicht guttut, etwa Körperbild, Diäten oder Selbstverletzung,
- wenn Inhalte auftauchen, die für das Alter deines Kindes nicht gedacht sind,
- wenn im Kommentarbereich jemand Kontakt sucht oder auf einen Discord Server weiterleitet.
Also nicht mehr Daten für dich, sondern eine Warnung zum richtigen Zeitpunkt. Genauso arbeitet Helmit schon bei WhatsApp, Discord und den anderen verbundenen Diensten.
Was wir versucht haben
Für Eltern-Apps gibt es bei YouTube keinen Weg zu den Inhalten. So etwas ist nicht vorgesehen. Der einzige Zugang, den Google überhaupt anbietet, ist sein Programm zur Datenmitnahme: Eine Person kann dort ihre eigenen YouTube Daten freigeben, zum Beispiel den Wiedergabeverlauf.
Diesen Weg gibt es erst seit Kurzem, und es gibt ihn nur, weil die EU die großen Plattformen dazu verpflichtet hat, die Daten ihrer Nutzer wieder herauszugeben. Wie das in der Praxis aussehen soll, war zu dem Zeitpunkt noch weitgehend offen. Wir haben dafür direkt mit der Europäischen Kommission zusammengearbeitet und gehören zu den ersten Unternehmen überhaupt, die diesen Zugang bekommen haben.
Und wir haben die Freigabe bekommen.
Parallel dazu haben wir die Analyse entwickelt, die dahinter laufen soll. Unsere KI kann sich ein Video wirklich ansehen: Bild, Ton und das Gesprochene zusammen. Sie erkennt, worum es geht, und meldet, wenn etwas kritisch ist, etwa Gewalt, Selbstverletzung, Inhalte, die für das Alter deines Kindes nicht gedacht sind, oder jemand, der Kontakt sucht. Das ist deutlich mehr als ein Blick auf Titel und Kanalnamen, und es funktioniert.
Der Haken
Google gibt diese Daten nur für Konten ab 18 Jahren frei.
Bei einem Kinderkonto bricht die Freigabe ab und es kommen keine Daten an. Das ist eine feste Regel von Google, und sie lässt sich von niemandem umstellen, weder von dir noch von uns. Der Zugang, in den wir all das investiert haben, funktioniert also ausgerechnet für Kinder nicht.
Das war bitter. Wir schreiben es trotzdem hier hin, weil wir lieber sagen, was nicht geht, als ein Häkchen zu setzen, hinter dem nichts steht.
Die Verbindung bleibt in der App. Für Accounts ab 18 funktioniert sie, und falls Google die Altersgrenze ändert, sind wir am selben Tag bereit.
Lösungen
Kurzfristig über den Browser. Die YouTube App auf dem Gerät sperren und YouTube nur noch im Browser erlauben. Was dort aufgerufen wird, läuft durch den Webfilter von Helmit, und darauf können wir aufbauen. Daran arbeiten wir als Nächstes.
Langfristig über die Regeln selbst. Wir sind wieder mit der Europäischen Kommission im Gespräch und setzen uns dafür ein, dass dieser Zugang auch für Konten unter 18 geöffnet wird, mit Zustimmung der Eltern. Das ist die eigentliche Lösung. Sie dauert länger, aber sie würde nicht nur für Helmit etwas ändern, sondern für alle, die Kinder online schützen wollen.