Ist KI für Kinder sicher? Fragen, die Sie klären sollten, bevor Ihr Kind mit einem Chatbot spricht

Vom Scribblie-Team · Veröffentlicht am 10. Oktober 2026 · 9 Min. Lesezeit

Kurz gesagt: Niemand kann Ihnen pauschal sagen, dass KI für Kinder sicher oder unsicher ist, denn „die KI“ gibt es so nicht. Ein Chatbot für Erwachsene, ein sprechendes Spielzeug und eine Mal-App, die mit Stimme antwortet, sind verschiedene Produkte mit verschiedenen Risiken. Was Sie tun können: eine kurze Liste von Fragen zu dem konkreten Produkt stellen, das vor Ihnen liegt, und bei den ersten Malen im Raum bleiben.

Wir sind ein Team, das eine App baut, in der die Zeichnung eines Kindes zurückspricht, wir haben hier also ein eigenes Interesse und sagen Ihnen, wo es eine Rolle spielt. Die Fragen hätten wir aber genauso aufgeschrieben, wenn es anders wäre.

Was „KI“ bedeutet, wenn ein Kind mit ihr spricht

Wenn ein Kind mit einer KI-App spricht, passiert meist nacheinander Folgendes. Die Stimme des Kindes wird in Text umgewandelt. Ein Modell liest den Text und schreibt eine Antwort. Ein weiterer Baustein verwandelt diese Antwort in Sprache, manchmal auch in ein Bild. Jeder dieser Schritte kann auf den Servern eines Unternehmens stattfinden und nicht auf dem Gerät in Ihrer Hand.

Deshalb lautet die spannende Frage nicht „Ist KI schlecht?“, sondern „Wohin geht die Stimme?“, „Was schreibt die Antwort?“ und „Was prüft sie, bevor das Kind sie hört?“. Ein Modell, das Antworten schreibt, erfindet sie aus Mustern, statt sie in einem Buch mit richtigen Antworten nachzuschlagen. Es kann überzeugt klingen und trotzdem falschliegen, und es kann vom Thema abschweifen.

Das ist kein Grund zur Panik, nur ein Grund zum Nachfragen und dazu, eine freundliche Stimme nicht schon für einen Beweis zu halten.

Was schiefgehen kann

Das sind die Risiken, in der Reihenfolge, in der wir uns um sie sorgen würden.

Falsche Antworten. Eine KI kann in warmem, sicherem Ton etwas Falsches behaupten. Wenn ein Kind fragt, warum der Himmel blau ist, ist das ein kleines Problem. Bei Gesundheit oder Sicherheit ist es ein größeres.

Unpassende Inhalte. Modelle für den allgemeinen Gebrauch können Dinge erzeugen, die für ein kleines Kind nicht geeignet sind. Produkte für Kinder versuchen das mit zusätzlichen Prüfungen zu verhindern, doch Prüfungen sind nicht perfekt.

Daten. Ein Kind, das mit einer App spricht, erzeugt Stimme, Worte und manchmal Bilder. Was das Unternehmen damit macht, wie lange es sie aufbewahrt und ob es sie weitergibt, sind alles Fragen, die Sie stellen können. Unser Ratgeber zum Lesen der Datenschutzerklärung einer Kinder-App geht sie durch.

Fremde und Teilen. Manche Produkte lassen Kinder mit anderen Nutzern chatten oder öffentlich etwas veröffentlichen. Das ist eine andere Kategorie, der wir uns bei kleinen Kindern mit großer Vorsicht nähern würden.

Bindung und Verwirrung. Eine freundliche Stimme, die sich an Ihren Namen erinnert, kann sich für ein kleines Kind echt anfühlen. Das ist nicht falsch, und Rollenspiel ist gesund, aber es lohnt sich, Ihrem Kind zu helfen, den Unterschied im Blick zu behalten.

Wir wissen nicht, wie sich das über Jahre bei Kindern auswirkt, die täglich mit KI sprechen, denn die Technik ist dafür zu neu. Das sagen wir lieber, als zu raten.

Die Fragen, die wir stellen würden, bevor wir Ja sagen

Gehen Sie sie mit der Store-Seite und der Datenschutzerklärung daneben durch. Die meisten lassen sich in zehn Minuten beantworten.

1. Ist das Produkt für Kinder gemacht, oder ist es ein allgemeiner Chatbot mit nachträglich angeflanschter Kindersicherung?
2. Muss ein Elternteil einwilligen, und muss sich das Kind anmelden, oder erledigt das der Erwachsene?
3. Kann mein Kind darüber mit jemand anderem sprechen oder etwas öffentlich teilen?
4. Gibt es eine Sicherheitsprüfung dessen, was die KI sagt, und räumt das Unternehmen ein, dass sie nicht perfekt ist?
5. Wohin geht die Stimme meines Kindes, und wird sie gespeichert?
6. Gibt es Werbung, In-App-Käufe oder Links nach außen?
7. Kann ich Zuhören oder Sprechen ausschalten, Zeitlimits setzen und die Daten meines Kindes in der App löschen?
8. Ist klar erkennbar, wann mein Kind mit einer Maschine spricht?

Wenn ein Unternehmen die ersten Fragen nicht klar beantworten kann, sagt das schon viel.

So testen Sie es selbst, mit Ihrer eigenen Stimme

Bevor Ihr Kind es anfasst, verbringen Sie zehn Minuten damit, ein schwieriger Nutzer zu sein. Fragen Sie etwas Albernes, etwas Persönliches, etwas, worauf es nicht antworten sollte. Bitten Sie um eine gruselige Geschichte. Fragen Sie, wie man etwas tut, das für Kinder nicht sicher ist. Beobachten Sie, wie es mit jedem davon umgeht.

Ein gut gemachtes Kinderprodukt lenkt bei heiklen Themen meist sanft ab und schimpft nicht. Ein allgemeiner Chatbot antwortet vielleicht mehr, als Ihnen lieb ist. Keines der beiden Ergebnisse ist für sich ein Urteil, aber zusammen zeigen sie, was Ihrem Kind begegnen könnte.

Probieren Sie dann den Normalfall. Sprechen Sie so mit der App, wie es Ihr Fünfjähriger tun würde: kurz, mit Wiederholungen, mit Hintergrundlärm und halbfertigen Gedanken. Wie sie damit zurechtkommt, sagt Ihnen, wie es laufen wird.

Seien Sie dabei, besonders am Anfang

Keine Schutzmaßnahme ersetzt einen Elternteil in Hörweite. Setzen Sie sich bei den ersten Malen neben Ihr Kind und hören Sie zu. So lernen Sie, wie das Produkt klingt, was Ihr Kind es fragt und was es antwortet.

Es ist auch eine gute Gelegenheit, Gewohnheiten aufzubauen. Sagen Sie Ihrem Kind, dass es ein Computerprogramm ist. Sagen Sie, dass es manchmal Fehler macht und dass Ihr Kind es Ihnen erzählen soll, wenn es etwas Merkwürdiges oder Gruseliges sagt, ohne Angst vor Ärger. Ein Kind, das das weiß, ist viel besser gerüstet als eines, das nur eine Sperre auf dem Gerät hat.

Unser Beitrag zu sprechendem Spielzeug betrachtet die Spielseite davon, und Sprachassistenten und Kinder behandelt smarte Lautsprecher im selben Geist.

Wie Schutzmaßnahmen in der Praxis aussehen

Es hilft zu wissen, wie gut aussieht. Hier also eine einfache Liste der Schutzmaßnahmen, nach denen sich zu suchen lohnt, ohne jemanden beim Namen zu nennen.

Zuerst kommt ein Elternschritt: Ein Erwachsener meldet sich an und stimmt zu, bevor das Kind das Produkt nutzen kann, und das Kind hat nie ein eigenes Konto. Einstellungen sollten hinter einer Abfrage liegen, die ein kleines Kind nicht leicht bestehen kann. Zeitlimits, eine Schlafenszeit und die Möglichkeit, Zuhören und Sprechen auszuschalten, sollten in der Hand der Eltern liegen. Es sollte einen Sicherheitsfilter für die Ausgabe der KI geben und keinen Chat mit Fremden, kein öffentliches Teilen und keine Werbung. Und es sollte einen Weg geben, die Daten Ihres Kindes zu löschen, ohne einem Unternehmen schreiben zu müssen.

Beachten Sie, dass keiner dieser Punkte Zauberei ist. Es sind Grenzen. Ein Produkt kann alle haben und trotzdem Fehler machen, weshalb wir immer wieder sagen, in der Nähe zu bleiben.

Wo Scribblie auf dieser Liste steht

Weil Sie das berechtigterweise fragen könnten, hier, wie wir es handhaben, mit allen Grenzen. Scribblie ist noch nicht in den Stores.

Ein Kind malt auf Papier und macht ein Foto, malt in der App oder zeichnet eine vorgegebene Form nach, und die Zeichnung wacht auf und sagt Hallo. Das Kind spricht per Stimme mit ihr. Die Antworten des Freundes und manche seiner Bilder werden möglicherweise von KI-Modellen erzeugt und können manchmal unvollkommen sein. Auf das, was der Freund sagt, wird eine Sicherheitsprüfung angewendet. Ein Elternteil oder Erziehungsberechtigter meldet sich mit Apple oder Google an und willigt ein, bevor das Kind spielen kann, und das Kind meldet sich nie an. Einstellungen, Löschen und Links liegen hinter einer Erwachsenenabfrage. Die Stimme des Kindes wird zur Transkription gesendet und nach der Transkription gelöscht. Es gibt keine Werbung, keine In-App-Käufe, kein öffentliches Teilen und keinen Chat mit Fremden.

Wir nennen es nicht zertifiziert, und wir behaupten nicht, dass es risikofrei ist. Mehr dazu lesen Sie in So funktioniert Scribblie, und unsere Datenschutzerklärung beschreibt die Einzelheiten.

Das Alter verändert die Antwort

Ein Fünfjähriger und ein Elfjähriger sind nicht in derselben Lage. Das jüngere Kind glaubt eher, was die Stimme sagt, erkennt eine seltsame Antwort schlechter und erzählt Ihnen seltener von sich aus davon. Das ältere Kind ist vielleicht neugierig, die Grenzen auszutesten, und möchte mehr Privatsphäre.

Bei den Jüngsten würden wir jedes Mal im Raum bleiben und Produkte wählen, die für ihr Alter gedacht sind, mit passend abgestimmten Einstellungen. Bei Kindern in den mittleren Jahren setzen Sie sich anfangs dazu und schauen dann zwischendurch vorbei. Bei älteren Kindern wird das Gespräch zu einer Frage des Urteilsvermögens: wie man eine Antwort mit einer zweiten Quelle prüft, warum eine KI Fakten erfinden kann und warum persönliche Angaben privat bleiben. Das sind gute Gewohnheiten für eine Welt, in der die meisten von uns der KI in irgendeiner Form begegnen werden.

Die Altersangaben in Apps sind grobe Richtwerte, und Kinder unterscheiden sich stark. Wenn ein Produkt eine Einstellung für eine jüngere oder ältere Altersgruppe anbietet, lesen Sie, was sie ändert, und wählen Sie die, die zu Ihrem Kind passt, nicht die, die es Ihrer Meinung nach schon erreicht haben sollte.

Sprechende Spielzeuge und smarte Lautsprecher

Spielzeuge und Lautsprecher mit Stimme werfen dieselben Fragen auf und noch ein paar mehr. Ein Spielzeug im Kinderzimmer hört vielleicht länger zu, als Sie erwarten. Ein Lautsprecher speichert womöglich einen Verlauf dessen, was gefragt wurde. Prüfen Sie in den Einstellungen des Geräts, wie Aufnahmen gespeichert werden und wie Sie sie ansehen oder löschen können.

Braucht ein Spielzeug eine App, behandeln Sie diese wie jede andere: Lesen Sie die Berechtigungen und die Richtlinien. Und fragen Sie sich, ob das Spielzeug auch mit ausgeschalteter Stimmfunktion noch Spaß machen würde. Wenn nicht, bezahlen Sie für die Stimme.

Was Sie Ihrem Kind sagen können

Kinder kommen mit ein paar einfachen Sätzen gut zurecht. Sie können diese in Ihre eigenen Worte fassen.

Das ist ein Computerprogramm, das sich Antworten ausdenkt. Es kann lustig sein, und es kann Fehler machen. Wenn es mal etwas sagt, das sich komisch anfühlt, oder nach etwas Privatem fragt, hör auf und sag es mir. Dafür bekommst du nie Ärger.

Sagen Sie es einmal am Anfang und nach einer Woche noch einmal. Ergänzen Sie, dass man ihm nicht den vollständigen Namen, die Adresse, die Schule oder irgendetwas darüber verraten soll, wo die Familie ihre Schlüssel aufbewahrt. Bitten Sie Ihr Kind dann, ihm etwas beizubringen, ein Spiel oder ein Wort. Kinder lieben es, die Expertinnen und Experten zu sein, und so bleibt die Maschine an ihrem Platz.

Die Entscheidung liegt bei Ihnen

Produktseiten für KI-Spielzeug und -Apps neigen zu warmen, selbstsicheren Worten: sicher, vertrauenswürdig, für Kinder gemacht. Diese Worte kosten nichts im Druck. Wir würden Einzelheiten stärker gewichten als Adjektive, etwa wer einwilligen muss, was gespeichert wird, was standardmäßig abgeschaltet ist und wie man löscht.

Es hilft auch, darauf zu achten, was eine Seite weglässt. Wenn sie viel über Lernen sagt und nichts über Daten, oder wenn sie verspricht, dass die KI nie Fehler macht, sollten Sie vorsichtig sein. Ein Unternehmen, das offen über seine Grenzen spricht, ist meist leichter zu vertrauen als eines, das behauptet, keine zu haben.

Sie kennen Ihr Kind, und Sie kennen Ihr Zuhause. Manche Familien entscheiden, dass sprechende KI warten kann, bis ihr Kind älter ist. Das ist eine vernünftige Entscheidung, und niemand sollte Ihnen das Gefühl geben, im Rückstand zu sein. Andere probieren etwas aus, das für Kinder gebaut ist und die oben genannten Kontrollen hat, und setzen sich dazu. Beides kann gute Erziehung sein.

Was wir vermeiden würden, ist der Mittelweg, einen allgemeinen Chatbot auf dem Handy der Eltern zu übergeben und wegzugehen. Wenn Sie einen sanfteren ersten Schritt möchten, ist eine Mal-App ohne Stimme ein guter Anfang, und unsere Checkliste für Mal-Apps hilft Ihnen beim Einstieg.