Kidron: Techkonzerne müssen beweisen, dass ihre Produkte für Kinder sicher sind

Da künstliche Intelligenz, soziale Medien und algorithmische Systeme einen zunehmend wichtigen Teil des Alltags von Kindern ausmachen, stehen Regierungen vor einer grundlegenden Frage: Wer sollte die Verantwortung für den Schutz Minderjähriger in der digitalen Welt tragen – Kinder und ihre Eltern oder die Unternehmen, die diese Technologien entwickeln und betreiben?

Baroness Beeban Kidron hat sich zu einer der prominentesten internationalen Fürsprecherinnen dafür entwickelt, diese Verantwortung eindeutig der Technologiebranche zuzuweisen. Als Mitglied des britischen House of Lords und langjährige Kämpferin für Kinderrechte im digitalen Raum hat sie die Debatte über altersgerechtes Design, Online-Sicherheit und die Verantwortung von Technologieunternehmen maßgeblich mitgeprägt.

Im Interview mit The Transatlantic Ledger argumentiert Kidron, dass digitale Produkte, die von Kindern genutzt werden, denselben Sicherheitsstandards und Haftungsregeln unterliegen sollten wie in anderen Branchen üblich. Sie fordert stärkere Verantwortlichkeit für das Design von Plattformen, genauere Kontrolle von Algorithmen und klare Schutzmaßnahmen für den Umgang mit Kinderdaten in der künstlichen Intelligenz.

Ihre Botschaft ist besonders relevant, da die USA, Großbritannien und die EU derzeit abwägen, wie weit staatliche Regulierung zunehmend leistungsfähiger digitaler Plattformen und KI-Systeme gehen sollte. Für Kidron geht es dabei um mehr als einzelne Technologien: Es geht um die Frage, ob demokratische Institutionen bereit sind, die Regeln für die digitale Wirtschaft festzulegen – oder ob sie es weiterhin der Technologiebranche überlassen, diese selbst zu definieren.

Warum die digitalen Rechte von Kindern noch immer zu kurz kommen

The Transatlantic Ledger: Sie haben lange argumentiert, dass Kinderrechte im Design digitaler Dienste verankert sein müssen. Wo sehen Sie noch Defizite bei Regierungen und Technologieunternehmen beim Schutz von Kindern im Internet?

Baroness Beeban Kidron: Regierungen und Unternehmen versagen offensichtlich, weil zu viel Verantwortung bei Kindern oder Eltern verbleibt. Kinder müssen Privatsphäre, Bildschirmzeit, Inhalte und Fremde selbst managen, während Unternehmen das Design kontrollieren und bestimmen, welche Inhalte ausgespielt werden.

Sie werden „genug“ getan haben, wenn wir vorschreiben, dass digitale Produkte dieselbe Verantwortung und Haftung tragen wie andere Produkte – was den Nutzern wiederum Verbraucherrechte verschafft.

Der eigentliche Wandel besteht darin, nicht mehr von Kindern zu verlangen, unsichere Produkte verantwortungsvoll zu nutzen, sondern von Unternehmen zu fordern, Produkte zu gestalten, die die Privatsphäre, Sicherheit, Entwicklung und Handlungsfähigkeit von Kindern standardmäßig respektieren.

Sollten Technologieunternehmen gesetzlich verpflichtet sein, nachzuweisen, dass ihre Produkte für Kinder sicher sind, bevor diese Produkte oder Funktionen auf den Markt kommen?

Absolut.

Der britische Rahmen für Online-Sicherheit: Stärken und Schwächen

Großbritannien hat einen ambitionierten Ansatz zur Regulierung der Online-Sicherheit gewählt. Was sehen Sie als größte Stärken des britischen Modells, und wo sind aus Ihrer Sicht weitere Verbesserungen notwendig?

Die Stärke des britischen Ansatzes liegt darin, dass die Verantwortung begonnen hat, sich nach oben zu verlagern – von Kindern und Eltern hin zu den Unternehmen, die diese Dienste entwerfen und betreiben. Der Age Appropriate Design Code hat Verpflichtungen zu Datenschutz und altersgerechtem Design etabliert, während der Online Safety Act zunehmend Funktionalität und Systeme betrachtet, nicht nur einzelne Inhalte.

Die Schwäche beider Regelwerke liegt in der Durchsetzung: Gesetzgebung verändert das Leben von Kindern nur dann, wenn Regulierungsbehörden schnell genug handeln und über Befugnisse verfügen, die auch gegen widerstrebende Unternehmen wirksam sind. Der Fehler der britischen Regierung war die Annahme, die Branche sei bereit, sich regulieren zu lassen. Tatsächlich leistet sie im Kleinen wie im Großen weiterhin Widerstand.

Altersverifikation ist zu einem der umstrittensten Elemente des Online-Kinderschutzes geworden. Wie können Regierungen Kinder schützen, ohne unverhältnismäßige Überwachung zu schaffen oder die Privatsphäre der Nutzer zu beeinträchtigen?

Diese Frage verwirrt mich immer wieder. Wer in der vernetzten Welt ist nicht ohnehin einer umfassenden Überwachung ausgesetzt? Aber selbst wenn man dem nicht zustimmt: Die Wahl zwischen Altersverifikation und Privatsphäre ist eine falsche Alternative. Gute Altersverifikation sollte nur das feststellen, was ein Dienst wissen muss – oft lediglich, ob jemand über oder unter einer bestimmten Altersgrenze liegt. Es ist nicht notwendig, ein dauerhaftes Identitätssystem zu schaffen oder unnötige personenbezogene Daten zu sammeln.

Kurzfristig sollten Unternehmen an die Prinzipien der Portabilität, Verhältnismäßigkeit, Datenminimierung, Sicherheit und unabhängiger Standards gebunden werden. Langfristig würde ich mir deutlich mehr Kreativität bei diesem Thema wünschen. Es gibt Menschen, die über das Leben von Kindern verteilt sind – Ärzte, Schulen, Eltern, NGOs und öffentliche Dienste –, die das Alter oder die Bedürfnisse eines Kindes kennen. Statt immer wieder neue Informationen zu erzeugen, sollten wir prüfen, wie bereits vorhandene Informationen so kodiert und geteilt werden können, dass sie für Kinder sowohl privat als auch sicher bleiben. Privatsphäre kann nicht bedeuten, so zu tun, als seien Kinder und Erwachsene gleich, wenn das Gesetz selbst ihnen unterschiedliche Rechte und Schutzmaßnahmen zuschreibt.

Soziale Medien und Plattform-Design

Wie viel Verantwortung sollten soziale Medien für Design-Elemente tragen, die eine verlängerte Nutzung fördern, wie endloses Scrollen, algorithmische Empfehlungen, Benachrichtigungen und personalisierte Inhalte-Feeds?

Diese Funktionen sind kein Zufall. Endloses Scrollen entfernt Signale zum Aufhören; Autoplay nimmt die Entscheidung ab, weiterzumachen; Benachrichtigungen holen Nutzer zurück; Empfehlungssysteme lernen, was die Aufmerksamkeit eines einzelnen Kindes fesselt. Die Frage ist nicht, ob Kinder Handlungsfähigkeit besitzen, sondern ob es angemessen ist, die Selbstkontrolle eines sich entwickelnden Kindes gegen Produkte antreten zu lassen, die gezielt darauf optimiert sind, diese zu überwinden. Design ist Handeln, und Unternehmen sollten für dessen vorhersehbare Folgen zur Verantwortung gezogen werden.

Generative KI wird zunehmend Teil der Bildung, Unterhaltung und alltäglichen Kommunikation von Kindern. Welche spezifischen Risiken schafft KI für Kinder, die bestehende Gesetze zur Online-Sicherheit möglicherweise nicht ausreichend adressieren?

KI birgt qualitativ andere Risiken, weil sie selbst generieren, ableiten, überzeugen, sich erinnern und handeln kann. Sie ist so gestaltet, dass sie intime Gespräche ermöglicht, sensible Merkmale ableiten kann, die ein Kind nie preisgegeben hat, schädliches oder sexuelles Material erzeugen, Bildungs- oder Gesundheitsentscheidungen ohne jede Ausbildung treffen und manipulieren oder mobben kann. Bestehendes Online-Sicherheitsrecht erfasst einiges davon, aber die Verbreitung von Chatbots und die Zugänglichkeit von KI-Produkten machen die Einführung einer Sorgfaltspflicht (Duty of Care) notwendig.

KI-Begleiter und Chatbots

Kinder und Jugendliche interagieren zunehmend mit KI-gestützten Chatbots und digitalen Begleitern. Sollten Unternehmen, die diese Dienste Minderjährigen anbieten, besonderen Sicherheitsstandards oder Beschränkungen unterliegen?

Wie bereits erwähnt: Die Verbreitung und Zugänglichkeit KI-gestützter Chatbots und digitaler Begleiter macht die Einführung einer Sorgfaltspflicht notwendig.

Sollten Technologieunternehmen von Kindern generierte Daten zum Training von KI-Systemen nutzen dürfen? Wo sollten Gesetzgeber die Grenze zwischen technologischer Innovation und dem Schutz Minderjähriger ziehen?

Die Grenze sollte zugunsten der Kinder gezogen werden. Nur Opt-in-Daten im Rahmen vorab vereinbarter Verträge, die die Privatsphäre und Rechte der Kinder sowie eine Opt-out-Möglichkeit beinhalten, sollten zulässig sein. Es ist eine traurige Tatsache, dass Technologieunternehmen einen tiefgreifenden Mangel an Rücksicht auf Kinder und Kindheit gezeigt haben – und das erfordert es nun, eine hohe Hürde zu setzen, bevor sie mit Kindern in Kontakt treten dürfen.

Sollten große Technologieplattformen verpflichtet werden, Regulierungsbehörden und unabhängigen Forschern mehr Einblick zu geben, wie sich ihre Algorithmen auf Kinder und Jugendliche auswirken?

Sie sollten eine größere Verantwortung für diese Auswirkungen tragen, und Forscher sollten von Rechts wegen mehr Zugang erhalten.

Technologieunternehmen warnen häufig, dass umfassende Regulierung Innovation bremsen und die internationale Wettbewerbsfähigkeit schwächen könnte. Glauben Sie, dass es einen echten Konflikt zwischen dem Schutz von Kindern und einer wettbewerbsfähigen digitalen Wirtschaft gibt?

Ich lehne die Prämisse ab, dass Sicherheit und Innovation Gegensätze sind. Jahrelang hieß es, Altersverifikation, sicherere Voreinstellungen und andere Kinderschutzmaßnahmen seien technisch nicht umsetzbar – Regulierung veränderte die Anreize, und die Unternehmen haben sie gebaut. Die eigentlich wichtigere Frage ist, welche Art von Innovation wir wollen. Ein Markt, in dem Unternehmen sich Vorteile verschaffen, indem sie Schaden externalisieren, ist nicht innovativ – er ist schlecht reguliert. Ein Markt, in dem das Richtige zu tun bedeutet, nicht wettbewerbsfähig zu sein, ist die Definition von Marktversagen.

Wir müssen aufhören, so zu tun, als hätten diese Produkte keine Kosten – die gibt es. Sie werden lediglich von Kindern und der Gesellschaft insgesamt getragen. Technologieunternehmen sollten die vollen Kosten der Innovation tragen – einschließlich Sicherheit und Verantwortung für gesellschaftliche Schäden. Der Children & AI Design Code plädiert ausdrücklich für verantwortungsvolle Innovation, nicht für eine Verlangsamung von KI.

Was US-Politiker von Großbritannien und der EU lernen können

Die USA haben traditionell einen anderen regulatorischen Ansatz für digitale Plattformen verfolgt als Großbritannien und die EU. Welche Lehren sollten US-Politiker, wenn überhaupt, aus den europäischen und britischen Erfahrungen ziehen?

Meine etwas freche Antwort ist, dass bald Politiker in allen Rechtsräumen ihre Technologiepolitik am Wahlerfolg ausrichten werden. Kinderschutz, Rechenzentren, Arbeitsplatzverlagerung, Urheberrecht und nationale Sicherheit werden bald vor der eigenen Haustür stehen. In der Zwischenzeit lautet die wichtigste Lehre, dass Design-Regeln Produkte verändern können, ohne das Internet zu zerstören.

Der britische Age Appropriate Design Code hat mit dazu beigetragen zu etablieren, dass Kindheit nicht mit 13 endet, dass Dienste, die wahrscheinlich von Kindern genutzt werden, Verantwortung tragen, auch wenn Kinder nicht ihre Zielgruppe sind, und dass Privatsphäre und Sicherheit standardmäßig eingebaut werden können. Ähnliche Ansätze entstehen inzwischen auch in US-Bundesstaaten, was darauf hindeutet, dass dies weniger eine europäische Philosophie als vielmehr ein aufkommender Design-Standard ist.

Würde eine engere Zusammenarbeit zwischen den USA, Großbritannien und der EU bei Online-Sicherheit und KI-Governance den Schutz von Kindern stärken, oder machen unterschiedliche Rechtstraditionen einen gemeinsamen Ansatz unrealistisch?

Ohne die Themen Unternehmenslobbyismus oder die Politik von „America First“ anzugehen, sind globale Standards keine Option.

Kritiker argumentieren, große Technologieunternehmen verfügten über enorme finanzielle Ressourcen und politischen Einfluss, wenn Regierungen neue digitale Regulierung erwägen. Sind demokratische Institutionen derzeit stark genug, um den Technologiesektor wirksam zu regulieren?

Demokratische Institutionen sind stark genug, wenn sie sich entscheiden, ihre Macht auch auszuüben. Technologieunternehmen verfügen über außergewöhnlichen Reichtum, Beweismaterial, technisches Know-how und Zugang zu politischen Entscheidungsträgern, und Regierungen verwechseln Konsultation mit Mitregierung.

Ich habe darüber ausführlich in meinem Buch „USERS: How Big Tech Took Control, and What to Do About It“ geschrieben. Aber im Kern brauchen wir Regierungen weltweit, die die Interessen ihrer Bürger vertreten – nicht die der Mächtigen.

Wir brauchen eine Rückbesinnung auf die Ideen von Demokratie, Gesellschaft und öffentlichen Gütern und sollten dabei nicht fragen, was der Technologiesektor will, sondern was Technologie tun kann, um unsere gemeinsamen Interessen zu unterstützen. Macht und Reichtum in so wenigen Händen zu konzentrieren, ist nicht nachhaltig. Die Bunker, die Tech-Milliardäre bauen, belegen das.

Die nächsten fünf Jahre: Kidrons größte Sorge für Kinder

Mit Blick auf die nächsten fünf bis zehn Jahre: Welche technologische Entwicklung bereitet Ihnen aus Sicht der Kinderrechte die größten Sorgen – immer leistungsfähigere KI, immersive virtuelle Umgebungen, personalisierte Algorithmen, biometrische Technologien oder etwas ganz anderes?

Meine größte Sorge ist der Zusammenbruch der Demokratie, nicht der Aufstieg einer bestimmten Technologie. Wenn wir uns eine Welt vorstellen könnten, in der Technologieunternehmen routinemäßig nach demokratisch beschlossenen Regeln arbeiten und denselben Standards und Haftungsregeln unterliegen wie andere Unternehmen, dann könnten wir uns auf die außergewöhnliche Kreativität und Zukunft freuen, die Technologie bringen könnte.

Wenn Sie drei grundlegende Prinzipien festlegen könnten, denen jedes Technologieunternehmen weltweit beim Design von Produkten oder Diensten für Kinder folgen müsste, welche wären das?

Sicher durch Design. Testen vor Skalierung. Haftung beim Eigentümer.

Fazit

Die Antworten von Baroness Beeban Kidron verweisen auf einen grundlegenden Wandel in der Debatte über Kinder und Technologie: weg davon, dass Kinder und Eltern sich selbst schützen müssen, hin zu der Forderung, dass Technologieunternehmen nachweisen müssen, dass ihre Produkte von vornherein sicher sind.

Ihr Argument reicht weit über soziale Medien oder einzelne Online-Schäden hinaus. Künstliche Intelligenz, KI-Begleiter, algorithmische Empfehlungssysteme und die wachsende kommerzielle Nutzung von Kinderdaten schaffen Herausforderungen, für die bestehende Regulierungsrahmen nicht zwangsläufig ausgelegt waren. Kidron plädiert daher für stärkere Sorgfaltspflichten, unabhängige Kontrolle und Unternehmenshaftung.

Gleichzeitig weist sie die Vorstellung zurück, strengere Regulierung müsse zwangsläufig auf Kosten der Innovation gehen. Stattdessen argumentiert sie, Sicherheit solle Teil der Innovation selbst werden – und Teil der Kosten der Geschäftstätigkeit in der digitalen Wirtschaft. Der vielleicht bedeutsamste Punkt des Interviews betrifft jedoch die demokratische Macht. Kidron sieht die Herausforderung nicht einfach darin, eine bestimmte Technologie zu kontrollieren, sondern darin sicherzustellen, dass gewählte Regierungen weiterhin in der Lage sind, Regeln gegenüber einigen der mächtigsten Konzerne der Welt festzulegen und durchzusetzen.

Ihre drei Prinzipien fassen diesen Ansatz prägnant zusammen: „Sicher durch Design. Testen vor Skalierung. Haftung beim Eigentümer.“ Da KI zunehmend tief in Kindheit, Bildung und alltägliche Kommunikation eingebettet wird, könnte die entscheidende Frage für politische Entscheidungsträger auf beiden Seiten des Atlantiks daher weniger lauten, ob Technologie reguliert werden sollte – sondern zunehmend, wie schnell demokratische Institutionen bereit sind, diese Verantwortung zu übernehmen.