Beeban Kidron affirme que les entreprises technologiques doivent prouver que leurs produits sont sûrs pour les enfants

Alors que l’intelligence artificielle, les réseaux sociaux et les systèmes algorithmiques occupent une place toujours plus importante dans le quotidien des enfants, les gouvernements sont confrontés à une question fondamentale : qui doit assumer la responsabilité de protéger les mineurs dans le monde numérique — les enfants et leurs parents, ou les entreprises qui conçoivent et exploitent ces technologies ?

La baronne Beeban Kidron est devenue l’une des voix internationales les plus influentes plaidant pour que cette responsabilité incombe fermement à l’industrie technologique. Membre de la Chambre des lords britannique et militante de longue date pour les droits de l’enfant dans l’environnement numérique, elle a joué un rôle déterminant dans le débat sur la conception adaptée à l’âge, la sécurité en ligne et la responsabilité des entreprises technologiques.

Dans un entretien accordé à The Transatlantic Ledger, Kidron soutient que les produits numériques utilisés par les enfants devraient être soumis à des normes de sécurité et à des responsabilités comparables à celles en vigueur dans d’autres secteurs. Elle appelle à une responsabilisation accrue en matière de conception des plateformes, à un contrôle plus strict des algorithmes et à des garanties claires encadrant l’utilisation des données des enfants dans l’intelligence artificielle.

Son message revêt une importance particulière alors que les États-Unis, le Royaume-Uni et l’Union européenne s’interrogent sur l’ampleur de la régulation à appliquer à des plateformes numériques et des systèmes d’IA toujours plus puissants. Pour Kidron, l’enjeu central dépasse les technologies prises isolément : il s’agit de savoir si les institutions démocratiques sont prêtes à fixer les règles de l’économie numérique — ou si elles laisseront l’industrie technologique continuer à les définir elle-même.

Pourquoi les droits numériques des enfants restent insuffisamment respectés

The Transatlantic Ledger : Vous soutenez depuis longtemps que les droits des enfants doivent être intégrés dans la conception des services numériques. Où pensez-vous que les gouvernements et les entreprises technologiques échouent encore à protéger les enfants en ligne?

Baronne Beeban Kidron: Les gouvernements et les entreprises échouent manifestement, car trop de responsabilité repose encore sur l’enfant ou le parent. Les enfants doivent gérer eux-mêmes leur vie privée, leur temps d’écran, les contenus et les inconnus, tandis que les entreprises contrôlent la conception et les contenus diffusés.

Elles auront fait « suffisamment » lorsque nous imposerons aux produits numériques les mêmes responsabilités et la même responsabilité juridique que pour les autres produits, ce qui, en retour, conférera aux utilisateurs des droits de consommateurs.

Le véritable changement consiste à ne plus demander aux enfants de naviguer de manière responsable dans des produits dangereux, mais à exiger des entreprises qu’elles conçoivent des produits respectant par défaut la vie privée, la sécurité, le développement et l’autonomie des enfants.

Les entreprises technologiques devraient-elles avoir l’obligation légale de démontrer que leurs produits sont sûrs pour les enfants avant leur mise sur le marché ?

Absolument.

Le cadre britannique de sécurité en ligne : forces et faiblesses

Le Royaume-Uni a adopté une approche ambitieuse en matière de régulation de la sécurité en ligne. Quelles sont, selon vous, les principales forces du modèle britannique, et où des améliorations restent-elles nécessaires?

La force de l’approche britannique réside dans le fait que la responsabilité a commencé à remonter la chaîne — des enfants et des parents vers les entreprises qui conçoivent et exploitent ces services. L’Age Appropriate Design Code a instauré des obligations en matière de protection de la vie privée et de conception adaptée à l’âge, tandis que l’Online Safety Act examine de plus en plus les fonctionnalités et les systèmes, et non plus seulement les contenus individuels.

La faiblesse de ces deux textes réside dans leur application : la législation ne change véritablement la vie des enfants que si les régulateurs agissent assez rapidement et disposent de pouvoirs suffisants face aux entreprises qui résistent. L’erreur du gouvernement britannique a été de penser que le secteur était disposé à être régulé. En réalité, à petite comme à grande échelle, il continue de résister.

La vérification de l’âge est devenue l’un des éléments les plus controversés de la protection des mineurs en ligne. Comment les gouvernements peuvent-ils protéger les enfants sans créer une surveillance disproportionnée ni porter atteinte à la vie privée des utilisateurs?

Cette question me laisse toujours perplexe. Qui, dans un monde connecté, échappe à une surveillance généralisée ? Mais même en écartant cette remarque, le choix entre vérification de l’âge et vie privée est un faux dilemme. Une bonne vérification de l’âge devrait se limiter à ce dont un service a réellement besoin — souvent, simplement savoir si une personne se situe au-dessus ou en dessous d’un certain seuil d’âge. Il n’est pas nécessaire de créer un système d’identité permanent ni de collecter des données personnelles superflues.

À court terme, les entreprises devraient être tenues aux principes de portabilité, de proportionnalité, de minimisation des données, de sécurité et de normes indépendantes. À plus long terme, j’aimerais voir davantage de créativité sur cette question. De nombreux acteurs gravitent autour de la vie des enfants — médecins, écoles, parents, ONG et services publics — et connaissent leur âge ou leurs besoins. Plutôt que de chercher systématiquement à créer de nouvelles informations, nous devrions examiner comment les informations existantes pourraient être codifiées et partagées de manière à la fois privée et sécurisée pour les enfants. La vie privée ne peut pas signifier faire comme si les enfants et les adultes étaient identiques, alors même que la loi leur accorde des droits et des protections différents.

Réseaux sociaux et conception des plateformes

Quelle part de responsabilité les réseaux sociaux devraient-ils assumer pour des fonctionnalités de conception encourageant un usage prolongé, comme le défilement infini, les recommandations algorithmiques, les notifications et les fils de contenu personnalisés?

Ces fonctionnalités ne sont pas le fruit du hasard. Le défilement infini supprime les signaux d’arrêt ; la lecture automatique retire la décision de continuer ; les notifications ramènent les utilisateurs ; les systèmes de recommandation apprennent ce qui capte l’attention de chaque enfant. La question n’est pas de savoir si les enfants disposent d’un libre arbitre, mais s’il est raisonnable d’opposer l’autocontrôle d’un enfant en développement à des produits délibérément conçus pour le déjouer. La conception relève d’une conduite, et les entreprises devraient être tenues responsables de ses effets prévisibles.

L’IA générative occupe une place croissante dans l’éducation, les loisirs et la communication quotidienne des enfants. Quels risques spécifiques l’IA fait-elle peser sur les enfants, que la législation actuelle sur la sécurité en ligne ne prend peut-être pas suffisamment en compte?

L’IA introduit des risques qualitativement différents, car elle peut générer automatiquement, inférer, persuader, se souvenir et agir. Elle est conçue de manière à permettre des conversations intimes, à déduire des caractéristiques sensibles qu’un enfant n’a jamais révélées, à générer des contenus nuisibles ou à caractère sexuel, à prendre des décisions éducatives ou médicales sans aucune formation, et à manipuler ou harceler. Le droit actuel de la sécurité en ligne couvre une partie de ces risques, mais la diffusion des chatbots et l’accessibilité des produits d’IA rendent nécessaire l’introduction d’un devoir de vigilance (Duty of Care).

Compagnons et chatbots dotés d’IA

Les enfants et les adolescents interagissent de plus en plus avec des chatbots dotés d’IA et des compagnons numériques. Les entreprises proposant ces services à des mineurs devraient-elles être soumises à des normes de sécurité ou des restrictions spécifiques?

Comme je l’ai indiqué précédemment, la diffusion et l’accessibilité des chatbots et compagnons numériques dotés d’IA rendent nécessaire l’introduction d’un devoir de vigilance.

Les entreprises technologiques devraient-elles être autorisées à utiliser les données générées par les enfants pour entraîner des systèmes d’intelligence artificielle ? Où les législateurs devraient-ils tracer la limite entre innovation technologique et protection des mineurs?

Il faut tracer cette limite en faveur des enfants. Seules les données recueillies avec consentement explicite (opt-in), dans le cadre de contrats préalablement convenus incluant la protection de la vie privée et des droits des enfants ainsi qu’une possibilité de retrait (opt-out), devraient être autorisées. Il est regrettable que les entreprises technologiques aient fait preuve d’un profond mépris envers les enfants et l’enfance, ce qui nous oblige désormais à fixer un seuil élevé pour qu’elles puissent interagir avec eux.

Les grandes plateformes technologiques devraient-elles être tenues de donner aux régulateurs et aux chercheurs indépendants un accès accru aux informations sur l’impact de leurs algorithmes sur les enfants et les jeunes ?

Elles devraient assumer une responsabilité accrue quant à cet impact, et les chercheurs devraient bénéficier d’un droit d’accès élargi.

Les entreprises technologiques avertissent fréquemment qu’une régulation étendue pourrait freiner l’innovation et affaiblir la compétitivité internationale. Pensez-vous qu’il existe un véritable conflit entre la protection des enfants et le maintien d’une économie numérique compétitive?

Je rejette l’idée que sécurité et innovation soient opposées. Pendant des années, on nous a répété que la vérification de l’âge, des paramètres par défaut plus sûrs et d’autres protections pour les enfants étaient techniquement irréalisables ; la régulation a modifié les incitations, et les entreprises les ont mises en œuvre. La question la plus pertinente est de savoir quel type d’innovation nous souhaitons. Un marché dans lequel les entreprises peuvent tirer un avantage en externalisant les dommages n’est pas innovant — il est mal régulé. Un marché où bien agir signifie ne plus pouvoir être compétitif est la définition même d’une défaillance de marché.

Nous devons cesser de prétendre que ces produits n’ont aucun coût — ils en ont un. Il est simplement supporté par les enfants et par la société dans son ensemble. Les entreprises technologiques devraient assumer l’intégralité du coût de l’innovation, y compris la sécurité et la responsabilité des préjudices sociaux. Le Children & AI Design Code plaide explicitement pour une innovation responsable, et non pour un ralentissement de l’IA.

Ce que les décideurs américains peuvent apprendre du Royaume-Uni et de l’UE

Les États-Unis ont traditionnellement adopté une approche réglementaire différente de celle du Royaume-Uni et de l’Union européenne en matière de plateformes numériques. Quelles leçons, le cas échéant, les décideurs politiques américains devraient-ils tirer de l’expérience européenne et britannique ?

Ma réponse, un peu provocatrice, est que les responsables politiques, dans toutes les juridictions, aligneront bientôt leur politique technologique sur le succès électoral. La sécurité des enfants, les centres de données, les pertes d’emplois, le droit d’auteur et la sécurité nationale s’inviteront bientôt au premier plan. En attendant, la principale leçon est que des règles de conception peuvent transformer les produits sans détruire Internet.

L’Age Appropriate Design Code britannique a contribué à établir que l’enfance ne s’arrête pas à 13 ans, que les services susceptibles d’être utilisés par des enfants ont des responsabilités même s’ils ne les ciblent pas directement, et que la vie privée et la sécurité peuvent être intégrées par défaut. Des approches similaires apparaissent désormais dans plusieurs États américains, ce qui suggère qu’il s’agit moins d’une philosophie européenne que d’une norme de conception émergente.

Une coopération plus étroite entre les États-Unis, le Royaume-Uni et l’Union européenne en matière de sécurité en ligne et de gouvernance de l’IA renforcerait-elle la protection des enfants, ou les différentes traditions juridiques rendent-elles une approche commune irréaliste?

Sans s’attaquer au lobbying des entreprises ni à la politique du « America First », des normes mondiales ne sont pas envisageables.

Certains critiques soutiennent que les plus grandes entreprises technologiques disposent de ressources financières considérables et d’une influence politique majeure lorsque les gouvernements envisagent une nouvelle régulation numérique. Les institutions démocratiques sont-elles aujourd’hui suffisamment fortes pour réguler efficacement le secteur technologique?

Les institutions démocratiques sont suffisamment fortes, à condition de choisir d’exercer leur pouvoir. Les entreprises technologiques disposent d’une richesse considérable, de données, d’une expertise technique et d’un accès privilégié aux décideurs politiques, et les gouvernements confondent consultation et cogouvernance.

J’ai largement développé ce sujet dans mon livre USERS: How Big Tech Took Control, and What to Do About It. Mais l’essentiel est que nous avons besoin, partout dans le monde, de gouvernements qui représentent les intérêts de leurs citoyens, et non ceux des puissants.

Nous devons revenir aux idées de démocratie, de société et de biens publics, et nous demander non pas ce que veut le secteur technologique, mais ce que la technologie peut apporter pour servir nos intérêts collectifs. Concentrer autant de pouvoir et de richesse entre si peu de mains n’est pas viable. Les bunkers construits par les milliardaires de la tech en sont la preuve.

Les cinq prochaines années : la plus grande inquiétude de Kidron pour les enfants

En regardant les cinq à dix prochaines années, quel développement technologique vous préoccupe le plus du point de vue des droits de l’enfant : une IA toujours plus puissante, des environnements virtuels immersifs, des algorithmes personnalisés, des technologies biométriques, ou autre chose encore?

Ma plus grande inquiétude est l’effondrement de la démocratie, plus que l’essor d’une technologie en particulier. Si nous pouvions imaginer un monde dans lequel les entreprises technologiques respecteraient systématiquement des règles établies démocratiquement, et seraient soumises aux mêmes normes et responsabilités que les autres entreprises, alors nous pourrions nous réjouir de l’extraordinaire créativité et de l’avenir que la technologie pourrait offrir.

Si vous pouviez établir trois principes fondamentaux que toute entreprise technologique dans le monde devrait respecter lors de la conception de produits ou de services destinés aux enfants, quels seraient-ils?

Sûr par conception. Tester avant de déployer à grande échelle. Responsabilité incombant au propriétaire.

Conclusion

Les propos de la baronne Beeban Kidron traduisent un changement fondamental dans le débat sur les enfants et la technologie : il ne s’agit plus d’attendre des enfants et des parents qu’ils se protègent eux-mêmes, mais d’exiger des entreprises technologiques qu’elles démontrent que leurs produits sont sûrs dès leur conception.

Son argumentation dépasse largement les réseaux sociaux ou les préjudices individuels en ligne. L’intelligence artificielle, les compagnons dotés d’IA, les systèmes de recommandation algorithmique et l’usage commercial croissant des données des enfants créent des défis que les cadres réglementaires existants n’étaient pas nécessairement conçus pour affronter. Kidron plaide ainsi pour des devoirs de vigilance renforcés, un contrôle indépendant accru et une responsabilité accrue des entreprises.

Dans le même temps, elle rejette l’idée qu’un renforcement de la régulation doive nécessairement se faire au détriment de l’innovation. Elle soutient au contraire que la sécurité devrait faire partie intégrante de l’innovation elle-même — et du coût inhérent à l’exercice d’une activité dans l’économie numérique.
Le point sans doute le plus marquant de cet entretien concerne toutefois le pouvoir démocratique. Pour Kidron, l’enjeu ne se limite pas à contrôler une technologie particulière, mais consiste à garantir que les gouvernements élus demeurent capables d’établir et de faire respecter des règles face à certaines des entreprises les plus puissantes au monde.

Ses trois principes résument de façon concise cette approche : « Sûr par conception. Tester avant de déployer à grande échelle. Responsabilité incombant au propriétaire. » À mesure que l’IA s’intègre toujours plus profondément dans l’enfance, l’éducation et la communication quotidienne, la question qui se pose aux décideurs politiques des deux côtés de l’Atlantique pourrait donc être de moins en moins de savoir si la technologie doit être régulée — et de plus en plus de savoir avec quelle rapidité les institutions démocratiques sont prêtes à assumer cette responsabilité.