Beeban Kidron afirma que las tecnológicas deben demostrar que sus productos son seguros para los niños

A medida que la inteligencia artificial, las redes sociales y los sistemas algorítmicos se vuelven una parte cada vez más importante de la vida cotidiana de los niños, los gobiernos se enfrentan a una pregunta fundamental: ¿quién debe asumir la responsabilidad de proteger a los menores en el mundo digital: los niños y sus padres, o las empresas que diseñan y operan la tecnología?

La baronesa Beeban Kidron se ha convertido en una de las defensoras internacionales más destacadas de situar esa responsabilidad firmemente en la industria tecnológica. Como miembro de la Cámara de los Lores del Reino Unido y activista de larga trayectoria por los derechos de la infancia en el entorno digital, ha desempeñado un papel influyente en el debate sobre el diseño adecuado para la edad, la seguridad en línea y la responsabilidad de las empresas tecnológicas.

En una entrevista con The Transatlantic Ledger, Kidron sostiene que los productos digitales utilizados por niños deberían estar sujetos a estándares de seguridad y responsabilidades comparables a los exigidos en otras industrias. Reclama una mayor rendición de cuentas por el diseño de las plataformas, un mayor escrutinio de los algoritmos y salvaguardas claras sobre el uso de los datos infantiles en la inteligencia artificial.

Su mensaje resulta especialmente relevante en un momento en que Estados Unidos, el Reino Unido y la Unión Europea debaten hasta qué punto deben regular unas plataformas digitales y unos sistemas de IA cada vez más potentes. Para Kidron, la cuestión central va más allá de tecnologías concretas: se trata de si las instituciones democráticas están dispuestas a establecer las reglas de la economía digital, o si permitirán que sea la industria tecnológica quien continúe definiéndolas.

Por qué los derechos digitales de la infancia siguen sin cumplirse

The Transatlantic Ledger: Usted ha defendido durante mucho tiempo que los derechos de la infancia deben integrarse en el diseño de los servicios digitales. ¿Dónde cree que los gobiernos y las empresas tecnológicas siguen fallando en la protección de los niños en línea?

Baronesa Beeban Kidron: Los gobiernos y las empresas están fallando claramente porque demasiada responsabilidad recae aún en el niño o en los padres. Se exige a los niños que gestionen su privacidad, el tiempo de pantalla, los contenidos y a los desconocidos, mientras las empresas controlan el diseño y qué contenido se muestra.

Habrán hecho «suficiente» cuando exijamos por ley que los productos digitales tengan las mismas responsabilidades que otros productos, y la misma responsabilidad legal, lo que a su vez otorgará a los usuarios derechos como consumidores.

El verdadero cambio consiste en dejar de pedir a los niños que naveguen de forma responsable por productos inseguros, y exigir en cambio a las empresas que diseñen productos que respeten por defecto la privacidad, la seguridad, el desarrollo y la capacidad de actuar de los niños.

¿Deberían las empresas tecnológicas tener el deber legal de demostrar que sus productos son seguros para los niños antes de introducirlos en el mercado?

Absolutamente.

El marco de seguridad en línea del Reino Unido: fortalezas y carencias

El Reino Unido ha adoptado un enfoque ambicioso en la regulación de la seguridad en línea. ¿Cuáles considera que son las mayores fortalezas del modelo británico, y dónde cree que aún son necesarias más mejoras?

La fortaleza del enfoque británico es que la responsabilidad ha comenzado a desplazarse hacia arriba, de los niños y los padres hacia las empresas que diseñan y operan los servicios. El Age Appropriate Design Code estableció obligaciones de privacidad y diseño adecuado a la edad, mientras que la Online Safety Act examina cada vez más la funcionalidad y los sistemas, y no solo contenidos individuales.

La debilidad de ambos marcos está en la aplicación: la legislación solo cambia la vida de los niños si los reguladores actúan con suficiente rapidez y cuentan con competencias capaces de enfrentarse a empresas que se resisten. El error del gobierno británico fue pensar que el sector estaba dispuesto a ser regulado. En realidad, tanto en cuestiones pequeñas como grandes, sigue resistiéndose.

La verificación de edad se ha convertido en uno de los elementos más controvertidos de la protección infantil en línea. ¿Cómo pueden los gobiernos proteger a los niños sin crear una vigilancia desproporcionada ni comprometer la privacidad de los usuarios?

Esta pregunta siempre me desconcierta. ¿Quién, en un mundo conectado, no sufre ya una vigilancia generalizada? Pero incluso si no se acepta esa premisa, la elección entre verificación de edad y privacidad es una falsa disyuntiva. Una buena verificación de edad debería establecer solo lo que un servicio necesita saber, a menudo simplemente si alguien está por encima o por debajo de un determinado umbral de edad. No es necesario crear un sistema de identidad permanente ni recopilar datos personales innecesarios.

A corto plazo, las empresas deberían regirse por los principios de portabilidad, proporcionalidad, minimización de datos, seguridad y estándares independientes. A largo plazo, me gustaría ver mucha más creatividad a la hora de abordar esta cuestión. Hay personas presentes a lo largo de la vida de los niños —médicos, escuelas, padres, ONG y servicios públicos— que conocen la edad o las necesidades de un niño. En lugar de buscar siempre crear nueva información, deberíamos explorar cómo la información ya existente podría codificarse y compartirse de manera privada y segura para los niños. La privacidad no puede significar fingir que niños y adultos son iguales cuando la propia ley les otorga derechos y protecciones distintos.

Redes sociales y diseño de plataformas

¿Cuánta responsabilidad deberían asumir las plataformas de redes sociales por funciones de diseño que fomentan un uso prolongado, como el desplazamiento infinito, las recomendaciones algorítmicas, las notificaciones y los feeds de contenido personalizado?

Estas funciones no son accidentales. El desplazamiento infinito elimina las señales para detenerse; la reproducción automática elimina la decisión de continuar; las notificaciones hacen que los usuarios regresen; los sistemas de recomendación aprenden qué capta la atención de cada niño en particular. La cuestión no es si los niños tienen capacidad de decisión, sino si es razonable oponer el autocontrol de un niño en desarrollo a productos deliberadamente optimizados para vencerlo. El diseño es una forma de conducta, y las empresas deberían rendir cuentas por sus efectos previsibles.

La IA generativa forma cada vez más parte de la educación, el entretenimiento y la comunicación cotidiana de los niños. ¿Qué riesgos específicos genera la IA para los niños que la legislación actual sobre seguridad en línea podría no abordar adecuadamente?

La IA añade riesgos cualitativamente distintos porque puede generar contenido automáticamente, inferir, persuadir, recordar y actuar. Está diseñada de forma que permite conversaciones íntimas, puede inferir características sensibles que un niño nunca reveló, generar material dañino o sexual, tomar decisiones educativas o de salud sin ninguna formación, y manipular o acosar. La legislación actual sobre seguridad en línea cubre parte de esto, pero la expansión de los chatbots y la accesibilidad de los productos de IA hacen necesario introducir un deber de diligencia (Duty of Care).

Compañeros de IA y chatbots

Niños y adolescentes interactúan cada vez más con chatbots impulsados por IA y compañeros digitales. ¿Deberían las empresas que ofrecen estos servicios a menores enfrentarse a estándares de seguridad o restricciones específicas?

Como señalé antes, la expansión y accesibilidad de los chatbots y compañeros digitales impulsados por IA hacen necesario introducir un deber de diligencia.

¿Deberían las empresas tecnológicas poder utilizar datos generados por niños para entrenar sistemas de inteligencia artificial? ¿Dónde deberían los legisladores trazar la línea entre la innovación tecnológica y la protección de los menores?

Trazar la línea a favor de los niños. Solo deberían permitirse datos aportados mediante consentimiento expreso (opt-in), en el marco de contratos previamente acordados que incluyan la privacidad y los derechos de los niños, así como la posibilidad de renunciar (opt-out). Es un hecho lamentable que las empresas tecnológicas hayan mostrado un profundo desprecio por la infancia, lo que ahora nos obliga a fijar un umbral muy alto para permitirles relacionarse con los niños.

¿Deberían las grandes plataformas tecnológicas estar obligadas a proporcionar a los reguladores y a investigadores independientes mayor acceso a información sobre cómo afectan sus algoritmos a niños y jóvenes?

Deberían asumir mayor responsabilidad por ese impacto, y los investigadores deberían tener mayor acceso por derecho propio.

Las empresas tecnológicas advierten con frecuencia de que una regulación extensa podría frenar la innovación y debilitar la competitividad internacional. ¿Cree que existe un conflicto real entre proteger a los niños y mantener una economía digital competitiva?

Rechazo la premisa de que seguridad e innovación sean opuestos. Durante años se dijo que la verificación de edad, las configuraciones predeterminadas más seguras y otras protecciones infantiles eran técnicamente imposibles; la regulación cambió los incentivos y las empresas las construyeron. La pregunta más útil es qué tipo de innovación queremos. Un mercado en el que las empresas pueden obtener ventaja externalizando el daño no es innovador: está mal gobernado. Un mercado en el que hacer lo correcto significa no poder competir es la definición misma de fallo de mercado.

Debemos dejar de fingir que estos productos no tienen coste alguno: sí lo tienen. Simplemente lo están pagando los niños y la sociedad en general. Las empresas tecnológicas deberían asumir el coste total de la innovación, incluida la seguridad y la responsabilidad por los daños sociales. El Children & AI Design Code aboga explícitamente por una innovación responsable, no por frenar la IA.

Qué pueden aprender los responsables políticos de EE.UU. del Reino Unido y la UE

Estados Unidos ha adoptado tradicionalmente un enfoque regulatorio distinto al del Reino Unido y la Unión Europea respecto a las plataformas digitales. ¿Qué lecciones, si las hay, deberían extraer los responsables políticos estadounidenses de la experiencia europea y británica?

Mi respuesta, un poco irónica, es que pronto los políticos de todas las jurisdicciones alinearán su política tecnológica con el éxito electoral. La seguridad infantil, los centros de datos, la pérdida de empleos, los derechos de autor y la seguridad nacional pronto llamarán a la puerta. Mientras tanto, la principal lección es que las normas de diseño pueden cambiar los productos sin destruir internet.

El Age Appropriate Design Code británico ayudó a establecer que la infancia no termina a los 13 años, que los servicios susceptibles de ser utilizados por niños tienen responsabilidades aunque los niños no sean su público objetivo, y que la privacidad y la seguridad pueden integrarse en la configuración predeterminada. Enfoques similares están apareciendo ahora en varios estados de EE. UU., lo que sugiere que se trata menos de una filosofía europea que de un estándar de diseño emergente.

¿Fortalecería la protección de los niños una cooperación más estrecha entre Estados Unidos, el Reino Unido y la Unión Europea en materia de seguridad en línea y gobernanza de la IA, o las diferentes tradiciones jurídicas hacen poco realista un enfoque común?

Sin abordar el problema del lobby corporativo o la política de «América Primero», unos estándares globales no son una opción viable.

Los críticos argumentan que las grandes tecnológicas cuentan con enormes recursos financieros e influencia política cuando los gobiernos consideran nuevas regulaciones digitales. ¿Son las instituciones democráticas actuales lo bastante fuertes para regular eficazmente el sector tecnológico?

Las instituciones democráticas son lo bastante fuertes si deciden ejercer su poder. Las empresas tecnológicas cuentan con una riqueza extraordinaria, con datos, con experiencia técnica y con acceso a los responsables políticos, y los gobiernos confunden la consulta con el cogobierno.

He escrito extensamente sobre esto en mi libro USERS: How Big Tech Took Control, and What to Do About It. Pero, en esencia, necesitamos gobiernos en todo el mundo que representen los intereses de sus ciudadanos y no los de los poderosos.

Necesitamos volver a las ideas de democracia, sociedad y bienes públicos y, al hacerlo, preguntarnos no qué quiere el sector tecnológico, sino qué puede hacer la tecnología para apoyar nuestros intereses colectivos. Concentrar tanto poder y riqueza en tan pocas manos es insostenible. Los búnkeres construidos por los multimillonarios tecnológicos son prueba de ello.

The Next Five Years: Kidron’s Biggest Concern for Children

Mirando a los próximos cinco a diez años, ¿qué desarrollo tecnológico le preocupa más desde la perspectiva de los derechos de la infancia: una IA cada vez más potente, entornos virtuales inmersivos, algoritmos personalizados, tecnologías biométricas, o algo completamente distinto?

Mi mayor preocupación es el colapso de la democracia, más que el auge de una tecnología concreta. Si pudiéramos imaginar un mundo en el que las empresas tecnológicas trabajaran habitualmente conforme a reglas acordadas democráticamente, y estuvieran sujetas a los mismos estándares y responsabilidades que otras empresas, entonces podríamos ilusionarnos con la extraordinaria creatividad y el futuro que la tecnología podría aportar.

Si pudiera establecer tres principios fundamentales que toda empresa tecnológica del mundo debiera seguir al diseñar productos o servicios utilizados por niños, ¿cuáles serían?

Seguro por diseño. Probar antes de escalar. Responsabilidad en manos del propietario.

Conclusión

Las respuestas de la baronesa Beeban Kidron apuntan a un cambio fundamental en el debate sobre la infancia y la tecnología: dejar de esperar que los niños y los padres se protejan a sí mismos, para exigir en cambio a las empresas tecnológicas que demuestren que sus productos son seguros desde el diseño.

Su argumento va mucho más allá de las redes sociales o de daños concretos en línea. La inteligencia artificial, los compañeros de IA, los sistemas de recomendación algorítmica y el creciente uso comercial de los datos infantiles están generando desafíos para los que los marcos regulatorios existentes no fueron necesariamente concebidos. Kidron defiende, por tanto, deberes de diligencia más sólidos, un mayor escrutinio independiente y responsabilidad corporativa.

Al mismo tiempo, rechaza la idea de que una regulación más estricta deba producirse necesariamente a costa de la innovación. En su lugar, sostiene que la seguridad debería formar parte de la propia innovación, y ser parte del coste de hacer negocios en la economía digital.
Sin embargo, quizás el punto más significativo que emerge de la entrevista tenga que ver con el poder democrático. Kidron no ve el reto simplemente como el de controlar una tecnología concreta, sino como el de garantizar que los gobiernos elegidos sigan siendo capaces de establecer y hacer cumplir normas frente a algunas de las corporaciones más poderosas del mundo.

Sus tres principios resumen de forma concisa ese enfoque: «Seguro por diseño. Probar antes de escalar. Responsabilidad en manos del propietario.» A medida que la IA se integra cada vez más profundamente en la infancia, la educación y la comunicación cotidiana, la pregunta que enfrentan los responsables políticos a ambos lados del Atlántico podría ser, por tanto, cada vez menos si la tecnología debe regularse, y cada vez más rápido deben estar dispuestas las instituciones democráticas a asumir esa responsabilidad.