María es una niña de 12 años. Es nueva en su salón de primer año de bachillerato y algunas veces hacen chistes que a ella le incomodan pero elige ignorarlos porque no quiere quedar como una “tonta”.

Un día, llega al salón y siente tensión en el ambiente. Ve a su alrededor y nota risas de unos compañeros, miradas preocupadas y el desprecio de otros. Alarmada, le pregunta a una de sus amigas qué está pasando y esta le muestra en su celular un video con contenido sexualmente explícito que está circulando de ella, hecho con inteligencia artificial a partir de las fotos que tenía en sus redes sociales. No sabe quién lo hizo y tampoco sabe qué hacer.

La experiencia de María, aunque ficticia y escrita con fines demostrativos, es la realidad de muchos niños, niñas y adolescentes en nuestro país y en el mundo. A pesar de que los adultos no están exentos de los riesgos del crecimiento de la tecnología, inteligencia artificial (IA) y automatización, este relato nos abre los ojos ante un hecho alarmante: la niñez y adolescencia son el punto ciego de la IA.

¿Cómo afecta la IA a las infancias?

Deepfakes (contenido manipulado), violencia digital, estafas, sextorsión, ciberacoso: son solo algunos de los riesgos del entorno digital que afectan a todo aquel que use internet. El Foro Económico Mundial afirma que entre 2019 y 2020, el número de contenidos en línea deepfake aumentó en 900%. Si los adultos son vulnerables y están expuestos a riesgos de tal magnitud en la red, las infancias, en pleno desarrollo de sus habilidades cognitivas, se encuentran expuestos a riesgos aún mayores y se vuelven una población especialmente vulnerable.

Así lo asoma un informe de 2025 del Instituto Global de Seguridad Infantil Childlight se encontró que los casos de abuso infantil facilitado por la tecnología en Estados Unidos aumentaron de 4.700 en 2023 a más de 67.000 en 2024. 

Lea también: Inteligencia artificial para explotar

Adicionalmente, diversas organizaciones que defienden los derechos de los niños informan que los depredadores pueden utilizar la IA para analizar el comportamiento en línea de los niños, niñas y adolescentes, sus intereses y estado emocional para crear una estrategia de acoso como traje a medida. 

Por otra parte, como se ve en el caso de María, la IA también permite generar falsas imágenes sexualmente explícitas de niños reales, impulsando así una nueva forma de extorsión sexual. 

Estos datos, recopilados por la ONU en su artículo titulado De los deepfakes al acoso sexual: la ONU advierte sobre el aumento de las amenazas de la IA para los niños, ilustran el panorama actual de los derechos de las infancias en lo digital y nos llevan a plantearnos la siguiente pregunta: ¿quiénes son los responsables de garantizar la seguridad de la niñez y adolescencia  en el mundo digital?

Familias y escuelas

Podemos pensar que la seguridad de los niños, niñas y adolescentes en el mundo digital o la regulación del uso de la tecnología es algo que queda en manos exclusivamente de las familias, las escuelas e incluso en ellos mismos. ¿O no hemos escuchado frases como «si usa mejor el teléfono que yo»? Es raro pensar que la seguridad digital también nos corresponde a nosotros, aunque no seamos parte del gremio parental o docente. Porque si la seguridad en el mundo físico no la dejamos completamente en manos de las familias o escuelas (existen cuerpos de seguridad y un sistema de protección), ¿por qué entonces creemos que la responsabilidad de la protección digital solo compete a los que trabajan con las infancias?

Hace poco estuve leyendo para escribir este artículo y me encontré con un documento que podría marcar un antes y un después en materia de protección de niños, niñas y adolescentes: la Declaración Conjunta sobre la Inteligencia Artificial y los Derechos del Niño. Fue elaborada y suscrita entre la Unión Internacional de Telecomunicaciones (UIT), el Comité de los Derechos del Niño, UNICEF, la Oficina del Alto Comisionado de las Naciones Unidas para los Derechos Humanos (ACNUDH), entre otros. Es el primer marco global unificado que aborda los derechos de las infancias respecto a la IA. 

Lea también: Revistas ExpresANN, voces para comprender el mundo de la infancia y la adolescencia venezolana

Esta declaración nos ayuda a poner bajo la lupa las herramientas de IA y establece que estas deben ser diseñadas pensando siempre en el interés superior del niño. Es decir: pensar siempre en el bienestar y el desarrollo integral de niños, niñas y adolescentes en cualquier decisión que les afecte. Destaca entre sus principales puntos la importancia de la participación activa de los niños en la creación de políticas y herramientas digitales que les afectan directamente. Divide en diferentes partes las responsabilidades de los Estados, las empresas tecnológicas, organizaciones internacionales y la sociedad civil. Con base en esta división de responsabilidades puedodarte un spoiler: todos somos corresponsables en la protección de la niñez y adolescencia ante los riesgos de la tecnología.

Además, la declaración identifica un desafío que nos llama a la acción: la falta de alfabetización en IA. Ni niños, niñas o adolescentes; ni jóvenes; ni padres ni abuelos están exentos. A pesar de que algunos usamos más las herramientas de IA que otros, todos compartimos un punto común: tenemos herramientas que no sabemos cómo usar de manera adecuada y nos encontramos incapaces para afrontar los riesgos que presentan estas herramientas. Entonces, ¿cómo vamos a ayudar y proteger a los niños de los riesgos de la IA si no sabemos cómo usar estas herramientas? 

Responsabilidad del Estado y empresas tecnológicas 

Mark Zuckerberg, CEO de Meta, testificó recientemente ante un jurado sobre las acusaciones que las redes sociales perjudican la salud mental de los niños. Afirmó que creía haber gestionado la seguridad de los usuarios más jóvenes de manera razonable y que la compañía adoptó la política adecuada para verificar la edad de los usuarios tras considerar las preocupaciones sobre la privacidad. Sin embargo, un documento interno del 2015 estimó que más de 4 millones de usuarios de Instagram eran menores de 13 años, lo que representaba el 30% de la población de niños entre 10 y 12 años de Estados Unidos. Estos datos indican el impacto de las decisiones que toman (o no) las grandes empresas tecnológicas frente a la protección de sus usuarios más pequeños y nos llama a preguntarnos: ¿de verdad las empresas están haciendo todo lo que está en sus manos para proteger a los niños, niñas y adolescentes en el entorno digital?, ¿toman a los niños como prioridad o los tienen en segundo plano?

Por ello, la declaración conjunta de la ONU afirma que la mayoría de las herramientas compatibles con IA que desarrollan las grandes empresas tecnológicas, junto con sus modelos, técnicas y sistemas subyacentes, no están diseñadas actualmente teniendo en cuenta a esta población y su bienestar. Hace un llamado a las empresas que diseñen, desarrollen y desplieguen la IA a que realicen evaluaciones periódicas del impacto real que estas tienen en los derechos del niño, estableciendo mecanismos honestos de rendición de cuentas. 

Invita a los Estados a crear marcos jurídicos que garanticen la adecuada responsabilidad civil, penal y administrativa de aquellos que causen daños a los niños por sistemas, herramientas y plataformas de IA. Además, hace un llamado a penalizar, investigar y sancionar a los autores de todas las formas de abuso sexual infantil en línea cometidos a través de sistemas, herramientas y plataformas de IA, incluyendo la generación de material sexualmente explícito o modificación de material con el fin de la explotación sexual infantil. 

Para garantizar que los “esfuerzos” de las empresas por proteger a las infancias en el entorno digital no sean solo promesas vacías, los Estados deben exigir que las empresas adopten mecanismos de garantía de edad, coherentes con los requisitos de protección y salvaguardia de datos, cuando esos mecanismos sean necesarios para garantizar la protección de los niños contra los daños en línea relacionados con la IA.

Llamado a la acción

Todos somos corresponsables en la protección de los niños y adolescentes contra los riesgos de la IA: familias, escuelas, empresas, Estados. La declaración conjunta de la ONU nos llama a la acción desde diferentes ejes:

🚌 A las familias y escuelas: nos llama a conocer las herramientas y alfabetizarnos en IA para poder proteger y ayudar a los niños y adolescentes desde la información, no desde el miedo que trae el desconocimiento.

👥 A las organizaciones de la sociedad civil: nos llama a implicarnos activamente en los procesos de supervisión y rendición de cuentas para defender una gobernanza de la IA basada en los derechos del niño.

🤵🏾🤵🏻‍♀️ Los Estados y empresas: deben garantizar que los sistemas de IA sean transparentes, responsables y estén diseñados para proteger a los niños

🗣️  Consultar a los niños y adolescentes: las opiniones y experiencias de los niños deben informar de manera significativa la formulación de políticas de IA.

👧🏼🧒🏽 Pensar en el interés superior del niño: todas las decisiones impulsadas por IA deben responder a la pregunta ¿Cómo puede afectar a los niños, niñas y adolescentes?