La IA bajo la lupa: España y 20 países crean alianza para proteger a los menores

El avance de la inteligencia artificial está transformando la forma en que niños y adolescentes estudian, se comunican y utilizan internet. Sin embargo, también ha incrementado las preocupaciones sobre los riesgos que enfrentan los menores en el entorno digital. Ante este panorama, España presentó una coalición internacional que busca promover el desarrollo de sistemas de IA más seguros y con mayores garantías para la infancia.

La iniciativa fue lanzada en Ginebra durante el primer Diálogo de las Naciones Unidas sobre la Gobernanza de la Inteligencia Artificial y reúne a varios países, además de organismos internacionales como Unicef, la Unesco y la Oficina del Alto Comisionado de las Naciones Unidas para los Derechos Humanos.

El proyecto pretende coordinar el trabajo entre gobiernos, organizaciones internacionales, empresas tecnológicas, especialistas en bienestar infantil y representantes del sector educativo para que las nuevas herramientas de inteligencia artificial respeten los derechos de niños y adolescentes desde su diseño.

Riesgos de la IA para la infancia

Durante la presentación, el ministro español para la Transformación Digital y de la Función Pública, Óscar López, advirtió que la inteligencia artificial no debe repetir los problemas que surgieron con las redes sociales, donde la protección de los menores llegó después de que aparecieran los primeros impactos negativos.

Según explicó, el propósito es impedir que la IA facilite situaciones como la difusión de contenido sexual, el ciberacoso, la manipulación mediante algoritmos o la creación de imágenes falsas con menores utilizando tecnologías como los deepfakes.

El documento firmado por los integrantes de la coalición reconoce que la inteligencia artificial ofrece importantes oportunidades, pero también incrementa amenazas relacionadas con la pornografía infantil, la desinformación, el abuso sexual digital y la segmentación de contenidos dirigida a menores.

Compromiso internacional

Además de España, forman parte de la coalición Austria, Brasil, Bulgaria, Canadá, República Checa, Corea del Sur, El Salvador, Estonia, Francia, Indonesia, Italia, Japón, Kenia, Luxemburgo, Marruecos y Países Bajos.

Los países participantes se comprometieron a desarrollar sistemas de inteligencia artificial que sean seguros, transparentes y confiables, además de compartir experiencias y buenas prácticas para fortalecer la protección de la infancia en el entorno digital.

Otro de los compromisos consiste en garantizar que las opiniones de niños y adolescentes sean tenidas en cuenta durante el diseño y la regulación de tecnologías que puedan afectarles.

La propuesta también toma como referencia el informe del Panel Científico Independiente sobre Inteligencia Artificial, que advierte sobre la necesidad de crear mecanismos eficaces de gobernanza para aprovechar los beneficios de esta tecnología sin poner en riesgo a los usuarios más vulnerables.

España aseguró que continuará promoviendo medidas para reforzar la seguridad digital de los menores, entre ellas sistemas de verificación de edad, mayor transparencia en los algoritmos y normas que limiten el acceso de menores de 16 años a determinadas plataformas digitales.