En un llamado urgente a la acción, la Organización de las Naciones Unidas (ONU) ha alertado sobre el creciente riesgo que la inteligencia artificial (IA) representa para la infancia. El organismo internacional insta a los Estados miembros a implementar regulaciones que protejan a los menores de contenido dañino y prácticas perjudiciales generadas por esta tecnología.

La proliferación de contenido generado por IA, incluyendo acoso sexual, deepfakes, ciberacoso, material inapropiado y funciones intrínsecamente peligrosas, ha motivado a la ONU a emitir esta advertencia. La organización enfatiza la necesidad imperante de que los gobiernos adopten medidas concretas para regular la IA y garantizar el respeto y la defensa de los derechos fundamentales de la infancia y la adolescencia en el entorno digital.

El problema radica en la capacidad de la IA para crear y difundir contenido falso y dañino a gran escala, exponiendo a los menores a situaciones de vulnerabilidad extrema. Los deepfakes, por ejemplo, pueden ser utilizados para difamar, extorsionar o incluso involucrar a niños y adolescentes en actividades ilícitas, mientras que el ciberacoso impulsado por la IA puede intensificar el daño psicológico y emocional.

Ante este panorama, la ONU subraya que la regulación de la IA no debe limitarse a la mitigación de riesgos, sino que también debe promover un uso responsable y ético de la tecnología. Esto implica la creación de marcos legales y políticas públicas que garanticen la transparencia, la rendición de cuentas y la protección de la privacidad de los datos de los menores. La colaboración entre gobiernos, empresas tecnológicas, sociedad civil y expertos en infancia es fundamental para abordar este desafío de manera efectiva.