La quantité stupéfiante de contenus en ligne nuisibles générés par l’IA a incité l’ensemble du système des Nations Unies à lancer un appel urgent en faveur d’une série de mesures visant à protéger les enfants contre les abus, l’exploitation et les traumatismes psychologiques.
Cosmas Zavazava, directeur du Bureau de développement des télécommunications de l’Union internationale des télécommunications (UIT) l’une des principales agences ayant élaboré la déclaration, qui comprend des orientations et des recommandations – dresse un inventaire impressionnant des différentes manières dont les enfants sont ciblés. Cela va du harcèlement en ligne aux deepfakes, en passant par l’intégration de fonctionnalités nuisibles, le cyberharcèlement et les contenus inappropriés.
« Nous avons constaté que, pendant la pandémie de coronavirus »>COVID-19, de nombreux enfants, en particulier les filles et les jeunes femmes, ont été victimes d’abus en ligne et, dans de nombreux cas, cela a entraîné des préjudices physiques », explique-t-il.
L’IA peut être utilisée par des prédateurs
Des organisations de défense des droits de l’enfant signalent que les prédateurs peuvent utiliser l’IA pour analyser le comportement en ligne, l’état émotionnel et les centres d’intérêt d’un enfant afin d’adapter leur stratégie de manipulation.
L’IA permet également aux agresseurs de générer de fausses images explicites d’enfants réels, donnant ainsi naissance à une nouvelle forme d’extorsion sexuelle.
Le Childlight Global Child Safety Institute, un institut mondial indépendant créé pour recueillir les données les plus fiables disponibles sur l’exploitation et les abus sexuels d’enfants, a constaté dans un rapport de 2025 que le nombre de cas d’abus d’enfants facilités par la technologie aux États-Unis est passé de 4 700 en 2023 à plus de 67 000 en 2024.
La responsabilité des géants de la tech
Les entreprises technologiques sont également mises en cause : la déclaration indique que la plupart des outils basés sur l’IA qu’elles développent ainsi que leurs modèles, techniques et systèmes sous-jacents ne sont actuellement pas conçus en tenant compte des enfants et de leur bien-être.
« Nous sommes très préoccupés et nous souhaitons que le secteur privé s’implique, qu’il participe à l’histoire que nous écrivons avec les autres agences des Nations Unies et les autres acteurs qui pensent que la technologie peut être un catalyseur, mais aussi un facteur destructeur », déclare M. Zavazava.
Infos ONU
À propos de l'auteur
