Le Safer Internet Day vise à promouvoir les comportements responsables et positifs en ligne. Cette année, le thème est : « L’IA et nous, quel futur ensemble ? ». Si la naissance d’Internet il y a 35 ans a permis de grandes avancées dans le domaine de l’information, son utilisation est à l’origine de nouvelles violences, accrues par le développement de l’IA. Les enfants commençant en moyenne à utiliser internet à 5 ans et 10 mois, ils sont ainsi de plus en plus exposés à ces risques.
La précocité de l’utilisation d’Internet
Dans une consultation de 2020, la CNIL relève que 82% des enfants de 10 à 14 ans consultent régulièrement Internet sans leurs parents, et que 70% des enfants de tout âge regardent seuls des vidéos sur Internet. La première inscription sur un réseaux social intervient en moyenne autour de 8 ans et demi.
Face aux risques dont ils peuvent avoir conscience, 46% des parents mettent en place des solutions de suivi de l’activité en ligne de leurs enfants (contrôle parental, interdiction de parler à des inconnus…). Pourtant, les parents auraient de plus en plus de difficultés à comprendre l’ampleur de l’activité numérique de leurs enfants. Pourtant les risques sont nombreux, et ceux associés à l’IA notamment s’accroissent rapidement.
L’IA et les enfants : quelles menaces ?
Le développement de l’IA semble devenir une préoccupation majeure pour les dirigeants ; Emmanuel Macron promet ainsi l’investissement de 109 milliards d’euros dans ce domaine. L’IA fait partie de notre quotidien, mais cela ne va pas sans risque, notamment pour les mineurs.
Les chiffres des deepfakes et les deepnudes à caractère pédopornographique sont alarmants : en 2023, plus de 4700 contenus pédocriminels générés par l’IA ont été signalés, et pour 50% d’entre eux, ils provenaient de photos initialement partagées par des parents (Rapport de la Fondation pour l’Enfance, 2024). A travers le monde, 20% des enfants auraient déjà été victimes d’exploitation et d’abus sexuels en ligne en 2021 (enquête de l’organisation Safe Online, 2021).
Le partage des images à caractère pédopornographique en ligne peut entraîner d’autres types de violences en devenant des armes de manipulation et de chantage. On parle alors de sextorsion : l’auteur menace la victime de publier d’autres images à caractère sexuel en la forçant à payer une rançon par exemple. La génération de deepfakes est également à portée de mains des mineurs-mêmes, pouvant engendrer des situations de harcèlement.
La manipulation des enfants par des individus mal intentionnés est facilité par l’IA. Celle-ci permet par exemple de générer des voix artificielles imitant celles de proches des enfants (on parle d’usurpation d’identité). L’IA facilite ainsi le grooming – un processus par lequel un adulte aborde et manipule un mineur à des fins sexuelles, après avoir établi un rapport de confiance avec lui.
Depuis quelques années, les contenus deepfakes se développent et sont de plus en plus réalistes. Ils altèrent la perception de notre environnement et participent à la désinformation en propageant des fake news. Les enfants y sont particulièrement vulnérables s’ils n’ont pas les outils et la capacité pour pouvoir départager le vrai du faux.
Les IA dites conversationnelles (telles que ChatGPT) ne sont pas non plus sans risque. Chez les enfants, ces interactions artificielles peuvent conduire à une perte de repères voire un isolement social. A terme, la déconnexion de la réalité et de son environnement peut entraîner chez le jeune des troubles psychiques telles que l’anxiété ou la dépression.
Pour prévenir de ces dangers et protéger les enfants, il est ainsi primordial de les sensibiliser sur ces thématiques. L’éducation numérique permet d’avoir conscience des dangers de l’IA mais également de ses atouts.
DROIT D’ENFANCE
Droit d’Enfance est une fondation de protection de l’enfance reconnue d’utilité publique depuis 1866, elle accueille et accompagne en Île-de-France plusieurs centaines de garçons et de filles placé(e)s sous sa protection par l’Aide Sociale à l’Enfance (ASE). Elle accorde une grande importance à éviter les ruptures de placement et à soutenir les familles dans le but d’éviter le placement ou de permettre aux liens de se (re)créer.
La Fondation coordonne et gère également le numéro d’urgence européen 116000 Enfants Disparus qui apporte un soutien juridique, psychologique et social aux familles d’enfants disparus. Enfin, Droit d’Enfance est le membre français du Service Social International (SSI), acteur international de la protection de l’enfance.