Au vu de ces chiffres, Ciberalarma met à la disposition des parents et des tuteurs le premier service de surveillance des réseaux sociaux et de messagerie instantanée (WhatsApp) qui détecte ce type de situation chez les enfants de la maison.
Lutter contre la cyberintimidation, le sexting ou le grooming
« Il faut parler à l’enfant », explique Federico Yanonne, associé fondateur de Virtual Care, société qui a conçu ce service. « Les parents doivent lui faire comprendre que le service est bon pour tout le monde, même pour lui, car il respecte sa vie privée et sera protégé « , ajoute l’expert.
Et croyez-le ou non, ce service ne constitue pas une intrusion dans sa vie privée. « Après autorisation des parents ou tuteurs et des mineurs, ce que nous faisons est de nous connecter à leur WhatsApp ou à leurs réseaux sociaux. Dès lors, l’intelligence artificielle (IA), entraînée à interpréter le langage naturel ou les images, lit les conversations du mineur pour détecter les situations pour lesquelles il est formé « , explique Yanonne à Mediacritik. Le système est capable de détecter la cyberintimidation, le « sexting » (le mineur partage avec d’autres des photos à contenu sexuel compromis), le « grooming » (un adulte prétend être mineur pour l’extorquer), les jeux d’automutilation et les comportements dépressifs comme le « rorqual bleu », les situations de boulimie, d’anorexie, de toxicomanie ou pornographique, les comportements violents, racistes, xénophobes ou à caractère sexuel…
Un processus anonyme
En réalité, le système ne sauvegarde ni ne stocke l’activité de l’enfant sur Internet. Il n’est pas non plus surveillé par les cyberagents, le personnel chargé de gérer les alarmes qui arrivent au siège. Comme l’explique l’expert, lorsque le système détecte une conversation violente, par exemple, l’alarme se déclenche. L’agent doit le valider. Pour ce faire, il « passe en revue la conversation ou la photo qui l’a engendrée », sans jamais connaître l’identité du mineur ou de ses parents. S’il s’agit vraiment d’une situation de violence, le protocole d’action est activé, c’est-à-dire que » le système avertit les parents ou tuteurs pour qu’ils puissent prendre les mesures appropriées « , en leur envoyant le contenu qui a généré l’alarme au courriel. « Tout ce processus est anonyme « , insiste-t-il.
» Le système utilise les identifiants d’accès, mais sans interférer avec la vie privée de l’enfant car celui qui lit les conversations est l’IA « , explique Yanonne. « » »Même les parents ne se mêlent pas de ce que fait leur enfant sur WhatsApp ou Instagram « » », poursuit l’expert, qui se souvient qu’il est intrusif pour le parent de prendre le téléphone cellulaire de son enfant et de regarder ses conversations.
« Le système utilise les identifiants d’accès, mais sans interférer dans la vie privée de l’enfant car celui qui lit les conversations est l’intelligence artificielle »
De plus, à chaque fois que l’enfant reçoit une nouvelle conversation, un avis sera envoyé à la personne qui l’a contacté indiquant que le service Ciberalarma contrôle le chat. « Il s’agit d’un élément dissuasif, clé pour des questions telles que la pédophilie « , explique l’expert, pour qui » jusqu’à présent, ce qui est fait pour protéger les mineurs des dangers sur Internet est lié à la formation, la prévention et la sensibilisation, mais ce que nous n’avons pas vraiment vu est qu’il y a un objectif d’éradication. Et c’est le but du nouveau service.
