L’enfant lisible par machine : Gouvernance de l’IA émotionnelle utilisée chez les enfants canadiens

Organisation

Internet of Things Privacy Forum

Publication

2025

Responsables du projet

Gilad Rosner

Andrew McStay

Résumé

Ce projet de recherche portait sur l’utilisation de l’intelligence artificielle (IA) émotionnelle auprès des enfants et visait à déterminer si la Loi sur la protection des renseignements personnels et les documents électroniques (LPRPDE) convient pour régir une telle technologie et faire face aux préjudices en matière de vie privée et aux préjudices connexes qui pourraient en découler. L’IA émotionnelle, une technologie dans le cadre de laquelle les ordinateurs tentent de détecter et de connaître la vie émotionnelle des personnes et d’interagir avec celle-ci, est de plus en plus utilisée dans l’éducation, les jouets, les jeux vidéo et les compagnons d’IA.

Au moyen d’entrevues avec des experts, des universitaires, des intervenants d’organismes de réglementation, des défenseurs des droits des enfants et des spécialistes canadiens de la protection de la vie privée, les chercheurs ont exploré les vulnérabilités particulières qu’ont les enfants à l’égard de l’IA émotionnelle, notamment le développement de leurs aptitudes émotionnelles, leur propension à être facilement manipulés, et leur manque de connaissances à l’égard de la collecte de données. Dans le cadre de la recherche, la LPRPDE a été analysée à la lumière d’autres règlements internationaux comme le Règlement général sur la protection des données (RGPD) et la loi sur l’IA de l’Union européenne (UE), et la Convention des Nations Unies relative aux droits de l’enfant. Selon la recherche, la LPRPDE ne prévoit pas de mesure de protection particulière pour les données sur les enfants, les données biométriques et les données sur les émotions, et elle est actuellement mal adaptée pour prévenir les préjudices causés par l’IA émotionnelle. Pour remédier à ces lacunes, le rapport présente un large éventail de recommandations visant à adapter les lois canadiennes sur la protection des renseignements personnels et les règlements connexes.

La recherche a également permis de générer un outil d’aide pratique pour les fabricants, les vendeurs et les évaluateurs de technologies d’IA émotionnelle visant les enfants. Le rapport est accompagné d’un module sur l’évaluation des facteurs relatifs à la vie privée qui porte précisément sur ces technologies, ainsi que de lignes directrices axées sur le Canada pour le développement commercial, le déploiement et l’utilisation de produits et services connexes, et de pratiques exemplaires qui permettent l’équité et la transparence des systèmes émergents d’IA émotionnelle qui recueilleront les données d’enfants canadiens et la responsabilisation à l’égard de tels systèmes.

Accessibles dans la langue suivante

Anglais :

• Rapport principal
• Document d’accompagnement : Module sur l’évaluation des facteurs relatifs à la vie privée

Projet financé par le CPVP

Ce projet a été financé dans le cadre du Programme des contributions du Commissariat à la protection de la vie privée du Canada. Les opinions exprimées dans les résumés et les rapports sont celles des auteurs et ne reflètent pas nécessairement l’opinion du Commissariat. Les résumés ont été fournis par les auteurs des projets. Veuillez noter que les projets sont publiés dans leur langue d’origine.

Coordonnées

Gilad Rosner
Internet of Things Privacy Forum
17, chemin St Michaels, Winchester (Hampshire)  SO23 9JE

Courriel : gilad@iotprivacyforum.org

Téléphone : +1 (754) 248-4215