La Cnil accompagne France Travail sur un projet IA

En 2024, France Travail a bénéficié de l’accompagnement de la Cnil dans le cadre de son programme "bac à sable", un dispositif d’appui aux projets innovants. L’objectif ? Offrir un éclairage juridique et technique sur des enjeux liés à la protection des données, en particulier dans des domaines émergents comme l’intelligence artificielle. Le projet accompagné, baptisé "Conseils personnalisés", vise à recommander des formations adaptées aux profils des demandeurs d’emploi.

Un outil d’aide à l’orientation des demandeurs

Le dispositif "Conseils personnalisés" permet aux conseillers de France Travail de mieux orienter les demandeurs d’emploi vers des parcours de formation pertinents. Grâce à un système de recommandations, il prend en compte à la fois le catalogue de formations disponible, les informations issues du dossier du demandeur et les précisions du conseiller. L’outil peut suggérer aussi bien des compétences comportementales (comme la prise de parole en public) que des événements locaux.

Le projet a mobilisé des experts techniques, juridiques et métiers : ingénieurs, juristes spécialisés en protection des données, chefs de projet IA et professionnels de l’accompagnement à l’emploi ont contribué à son développement.

Préserver une décision humaine dans le processus

L’un des enjeux majeurs soulevés concerne le respect de l’article 22 du RGPD, qui garantit à toute personne le droit de ne pas faire l’objet d’une décision entièrement automatisée. La Cnil insiste donc sur l’importance de maintenir une "intervention humaine significative". Cela signifie que le conseiller doit rester libre de suivre ou non la suggestion générée par l’outil, en se basant sur son jugement professionnel.

Deux conditions sont essentielles selon la Cnil : la compréhension du fonctionnement de l’outil par les agents et leur capacité à prendre du recul sur les recommandations proposées. Pour cela, des formations, une documentation claire et un environnement de travail propice sont nécessaires.

Respecter la liberté de choix des conseillers

Il est essentiel que les conseillers puissent rejeter une suggestion jugée inadaptée, sans subir de pression. France Travail a ainsi mis en place un parcours de sensibilisation comprenant une formation générale à l’IA, un accompagnement spécifique à l’outil "Conseils personnalisés", ainsi que des référents internes spécialisés sur le sujet. La Cnil estime, à ces conditions, que l’outil ne relève pas d’un traitement purement automatisé.

Limiter les données utilisées par l’outil

La question de la pertinence des données traitées est également centrale. Le principe de minimisation impose que seules les données strictement nécessaires soient utilisées. Un travail d’identification des données pertinentes a donc été mené. Le catalogue de formations proposé, qui regroupe plus de 20 000 offres issues de multiples partenaires, a été passé au crible pour éviter les doublons et garantir l’équité entre les offres.

Le dossier du demandeur d’emploi, en partie enrichi par le conseiller, a également été analysé pour identifier les données réellement utiles et éliminer celles susceptibles d’introduire des biais.

Encadrer les informations sensibles dans les requêtes

Lors de la rédaction des requêtes par les agents, un risque de divulgation d’informations personnelles existe. Pour limiter cela, la Cnil recommande de standardiser les requêtes via des modèles, de mettre en place des filtres pour bloquer certains mots sensibles et d’alerter les conseillers en cas d’utilisation de termes inappropriés.

Une sensibilisation à la rédaction de requêtes respectueuses de la confidentialité est également conseillée, afin de guider les agents vers de bonnes pratiques.

Réduire les biais et éviter les discriminations

Enfin, la Cnil et France Travail ont travaillé sur les risques de biais dans l’outil. En effet, des données comme le genre, la localisation ou le parcours personnel peuvent entraîner des recommandations différenciées, voire discriminatoires. L’analyse a permis de détecter les sources potentielles de biais et d’en limiter l’usage dans le traitement des données.

La Cnil conclut que les garanties mises en place sont suffisantes pour prévenir les dérives, tout en rappelant que le sujet des biais liés à l’IA est particulièrement sensible dans le cadre de services publics.

SOURCE : AEF INFO