La charte éthique IA

“Attends, je demande à ChatGPT”, “Bruno’s Notetaker a rejoint la réunion”… L’IA générative a débarqué dans notre quotidien professionnel, et au vu du nombre d’outils et de fonctionnalités, difficile de s’y retrouver : souvent, ça part dans tous les sens.

Quel outil peut-on utiliser, et pour quoi faire ? Quelles informations peut-on partager sans risquer de nuire à mes bénéficiaires ou à mes partenaires ? Si, comme nous, vous vous retrouvez dans ces questionnements, il est sans doute temps d’élaborer un cadre commun pour l’utilisation de ces outils dans votre association. Mais par où commencer ?

Pour tenter de répondre à ces questions, on a réfléchi à un petit guide pour vous accompagner dans l’élaboration d’une charte IA adaptée à votre activité, en s’appuyant sur le retour d’expérience de Paul, Délégué à la Protection des Données (DPO) du pass Culture.

‍

☀️RDV à la fin de l’article pour découvrir la charte IA du pass culture, et le témoignage de Paul ! 😉

‍

Pourquoi cadrer les usages de l’IA en interne ?

La question vaut le coup d’être posée dès lors qu’un ou plusieurs membres de votre association ont recours à des outils d’IA, même ponctuellement. Ces technologies sont encore nouvelles, peuvent être clivantes, et comportent des risques (juridiques, sociaux, environnementaux…).

Rédiger une charte permet de :

- Partager une vision et un langage communs : c’est l’occasion d’échanger et de sensibiliser vos équipes pour se mettre d’accord sur votre positionnement, et sur un cadre clair à respecter.

- Identifier des zones de vigilance (données, décisions automatisées, contenus générés), surtout si vous adressez des sujets sensibles.

- Définir des bonnes pratiques adaptées à votre contexte.

- Rassurer vos bénéficiaires et partenaires en leur montrant que vous avez réfléchi à vos pratiques et que vous mettez en place des dispositifs pour réduire les risques liés à l’IA.

Quelques principes clés pour une charte efficace

Rien de pire que des règles floues, déconnectées du terrain, et imposées de manière unilatérale ! Pour embarquer les équipes :

- Un seul mot d’ordre : co-construire. Pour que les équipes adhèrent à votre charte et la respectent, elles doivent avoir été impliquées dans sa rédaction.

- Créez des règles adaptées à votre activité : pas de copié/collé d’une charte générique (ou générée par IA 🤭), partez de questionnements et de cas concrets que vous avez rencontrés. Utilisez des exemples qui vous parlent et correspondent à votre contexte. Evitez les phrases trop génériques (ex : "chacun est responsable de ses actes"), qui ne clarifient pas suffisamment la marche à suivre.

- Elaborez des règles claires et accessibles à tous : évitez le jargon technique. Votre charte doit être comprise par tous les acteurs de l'association, y compris les bénévoles occasionnels. Elle peut renvoyer vers des ressources pédagogiques pour aller plus loin.

- Prévoyez des temps de sensibilisation et de formation : la rédaction d’une charte peut être l’occasion de sensibiliser les équipes (notamment grâce à la Bataille de l’IA, on vous en reparle juste après).

- Faites vivre la charte ! une fois rédigée, ne laissez pas votre charte tomber aux oubliettes : présentez-là aux équipes, communiquez auprès de vos bénéficiaires et de vos partenaires, prévoyez des temps pour la faire évoluer. ☀️ Le tip’s de Paul : prévoyez une phase d’application “souple” de la charte, pour profiter des retours de vos collaborateurs, la renforcer ou l’assouplir.

Concrètement, on commence par quoi ?

1-Designez un ou une référente qui sera en charge de coordonner le projet, et identifiez des personnes qui pourront être consultées ****: idéalement des salariés, des bénévoles et des bénéficiaires pour refléter les différents points de vue de votre association.

2-Cartographiez l’existant : listez les usages actuels de chacun (rédaction de contenus, gestion administrative, analyse de données, relation aux bénéficiaires, recherche de financements…), ainsi que leurs craintes et leurs envies.

3-Identifiez les valeurs de votre projet associatif (solidarité, transparence, respect de la dignité, inclusion...) qui doivent transparaître dans votre usage de l'IA. Ex : le pass Culture souhaite garder l’humain au coeur de l’organisation, en garantissant aux usagers que les décisions les impactant ne seraient jamais entièrement automatisées.

4-Organisez des ateliers thématiques (on vous a préparé une liste ci-dessous 👇) Pour chaque thème, répondez collectivement aux questions suggérées pour faire émerger des règles, des bonnes pratiques, des gardes-fous.

Une liste (non-exhaustive) des grands thèmes à aborder

1. Gouvernance, cadre décisionnel

Enjeu : Qui décide quoi, et comment s'assurer que la charte soit appliquée ?

Questions à trancher :

- Qui valide l'introduction d'un nouvel outil IA ? Selon quels critères (coût, éthique, conformité règlementaire, sécurité) ?

- La charte est-elle contraignante ou simplement recommandée ? Y a-t-il des conséquences en cas de non-respect ? (ex : la charte de pass Culture renvoie à son règlement intérieur)

- Quels usages sont interdits dans votre association ? (ex : automatisation de décisions RH, évaluation automatique des bénéficiaires)

- Qui contacter en cas de doute ou d'erreur ?

Ex : au pass Culture, si un employé souhaite utiliser un nouvel outil, il doit en faire la demande au DPO et au service responsable de la sécurité informatique, qui valident ou non en fonction de critères déterminés au préalable (sécurité, souveraineté, impact environnemental…). Il est interdit d’utiliser de l’IA dans certains cadres privilégiés (ex : entretiens individuels), et interdit d’imposer un outil d’IA lorsqu’une alternative existe.

‍

2. Fiabilité et responsabilité des contenus

Enjeu : l'IA peut produire des erreurs (les fameuses "hallucinations") ou amplifier des biais. Qui vérifie la qualité des contenus produits ? Qui en assume la responsabilité ?

Questions à trancher :

- Tous les contenus générés par IA doivent-ils être relus par un humain avant diffusion ?

- Qui est responsable de la fiabilité des contenus produits par IA : la personne qui les a générés, celle qui est en charge du périmètre concerné au sein de l’association…?

- Pour quels usages l'IA est-elle trop risquée ? (ex : conseils juridiques, informations médicales, décisions impactant les bénéficiaires)

- Comment former les équipes à repérer les erreurs et biais dans les contenus générés ?

Exemple concret : Le pass Culture impose une relecture critique systématique de tout document produit par IA par la personne qui a généré ou qui est en charge de cette partie de l’activité avant publication ou transmission.

‍

3. Protection des données et confidentialité (RGPD)

L'enjeu : les outils d'IA stockent souvent les données qu'on leur confie. Comment protéger les informations sensibles de vos bénéficiaires, salariés et partenaires ?

Questions à trancher :

- Quelles données peut-on partager avec une IA ? Lesquelles sont interdites ? (données personnelles, données sensibles au sens du RGPD, informations confidentielles internes)

- Choisit-on de prendre des licences payantes et de configurer certains outils d’IA pour plus de sécurité, notamment s’il y a besoin de travailler sur des données personnelles ou sensibles ?

- Les outils gratuits sont-ils autorisés ? Dans quelles conditions ?

- Comment anonymiser les données avant de les utiliser avec une IA ?

- Quelle procédure en cas de fuite ou de suspicion de fuite de données ?

Ex : le pass Culture interdit strictement d'injecter de données sensibles, quelles que soient les garanties de confidentialité d’un outil. Si un collaborateur commet une erreur, il est tenu de le signaler immédiatement au service responsable de la sécurité informatique.

‍

☀️ Le tip’s de Paul : l’erreur est humaine ! Dans un premier temps, mieux vaut inviter les utilisateurs à vous signaler un partage de données confidentiel “maladroit” plutôt que de sanctionner directement.

‍

4. Équité et lutte contre les discriminations

L'enjeu : les algorithmes d'IA peuvent reproduire et amplifier des biais discriminatoires (genre, origine, âge...).

Questions à trancher :

- Pour chaque usage envisagé, quels sont les risques de discrimination ?

- Comment tester et surveiller les biais dans les outils que vous utilisez ?

- L'IA est-elle acceptable pour des décisions impactant des personnes ? (sélection de candidatures, attribution d'aides, évaluation de bénéficiaires)

- Comment garantir que votre usage de l'IA respecte vos valeurs d'inclusion et d'égalité ?

Ex : côté pass Culture, il est interdit d’automatiser les décisions de recrutement, particulièrement sensibles. L'IA est également interdite pour toutes décisions concernant un collaborateur ou une collaboratrice dans le cadre de son évaluation par son manager. En somme, le recrutement et les évaluations annuelles sont des moment "humains" que pass Culture a décidé de sanctuariser.

‍

5. Transparence

Enjeu : renforcer la relation de confiance avec vos bénéficiaires et vos partenaires en étant transparents sur les contenus avec lesquels ils interagissent.

Questions à trancher :

- Dans quelles situations devez-vous mentionner explicitement l'usage d'une IA ? (emails, contenus publiés, chatbots, analyses...)

- Quelle formulation employer ? (ex : “contenu généré partiellement par IA”)

- Les personnes accompagnées peuvent-elles refuser d'interagir avec une IA ?

- Comment documenter en interne les usages d'IA pour assurer la traçabilité ?

Ex : le pass Culture ajoute systématiquement une mention dédiée sur tout contenu totalement ou majoritairement créé par une IA diffusé à l’extérieur. Le cas du développement informatique y est également fortement encadré (mention de l’outil d’IA, interdiction de l’utiliser pour certains dispositifs critiques).

‍

6. Sobriété numérique et impact environnemental

L'enjeu : l’IA est extrêmement énergivore, et certains usages (génération d’images et de vidéos) ont un coût environnemental particulièrement élevé.

Questions à trancher :

- Le gain de temps ou d'efficacité d’un cas d’usage justifie-t-il la dépense énergétique ?

- Existe-t-il une alternative moins gourmande pour atteindre le même objectif ? (moteur de recherche classique, rédaction humaine simple...)

- Comment limiter les usages superflus ?

- Comment sensibiliser vos équipes à l'impact écologique de leurs usages ?

Ex : la charte IA du pass Culture préconise de n’utiliser de l’IA que dans le cadre strict de ses missions (c’est-à-dire, éviter de générer une image de galette pour le prochain goûter), et uniquement dans la mesure où le gain de temps est suffisamment significatif.

‍

Allez, plus qu’à rédiger !

On vous propose cette structure :

- Préambule : pourquoi avez-vous fait cette charte ?

- Périmètre : à qui et à quoi s'applique-t-elle (vos salariés, vos bénéficiaires…) ?

- Engagements : les valeurs que vous avez identifiées au fil de la réflexion, et qui ont guidé les règles sur lesquels vous avez statué

- Règles : listez les règles qui ont émergé de vos discussions sur les grandes thématiques (gouvernance, sobriété énergétique…). Vous pouvez aussi les regrouper par cas d’usage (communication, relation aux bénéficiaires…) si cela fait sens pour vous.

- Contrôle et évolution (qui contacter en cas de doute sur les procédures, fréquence de révision de la charte…)

- En annexe, des ressources pédagogiques pour s’emparer du sujet

‍

Après la rédaction : faire vivre votre charte IA

Ou comment éviter que votre charte ne prenne la poussière dans un tiroir

- Faites valider la charte par vos instances décisionnaires pour lui donner une légitimité, puis communiquez son adoption à vos publics.

- Présentez la charte à vos équipes, et intégrez la charte dans l'accueil des nouveaux arrivants.

- Créez des espaces d'échange réguliers, recueillez les retours d'expérience, ajustez les règles peu claires ou inadaptées, et documentez les évolutions pour tenir compte des nouveaux outils et usages.

- Partagez votre expérience avec d'autres associations !

‍

Besoin d’aide pour vous lancer ?

Participez à un atelier Bataille de l’IA - version ESS !

**Créée par Latitudes, la Bataille de l’IA** version ESS est un atelier de 2h ludique et collaboratif conçu spécifiquement pour accompagner les acteurs de l’impact.

Les objectifs :

- Démystifier l’IA et ses principaux enjeux : la créativité, la reproduction de biais, le manque de fiabilité, les impacts sur la citoyenneté et sur l’environnement.

- Découvrir et générer des discussions sur les cas d’usage dans l’ESS (rédaction de contenu, outils pour les bénéficiaires, analyse de données, aide à la prise de décision, décision de refuser tout recours à l’IA…)

- Identifier des bonnes pratiques concrètes pour votre association, qui pourront servir de base à votre charte IA.

‍

Pour déployer l’atelier, 2 options :

👉 Se former à la prise en main du jeu, via une formation gratuite et en ligne, pour maîtriser l’atelier et l’animer en autonomie

👉 Faire appel à Latitudes, qui sollicitera un ou une anim’ de l’atelier (sous condition de disponibilité)

‍

Témoignage de Paul, DPO du pass Culture

"Pass Culture étant un opérateur de l'Etat chargé d'une mission de service public de démocratisation et de diversification des pratiques culturelles auprès des jeunes, la création d’une charte sur l’usage de l'IA était autant un défi qu’une nécessité. Son élaboration a été l’occasion de trouver un socle de valeurs communes autour de ce sujet grandissant, et de lancer une réflexion collective autour de la place que nous souhaitons laisser à cette technologie au sein de notre organisme.

Le point de départ de ce travail fût une étude menée auprès des collaborateurs et collaboratrices, pour mieux comprendre leurs usages, leurs attentes et leurs craintes concernant cette technologie. Un formulaire de consultation (anonyme) est un bon point de départ pour amorcer ce travail. Une première version de cette charte a ensuite été rédigée, puis enrichie/modifiée par différentes parties prenantes (experts, CSE, comité RSE, Comité de direction et Comité RGPD). Pour en assurer la diffusion, une affiche dédiée est en cours de préparation !

On espère que ce petit guide vous aura aidés !

N’hésitez pas à nous faire part de vos retours en répondant directement à ce mail. Vous avez déjà initié ce type de réflexion sur les usages de l’IA au sein de votre structure ? On est preneurs de votre retour d’expérience 🤗

On vous donne RDV le jeudi 5 février de 12h à 13h pour découvrir comment déployer une solution d’IA au service de mes bénéficiaires.

Inscrivez-vous dès maintenant au prochain webinaire !