Le processus AIPD en 4 étapes
Basé sur les exigences du RGPD britannique et adapté aux cas d'usage d'IA en S&E. Chaque étape s'appuie sur la précédente. Ne passez pas à l'atténuation sans avoir terminé l'évaluation.
Décrire le traitement
Documentez précisément quel outil d'IA vous utilisez, quelles données il va traiter, où ces données circulent (y compris les transferts transfrontaliers vers des serveurs infonuagiques), quelle est la finalité et qui a accès aux produits. Pour le S&E : « Nous utiliserons [outil] pour [tâche] en exploitant [type de données] provenant de [source]. Les données seront traitées sur [serveurs situés dans pays/région]. »
Évaluer la nécessité et la proportionnalité
L'IA est-elle le moyen le moins intrusif d'atteindre cet objectif de S&E ? Pourriez-vous obtenir le même résultat avec moins de données, un outil local (sans transfert infonuagique) ou une approche sans IA ? Si vous téléversez des données identifiables de participants vers un outil d'IA commercial pour économiser 3 heures de codage manuel, le calcul risque-bénéfice pourrait ne pas plaider en faveur de l'IA.
Identifier et évaluer les risques
Cartographiez les risques pour les personnes concernées (ré-identification, violation de données, biais dans les produits d'IA influençant les décisions du programme), pour l'intégrité de l'évaluation (résultats hallucinés, analyse non reproductible) et pour les communautés (préjudices collectifs liés aux schémas générés par l'IA). Notez chaque risque selon sa probabilité et sa gravité.
Atténuer et documenter
Pour chaque risque identifié, définissez des mesures techniques (anonymisation, chiffrement, traitement local, accords de suppression des données) et des mesures organisationnelles (contrôles d'accès, flux de validation, formation, réponse aux incidents). Documentez les risques résiduels et les décisions d'acceptation. Réexaminez l'AIPD à chaque phase du projet.
Quand les AIPD préviennent de vrais problèmes
Ces scénarios montrent ce qui se passe avec et sans AIPD pour des cas d'usage courants de l'IA en S&E.
Analyse d'enquête assistée par l'IA
« Nous avons téléversé notre jeu de données d'enquête auprès des ménages sur ChatGPT pour analyse. » Le jeu de données contient des coordonnées GPS, des identifiants de ménage et des données de revenu. Les conditions d'utilisation de l'outil d'IA autorisent l'usage des entrées pour l'entraînement du modèle. Vous n'avez pas d'accord de traitement des données. Si le bailleur audite votre gestion des données, vous ne pouvez pas démontrer votre conformité.
Analyse d'enquête assistée par l'IA
« Avant le téléversement, notre AIPD a identifié : le jeu de données contient des données indirectement identifiables (GPS + taille du ménage peuvent permettre la ré-identification). Nous avons retiré les coordonnées GPS, remplacé les identifiants de ménage par des codes aléatoires et utilisé un outil d'IA entreprise avec un accord de traitement des données qui interdit l'entraînement sur nos données. AIPD documentée et archivée. »
Transfert transfrontalier de données
« Notre équipe de terrain en [pays] a recueilli des transcriptions d'entretiens. Nous avons utilisé un outil d'IA basé aux États-Unis pour les coder. » Les transcriptions contiennent des informations sensibles sur des populations affectées par un conflit. Les données ont quitté le pays de collecte, ont transité par des serveurs sans évaluation d'adéquation, et la politique de conservation des données du fournisseur d'IA n'est pas claire.
Transfert transfrontalier de données
« Notre AIPD a identifié le transfert transfrontalier comme risque principal. Nous avons évalué : l'outil d'IA traite les données dans l'UE (juridiction adéquate). Nous avons un accord de traitement des données avec des clauses contractuelles types. Les transcriptions ont été pseudonymisées avant le téléversement. Nous avons choisi cet outil précisément pour ses options de résidence des données. »
Données de populations sensibles
« Nous avons utilisé l'IA pour analyser les retours de survivantes de VBG dans le cadre de notre évaluation de protection. » Des données profondément sensibles sont entrées dans un système d'IA commercial. Aucun consentement n'a été obtenu pour le traitement par l'IA (seulement pour la collecte). Aucune évaluation n'a été réalisée pour déterminer si le traitement par l'IA crée un risque de ré-identification.
Données de populations sensibles
« Notre AIPD a déterminé que ces données sont trop sensibles pour un traitement IA en nuage. Nous avons utilisé un modèle d'IA local (aucune donnée ne quitte notre infrastructure). Nous avons évalué les risques collectifs liés aux schémas générés par l'IA. Nous avons obtenu un consentement spécifique pour l'analyse assistée par l'IA. La section méthodologie divulgue l'approche et les garanties. »
5 règles d'AIPD pour les équipes de S&E
Réalisez l'AIPD tôt, pas après le déploiement
Le guide britannique sur l'IA (UK AI Playbook) met l'accent sur la protection de la vie privée dès la conception (privacy-by-design) sur tout le cycle de vie de l'IA : conception, entraînement et tests, déploiement et suivi. Lancez votre AIPD lorsque vous évaluez la pertinence d'utiliser l'IA pour une tâche, pas après avoir déjà téléversé des données.
Évaluez toujours les risques de transfert transfrontalier
La plupart des outils d'IA commerciaux traitent les données sur des serveurs situés hors du pays de collecte. Le RGPD britannique et les cadres de l'UE exigent que vous évaluiez si la juridiction de destination offre une protection adéquate des données. Pour les équipes de S&E qui collectent des données dans les pays à revenu faible ou intermédiaire et utilisent des outils d'IA basés aux États-Unis ou dans l'UE, cela est presque toujours pertinent.
Intégrez les risques collectifs, pas seulement individuels
Les AIPD standard se concentrent sur les personnes concernées individuelles. Les AIPD de S&E devraient aussi se demander : les schémas générés par l'IA à partir de données agrégées pourraient-ils stigmatiser une communauté ? Les recommandations de ciblage assistées par l'IA pourraient-elles créer des préjudices collectifs ? Le principe de « Ne pas nuire » s'étend à l'analyse assistée par l'IA.
Révisez à chaque étape du cycle de vie
Une AIPD n'est pas un document ponctuel. Réexaminez-la lorsque vous changez d'outil d'IA, modifiez le type de données traitées, passez d'un pilote à une mise en œuvre complète, ou lorsque le fournisseur de l'outil d'IA change ses conditions de service. Le cadre politique modèle des Nations Unies appelle à une gouvernance sur tout le cycle de vie, y compris la réévaluation.
Restez proportionné
Une AIPD pour « l'utilisation de l'IA afin de mettre en forme un modèle de rapport sans données personnelles » devrait être une note d'une page. Une AIPD pour « l'utilisation de l'IA afin d'analyser 500 transcriptions d'entretiens de populations affectées par un conflit » devrait être approfondie. Adaptez la profondeur au risque réel, pas à un gabarit générique.
Invite de démarrage AIPD
Utilisez cette invite pour générer un brouillon d'AIPD pour un cas d'usage précis de l'IA. Examinez-la et affinez-la ensuite avec votre déléguée ou délégué à la protection des données ou équivalent.
Modèle d'AIPD pour l'IA en S&E
Aidez-moi à rédiger une analyse d'impact relative à la protection des données (AIPD) pour un cas d'usage d'IA dans notre travail de S&E.
Cas d'usage : [DÉCRIRE : ex., « Utilisation de Claude pour aider au codage thématique de 80 transcriptions d'entretiens avec informateurs clés issus d'une évaluation de la sécurité alimentaire au Soudan du Sud »]
Détails des données :
- Type de données : [transcriptions d'entretiens / réponses d'enquête / dossiers de bénéficiaires / données de suivi / autre]
- Contient des données personnelles : [oui, identifiables / oui, pseudonymisées / non]
- Catégories sensibles : [santé / conflit / VBG / enfants / identité ethnique / aucune]
- Personnes concernées : [participants au programme / bénéficiaires / personnel / membres de la communauté]
- Pays de collecte : [pays]
Détails de l'outil d'IA :
- Outil : [ChatGPT / Claude / Gemini / modèle local / autre]
- Lieu de traitement : [États-Unis / UE / local / inconnu]
- Accord de traitement des données : [oui / non / inconnu]
- Politique de conservation des données : [non utilisée pour l'entraînement / utilisée pour l'entraînement / inconnu]
Veuillez générer une AIPD structurée avec les sections suivantes :
1. Description du traitement (quoi, pourquoi, qui, où)
2. Évaluation de la nécessité et de la proportionnalité
3. Registre des risques (risque | probabilité | gravité | niveau de risque) pour au moins 6 risques
4. Mesures d'atténuation (techniques et organisationnelles)
5. Évaluation du risque résiduel
6. Calendrier de révision
Signalez toute zone où le niveau de risque suggère que je devrais reconsidérer l'utilisation de l'IA pour cette tâche.