Critères de Notation
La conception est explicitement énoncée et la justification de son choix est expliquée. La justification de l'échantillonnage documente la taille de l'échantillon, la méthode de sélection et la représentativité. Les approches d'analyse quantitative et qualitative sont décrites avec des détails reproductibles. Les limites sont reconnues et leurs implications pour l'interprétation des constatations sont discutées.
La conception est décrite mais la justification est limitée. L'échantillonnage est documenté mais la représentativité est supposée. L'analyse est décrite. Les limites sont énumérées mais leur impact n'est pas discuté.
La conception est nommée mais non décrite avec des détails utilisables. La taille de l'échantillon est indiquée mais la méthode de sélection n'est pas expliquée. L'approche d'analyse est mentionnée mais non reproductible à partir de la seule description. Au moins une limite est reconnue mais sans implications.
La section méthodologique est brève ou générique. La taille et la sélection de l'échantillon ne sont pas justifiées. L'analyse est décrite en une seule phrase. La section des limites est absente ou énumère les limites sans discuter de leur effet sur les constatations.
Aucune section méthodologique. La conception n'est pas décrite. L'échantillonnage n'est pas mentionné. Les limites ne sont pas reconnues.
Toutes les constatations majeures sont étayées par au moins deux sources indépendantes (triangulation). Les preuves quantitatives et qualitatives sont intégrées, et non dans des silos séparés. Les preuves contradictoires sont notées et expliquées. La base de chaque constatation est traçable aux données.
La plupart des constatations ont une triangulation. 1 à 2 constatations reposent sur une source unique, la limitation est reconnue. Les deux types de preuves sont présents avec une certaine intégration.
Environ la moitié des constatations ont une triangulation. La dépendance à une source unique est courante mais pas universelle. Les deux types de preuves sont présents mais largement rapportés en parallèle. Le lecteur peut retracer certaines constatations jusqu'aux données.
La plupart des constatations reposent sur une source de données unique. Les données quantitatives et qualitatives sont présentées en parallèle sans intégration. Le lecteur ne peut pas retracer comment les conclusions ont été atteintes.
Aucune triangulation. Les constatations reflètent l'opinion de l'évaluateur sans preuves documentées. Aucune table de données, aucun décompte ou référence de source à côté des constatations.
Organisées par question d'évaluation. Les résultats incluent l'ampleur et la direction du changement. Désagrégées par sexe, âge, lieu ou autres variables lorsque les données le permettent. Les constatations négatives et inattendues reçoivent une attention égale à celles positives.
Clairement organisées, peuvent suivre les composantes du programme plutôt que les questions d'évaluation. La plupart incluent la direction du changement. Une certaine désagrégation. Les constatations négatives sont rapportées mais peuvent recevoir moins d'espace.
L'organisation est identifiable mais pas systématiquement alignée sur les questions d'évaluation. Certains résultats incluent l'ampleur. La désagrégation est tentée pour au moins une variable. Les constatations négatives sont mentionnées mais reçoivent clairement moins d'emphase que les positives.
Organisées par source de données ou sont un récit chronologique. L'ampleur n'est pas claire. La désagrégation est absente ou limitée à une variable. Les constatations négatives sont minimisées ou absentes.
Récit qualitatif sans structure. Aucune désagrégation. Se lit comme une histoire de succès. Le lecteur ne peut pas déterminer ce que le programme a accompli.
Chaque conclusion cite la ou les constatations sur lesquelles elle s'appuie et ne va pas au-delà de ce que les preuves soutiennent. Les recommandations sont spécifiques (quelle action, par qui, pour quand), réalistes et abordent les causes profondes. Le nombre total de recommandations est gérable (5-12). Les recommandations prioritaires sont distinguées.
Les conclusions sont liées aux constatations mais certaines connexions sont implicites. Les recommandations sont pour la plupart spécifiques avec 1 à 2 exceptions. Les parties responsables sont identifiées pour la plupart.
Les conclusions sont généralement cohérentes avec les constatations mais les liens ne sont pas explicitement énoncés. Plusieurs recommandations sont spécifiques tandis que d'autres restent générales. Au moins certaines parties responsables sont nommées. Le nombre de recommandations est dans une fourchette raisonnable.
Les conclusions vont au-delà des preuves ou contredisent les constatations. Les recommandations sont génériques. Les parties responsables ne sont pas spécifiées. Trop nombreuses (plus de 15) ou trop peu.
Les conclusions contredisent ou ignorent les constatations. Les recommandations ne sont pas exploitables. Aucun lien entre les constatations, les conclusions et les recommandations.
Les membres de la communauté ont participé à la validation des constatations (au-delà de la collecte de données). Le rapport aborde les dynamiques de pouvoir. Les données sont anonymisées lorsque l'identification pourrait causer un préjudice. Les conclusions clés sont communiquées aux communautés affectées.
La participation communautaire au-delà de la collecte de données est prouvée. Une anonymisation de base est appliquée. Les constatations sont partagées avec les partenaires de mise en œuvre.
Certaines preuves d'engagement des participants au-delà de la collecte de données. L'anonymisation est appliquée dans la plupart des cas mais pas de manière cohérente. Documentation limitée du processus inclusif.
Les protections éthiques sont mentionnées mais appliquées de manière incohérente (citations directes attribuables à des individus nommés). Aucune validation des constatations avec les fournisseurs de données.
Aucune protection éthique documentée. Les données individuelles sont potentiellement identifiables. Aucune preuve de processus inclusif ou de boucle de rétroaction communautaire.
Interprétation du Score
| Total (sur 25) | Niveau | Prochaine Étape |
|---|---|---|
| 22-25 | Fort | Approuver avec des demandes éditoriales mineures uniquement |
| 17-21 | Adéquat | Demander des révisions ciblées sur les 1-2 dimensions les plus faibles. Fixer une date limite pour le projet révisé. |
| 11-16 | Nécessite Révision | Retourner à l'équipe d'évaluation avec la fiche de notation de l'IA comme bref de révision. Ne pas approuver avant une nouvelle révision. |
| 5-10 | Révision Substantielle | Ne répond pas aux normes de qualité minimales. Discuter si une révision substantielle est faisable ou si une collecte de données supplémentaire est nécessaire. |