Vous êtes un évaluateur S&E expert, spécialisé dans l'analyse de contribution (tradition Mayne) et les méthodes fondées sur la théorie. Évaluez la section d'analyse de contribution que j’ai joint ou collé en utilisant la rubrique ci-dessous. Une analyse de contribution solide construit un récit défendable de la manière dont le programme a contribué au changement observé, aux côtés d'autres causes.
RUBRIQUE D'ÉVALUATION - Section d'analyse de contribution
Évaluez chaque dimension de 1 à 5 selon les critères suivants :
DIMENSION 1 : Construction du Récit de Contribution
- Score 5 : Un récit de contribution cohérent est construit. Il intègre trois éléments : ce qu'a fait le programme, ce qu'a apporté le contexte et ce qu'ont apporté les co-facteurs (autres acteurs, conditions, événements). Le récit se déploie comme une chaîne allant des moyens jusqu'aux résultats, chaque étape étant étayée par des preuves. Il est cohérent en interne et raconté comme un récit intégré, non comme plusieurs narrations parallèles.
- Score 4 : Un récit de contribution est construit avec la plupart des éléments intégrés. Contexte et co-facteurs discutés mais leur intégration aux activités du programme reste partielle par endroits.
- Score 3 : Un récit est proposé mais il décrit largement le programme isolément, le contexte et les co-facteurs étant relégués au rang de notes accessoires. Le lecteur obtient un récit de programme, pas un récit de contribution.
- Score 2 : Aucun récit cohérent. Activités et résultats sont listés mais non tissés en un compte rendu causal intégrant les facteurs externes.
- Score 1 : Aucun récit de contribution. Les résultats sont énoncés sans aucun pont inférentiel depuis les activités du programme.
DIMENSION 2 : Raisonnement Contrefactuel
- Score 5 : L'analyse considère explicitement ce qui se serait produit sans le programme. Le raisonnement contrefactuel s'appuie sur au moins l'une des sources suivantes : données de groupe de comparaison, données de tendance pré-programme, analyse de scénario plausible, ou jugement d'expert dont la base est documentée. Le contrefactuel est réaliste (et non un homme de paille du type « rien ne se serait passé ») et l'ampleur de la différence est estimée lorsque c'est possible. Les limites du contrefactuel sont reconnues.
- Score 4 : Raisonnement contrefactuel présent et fondé sur au moins une source (tendance, comparaison ou scénario). Ampleur discutée mais l'estimation reste approximative. Limites notées.
- Score 3 : Une certaine réflexion contrefactuelle est offerte (par exemple : « sans le programme, moins de personnes auraient été touchées ») mais elle n'est pas étayée par des données de tendance ou de comparaison. Ampleur non estimée.
- Score 2 : Le raisonnement contrefactuel est implicite ou rhétorique (« sans nous, rien n'aurait changé ») sans base probante.
- Score 1 : Aucun raisonnement contrefactuel. Le programme est traité comme si les résultats ne se seraient absolument pas produits sans lui.
DIMENSION 3 : Reconnaissance des Co-facteurs
- Score 5 : Les co-facteurs externes sont nommés et bornés. Autres programmes opérant dans la même zone, changements de politique, évolutions du marché, mouvements sociaux plus larges et événements exogènes sont énumérés avec des preuves de leur pertinence. Chaque co-facteur est évalué en ampleur et en direction de sa contribution probable. Lorsque co-facteurs et programme se sont renforcés ou contrebalancés, cela est précisé. Lorsqu'un co-facteur pourrait expliquer entièrement le résultat, cela est reconnu.
- Score 4 : Les principaux co-facteurs sont nommés et bornés. Ampleur et direction discutées pour la plupart. Effets de renforcement ou de contre-balancement notés pour les plus déterminants.
- Score 3 : Certains co-facteurs sont nommés mais non bornés. Leur contribution est discutée en termes généraux, sans ampleur ni direction. Effets de renforcement non explorés.
- Score 2 : Les co-facteurs sont mentionnés en passant ou uniquement dans les limites. Leur contribution aux résultats n'est pas évaluée.
- Score 1 : Aucun co-facteur reconnu. Le programme est présenté comme l'unique moteur du changement observé.
DIMENSION 4 : Calibrage de la Force des Preuves
- Score 5 : Le langage de contribution est calibré de manière constante sur la force des preuves. Des preuves solides justifient des formulations comme « le programme a contribué substantiellement » ou « contribution définitive ». Des preuves modérées justifient « le programme a plausiblement contribué » ou « contribution probable ». Des preuves plus faibles justifient « le programme a pu contribuer » ou « contribution indicative ». Chaque revendication de contribution porte un qualificatif adapté à sa base probante. Lorsque les preuves sont trop faibles pour soutenir une revendication, cela est précisé.
- Score 4 : La plupart des revendications sont calibrées. Qualificatifs utilisés pour la majorité. Quelques revendications peuvent être uniformément fortes sans base claire.
- Score 3 : Un certain calibrage est présent mais les qualificatifs sont inconsistants. Un langage fort est parfois employé sans preuves solides ; un langage prudent est parfois employé là où les preuves sont en réalité robustes.
- Score 2 : Le langage de contribution est uniforme quelle que soit la force des preuves, OU les qualificatifs sont absents partout.
- Score 1 : Toutes les revendications de contribution sont formulées avec le même degré de certitude, indépendamment de la base probante.
DIMENSION 5 : Vérifiabilité par le Lecteur
- Score 5 : Un lecteur peut retracer le raisonnement depuis les preuves jusqu'à la revendication de contribution sans traduction supplémentaire. Chaque étape de la chaîne inférentielle est rendue explicite. Les sources sont citées pour chaque entrée probante. Les sauts logiques sont signalés et justifiés. L'analyse résisterait à un relecteur sceptique qui demanderait « comment le savez-vous ? » à chaque étape.
- Score 4 : L'essentiel du raisonnement est vérifiable. Sources citées pour la plupart des entrées probantes. Un ou deux sauts inférentiels peuvent rester implicites mais la chaîne est largement visible.
- Score 3 : Certaines étapes du raisonnement sont visibles, d'autres exigent du lecteur qu'il comble les blancs. Sources citées de manière inconsistante. Un relecteur sceptique devrait poser plusieurs fois la question « comment le savez-vous ? ».
- Score 2 : Le raisonnement est présenté comme des conclusions, sans dévoiler la chaîne inférentielle. Sources le plus souvent absentes ou génériques.
- Score 1 : Aucune traçabilité. Les revendications de contribution apparaissent sans raisonnement visible ni sources.
FORMAT DE SORTIE : Retournez votre évaluation sous forme de tableau suivi d'un résumé :
| Dimension | Score (1-5) | Preuves issues de la section | Révision prioritaire |
|---|---|---|---|
| Construction du Récit de Contribution | |||
| Raisonnement Contrefactuel | |||
| Reconnaissance des Co-facteurs | |||
| Calibrage de la Force des Preuves | |||
| Vérifiabilité par le Lecteur |
Total : X/25 Niveau : Solide (22-25) / Adéquat (17-21) / Nécessite une révision (11-16) / Révision substantielle (5-10) Révision la plus importante : [Une phrase spécifique]
Pour toute dimension notée 1 ou 2, ajoutez une brève explication et un exemple de révision concret.
SECTION D'ANALYSE DE CONTRIBUTION À ÉVALUER : (Voir le document joint ou collé.)
Document à évaluer : Joint, ou collé ci-dessous. Fondez tout ce qui précède sur ce document et n’inventez aucun détail qui n’y figure pas.