Besançon, 2-7 juillet 2006Dépistage et santé publiqueC. Métrologie du dépistageFred PaccaudIUMSP, Faculté de biologie et médecine/CHUV, Lausannewww. iumsp.chIUMSPInstitut universitaire de médecine sociale et préventive, LausannePlan•Robustesse•Validité•Impact•EfficienceIUMSPInstitut universitaire de médecine sociale et préventive, Lausanne2Robustesse• La robustesse (reliability, reproductibility, repeatability) caractérise la stabilité du test lorsqu’il est répété dans des conditions identiques• La robustesse est mesurée en effectuant 2 ou plusieurs mesures indépendantes du même phénomèneIUMSPInstitut universitaire de médecine sociale et préventive, Lausanne3Robustesse• Le manque de robustesse d’un indicateur provient de:• divergences entre observateurs (p.ex., lecture des mammographies) (divergences interobservateurs)• Divergences entre les instruments de mesures (p.ex., cholestérol total) (divergences intraobservateurs)• Instabilité de l’objet observé (p.ex., insté biologique : pression sanguine; anamnèse sexuelle)IUMSPInstitut universitaire de médecine sociale et préventive, Lausanne4Blood pressure over repeated readingsDar es Salaam Int J Epidemiol 2002;31:240180 110170100160150901408013012070110Visit 1 Visit 2 Visit 3 Visit 4Visit 1 Visit 2 Visit 3 Visit 460100Visit and reading Visit and readingIUMSPInstitut universitaire de médecine sociale et préventive, Lausanne5Prevalence of HBP based on different ...
23Besançon, 2-7 juillet 2006Dépistage et santé publiqueC. Métrologie du dépistageFred PaccaudIUMSP, Facultéde biologie et médecine/CHUV, Lausannewww. iumsp.chPSMUIInstitut universitaire de médecine sociale et préventive, LausannenalP•Robustesse•Validité•Impact•EfficiencePSMUIInstitut universitaire de médecine sociale et préventive, LausanneRobustesse•La robustesse (reliability, reproductibility, repeatability) caractérise la stabilité du test lorsqu’il est répété dans des conditions identiques•La robustesse est mesurée en effectuant 2 ou plusieurs mesures indépendantes du même phénomènePSMUIInstitut universitaire de médecine sociale et préventive, Lausanne
Robustesse•Le manque de robustesse d’un indicateur provient de:•divergences entre observateurs (p.ex., lecture des mammographies) (divergences interobservateurs)•Divergences entre les instruments de mesures (p.ex., cholestérol total) (divergences intraobservateurs)•Instabilité de l’objet observé (p.ex., instabilité biologique : pression sanguine; anamnèse sexuelle)PSMUIInstitut universitaire de médecine sociale et préventive, Lausanne4Blood pressure over repeated readingsDar es Salaam Int J Epidemiol 2002;31:240180110071001061051090410803102107011Visit1Visit2Visit3Visit4Visit1Visit2Visit3Visit400106VisitandreadingVisitandreadingPSMUIInstitut universitaire de médecine sociale et préventive, Lausanne5Prevalenceof HBP basedon differentreadingsDar es Salaam Int J Epidemiol 2002;31:240006First reading005Second reading004Third reading003Average of first andsecond readings002Average of secondand third readings001Average of first,second & third0readingsV1V2V3V4VisitsIUMSPInstitut universitaire de médecine sociale et préventive, Lausanne6
789Robustesse: Nombre total de partenaires rapportés lors de l’interview / réinterview (17-22 ans)-erinterviewinterviewMoyenne3.533.56IC95%3.38–3.673.43–3.69Médiane11Min-max0–1000-100PSMUIInstitut universitaire de médecine sociale et préventive, LausanneRobustesse•Deuxmesuresde la robustesse:•Mesuresmétriques(continues)•Mesuresdiscrètes(catégorielles)PSMUIInstitut universitaire de médecine sociale et préventive, LausanneRobustesse: Mesuresdiscrètes•mesurede la concordance entreobservations•elle tient compte de la concordance attendue par le seul jeu du hasard : Kappa corrige la concordance observée en retranchant la part aléatoire•Kappa varie entre +1 (concordance parfaite) et -1 (concordance absente)PSMUIInstitut universitaire de médecine sociale et préventive, Lausanne
01IndiceKappa (Cohen’s Kappa)emè2observateurPositifNégatifPositifabP1re1observ.NégatifcdQ1PQ1.0022PSMUIInstitut universitaire de médecine sociale et préventive, LausanneIndiceKappa (Cohen’s Kappa)2e obsPo= a + d = nombreobservédecas+-concordants +abP1Pe= (P1∙P2)+ (Q1∙Q2) = 1er nombreattendudeobs-cdQcasconcordants1kappa = (Po-Pe)/(1 -P2Q21.00Pe)11Institut universitaire de médecine sociale et prévenItivUe, LaMusaSnnPe21Robustesse: Mesuresdiscrètes•29 patients sontvuspar deuxmédecins, auxquelson demandeun diagnostic pour chacundes patientsArDM-M+Total71017DrBM-(34.5%)(24.1%)(58.6%)M+0(411.24%)(411.24%)Total(314.05%)(615.95%)29Institut universitaire de médecine sociale et prévenItivUe, LMausSannPe
314151Robustesse: Mesuresdiscrètes•(c1o0nc+o1rd2)a/n2c9e=ob0s.e7r6vée=•concordance aléatoire=(0.586 * 0.345) + (0.655 * 0.414) = 0.47•Kappa =(0.76 -0.474)/(1 -0.474) = 0.54PSMUIInstitut universitaire de médecine sociale et préventive, LausanneRobustesse: MesuresdiscrètesStrengthof agreement (Landis and Koch, 1977)0.00Poor0.01-0.20Slight0.21-0.40Fair0.41-0.60Moderate0.61-0.80Substantial0.81-1.00AlmostperfectPSMUIInstitut universitaire de médecine sociale et préventive, LausanneKundel, Polansky. Radiology2003;228:303PSMUIInstitut universitaire de médecine sociale et préventive, Lausanne
167118Kundel, Polansky. Radiology2003;228:303PSMUIInstitut universitaire de médecine sociale et préventive, LausanneRobustesse: Mesuresdiscrètes•Kappa pour plus de deux observateurs:•FdliecihsostJoLm,oCuuszjiucdkgJe.mTehnetsr:eluinaebiqliutaylofnumbersof judgementsper subject. A1p9p7l9i;e3d:5P3s7y-c4h2o.logicalMeasurementPSMUIInstitut universitaire de médecine sociale et préventive, LausanneRobustesse: Mesuresmétriques•Le coefficient de correlation intraclasseestunemesuredelarobustesseutiliséepour les tests qui donnentun résultatcontinuPSMUIInstitut universitaire de médecine sociale et préventive, Lausanne
910212Observation chez 25 sujets par 2 observateurs indépendants (X1, X2)350X1X200305200205100150sujetsPSMUIInstitut universitaire de médecine sociale et préventive, LausanneObservation chez 25 sujets par 2 observateurs indépendants (X1, X2)1X2Xmean204.6201.8standard deviation55.753.7coefficient de 0.30.3variationccoorerféfilcaiteionntde0.917ccoorerféfilcaiteiontnidnetraclasse0.918Institut universitaire de médecine sociale et prévenItivUe, LMausSannPenalP•Robustesse•Validité•Impact•EfficiencePSMUIInstitut universitaire de médecine sociale et préventive, Lausanne
223242Validité•La validité d’un indicateur est sa capacité à mesurer adéquatement le phénomène observé•La validité est estimée par comparaison avec un étalon («gold standard») ou un test dont la validité est supérieure (best available reference test) : validation critique•Souvent, la validation critique d’un indicateur n’est pas possible : dès lors, validation prédictive, validation de construction, validation de convergence, etc.Institut universitaire de médecine sociale et prévenItivUe, LMausSannPeValidité•Les mesures de la validité d’un indicateur incluent :•Sensibilité et spécificité (pour les mesures discrètes)•Corrélation (pour les mesures métriques)PSMUIInstitut universitaire de médecine sociale et préventive, LausanneValidité: sensibilité et spécificité+M-MT+aba+bT-cdc+da+cb+d+M-MT+VPFPa+bT-FNVNc+da+cb+dIUMSPInstitut universitaire de médecine sociale et préventive, Lausanne
522672Validité: sensibilité et spécificité•La sensibilité est la capacité à classer lessujets affectés, ie, à distinguer entre vrais positifs et faux négatifs•La spécificité est la capacité à classer lessujets non affectés, ie, à distinguer entre vrais négatifs et faux positifs+M-MT+VPFPT-FNVNInstitut universitaire de médecine sociale et prévenItivUe, LaMusaSnnPeSensibilité et spécificité+M-MT+aba+bT-cdc+da+cb+dsensibilité=p(T+M+)=aa+cspécificité=p(T−M−)=db+dPSMUIInstitut universitaire de médecine sociale et préventive, LausanneSensibilité et spécificité: Cancer du sein+M-MPalpation T+132983+ mammoT-4563650Sensibiblitéa/(a+c)=132/(132+45)=74.6%Specificité:d/(b+d)=63650/(983+63650)=98.5%PSMUIInstitut universitaire de médecine sociale et préventive, Lausanne
822903Diagnostic prénatal : triple-test [Pescia et al. 1993]Triso21+Triso21-tTersitpl+e11401412tTersitpl+e5663466391670357051Sensibilité (Se) : 60 %Spécificité (Sp) : 94 %PSMUIInstitut universitaire de médecine sociale et préventive, LausanneSensitivity and specificity of Fecal ROCcTc, uNlotttiBnlgohoadm Ltaenscte (t F1O99B6;T)348: 1472-7•Sensitivity: 54%•Specificity: 98%PSMUIInstitut universitaire de médecine sociale et préventive, LausanneValidité: sensibilité et spécificité•La sensibilitéet la spécificitésontconsidérées commecaractérisantles propriétésintrinsèquesd’untestdiagnostiqueoude dépistage, car cesmesuressontindépendantesducontexted’applicationPSMUIInstitut universitaire de médecine sociale et préventive, Lausanne
132333Validité: sensibilité et spécificitéSensitivitySpecificityMammography78%to96%95%to97%Cervicalsmear>90%>97%FOBT51%to54%96%to98%PSA*79%to92%74%to92%PSMUIInstitut universitaire de médecine sociale et préventive, LausanneValidité: sensibilité et spécificité•En général, la spécificitédoitatteindre98% pour êtreacceptable, car uneerreurde 2% (tauxde faux positifs) crèe autantde faux positifsquede vraispositifs danscettepopulation MUIPSInstitut universitaire de médecine sociale et préventive, LausanneValidité: mesures métriques•Les résultats d’un test sont parfois exprimés en résultats métriques (continus)•Exemples:•Diamètre d’un anévrisme de l’aorte•Valeur d’un test sanguin•Valeur de la tension artérielle par mesure unique au bras vs. mesurée durant 24 heures•Dans ce cas la validation critique (ie, avec un test dont la validité est supérieure) se fait avec une corrélation simplePSMUIInstitut universitaire de médecine sociale et préventive, Lausanne