Welkom, lieve lezer. Vandaag duiken we samen in een fascinerend onderwerp dat vaak stof doet opwaaien in de wereld van data-analyse en statistiek: de scree test. Misschien heb je al eens gehoord van deze term, of misschien sta je net aan het begin van jouw ontdekkingsreis naar het vinden van de juiste dimensies voor jouw data. Wat jouw situatie ook is, ik neem je graag mee in de nuances van deze methode. Het gaat hier immers om het maken van belangrijke beslissingen over jouw data, en dat verdient aandacht en duidelijkheid.
Wat is de scree test precies?
In essentie is de scree test een visuele methode. Je gebruikt hem om te bepalen hoeveel factoren of componenten je het beste kunt behouden na een factoranalyse of een principal component analysis (PCA). Dit zijn technieken die we gebruiken om complexe datasets te vereenvoudigen, zonder te veel belangrijke informatie te verliezen. Denk eraan als het pellen van een ui: je wilt de kern vinden, maar je hoeft niet elke dunne laag te bewaren.
Wanneer je data analyseert, produceer je vaak een reeks waarden die de hoeveelheid variantie (de “informatie”) beschrijven die elke component verklaart. De scree test helpt je te beslissen waar het punt ligt waarop extra componenten nauwelijks nog iets toevoegen. Het is een beetje alsof je luistert naar een muzikale noot: op een gegeven moment wordt de toon zo zacht dat je hem nauwelijks meer hoort.
De wortels van de methode
De scree test is nauw verbonden met de theorie achter PCA. Elke component krijgt een eigenwaarde toegewezen. Deze eigenwaarde vertelt jou hoeveel van de totale variantie in de dataset die specifieke component verklaart. Hoe hoger de eigenwaarde, hoe belangrijker de component is voor het begrijpen van jouw data. Meer inzicht in hoe variantie wordt verklaard door componenten, kan soms ook gerelateerd zijn aan statistische significantie, net zoals bij de exacte Fisher test.
.
Je maakt een grafiek – de beroemde scree plot. Op de horizontale as (de x-as) zet je de nummers van de componenten. Op de verticale as (de y-as) zet je de bijbehorende eigenwaarden. Wat je zoekt, is een duidelijk knikpunt in deze grafiek. Dit knikpunt is cruciaal voor jouw factorselectie.
Hoe interpreteer je de scree plot?
Dit is het hart van de scree test. Je observeert de grafiek en je zoekt naar de plek waar de lijn scherp daalt en vervolgens afvlakt. Dit afvlakken noemen we de “scree” – het puin of gruis dat na een aardverschuiving achterblijft. Die componenten vóór de knik zijn de belangrijke fundamenten van jouw dataset.
Stel je voor dat je de componenten ordent van de meest verklarende naar de minst verklarende. De eerste paar componenten zullen een steile daling laten zien op de grafiek. Ze dragen elk veel bij aan de totale informatie.
Wanneer de daling minder steil wordt, en de lijn meer horizontaal loopt, betekent dit dat de volgende componenten slechts kleine hoeveelheden nieuwe, unieke informatie toevoegen. Het behouden van deze latere componenten leidt vaak tot overfitting in jouw model, een situatie waarin je model de ruis in de data te goed leert kennen, maar minder goed generaliseert naar nieuwe data.
VIDEO: 4K Test Monitor Kleur / Monitor-Farbtest (RGB en CMYK)
Het identificeren van het knikpunt
Het vinden van dat exacte knikpunt kan soms subjectief aanvoelen. Dit is een van de meest besproken aspecten van de scree test, en je bent daarin niet alleen. Er is geen universele, harde regel die voor elke dataset geldt. Het is een kwestie van zorgvuldige observatie en soms ook het toepassen van aanvullende criteria.
Wanneer je de scree plot bekijkt, let je op de volgende punten:
- De steilheid van de helling.
- De overgang van steil naar vlak.
- Waar het “logische” einde van de verklarende kracht lijkt te liggen.
Door componenten te selecteren tot aan dit visuele knikpunt, kies je voor een parsimonieuze oplossing. Dit betekent dat je de complexiteit van je model minimaliseert, terwijl je de maximale relevante informatie behoudt. Voor veel onderzoekers is dit de optimale dimensiereductie.
Wanneer gebruik je de scree test?
De scree test is een standaardprocedure wanneer je technieken zoals Principal Component Analysis (PCA) of Factoranalyse (FA) toepast. Je gebruikt hem specifiek wanneer je probeert de optimale aantal factoren in jouw gegevens te bepalen. Dit is belangrijk voor:
- Het versimpelen van complexe datasets.
- Het verbeteren van de interpreteerbaarheid van jouw model.
- Het verminderen van ruis en redundantie in de variabelen.
Stel, je hebt een vragenlijst met honderd items over klanttevredenheid. Factoranalyse helpt je te ontdekken dat deze honderd items eigenlijk in vijf onderliggende dimensies vallen (bijvoorbeeld: Prijs, Service, Productkwaliteit, Levering, Communicatie). De scree test helpt je dan te bepalen of die vijf dimensies echt noodzakelijk zijn, of dat je misschien met drie al een heel goed beeld krijgt.
Beperkingen en alternatieven: wat als de scree plot vaag is?
Hoewel de scree test een waardevol hulpmiddel is, is het belangrijk om te weten dat het niet de enige maatstaf is. Soms, vooral bij kleinere datasets of datasets met veel onderlinge ruis, is het knikpunt niet duidelijk te onderscheiden. De lijn kan geleidelijk afvlakken zonder een scherpe elleboog.
Wanneer de visuele inspectie van de scree plot je in de steek laat, zijn er gelukkig andere richtlijnen die je kunt overwegen om jouw keuze te ondersteunen. Deze methoden bieden een kwantitatieve aanvulling op jouw visuele beoordeling, zoals de nauwkeurige statistische analyse met de Fisher-test die je kunt raadplegen.
Kaiser-criterium: een kwantitatieve richtlijn
Een veelgebruikt, hoewel soms bekritiseerd, alternatief of aanvulling is het Kaiser-criterium. Dit criterium stelt dat je alleen die componenten moet behouden waarvan de eigenwaarde groter is dan 1. De gedachte hierachter is dat een component die minder dan 1 verklaart, minder variantie uitlegt dan één enkele oorspronkelijke variabele (ervan uitgaande dat de variabelen gestandaardiseerd zijn). Dit criterium is eenvoudig toe te passen en geeft een duidelijke drempelwaarde voor de componentselectie.
Lees meer hier
Verken deze relevante bronnen om je kennis over Scree test uit te breiden.
Cumulatieve verklaarde variantie
Een andere sterke methode is het kijken naar de cumulatieve verklaarde variantie. Je telt de variantie van de eerste, de eerste twee, de eerste drie componenten bij elkaar op, enzovoort. Veel analisten kiezen ervoor om de componenten te behouden totdat ze 70%, 80% of zelfs 90% van de totale variantie hebben verklaard. Jouw onderzoeksdoel bepaalt hier vaak de grens. Voor een exploratieve analyse is 70% wellicht genoeg, terwijl je voor een voorspellend model misschien dichter bij de 90% wilt zitten.
Door de scree test te combineren met een van deze kwantitatieve regels, krijg je een robuuster fundament voor jouw beslissing over het aantal hoofcomponenten. Je maakt jouw analyse minder afhankelijk van een enkel, soms ambigue, visueel element.
De impact van jouw keuze op het eindresultaat
Onthoud goed: het aantal componenten dat je kiest, heeft directe gevolgen voor hoe jij de rest van jouw data interpreteert en hoe goed jouw model presteert. Kies je er te weinig? Dan verlies je mogelijk belangrijke, subtiele patronen in jouw data. Kies je er te veel? Dan introduceer je onnodige complexiteit en ruis, wat leidt tot een minder betrouwbare of interpreteerbare uitkomst.
De scree test nodigt je uit tot een moment van reflectie. Het dwingt je om kritisch te kijken naar de ‘essentie’ van de informatie in jouw dataset. Het is een dialoog tussen jou en de data, waarbij de plot fungeert als jouw gids.
*
Veelgestelde vragen over de scree test
Wat is het belangrijkste doel van de scree test?
Het belangrijkste doel is om op een visuele manier het optimale aantal factoren of componenten te identificeren dat je moet behouden na een factoranalyse of PCA, door te zoeken naar het knikpunt in de grafiek van eigenwaarden.
Moet de eigenwaarde altijd groter zijn dan 1 voor een component?
Niet strikt noodzakelijk bij de scree test zelf, maar het Kaiser-criterium, een veelgebruikte aanvulling, stelt dat componenten met een eigenwaarde groter dan 1 behouden moeten worden. Dit is een veelgebruikte vuistregel.
Wat doe ik als het knikpunt in de scree plot niet duidelijk is?
Als het knikpunt vaag is, combineer je de visuele inspectie met kwantitatieve methoden. Kijk dan naar het cumulatieve percentage verklaarde variantie (bijvoorbeeld tot 80%) of pas het Kaiser-criterium toe als aanvullende richtlijn.
