Begrænsningerne ved selvrapportering af ikke-kognitive færdigheder

nylige beviser fra økonomi og psykologi fremhæver vigtigheden af andre træk end generel intelligens for succes i skolen og i livet. Forskelle i såkaldte “ikke-kognitive færdigheder” ser ud til at bidrage til det akademiske præstationskløft, der adskiller rige fra fattige studerende. Ikke-kognitive færdigheder kan også være mere formbar og dermed modtagelig for intervention end kognitiv evne, især ud over barndom og tidlig barndom. Forståeligt nok er den populære interesse for at måle og udvikle elevernes ikke-kognitive færdigheder steget.

som praksis og politik race fremad, men forskning på ikke-kognitive færdigheder forbliver i sin vorden. Der er ringe enighed om, hvilke færdigheder der er vigtigst, deres stabilitet inden for det samme individ i forskellige sammenhænge, og måske mest grundlæggende, hvordan de kan måles pålideligt. Mens præstationstest, der vurderer, hvor godt børn kan læse, skrive, og kryptering er bredt tilgængelige, ikke-kognitive færdigheder vurderes typisk ved hjælp af selvrapportering og, sjældnere, lærerrapporteringsspørgeskemaer. Ligesom præstationstest har spørgeskemaer fordelen ved hurtig, billig og nem administration. Og i modsætning til adfærdsmæssige fuldmagter, der kan bruges til at måle den samlede styrke af en studerendes karakter, kan spørgeskemaer udformes for at fange mere specifikke træk, der skal målrettes mod udvikling.

en åbenbar begrænsning af spørgeskemaer er, at de er underlagt forfalskning og derfor til social ønskværdighed bias. Når man overvejer, om et emne som “jeg er en hårdtarbejdende” skal mærkes “meget ligesom mig”, kan et barn (eller hendes lærer eller forælder) være tilbøjelig til at vælge en højere rating for at virke mere attraktiv for sig selv eller for andre. I det omfang, at social ønskværdighed bias er ensartet inden for en gruppe under undersøgelse, det vil puste individuelle svar op, men ikke ændre deres rangorden. Hvis nogle individer reagerer mere på socialt pres end andre, imidlertid, deres placering inden for den samlede fordeling af svar kan ændre sig.

muligvis mere besværligt er referenceforstyrrelse, som opstår, når undersøgelsessvar påvirkes af forskellige sammenligningsstandarder. Et barn, der beslutter, om hun er en hårdtarbejdende, skal fremkalde et mentalt billede af hårdt arbejde, som hun kan sammenligne sine egne vaner med. Et barn med høje standarder kan overveje en hårdtarbejdende at være en person, der gør alle sine lektier godt før sengetid og desuden organiserer og gennemgår alle sine noter fra dagens klasser. Et andet barn kan betragte en hårdtarbejdende som en, der bringer sine opgaver hjem og forsøger at gennemføre dem, selvom de fleste af dem forbliver ufærdige næste morgen.

for at illustrere potentialet for referenceforstyrrelse i selvrapporterede målinger af ikke-kognitive færdigheder trækker jeg på tværsnitsdata fra en prøve af Boston-studerende, der er diskuteret detaljeret i et nyligt arbejdsdokument. Kolleger fra Harvard, MIT og University of Pennsylvania og jeg brugte selvrapporteringsundersøgelser til at indsamle oplysninger om ikke-kognitive færdigheder fra mere end 1.300 ottende klasse studerende på tværs af 32 af byens offentlige skoler og linkede disse oplysninger til administrative data om elevernes adfærd og testresultater. De ikke-kognitive færdigheder, vi målte, inkluderer samvittighedsfuldhed, selvkontrol, og grus-et udtryk, der er opfundet af vores samarbejdspartner Angela Duckth for at fange elevernes tendens til at opretholde interessen for, og indsats mod, langsigtede mål.

det er vigtigt, at de skoler, som studerende deltager i vores prøve, inkluderer både offentlige skoler med åben tilmelding, der drives af det lokale skoledistrikt, og fem overtegnede charterskoler, der har vist sig at have store, positive virkninger på studerendes præstation målt ved statslige matematik-og engelsksprogede kunstprøver. Disse charterskoler har en” ingen undskyldninger ” orientering og et eksplicit fokus på at dyrke ikke-kognitive færdigheder som et middel til at fremme akademisk præstation og post-sekundær succes.vores resultater bekræfter, at de undersøgelser, vi administrerede, fanger forskelle i ikke-kognitive færdigheder, der er relateret til vigtige adfærdsmæssige og akademiske resultater. Figur 1a, 1b, og 1C sammenligner det gennemsnitlige antal fravær, andelen af studerende, der blev suspenderet, og den gennemsnitlige test-score gevinster mellem fjerde og ottende klasse af studerende, der rangerede i bunden – og topkvartil på hver færdighed. Det viser, for eksempel, at studerende, der vurderede sig selv i den nederste kvartil med hensyn til selvkontrol, var fraværende 2.9 flere dage end studerende i den øverste kvartil og var næsten tre gange så tilbøjelige til at være blevet suspenderet som ottende klassinger; lignende forskelle i fravær og suspensionsrater er tydelige for samvittighedsfuldhed og grus. Derudover udgør forskellene i test – score gevinster mellem bund-og topkvartilstuderende på hver ikke-kognitive færdighed næsten et helt års værd at lære i matematik i mellemskoleårene.

figur 1a. gennemsnitlige dage fraværende ved ikke-kognitiv færdighedskvartil

figur 1b. procent suspenderet ved ikke-kognitiv færdighedskvartil

figur 1C. Math test-score gevinster mellem 4.og 8. klasse, ved ikke-kognitiv færdighed kvartil

Bemærk: * angiver, at forskellen mellem bund – og top-kvartil studerende er statistisk signifikant på 95 procent konfidensniveau.paradoksalt nok forsvinder de positive forhold mellem disse selvrapporterede målinger af ikke-kognitive færdigheder og vækst i akademisk præstation, når foranstaltningerne aggregeres til skoleniveau. Med andre ord, skoler, hvor den gennemsnitlige studerende rapporterer højere niveauer af samvittighedsfuldhed, selvkontrol, og grus udviser ikke højere test-score gevinster end andre skoler. Faktisk, studerende i disse skoler ser ud til at lære lidt mindre.

dette paradoks er mest levende, når man sammenligner studerende, der deltager i “ingen undskyldninger” charterskoler, og dem, der deltager i distriktsskoler med åben tilmelding. På trods af at der opnås langt større testscoregevinster end studerende, der deltager i distriktsskoler med åben tilmelding, og på trods af den vægt, deres skoler lægger på at dyrke ikke-kognitive færdigheder, udviser charterskoleelever markant lavere gennemsnitlige niveauer af selvkontrol målt ved studerendes selvrapporter (se figur 2). Denne statistisk signifikante forskel på -0.23 standardafvigelser er i den modsatte retning af den forventede, baseret på forholdet mellem studentniveau mellem selvkontrol og test-score gevinster vist ovenfor. De gennemsnitlige forskelle mellem charter-og distriktsstuderende i samvittighedsfuldhed og grus, selvom statistisk ubetydelig, løber i samme kontraintuitive retning.

figur 2. Gennemsnitlige matematiske test-score gevinster og” ikke-kognitive færdigheder ” efter skoletype

Bemærk: * angiver, at forskellen mellem distrikts-og charterskoler er statistisk signifikant på 95 procent konfidensniveau.

to konkurrerende hypoteser kunne forklare dette paradoks. Den ene er, at foranstaltningerne er nøjagtige, og charterskolerne, på trods af deres succes med at hæve testresultater, og i modsætning til deres pædagogiske mål, svækker elevernes ikke-kognitive færdigheder langs afgørende dimensioner som samvittighedsfuldhed, selvkontrol, og grus.

alternativet og efter min mening mere plausibel hypotese er, at foranstaltningerne er vildledende på grund af referenceforstyrrelse, der stammer fra forskelle i skoleklima mellem distrikts-og charterskoler. Figur 3 bekræfter, at charterskolernes akademiske og disciplinære klima i vores prøve, som opfattet af deres studerende, adskiller sig faktisk fra dem fra distriktsskolerne med åben tilmelding. Charterstuderende vurderer lærerens strenghed, klarheden i reglerne, og den arbejdsmoral, der forventes af dem, er væsentligt højere end studerende i distriktsskoler. For eksempel overstiger charterstuderendes vurderinger af forventninger til studerendes adfærd deres distriktsmodeller med 0,57 på den 5-punkts skala, der bruges til disse varer. Studerende, der deltager i charterskoler, rapporterer også væsentligt lavere niveauer af negative peer-effekter og beskedent lavere niveauer af studerendes input i deres skoler. Selvfølgelig kommer disse data også fra selvrapporteringsundersøgelser og kan selv være underlagt referenceforstyrrelse. Ikke desto mindre foreslår de, at charterskolernes akademiske og disciplinære klima er forskellige på måder, der kan få deres elever til at sætte en højere bar, når de vurderer deres samvittighedsfuldhed, selvkontrol og grus.

figur 3. Akademiske og disciplinære klimaer som opfattet af studerende, efter skoletype

Bemærk: * angiver, at forskellen mellem distrikts-og charterskoler er statistisk signifikant på 95 procent konfidensniveau.

andre nylige undersøgelser af “ingen undskyldninger” charterskoler forstærker sandsynligheden for referenceforskydningshypotesen. For eksempel finder en Mathematica-evaluering fra 2013 af KIPP-mellemskoler store positive effekter på studerendes testresultater og tid brugt på lektier, men ingen effekter på studerendes rapporterede mål for selvkontrol og vedholdenhed i skolen. Tilsvarende vil Dobbie og Roland Fryer finde ud af, at deltagelse i Harlem Promise Academy reducerede studerendes rapporterede grus, på trods af at de havde positive effekter på testresultater og college-tilmelding og negative virkninger på teenagegraviditet (for kvinder) og fængsling (for mænd). Dette parallelle bevis fra forskning i lignende omgivelser bekræfter, at referenceforstyrrelse, der stammer fra forskelle i skoleklima, er den mest sandsynlige forklaring på disse paradoksale fund.

hvis de tilsyneladende negative virkninger af at deltage i en “ingen undskyldninger” charterskole på samvittighedsfuldhed, selvkontrol og grus faktisk afspejler referenceforstyrrelse, så viser vores data, at disse skoler påvirker de standarder, som eleverne holder sig til, når de vurderer deres egne ikke-kognitive færdigheder. Konsekvenserne af dette skift i normative standarder for deres faktiske adfærd både inden for og uden for skolen er naturligvis ukendte – og fortjener yderligere forskning.

som vigtigere ser det ud til, at eksisterende Undersøgelsesbaserede målinger af ikke-kognitive færdigheder, selvom de måske er nyttige til at foretage sammenligninger mellem studerende inden for det samme uddannelsesmiljø, er utilstrækkelige til at måle effektiviteten af skoler, lærere eller interventioner i kultivering af udviklingen af disse færdigheder. Evalueringer af virkningerne af Lærer -, skole-og familieindflydelse på udviklingen af ikke-kognitive færdigheder kan føre til falske konklusioner, hvis de anvendte vurderinger er forudindtaget af forskellige referencerammer.

i Hasten med at omfavne ikke-kognitive færdigheder som det manglende stykke i amerikansk uddannelse kan politikere overse begrænsningerne ved eksisterende foranstaltninger. Det er derfor vigtigt, at forskere og undervisere, der søger at forbedre elevernes ikke-kognitive færdigheder, udvikler alternative foranstaltninger, der er gyldige på tværs af en bred vifte af skoleindstillinger. I mellemtiden bør politikere modstå forslag om at indarbejde Undersøgelsesbaserede målinger af ikke-kognitive færdigheder i high-stakes ansvarlighedssystemer.

for at måle math test-score gevinster regresserede vi 8.klasse testresultater på et kubisk polynom af 4. klasse scoringer i både matematik og engelsk sprogkunst og brugte resterne fra denne regression som et mål for elevernes præstationer i forhold til forventningerne baseret på deres præstation, inden de gik ind i mellemskolen.

skøn over virkningen af at gå på en charterskole baseret på optagelseslotterier bekræfter, at disse mønstre ikke skyldes udvælgelse af studerende med svage ikke-kognitive færdigheder til charterskoler; snarere har hvert års deltagelse i et charter en statistisk signifikant negativ indvirkning på selvrapporteret samvittighedsfuldhed, selvkontrol og grus.

Print

Skriv et svar

Din e-mailadresse vil ikke blive publiceret.