Le limitazioni delle misure di auto-relazione delle abilità non cognitive

Recenti prove di economia e psicologia evidenziano l’importanza dei tratti diversi dall’intelligenza generale per il successo a scuola e nella vita. Le disparità nelle cosiddette “abilità non cognitive” sembrano contribuire al divario di rendimento scolastico che separa gli studenti ricchi da quelli poveri. Le abilità non cognitive possono anche essere più malleabili e quindi suscettibili di intervento rispetto alle capacità cognitive, in particolare oltre l’infanzia e la prima infanzia. Comprensibilmente, l’interesse popolare per misurare e sviluppare le capacità non cognitive degli studenti è aumentato.

Mentre la pratica e la politica avanzano, tuttavia, la ricerca sulle abilità non cognitive rimane nella sua infanzia. C’è poco accordo su quali siano le competenze più importanti, sulla loro stabilità all’interno dello stesso individuo in contesti diversi e, forse più fondamentalmente, su come possano essere misurate in modo affidabile. Mentre i test di realizzazione che valutano quanto bene i bambini possono leggere, scrivere e cifrare sono ampiamente disponibili, le abilità non cognitive sono in genere valutate utilizzando questionari di auto-relazione e, meno frequentemente, di relazione degli insegnanti. Come i test di realizzazione, i questionari hanno il vantaggio di un’amministrazione rapida, economica e facile. E a differenza dei proxy comportamentali che potrebbero essere utilizzati per valutare la forza complessiva del carattere di uno studente, i questionari possono essere creati per catturare tratti più specifici da indirizzare allo sviluppo.

Una ovvia limitazione dei questionari è che sono soggetti a falsificazione e, quindi, a pregiudizi di desiderabilità sociale. Quando si considera se un oggetto come “Sono un gran lavoratore” dovrebbe essere contrassegnato come “molto simile a me”, un bambino (o il suo insegnante o genitore) può essere incline a scegliere un punteggio più alto per apparire più attraente per se stessa o per gli altri. Nella misura in cui il bias di desiderabilità sociale è uniforme all’interno di un gruppo in studio, gonfierà le risposte individuali ma non altererà il loro ordine di rango. Se alcuni individui rispondono più di altri alla pressione sociale, tuttavia, il loro posizionamento all’interno della distribuzione complessiva delle risposte potrebbe cambiare.

Forse più fastidioso è il bias di riferimento, che si verifica quando le risposte al sondaggio sono influenzate da diversi standard di confronto. Un bambino che decide se è un gran lavoratore deve evocare un’immagine mentale di duro lavoro a cui può confrontare le proprie abitudini. Un bambino con standard elevati potrebbe considerare un gran lavoratore di essere qualcuno che fa tutti i suoi compiti ben prima di coricarsi e, inoltre, organizza e rivede tutti i suoi appunti dalle lezioni del giorno. Un altro bambino potrebbe considerare un gran lavoratore qualcuno che porta a casa i suoi compiti e tenta di completarli, anche se la maggior parte di loro rimangono incompiuti la mattina successiva.

Per illustrare il potenziale di bias di riferimento nelle misure auto-riportate delle abilità non cognitive, attingo a dati trasversali da un campione di studenti di Boston discussi in dettaglio in un recente documento di lavoro. Colleghi di Harvard, MIT, e l’Università della Pennsylvania e ho usato indagini self-report per raccogliere informazioni sulle capacità non cognitive da più di 1.300 studenti di terza media in 32 delle scuole pubbliche della città, e collegato queste informazioni ai dati amministrativi sul comportamento degli studenti e punteggi dei test. Le abilità non cognitive che abbiamo misurato includono coscienziosità, autocontrollo e grinta – un termine coniato dalla nostra collaboratrice Angela Duckworth per catturare la tendenza degli studenti a sostenere l’interesse e lo sforzo verso obiettivi a lungo termine.

È importante sottolineare che le scuole frequentate dagli studenti nel nostro campione includono sia scuole pubbliche a iscrizione aperta gestite dal distretto scolastico locale che cinque scuole charter sovra-sottoscritte che hanno dimostrato di avere un grande impatto positivo sui risultati degli studenti misurati dai test di matematica statale e di lingua inglese. Queste scuole charter hanno un orientamento “no excuses” e un focus esplicito sulla coltivazione di abilità non cognitive come mezzo per promuovere il successo accademico e il successo post-secondario.

I nostri risultati confermano che le indagini che abbiamo somministrato catturano le differenze nelle abilità non cognitive che sono legate a importanti risultati comportamentali e accademici. Figure 1a, 1b, e 1c confrontare il numero medio di assenze, la quota di studenti che sono stati sospesi, e la media dei guadagni test-score tra quarto e ottavo grado di studenti che si sono classificati nella parte inferiore – e top-quartile su ogni abilità. Mostra, ad esempio, che gli studenti che si sono classificati nel quartile inferiore rispetto all’autocontrollo erano assenti 2.9 più giorni rispetto agli studenti nel quartile superiore, ed erano quasi tre volte più probabilità di essere stato sospeso come terza media; differenze simili in assenze e tassi di sospensione sono evidenti per la coscienziosità e grinta. Inoltre, le differenze nei guadagni dei punteggi dei test tra gli studenti del quartile inferiore e superiore su ogni abilità non cognitiva ammontano a quasi un anno intero di apprendimento in matematica negli anni della scuola media.

Figura 1a. Giorni medi assenti, per abilità non cognitiva quartile

Figura 1b. Percentuale sospesa, per abilità non cognitiva quartile

Figura 1c. Math test-score guadagni tra 4 ° e 8 ° grado, da abilità non cognitive quartile

Nota: * indica che la differenza tra gli studenti bottom – e top-quartile è statisticamente significativa al 95 per cento livello di confidenza.

Paradossalmente, tuttavia, le relazioni positive tra queste misure auto-riportate di abilità non cognitive e la crescita del rendimento scolastico si dissipano quando le misure sono aggregate al livello scolastico. In altre parole, le scuole in cui lo studente medio riporta livelli più elevati di coscienziosità, autocontrollo e grinta non mostrano guadagni di punteggio più elevati rispetto ad altre scuole. In effetti, gli studenti di queste scuole sembrano imparare un po ‘ meno.

Questo paradosso è più vivido quando si confrontano gli studenti che frequentano le scuole charter “no excuses” e quelli che frequentano le scuole distrettuali a iscrizione aperta. Nonostante i guadagni di punteggio dei test molto più grandi rispetto agli studenti che frequentano le scuole distrettuali a iscrizione aperta, e nonostante l’enfasi che le loro scuole pongono sulla coltivazione delle abilità non cognitive, gli studenti delle scuole charter mostrano livelli medi di autocontrollo marcatamente inferiori misurati dai rapporti di auto-apprendimento degli studenti (vedi Figura 2). Questa differenza statisticamente significativa di -0.23 deviazioni standard è nella direzione opposta a quella prevista, in base alle relazioni a livello di studente tra autocontrollo e guadagni di punteggio del test visualizzati sopra. Le differenze medie tra la carta e gli studenti distrettuali in coscienziosità e grinta, anche se statisticamente insignificanti, corrono nella stessa direzione contro-intuitiva.

Figura 2. Guadagni medi dei test di matematica e “abilità non cognitive” per tipo di scuola

Nota: * indica che la differenza tra scuole distrettuali e charter è statisticamente significativa al livello di confidenza del 95%.

Due ipotesi concorrenti potrebbero spiegare questo paradosso. Uno è che le misure sono accurate e le scuole charter, nonostante il loro successo nell’aumentare i punteggi dei test, e contrariamente ai loro obiettivi pedagogici, indeboliscono le capacità non cognitive degli studenti lungo dimensioni cruciali come la coscienziosità, l’autocontrollo e la grinta.

L’ipotesi alternativa e, a mio avviso, più plausibile è che le misure siano fuorvianti a causa di pregiudizi di riferimento derivanti dalle differenze nel clima scolastico tra scuole distrettuali e charter. La figura 3 conferma che i climi accademici e disciplinari delle scuole charter nel nostro campione, come percepiti dai loro studenti, differiscono in realtà da quelli delle scuole distrettuali a iscrizione aperta. Gli studenti charter valutano la rigidità degli insegnanti, la chiarezza delle regole e l’etica del lavoro che ci si aspetta da loro sostanzialmente superiore a quella degli studenti delle scuole distrettuali. Ad esempio, le valutazioni degli studenti charter delle aspettative per il comportamento degli studenti superano quelle delle loro controparti distrettuali di 0,57 sulla scala a 5 punti utilizzata per questi elementi. Gli studenti che frequentano le scuole charter riportano anche livelli sostanzialmente inferiori di effetti negativi tra pari e livelli modestamente inferiori di input degli studenti nelle loro scuole. Naturalmente, questi dati provengono anche da indagini self-report e possono essere soggetti a pregiudizi di riferimento. Tuttavia, suggeriscono che i climi accademici e disciplinari delle scuole charter differiscono in modi che potrebbero portare i loro studenti a impostare un livello più alto nel valutare la loro coscienziosità, autocontrollo e grinta.

Figura 3. Climi accademici e disciplinari come percepiti dagli studenti, per tipo di scuola

Nota: * indica che la differenza tra scuole distrettuali e charter è statisticamente significativa al livello di confidenza del 95%.

Altri recenti studi sulle scuole charter “no excuses” rafforzano la plausibilità dell’ipotesi di bias di riferimento. Ad esempio, una valutazione Mathematica 2013 delle scuole medie KIPP trova grandi effetti positivi sui punteggi dei test degli studenti e sul tempo speso per i compiti a casa, ma nessun effetto sulle misure di autocontrollo e persistenza segnalate dagli studenti a scuola. Allo stesso modo, Dobbie e Roland Fryer scopriranno che frequentare l’Harlem Promise Academy ha ridotto la grinta riportata dagli studenti, nonostante abbia effetti positivi sui punteggi dei test e sull’iscrizione all’università, e effetti negativi sulla gravidanza adolescenziale (per le femmine) e l’incarcerazione (per i maschi). Questa evidenza parallela dalla ricerca in contesti simili conferma che il pregiudizio di riferimento derivante dalle differenze nel clima scolastico è la spiegazione più probabile per questi risultati paradossali.

Se gli effetti negativi apparenti di frequentare una scuola charter “no excuses” su coscienziosità, autocontrollo e grinta riflettono in realtà pregiudizi di riferimento, ciò che i nostri dati mostrano è che queste scuole influenzano gli standard a cui gli studenti si tengono quando valutano le proprie capacità non cognitive. Le conseguenze di questo cambiamento negli standard normativi per il loro comportamento effettivo sia all’interno che all’esterno della scuola sono ovviamente sconosciute e meritano ulteriori ricerche.

Come importante, sembra che le misure esistenti basate sull’indagine delle abilità non cognitive, sebbene forse utili per fare confronti tra studenti all’interno dello stesso ambiente educativo, siano inadeguate a misurare l’efficacia delle scuole, degli insegnanti o degli interventi nel coltivare lo sviluppo di tali abilità. Le valutazioni degli effetti delle influenze degli insegnanti, della scuola e della famiglia sullo sviluppo delle abilità non cognitive potrebbero portare a conclusioni false se le valutazioni utilizzate sono prevenute da distinti quadri di riferimento.

Nella fretta di abbracciare le abilità non cognitive come il pezzo mancante nell’educazione americana, i politici possono trascurare i limiti delle misure esistenti. È quindi essenziale che i ricercatori e gli educatori che cercano di migliorare le capacità non cognitive degli studenti sviluppino misure alternative valide in un’ampia gamma di contesti scolastici. Nel frattempo, i responsabili politici dovrebbero resistere alle proposte per incorporare misure basate su sondaggi di abilità non cognitive in sistemi di responsabilità ad alta posta in gioco.

Per misurare i guadagni dei test di matematica, abbiamo regredito i punteggi dei test di 8 ° grado su un polinomio cubico di punteggi di 4 ° grado sia in matematica che nelle arti della lingua inglese e abbiamo usato i residui di questa regressione come misura delle prestazioni degli studenti rispetto alle aspettative in base al loro

Le stime dell’impatto di frequentare una scuola charter sulla base di ammissioni lotterie confermano che questi modelli non sono dovuti alla selezione di studenti con deboli capacità non cognitive nelle scuole charter; piuttosto, la partecipazione di ogni anno a una carta ha un impatto negativo statisticamente significativo sulla coscienziosità, sull’autocontrollo e sulla grinta che si sono auto-riportati.

Stampa

Lascia un commento

Il tuo indirizzo email non sarà pubblicato.