際際滷

際際滷Share a Scribd company logo
Corso di Strategie e tecniche di valutazione dei prodotti e dei processi formativi A.A. 2009/2010
息 G.B. Ronsivalle 2010
1
Metavalutazione
LEZIONE 8
1
2
3
4
5
UD 9. Metavalutazione
Corso di Strategie e tecniche di valutazione dei prodotti e dei processi formativi A.A. 2009/2010
息 G.B. Ronsivalle 2010
2
Il concetto di metavalutazione
Finalit del processo di progettazione:
 misurare sistemi di conoscenze
 predisporre adeguati strumenti di analisi
 certificare validit e attendibilit del sistema di valutazione
 verificare lefficacia formativa
Metavalutazione
processo logico e coerente per garantire un intervento formativo efficace
UD 9. Metavalutazione
Corso di Strategie e tecniche di valutazione dei prodotti e dei processi formativi A.A. 2009/2010
息 G.B. Ronsivalle 2010
3
Attivit della fase di metavalutazione
Modulo 5. Metavalutazione
UD 1: Item analysis
UD 9. Metavalutazione
Corso di Strategie e tecniche di valutazione dei prodotti e dei processi formativi A.A. 2009/2010
息 G.B. Ronsivalle 2010
4
Validit e attendibilit dei test
Modulo 5. Metavalutazione
Metavalutazione  verifica validit e attendibilit
Errore sistematico  Errore casuale
1. Validit  il test misura effettivamente ci嘆 che si propone di misurare
Verifica:
 metodologia di costruzione degli item (albero obiettivi didattici)
 formulazione e validazione dei quesiti a priori (esperto di contenuti)
2. Attendibilit  il test, somministrato da persone diverse in contesti diversi allo stesso gruppo
di utenti, fornisce gli stessi risultati
Verifica:
 coerenza interna degli item
 concordanza tra le forme parallele dello stesso test (isomorfismo)
UD 9. Metavalutazione
Corso di Strategie e tecniche di valutazione dei prodotti e dei processi formativi A.A. 2009/2010
息 G.B. Ronsivalle 2010
5
Item analysis
Modulo 5. Metavalutazione
Controllo dellattendibilit dellitem attraverso la misurazione di efficacia, validit, omogeneit
(calcolo indici di difficolt, selettivit e distrattivit)
 differente gestione dei dati a seconda del tipo di test in esame (iniziale o finale)
Gli step:
a) registrare i punteggi analitici relativi ai singoli item di ciascun allievo
b) riportare in ordine crescente nelle prime due righe di un foglio elettronico i punteggi
complessivi di ciascun soggetto in corrispondenza del nome del soggetto stesso (per
visualizzare landamento progressivo della prova dai punteggi pi湛 bassi ai risultati migliori)
c) creare una colonna con la sequenza ordinata dei vari item (secondo le tipologie)
d) comporre la griglia mediante una serie di celle che rappresentino lintersezione tra il nome
del soggetto e lesito relativo al singolo item
e) riportare allinterno delle varie celle alcune indicazioni relative solamente agli item cui 竪 stata
fornita una risposta non esatta
UD 9. Metavalutazione
Corso di Strategie e tecniche di valutazione dei prodotti e dei processi formativi A.A. 2009/2010
息 G.B. Ronsivalle 2010
6
Item analysis: esempio
Modulo 5. Metavalutazione UD 9. Metavalutazione
Corso di Strategie e tecniche di valutazione dei prodotti e dei processi formativi A.A. 2009/2010
息 G.B. Ronsivalle 2010
7
Indice di difficolt
Modulo 5. Metavalutazione
Verifica facilit/difficolt dellitem
 Valore: 0/1
 Valore ottimale: 0,2/0,8
Calcolo indice di facilit (analisi a priori)
Calcolo indice di difficolt (analisi a posteriori)
UD 9. Metavalutazione
Corso di Strategie e tecniche di valutazione dei prodotti e dei processi formativi A.A. 2009/2010
息 G.B. Ronsivalle 2010
8
Indice di difficolt: esempio
Modulo 5. Metavalutazione UD 9. Metavalutazione
Corso di Strategie e tecniche di valutazione dei prodotti e dei processi formativi A.A. 2009/2010
息 G.B. Ronsivalle 2010
9
Indice di selettivit
Modulo 5. Metavalutazione
Verifica selettivit (discriminazione) dellitem
 Valore: -1/+1
 Valore ottimale: 0,2-0,8
 Coerenza interna tra item di uno stesso test (confronto della performance del
soggetto in un item e nel test generale)
Calcolo:
1. Ordinamento in ordine crescente della graduatoria dei punteggi
2. Suddivisione del campione in peggiori e migliori
3. Sottrazione n属 risposte esatte migliori- risposte esatte peggiori
4. Divisione per la numerosit dei subcampioni
UD 9. Metavalutazione
Corso di Strategie e tecniche di valutazione dei prodotti e dei processi formativi A.A. 2009/2010
息 G.B. Ronsivalle 2010
10
Indice di selettivit: esempio
Modulo 5. Metavalutazione UD 9. Metavalutazione
Corso di Strategie e tecniche di valutazione dei prodotti e dei processi formativi A.A. 2009/2010
息 G.B. Ronsivalle 2010
11
Indice di distrattivit
Modulo 5. Metavalutazione
Verifica distrattivit alternative di risposta di un item
 Controllo a livello delle opzioni di risposta
 Definizione della potenza dei distrattori
 Regola dellequiattrattivit
UD 1: Item analysis
UD 9. Metavalutazione
Corso di Strategie e tecniche di valutazione dei prodotti e dei processi formativi A.A. 2009/2010
息 G.B. Ronsivalle 2010
12
Indice di distrattivit: esempio
Modulo 5. Metavalutazione
UD 1: Item analysis
UD 9. Metavalutazione
Corso di Strategie e tecniche di valutazione dei prodotti e dei processi formativi A.A. 2009/2010
息 G.B. Ronsivalle 2010
13
Item Analysis: esempio
UD 9. Metavalutazione
Corso di Strategie e tecniche di valutazione dei prodotti e dei processi formativi A.A. 2009/2010
息 G.B. Ronsivalle 2010
14
Item Analysis: esempio
UD 9. Metavalutazione
Corso di Strategie e tecniche di valutazione dei prodotti e dei processi formativi A.A. 2009/2010
息 G.B. Ronsivalle 2010
15
Item Analysis: esempio
UD 9. Metavalutazione
Corso di Strategie e tecniche di valutazione dei prodotti e dei processi formativi A.A. 2009/2010
息 G.B. Ronsivalle 2010
16
Item Analysis: esempio
UD 9. Metavalutazione
Corso di Strategie e tecniche di valutazione dei prodotti e dei processi formativi A.A. 2009/2010
息 G.B. Ronsivalle 2010
17
Item Analysis: esempio
UD 9. Metavalutazione
Corso di Strategie e tecniche di valutazione dei prodotti e dei processi formativi A.A. 2009/2010
息 G.B. Ronsivalle 2010
18
Item Analysis: esempio
UD 9. Metavalutazione
Corso di Strategie e tecniche di valutazione dei prodotti e dei processi formativi A.A. 2009/2010
息 G.B. Ronsivalle 2010
19
Item Analysis: esercitazione
UD 9. Metavalutazione
Corso di Strategie e tecniche di valutazione dei prodotti e dei processi formativi A.A. 2009/2010
息 G.B. Ronsivalle 2010
20
Validit e attendibilit
UD 9. Metavalutazione
Corso di Strategie e tecniche di valutazione dei prodotti e dei processi formativi A.A. 2009/2010
息 G.B. Ronsivalle 2010
21
Misurare e verificare
UD 9. Metavalutazione
Corso di Strategie e tecniche di valutazione dei prodotti e dei processi formativi A.A. 2009/2010
息 G.B. Ronsivalle 2010
22
Parametri di valutazione e indicatori di qualit
UD 9. Metavalutazione
Corso di Strategie e tecniche di valutazione dei prodotti e dei processi formativi A.A. 2009/2010
息 G.B. Ronsivalle 2010
23
Parametri di valutazione e indicatori di qualit
UD 9. Metavalutazione
Corso di Strategie e tecniche di valutazione dei prodotti e dei processi formativi A.A. 2009/2010
息 G.B. Ronsivalle 2010
24
Efficacia formativa
UD 9. Metavalutazione
Corso di Strategie e tecniche di valutazione dei prodotti e dei processi formativi A.A. 2009/2010
息 G.B. Ronsivalle 2010
25
Efficacia formativa di 1属livello
UD 9. Metavalutazione
Qual 竪 il grado di incremento delle conoscenze/competenze alla fine
dellintervento formativo?
Corso di Strategie e tecniche di valutazione dei prodotti e dei processi formativi A.A. 2009/2010
息 G.B. Ronsivalle 2010
26
Efficacia formativa di 2属livello
UD 9. Metavalutazione
Qual 竪 il grado di incremento di omogeneit delle conoscenze/competenze alla fine
dellintervento formativo?
Obiettivo: ponderare lefficacia generica di I livello  incremento del livello di
omogeneit delle conoscenze/competenze finali rispetto al livello di dispersione
registrato allinizio dellintervento stesso.
Corso di Strategie e tecniche di valutazione dei prodotti e dei processi formativi A.A. 2009/2010
息 G.B. Ronsivalle 2010
27
Efficacia formativa di 3属livello
UD 9. Metavalutazione
Qual 竪 il grado di corrispondenza tra i tempi di apprendimento previsti in fase di
progettazione e il tempo di apprendimento reale?
Indice composto  rappresentazione sintetica:
 apprendimento
 fabbisogno formativo
 omogeneit delle competenze acquisite
 aderenza ai vincoli temporali stimati in fase di macroprogettazione del corso.
Tempo di apprendimento
reale
Tempo di apprendimento previsto
Corso di Strategie e tecniche di valutazione dei prodotti e dei processi formativi A.A. 2009/2010
息 G.B. Ronsivalle 2010
28
Efficacia formativa composta
UD 9. Metavalutazione
Qual 竪 il grado di correlazione tra efficacia oggettiva dellintervento e qualit
percepita?
Efficacia formativa Qualit percepita
Dimensione oggettiva Dimensione soggettiva
Corso di Strategie e tecniche di valutazione dei prodotti e dei processi formativi A.A. 2009/2010
息 G.B. Ronsivalle 2010
29
Efficienza
UD 9. Metavalutazione
Corso di Strategie e tecniche di valutazione dei prodotti e dei processi formativi A.A. 2009/2010
息 G.B. Ronsivalle 2010
30
Costo/efficacia
UD 9. Metavalutazione
M.Loi, La dimensione economica della progettazione
didattica, in Ronsivalle, Carta, Metus (a cura di), Larte
della progettazione didattica, FrancoAngeli, 2009, V,
Cap.3
Qual 竪 il grado di efficienza dellintervento formativo?
Lindice di efficienza costo/efficacia 竪 dato dal rapporto tra il valore del
Costo Totale dellintervento formativo (CT) e lindice di Efficacia generale
(E), dove:
CT = somma di costi fissi e costi variabili
E = somma ponderata dei vari indici di efficacia delle attivit didattiche
con
Corso di Strategie e tecniche di valutazione dei prodotti e dei processi formativi A.A. 2009/2010
息 G.B. Ronsivalle 2010
31
Riferimenti bibliografici
UD 9. Metavalutazione
Ronsivalle G.B., Carta S., Metus V.
Larte della progettazione didattica
Franco Angeli, Milano, 2009
Ronsivalle G.B.
Docimologia. Ars magna lucis et umbrae
in FOR Rivista per la formazione. Tendenze, Pratiche,
Strumenti, AIF, Anno XXIII n. 80, luglio-settembre
Franco Angeli, Milano, 2009.

More Related Content

Metavalutazione

  • 1. Corso di Strategie e tecniche di valutazione dei prodotti e dei processi formativi A.A. 2009/2010 息 G.B. Ronsivalle 2010 1 Metavalutazione LEZIONE 8 1 2 3 4 5 UD 9. Metavalutazione
  • 2. Corso di Strategie e tecniche di valutazione dei prodotti e dei processi formativi A.A. 2009/2010 息 G.B. Ronsivalle 2010 2 Il concetto di metavalutazione Finalit del processo di progettazione: misurare sistemi di conoscenze predisporre adeguati strumenti di analisi certificare validit e attendibilit del sistema di valutazione verificare lefficacia formativa Metavalutazione processo logico e coerente per garantire un intervento formativo efficace UD 9. Metavalutazione
  • 3. Corso di Strategie e tecniche di valutazione dei prodotti e dei processi formativi A.A. 2009/2010 息 G.B. Ronsivalle 2010 3 Attivit della fase di metavalutazione Modulo 5. Metavalutazione UD 1: Item analysis UD 9. Metavalutazione
  • 4. Corso di Strategie e tecniche di valutazione dei prodotti e dei processi formativi A.A. 2009/2010 息 G.B. Ronsivalle 2010 4 Validit e attendibilit dei test Modulo 5. Metavalutazione Metavalutazione verifica validit e attendibilit Errore sistematico Errore casuale 1. Validit il test misura effettivamente ci嘆 che si propone di misurare Verifica: metodologia di costruzione degli item (albero obiettivi didattici) formulazione e validazione dei quesiti a priori (esperto di contenuti) 2. Attendibilit il test, somministrato da persone diverse in contesti diversi allo stesso gruppo di utenti, fornisce gli stessi risultati Verifica: coerenza interna degli item concordanza tra le forme parallele dello stesso test (isomorfismo) UD 9. Metavalutazione
  • 5. Corso di Strategie e tecniche di valutazione dei prodotti e dei processi formativi A.A. 2009/2010 息 G.B. Ronsivalle 2010 5 Item analysis Modulo 5. Metavalutazione Controllo dellattendibilit dellitem attraverso la misurazione di efficacia, validit, omogeneit (calcolo indici di difficolt, selettivit e distrattivit) differente gestione dei dati a seconda del tipo di test in esame (iniziale o finale) Gli step: a) registrare i punteggi analitici relativi ai singoli item di ciascun allievo b) riportare in ordine crescente nelle prime due righe di un foglio elettronico i punteggi complessivi di ciascun soggetto in corrispondenza del nome del soggetto stesso (per visualizzare landamento progressivo della prova dai punteggi pi湛 bassi ai risultati migliori) c) creare una colonna con la sequenza ordinata dei vari item (secondo le tipologie) d) comporre la griglia mediante una serie di celle che rappresentino lintersezione tra il nome del soggetto e lesito relativo al singolo item e) riportare allinterno delle varie celle alcune indicazioni relative solamente agli item cui 竪 stata fornita una risposta non esatta UD 9. Metavalutazione
  • 6. Corso di Strategie e tecniche di valutazione dei prodotti e dei processi formativi A.A. 2009/2010 息 G.B. Ronsivalle 2010 6 Item analysis: esempio Modulo 5. Metavalutazione UD 9. Metavalutazione
  • 7. Corso di Strategie e tecniche di valutazione dei prodotti e dei processi formativi A.A. 2009/2010 息 G.B. Ronsivalle 2010 7 Indice di difficolt Modulo 5. Metavalutazione Verifica facilit/difficolt dellitem Valore: 0/1 Valore ottimale: 0,2/0,8 Calcolo indice di facilit (analisi a priori) Calcolo indice di difficolt (analisi a posteriori) UD 9. Metavalutazione
  • 8. Corso di Strategie e tecniche di valutazione dei prodotti e dei processi formativi A.A. 2009/2010 息 G.B. Ronsivalle 2010 8 Indice di difficolt: esempio Modulo 5. Metavalutazione UD 9. Metavalutazione
  • 9. Corso di Strategie e tecniche di valutazione dei prodotti e dei processi formativi A.A. 2009/2010 息 G.B. Ronsivalle 2010 9 Indice di selettivit Modulo 5. Metavalutazione Verifica selettivit (discriminazione) dellitem Valore: -1/+1 Valore ottimale: 0,2-0,8 Coerenza interna tra item di uno stesso test (confronto della performance del soggetto in un item e nel test generale) Calcolo: 1. Ordinamento in ordine crescente della graduatoria dei punteggi 2. Suddivisione del campione in peggiori e migliori 3. Sottrazione n属 risposte esatte migliori- risposte esatte peggiori 4. Divisione per la numerosit dei subcampioni UD 9. Metavalutazione
  • 10. Corso di Strategie e tecniche di valutazione dei prodotti e dei processi formativi A.A. 2009/2010 息 G.B. Ronsivalle 2010 10 Indice di selettivit: esempio Modulo 5. Metavalutazione UD 9. Metavalutazione
  • 11. Corso di Strategie e tecniche di valutazione dei prodotti e dei processi formativi A.A. 2009/2010 息 G.B. Ronsivalle 2010 11 Indice di distrattivit Modulo 5. Metavalutazione Verifica distrattivit alternative di risposta di un item Controllo a livello delle opzioni di risposta Definizione della potenza dei distrattori Regola dellequiattrattivit UD 1: Item analysis UD 9. Metavalutazione
  • 12. Corso di Strategie e tecniche di valutazione dei prodotti e dei processi formativi A.A. 2009/2010 息 G.B. Ronsivalle 2010 12 Indice di distrattivit: esempio Modulo 5. Metavalutazione UD 1: Item analysis UD 9. Metavalutazione
  • 13. Corso di Strategie e tecniche di valutazione dei prodotti e dei processi formativi A.A. 2009/2010 息 G.B. Ronsivalle 2010 13 Item Analysis: esempio UD 9. Metavalutazione
  • 14. Corso di Strategie e tecniche di valutazione dei prodotti e dei processi formativi A.A. 2009/2010 息 G.B. Ronsivalle 2010 14 Item Analysis: esempio UD 9. Metavalutazione
  • 15. Corso di Strategie e tecniche di valutazione dei prodotti e dei processi formativi A.A. 2009/2010 息 G.B. Ronsivalle 2010 15 Item Analysis: esempio UD 9. Metavalutazione
  • 16. Corso di Strategie e tecniche di valutazione dei prodotti e dei processi formativi A.A. 2009/2010 息 G.B. Ronsivalle 2010 16 Item Analysis: esempio UD 9. Metavalutazione
  • 17. Corso di Strategie e tecniche di valutazione dei prodotti e dei processi formativi A.A. 2009/2010 息 G.B. Ronsivalle 2010 17 Item Analysis: esempio UD 9. Metavalutazione
  • 18. Corso di Strategie e tecniche di valutazione dei prodotti e dei processi formativi A.A. 2009/2010 息 G.B. Ronsivalle 2010 18 Item Analysis: esempio UD 9. Metavalutazione
  • 19. Corso di Strategie e tecniche di valutazione dei prodotti e dei processi formativi A.A. 2009/2010 息 G.B. Ronsivalle 2010 19 Item Analysis: esercitazione UD 9. Metavalutazione
  • 20. Corso di Strategie e tecniche di valutazione dei prodotti e dei processi formativi A.A. 2009/2010 息 G.B. Ronsivalle 2010 20 Validit e attendibilit UD 9. Metavalutazione
  • 21. Corso di Strategie e tecniche di valutazione dei prodotti e dei processi formativi A.A. 2009/2010 息 G.B. Ronsivalle 2010 21 Misurare e verificare UD 9. Metavalutazione
  • 22. Corso di Strategie e tecniche di valutazione dei prodotti e dei processi formativi A.A. 2009/2010 息 G.B. Ronsivalle 2010 22 Parametri di valutazione e indicatori di qualit UD 9. Metavalutazione
  • 23. Corso di Strategie e tecniche di valutazione dei prodotti e dei processi formativi A.A. 2009/2010 息 G.B. Ronsivalle 2010 23 Parametri di valutazione e indicatori di qualit UD 9. Metavalutazione
  • 24. Corso di Strategie e tecniche di valutazione dei prodotti e dei processi formativi A.A. 2009/2010 息 G.B. Ronsivalle 2010 24 Efficacia formativa UD 9. Metavalutazione
  • 25. Corso di Strategie e tecniche di valutazione dei prodotti e dei processi formativi A.A. 2009/2010 息 G.B. Ronsivalle 2010 25 Efficacia formativa di 1属livello UD 9. Metavalutazione Qual 竪 il grado di incremento delle conoscenze/competenze alla fine dellintervento formativo?
  • 26. Corso di Strategie e tecniche di valutazione dei prodotti e dei processi formativi A.A. 2009/2010 息 G.B. Ronsivalle 2010 26 Efficacia formativa di 2属livello UD 9. Metavalutazione Qual 竪 il grado di incremento di omogeneit delle conoscenze/competenze alla fine dellintervento formativo? Obiettivo: ponderare lefficacia generica di I livello incremento del livello di omogeneit delle conoscenze/competenze finali rispetto al livello di dispersione registrato allinizio dellintervento stesso.
  • 27. Corso di Strategie e tecniche di valutazione dei prodotti e dei processi formativi A.A. 2009/2010 息 G.B. Ronsivalle 2010 27 Efficacia formativa di 3属livello UD 9. Metavalutazione Qual 竪 il grado di corrispondenza tra i tempi di apprendimento previsti in fase di progettazione e il tempo di apprendimento reale? Indice composto rappresentazione sintetica: apprendimento fabbisogno formativo omogeneit delle competenze acquisite aderenza ai vincoli temporali stimati in fase di macroprogettazione del corso. Tempo di apprendimento reale Tempo di apprendimento previsto
  • 28. Corso di Strategie e tecniche di valutazione dei prodotti e dei processi formativi A.A. 2009/2010 息 G.B. Ronsivalle 2010 28 Efficacia formativa composta UD 9. Metavalutazione Qual 竪 il grado di correlazione tra efficacia oggettiva dellintervento e qualit percepita? Efficacia formativa Qualit percepita Dimensione oggettiva Dimensione soggettiva
  • 29. Corso di Strategie e tecniche di valutazione dei prodotti e dei processi formativi A.A. 2009/2010 息 G.B. Ronsivalle 2010 29 Efficienza UD 9. Metavalutazione
  • 30. Corso di Strategie e tecniche di valutazione dei prodotti e dei processi formativi A.A. 2009/2010 息 G.B. Ronsivalle 2010 30 Costo/efficacia UD 9. Metavalutazione M.Loi, La dimensione economica della progettazione didattica, in Ronsivalle, Carta, Metus (a cura di), Larte della progettazione didattica, FrancoAngeli, 2009, V, Cap.3 Qual 竪 il grado di efficienza dellintervento formativo? Lindice di efficienza costo/efficacia 竪 dato dal rapporto tra il valore del Costo Totale dellintervento formativo (CT) e lindice di Efficacia generale (E), dove: CT = somma di costi fissi e costi variabili E = somma ponderata dei vari indici di efficacia delle attivit didattiche con
  • 31. Corso di Strategie e tecniche di valutazione dei prodotti e dei processi formativi A.A. 2009/2010 息 G.B. Ronsivalle 2010 31 Riferimenti bibliografici UD 9. Metavalutazione Ronsivalle G.B., Carta S., Metus V. Larte della progettazione didattica Franco Angeli, Milano, 2009 Ronsivalle G.B. Docimologia. Ars magna lucis et umbrae in FOR Rivista per la formazione. Tendenze, Pratiche, Strumenti, AIF, Anno XXIII n. 80, luglio-settembre Franco Angeli, Milano, 2009.