Download/View File - Università degli Studi di Perugia
Transcript
Download/View File - Università degli Studi di Perugia
Technical Report: 01/07/2001 SULLA RIPARTIZIONE DEI CREDITI TRA ATTIVITA' FORMATIVE Riflessioni su problemi e strumenti metodologici nella prospettiva della autonomia Giulio D'Epifanio Dipart. di Scienze Statistiche, Universita' di Perugia, Via A.Pascoli 06100, Perugia. E-mail: [email protected] Abstract. In this paper we consider the problem to allocate credit scores to didactic activities, in order to schedule them in new courses. We remark the antagonist valences of the normative concept of “credit”, depending essentially by their practical use. In the framework of the statistical-mathematical programmation, we delineate a system to assign budgets - to the concurrent didactic activities – of the student-time, which depends on the level of programmated results and constraints. Budgeting requires the statistical identification of a function, which is able to predict the level of results from the required student-time, conditional on the initial cultural background of the student. For this purpose, structural models with latent variable, Lisrel-like, could be useful tools. Parole chiave: Credito formativo, Equazioni strutturali, Programmazione statisticomatematica di attività, Qualità della didattica 1. Introduzione. 1.1. Il quadro generale, motivazioni. Nella prospettiva generale del miglioramento della qualità dei servizi di pubblica utilità e di una sempre maggiore razionalizzazione nella allocazione delle risorse, non solo quelle materiali ma anche e soprattutto quelle umane, si collocano strategie per aumentare l’efficacia e la efficienza del sistema universitario. La riforma in atto dovrebbe fornire gli strumenti tecnico-normativi per la progettazione e la realizzazione di nuovi corsi di studio. Tra questi strumenti, previsti nel decreto attuativo della autonomia didattica il sistema dei crediti formativi, insieme alla modularizzazione delle attività (organizzazione delle attività didattiche in unità, organizzate per obiettivi didattici dichiarati, strutturate e integrate in un progetto formativo complessivo coerente) assume un ruolo chiave. Le nuove norme concernenti l'autonomia didattica degli atenei definiscono, infatti, le specifiche che vincolano la progettazione della offerta formativa in termini di crediti formativi, per tipo di classe di laurea. Riportiamo a questo proposito il parere ufficiale espresso dal CUN (8/6/2000, parere generale n. 45, www.murst.it/CUN/novita'/notizie-60.htm): "… il quadro della riforma sarà vanificato se il sistema dei crediti verrà applicato in modo superficiale o addirittura in antitesi con la natura ad esso 28/09/06D:\DOCUMENTI LAVORO\DOCUMENTI LAVORO\Articoli\ArticoliPubblicati\Valutazione\CreditiFormativi\CreditiPaperEditCompleto.doc intrinseca, …. Le strutture didattiche nella costruzione dei corsi di laurea e quindi nell'attribuzione dei crediti a ciascun insegnamento o attività prevista non dovranno né potranno esimersi dall'entrare e dall'operare nel merito." Con il nuovo ordinamento per la prima volta, il tempo complessivamente richiesto (il monte-ore complessivo), ad uno studente-tipo per conseguire il diploma, viene considerato dal legislatore come una risorsa critica, vincolata cioè da un tetto massimo prestabilito. Sicuramente, il sistema dei crediti riporta ad una problematica complessa che si intreccia con quella della qualità - quindi della valutazione e certificazione - della didattica, nelle molteplici, perfino contraddittorie, valenze (D'Epifanio, 2000) che questo termine può assumere. 1.2. Finalità ed obiettivi del lavoro. La finalità sottostante questo lavoro è di mettere a fuoco la problematica connessa con la introduzione del concetto di credito formativo, nel quadro della riforma in atto nel sistema universitario che conferisce sempre maggiore autonomia (finanziaria, gestionale e didattica) ai singoli atenei. Tra gli obiettivi, quello di evidenziare la difficoltà di operazionalizzare in modo non ambiguo il concetto normativo di credito formativo senza espliciti riferimenti alla sua utilizzazione (a cosa dovrebbe servire) e agli attori coinvolti (a chi dovrebbe servire). Quindi, quello di evidenziare il legame tra il sistema dei crediti e il sistema qualità, dei prodotti e dei processi formativi. La necessità di disporre di uno strumento di lavoro finalizzato alla progettazione di corsi di studio (Art. 12, GU n.2 del 4/1/00), porta infine questo lavoro a focalizzare la attenzione essenzialmente sul problema della assegnazione dei crediti formativi, intesi questi come carichi di lavoro richiesti ad uno studente-tipo per realizzare gli obiettivi didattici programmati. Nella prospettiva di sviluppare strumenti utili alla (ri-)programmazione di corsi di studio, l'obiettivo specifico di questo lavoro sarà quindi quello di individuare ingredienti e strumenti concettuali a supporto dello sviluppo di un sistema di accreditamento, esplicitamente condizionato da scelte politiche-programmatiche. 1.3. A chi e a cosa dovrebbe servire il sistema che si propone. Un sistema di accreditamento (di budgeting), per essere utile nella pianificazione di corsi di studio attività (Art. 12, GU n.2 del 4/1/00), dovrebbe essere funzionale agli obiettivi che il processo formativo globalmente persegue, nello specifico contesto in cui si realizza. Dovrebbe quindi servire al management didattico (di ateneo, di facoltà, di corso di studio) per la programmazione iniziale (ex ante) delle attività, quindi per una loro ri-programmazione (ex-post) con lo scopo di ottimizzare il carico di lavoro richiesto a uno studente-tipo rispetto agli obiettivi di risultato (micro e macro) che il progetto formativo persegue. 1.4. Lineamenti metodologici. All'interno di un progetto formativo, la risorsa "lavoro dello studente" costituisce quella risorsa critica e pregiata che dovrà essere ripartita tra attività didattiche che la richiedono nello stesso intervallo di tempo, in questo senso concorrenti, benche` cooperanti alla realizzazione del comune profilo culturale-professionale che il corso di studio persegue. Pianificate le attività, stabilite condizioni e vincoli, modelli di programmazione matematica potranno costituire un potente strumento per individuare i carichi di lavoro ottimali in funzione degli obiettivi di risultato programmati (sia a livello micro che macro), una volta che sia stata identificata una ragionevole funzione di 28/09/06D:\DOCUMENTI LAVORO\DOCUMENTI LAVORO\Articoli\ArticoliPubblicati\Valutazione\CreditiFormativi\CreditiPaperEditCompleto.doc accreditamento che colleghi carichi di lavoro a livelli di risultato, condizionatamente al profilo caratterizzante un tipo di studente “target”. Il cuore del problema statistico consisterà dunque nella determinazione di una ragionevole funzioni di accreditamento; modelli statistico-probabilistici di tipo strutturale (“mean and covariance-structure models”, “multi-level”, etc.) forniranno potenti linguaggi per specificare un adeguato schema concettuale entro cui una funzione di accreditamento potrà essere non solo determinata ma anche interpretata. 1.5. Organizzazione del lavoro Nel paragrafo 2 si introduce la problematica connessa alla traduzione del concetto di credito formativo, da un piano normativo a uno esecutivo. Si evidenziano alcune ambiguità, soprattutto si delineano collegamenti tra il Sistema dei Crediti e il Sistema Qualità, quindi scenari di impatto del Sistema dei Crediti sul sistema universitario. Nel paragrafo 3 si introduce il problema della ripartizione dei crediti, intesi come carichi di lavoro, in relazione alla programmazione delle attività didattiche in corsi di studio. Nel paragrafo 4, si formalizza il problema della allocazione ottimale dei carichi di lavoro (budgeting), nel quadro della programmazione matematica. Questo problema rimanda alla necessità di identificare, dai dati, una funzione di accreditamento, utilizzando concetti e strumenti statistici. Nel paragrafo 5, si delinea quindi l’uso di modelli ad equazioni strutturali e si accenna a prospettive di ricerca future. 2. Valenze del concetto di credito formativo. 2.1. Definizioni normative e riflessioni preliminari. Riportiamo per completezza alcune definizioni riprese dal DL 3 nov. 1999 n. 509, GU n.2 del 4/1/00: • (art.1, punto l e m) Credito formativo: "La misura del volume di lavoro di apprendimento, compreso lo studio individuale, richiesto a uno studente in possesso di adeguata preparazione iniziale per soddisfare gli obiettivi formativi". Obiettivi formativi: ``l'insieme di conoscenze ed abilità che caratterizzano il profilo culturale e professionale, al conseguimento delle quali il corso di studio è finalizzato" • (art. 5, comma 1) Al credito formativo corrispondono 25 ore di lavoro per studente;. La ambiguità semantica del concetto di credito qui riportata, che indicheremo con il termine credito normativo, nasce dall’uso della stessa parola "credito formativo" per indicare sia il sistema di misurazione della grandezza "carico di lavoro effettivo" che la unità di tempo (il tempo-studente) per rappresentare le misure, imposta per decreto a 25 ore. 2.2. Valenze antagoniste del concetto di credito normativo: credito nominale e carico di sostanziale Il concetto di credito normativo tenderà ad assumere operativamente valenze diverse, quella di credito nominale e di credito sostanziale (carico di lavoro effettivo), che corrispondono presumibilmente a due tipi di esigenze sottostanti le norme emanate: (1) Facilitare transazioni (scambi) in un circuito (network) accademico globale 28/09/06D:\DOCUMENTI LAVORO\DOCUMENTI LAVORO\Articoli\ArticoliPubblicati\Valutazione\CreditiFormativi\CreditiPaperEditCompleto.doc integrato. Il sistema dei crediti dovrebbe dunque servire a: • promuovere una maggiore integrazione didattica del sistema universitario nazionale, favorendo scambi di studenti tra corsi di studio gestiti anche da organizzazioni diverse, dentro e fuori ogni singolo corso di studio • aggiungere ulteriore flessibilità ai percorsi formativi praticabili dagli studenti • facilitare comunque gli studenti nel conseguimento del diploma (nel minor tempo possibile) recuperando attività già svolte (in altri corsi di studio, in altre sedi), anche su percorsi diversi da quelli inizialmente scelti. Il concetto di "credito formativo" assume qui una valenza nominale, quella tipica di una moneta di scambio1. Virtualmente basata su un ipotetico valore intrinseco invariante (il tempo-studente), il valore di questa moneta discende sostanzialmente dal riconoscimento del suo uso all'interno di un circuito che convenzionalmente la adotta. Il valore del credito è dunque "network-dependent". (2) Fornire una guida metodologica per la (ri-)programmazione e realizzazione di corsi di studio • efficaci, rispetto al conseguimento di specifici obiettivi formativi; progettati dunque per rispondere alle esigenze specifiche di potenziali attoricommittenti nella società civile (stato, autonomie locali, mercato, famiglie, etc.) • efficienti, dimensionati il modo di ottimizzare i carichi di lavoro richiesti ad uno studente-tipo di riferimento rispetto ai risultati programmati. Il concetto di "credito formativo" assume qui una valenza sostanziale, quella di carico di lavoro effettivo. La assegnazione di valori ai crediti dovrà e potrà dunque avere una base scientifica, condizionata però da scelte programmatiche e condizioni di contesto. La validità del sistema di accreditamento risulterà intrinseca allo specifico progetto formativo in cui si colloca, difficile dunque da trasferire in altri contesti. Il valore del credito risulterà dunque "goal and context-dependent". La valenza specifica, "goal and context-dependent", del credito sostanziale sembra dunque irriducibile a quella invariante, "network-dependent", del credito nominale. Da una parte la autonomia porterebbe ogni singolo corso di studio a dotarsi di un sistema di crediti auto-calibrato su se stesso; dall'altra, la esigenza di integrazione porterebbe alla necessità di sviluppare un sistema di regole condivise per il riconoscimento degli stessi da parte delle altre organizzazioni, almeno entro classi di laurea. 2.3. Sistema dei crediti e sistema qualità. Scenari di impatto Un sistema per la attribuzione dei crediti condiviso da organizzazioni diverse, entro uno 1 In questa ottica, il sistema dei crediti tende a mimare quello del circuito europeo ECTS (European Credit Transfert System), nella prospettiva di integrare il network nazionale con quello europeo. 28/09/06D:\DOCUMENTI LAVORO\DOCUMENTI LAVORO\Articoli\ArticoliPubblicati\Valutazione\CreditiFormativi\CreditiPaperEditCompleto.doc stesso circuito, non potra’ che essere un sistema nominale2. Emergera’ quindi la esigenza di un sistema basato sulla aderenza, di tutte le organizzazioni nello stesso circuito, a criteri e protocolli comuni per la assegnazione dei crediti. Soprattutto, si porra’ la necessità di sistemi condivisi per la valutazione della qualità del prodotto formativo, con espliciti riferimenti a standard di risultato (in termini di conoscenze, competenze, capacità) da garantire e certificare a livello di preparazione individuale. In un contesto ove è ribadito il comune valore legale dei titoli, il sistema di certificazione ed accreditamento dei corsi di studio dovrebbe essere istituzionalizzato. Paradigmi della Total Quality (customer satisfaction, innovazione, miglioramento continuo, qualità tecnica, etc.), per quanto generici, potranno essere comunque utili per stabilire punti di riferimento condivisi tra le diverse organizzazioni. In un ipotetico scenario in cui verrebbe abolito il valore legale, non è difficile immaginare la costituzione spontanea di circuiti, consorzi costituiti da strutture universitarie che, sulla base di principi e prassi concordate, si accreditino reciprocamente, anche e soprattutto sulla reciproca fiducia. Quindi la costituzione di circuiti costituito da università di serie “A”, “B”. Si vuole pertanto qui enfatizzare il seguente passaggio: Nella programmazione di corsi di studio, la vera assegnazione dei crediti non sarà quella elaborata da una commissione interna, ma quella che un circuito (cui la organizzazioni erogante il corso di studio vorrà aderire) sarà disposto a riconoscere. 3. Sulle specifiche di un sistema per la ripartizione dei carichi di lavoro. Con il nuovo ordinamento per la prima volta, il tempo complessivamente richiesto (il monte-ore complessivo), ad uno studente-tipo per conseguire il diploma, viene considerato dal legislatore come una risorsa critica, vincolata cioè da un tetto massimo prestabilito. Un sistema di accreditamento (budgeting) dovrebbe servire per assegnare un budget ad attività didattiche in concorrenza (ad esempio, ad insegnamenti, vedi figura 1), su uno stesso intervallo temporale (es. semestre, anno) per la risorsa "tempostudente". Questo budget si riferisce al tempo necessario, relativamente ad un monteore complessivo prestabilito (sullo stesso intervallo temporale), da richiedere (carico di lavoro) ad uno studente-tipo affinché vengano realizzati obiettivi di risultati programmati per il corso di studio, sia a livello micro (qualità del prodotto a livello 2 In un contesto come quello italiano in cui convivono, nello stesso quadro normativo, realtà accademiche molto diverse, risulta problematico dare un significato intrinseco e invariante, utile quindi a fini di scambio, a misure di crediti calibrate in sede locale. A parità di tipo di corso di studio, potrebbero infatti verificarsi situazioni anche molto diverse per quanto riguarda il profilo dello studente-tipo (lo studente target), a causa dei seguenti fenomeni: • la selezione avversa: quella operata da organizzazioni con grande tradizione e prestigio, con ampio e qualificato bacino di utenza. Queste potranno infatti selezionare prima, ed incentivare poi, gli studenti migliori in senso assoluto • la auto-selezione: quella indotta dalla scelta operata da categorie particolari di studenti (lavoratori, fuori corso cronici, demotivati, etc.) verso organizzazioni di scarso prestigio, il cui bacino geografico di utenti e' insufficiente alla sua stessa sopravvivenza. Queste avranno infatti tutto l'interesse ad accogliere anche gli studenti "peggiori" in assoluto, pur di incamerare le risorse necessarie per sopravvivere. 28/09/06D:\DOCUMENTI LAVORO\DOCUMENTI LAVORO\Articoli\ArticoliPubblicati\Valutazione\CreditiFormativi\CreditiPaperEditCompleto.doc individuale) che macro (qualità di processo). Questo sistema dovrebbe dunque essere utile al management didattico, per la pianificazione delle attività (ex ante) in nuovi corsi di studio (art. 12, GU n.2 del 4/1/00), quindi per una ri-programmazione di queste (ex post) che abbia lo scopo di ottimizzare il carico di lavoro, richiesto a uno studente-tipo in relazione agli obiettivi di risultato3 (micro e macro) programmati. Specifico di ogni corso di studio, il problema della ripartizione ottimale dei carichi di lavoro sara’ dunque condizionato: • da scelte politiche, a livello di ateneo e facoltà, e da vincoli organizzativi, che riguardano (i) la specificazione del profilo degli obiettivi formativi (ii) la specificazione del profilo dello studente-tipo4 (studente-target) cui la offerta formativa dovrebbe essere indirizzata (iii) il reperimento e la ri-dibuzione delle risorse necessarie • dalla programmazione5 didattica (pianificazione delle attività didattiche) (j) dalla capacità del management didattico di interpretare esigenze, gestire risorse, pianificare e coordinare attività diverse (jj) dal livello di risultati programmati, precisamente dal livello di eccellenza dei risultati, da garantire a livello individuale (micro) rispetto ad assegnati standard di riferimento, attesi a livello statistico (macro). Alcune università, quelle con forte capacità di attrazione (bacino di utenza potenziale vasto) rispetto alla possibilità di accoglienza, potrebbero ragionevolmente perseguire l’obiettivo della eccellenza del prodotto formato (qualità specifica del prodotto) e certificato a livello individuale, accettando eventualmente anche un alto tasso di abbandoni a livello macro. Potranno naturalmente aumentare automaticamente anche la qualità a livello macro, potendosi queste permettere di introdurre norme per selezionare solo gli studenti potenzialmente idonei. Viceversa, università con debole capacità di attrazione saranno probabilmente costrette a perseguire obiettivi di mediocrità a livello micro ma con bassi tassi di abbandono a livello macro. Puntare quindi alla qualità di processo piuttosto che a quella del prodotto Figura1. Ripartizione del monte-ore tra insegnamenti concorrenti 3 gli obiettivi didattici specifici che si vorrebbe fossero garantiti, in termini di domini di contenuti, di ampiezza e profondità, in termini di livello di attitudini e abilità 4 la scelta del profilo target potrà influire sui criteri e norme che disciplinano gli accessi, le politiche di sostegno allo studio, et. 5 La programmazione specifica, tra l'altro, il reticolo delle propedeuticità, quindi la stessa "concorrenzialità" delle attività 28/09/06D:\DOCUMENTI LAVORO\DOCUMENTI LAVORO\Articoli\ArticoliPubblicati\Valutazione\CreditiFormativi\CreditiPaperEditCompleto.doc Per fissare le idee, ogni insegnamento potrà essere considerato come una macro-attività costituita da sub-attività: partecipazione alle lezioni, attività integrative (laboratori, esercitazioni, ecc.), partecipazione ad esami, studio individuale. Naturalmente, il carico di lavoro richiesto dallo studio individuale dipenderà, fissate certe caratteristiche dello studente, dalla capacità didattica dei docenti (relativamente alle condizioni di contesto in cui operano), quindi dalla qualità del processo formativo (si veda lo schema nella figura 2). Nell'attribuire crediti ad insegnamenti diversi, difficilmente assimilabili6, si porrà quindi il problema7 non solo tecnico, della valutazione comparativa dei risultati. Il problema risulta complesso per la difficoltà di stabilire standard di riferimento specifici per i diversi insegnamenti, con un criterio equo nei confronti di tutti, rispetto ai quali valutare poi la qualità tecnica dei risultati ottenuti a livello di singolo studente. Principi generali della Total Quality (capacità relazionale, customer satisfaction, innovazione, etc.), seppure generici, potranno costituire comunque una base di riferimento comune, condivisa tra diversi tipi di attivita’. Figura2. Effetto della qualità della didattica sulla attività di studio individuale ore lezione-frontale • background culturaleattitudinale • caratteristiche studente qualità della didattica contesto ambientale in cui il servizio e' erogato attività varie che concorrono alla formazione preparazione esami fissati obiettivi formativi specifici carico di lavoro ore lavoro autonomo condizioni di partecipazio ne dello studente 4. Su un modello di programmazione per la allocazione ottima dei carichi di lavoro. 4.1. Sugli obiettivi di prestazione da programmare. Per sviluppare un sistema di accreditamento efficace, condizionatamente ad un profilo di studente-tipo, il generico riferimento a tipologie di obiettivi formativi risulterà di scarsa utilità senza espliciti riferimenti a precisi obiettivi di prestazione programmati. Questi potranno essere specificati in termini statistico-probabilistici a livello di processo (livello macro: produttività, qualità di processo), in riferimento a richieste di livelli di eccellenza che dovrebbero essere però garantiti a livello individuale8 (livello micro: qualità di prodotto). Per fissare le idee, si pensi a macro-attività come insegnamenti (vedi figura 1) in concorrenza sullo stesso anno. Si potrebbe, per esempio, richiedere che la 6 Per obiettivi formativi, tipo di abilità richieste, etc. 7 In principio, si corre il rischio di assegnare crediti maggiori ad insegnamenti di scarsa qualità didattica, proprio perché questa potrebbe essere la causa della difficoltà dell'apprendimento da parte dello studente 8 Obiettivi didattici verificabili in termini di domini di contenuti, in ampiezza e in profondità 28/09/06D:\DOCUMENTI LAVORO\DOCUMENTI LAVORO\Articoli\ArticoliPubblicati\Valutazione\CreditiFormativi\CreditiPaperEditCompleto.doc probabilità di ottenere (per ogni insegnamento fissato un tipo di studente) un punteggio di prestazione individuale superiore a un certo valore prefissato (di riferimento, specifico per ogni insegnamento) sia almeno del 20%. Il dimensionamento degli obiettivi di prestazione da programmare dipenderà naturalmente dal tipo di strategia che ogni singola organizzazione, erogante corsi di studio, penserà di attuare. Organizzazioni con grande tradizione e prestigio, che conferisce loro forte capacità di attrazione (bacino di utenza potenziale vasto, rispetto alla possibilità di accoglienza) potranno ragionevolmente perseguire l’obiettivo della eccellenza del prodotto individuale, anche a scapito della mera produttività. Del resto questa potrà essere automaticamente aumentata, semplicemente rendendo più severa la procedura di selezione iniziale degli studenti (selezione avversa, vedi la nota 2), senza nemmeno un grande sforzo nel miglioramento della qualità di processo. Viceversa, organizzazioni con debole capacità di attrazione saranno probabilmente costrette a inseguire l’obiettivo della mediocrità del prodotto individuale, date le condizioni iniziali del proprio studente-tipo (auto-selezione, vedi la nota 2), pur di aumentare la produttività (almeno nominalmente) quindi conservare il proprio bacino di utenti. Per queste organizzazioni, in un quadro che riconosce il valore legale ma anche garantisce un adeguato sistema di certificazione istituzionale, la qualità nella didattica risulterà il fattore critico decisivo per la loro sopravvivenza. 4.2. Il quadro formale di un problema di programmazione statistico-matematica Il problema formale è quello di determinare un sistema di regole (budgeting) per assegnare i carichi di lavoro (budget di carico di lavoro, crediti), ad ogni attività in un paniere di attività concorrenti (nello stesso intervallo temporale) per la risorsa monte ore-studente. Un criterio di allocazione razionale sara’ quello che richiede che questa assegnazione (i) garantisca almeno il raggiungimento di obiettivi minimi, programmati a livello statistico, che riguardano il livello di preparazione individuale (ii) minimizzi lo sforzo complessivo richiesto ad uno studente-tipo di riferimento, (iii) risulti comunque compatibile con il monte ore complessivo prestabilito. Si consideri un paniere costituito da p attività didattiche in concorrenza (su uno stesso intervallo temporale) per il tempo-studente con il vincolo di un tetto massimo prestabilito per il monte-ore-studente complessivo. Si denoti con Ψ Z (X; γ ) una funzione9 vettoriale (che chiameremo funzione di accreditamento) che rappresenta un modello di relazione (a meno di eventuali parametri γ ) tra il vettore X:=(X 1 , . . , X p ) dei carichi di lavoro assoluti, richiesti dalle p attività in concorrenza, e un vettore b:=(b 1 , . . , b p ) di livelli di risultato attesi, specificati in termini statistici per ognuna delle p attività. Questa funzione tipicamente dipenderà da un profilo Z caratterizzante un tipo di studente. Assegnata una funzione Ψ Z (X; γ ), la struttura generale del problema di programmazione è dunque la seguente: Per ogni componente del vettore-funzione Ψ Z , tecnicamente si richiede che la funzione sia monotona continua non decrescente rispetto ad ogni componente del vettore X 9 28/09/06D:\DOCUMENTI LAVORO\DOCUMENTI LAVORO\Articoli\ArticoliPubblicati\Valutazione\CreditiFormativi\CreditiPaperEditCompleto.doc Ψ Z ( X1, . . , X p ; γ ) ≥ b1 b 2 ... b p obiettivo di efficacia b1 ,..., b p sono valori assegnati MIN { X 1 q 1 + … +X p q p } obiettivo di efficienza X q 1 ,..,q p e' un sistema di pesi assegnati X1+ . . + X p ≤ T vincoli gestionali T : monte ore totale assegnato X1 ≥ a1, . . , X p ≥ a p vincoli logico-fisici a 1 , .., a p valori non negativi assegnati La funzione S( X 1 , . . , X p ):= X 1 q 1 + … +X p q p rappresenta lo sforzo complessivo richiesto a uno studente tipo, opportunamente pesato10. 4.3. Modelli specifici di programmazione statistico-matematica Sia indichi con Y:=(Y 1 , . . , Y p ) il vettore che rappresenta i livelli di risultato ottenuti da uno studente nelle p attività in concorrenza. Quindi, con Y*:=(Y 1 *, . . , Y p *) un vettore di valori soglia11, specifici per attività, capaci di discriminare livelli di risultati da considerarsi eccellenti. Una funzione di accreditamento può essere specificata in vario modo. Si può porre, ad esempio: Ψ Z (X; z, γ ) := Pr(Y 1 ≥ Y1 * | X ; z , γ ) . * Pr(Y 2 ≥ Y 2 | X ; z , γ ) .... * Pr(Y p ≥ Y p | X ; z , γ ) Questa funzione rappresenta, per ogni attività, la probabilità che uno studente-tipo - di profilo z - ottenga livelli di risultato eccellenti, in funzione del carico di lavoro richiesto. Questa funzione potrebbe ragionevolmente essere descritta, per ogni sua componente, dalla funzione logistica. Il problema di programmazione generale diventa dunque il seguente: Pr(Y1 ≥ Y1* | X ; z, γ ) b1 * Pr(Y2 ≥ Y2 | X ; z, γ ) ≥ b2 ... .... * Pr(Yp ≥ Yp | X ; z , γ ) bq 10 obiettivo di efficacia La funzione X 1 q 1 + … +X p q p può essere interpretata come un indicatore dello sforzo globale richiesto allo studente. Questo sforzo pesa in modo diverso il carico di lavoro richiesto da ognuna delle attività in concorrenza. In principio, questi pesi potrebbero rappresentare anche l’inverso della diversa utilità marginale dei carichi di lavoro, per ogni attività, nella economia globale del corso di studio. 11 I valori Y* dovrebbe rappresentare soglie di riferimento, valori idonei per identificare livelli di preparazione individuale da considerarsi “eccellenti” 28/09/06D:\DOCUMENTI LAVORO\DOCUMENTI LAVORO\Articoli\ArticoliPubblicati\Valutazione\CreditiFormativi\CreditiPaperEditCompleto.doc b1 1 b 1 2 ≤ 0 ≤ ... ... 1 bq MIN { X 1 q 1 + … +X p q p } obiettivo di efficienza X X1+ . . + X p ≤ T vincoli gestionali T : monte ore totale assegnato X1 ≥ a1, . . , X p ≥ a p vincoli logico-fisici a 1 , .., a p valori non negativi assegnati Nell'ottica di trovare formulazioni facilmente implementabili, un’altra possibile scelta e' la seguente: Ψ Z (X; γ ) := E( ϕ (Y) | X; Z, γ ). Questa funzione vettoriale rappresenta il valore atteso (E) del livello Y dei risultati, a meno di trasformazioni invertibili monotone ϕ dei punteggi Y che aiutino a linearizzare il problema su qualche opportuna scala. E( ϕ (Y) | X; Z, γ ) ≥ ϕ (Y*) obiettivo di efficacia MIN { X 1 q 1 + … +X p q p } obiettivo di efficienza X1+ . . + X p ≤ T vincoli gestionali T : monte ore totale assegnato X1 ≥ a1, . . , X p ≥ a p vincoli logico-fisici X a 1 , .., a p valori non negativi assegnati 5. Una metodologia per la identificazione statistica di una funzione di accreditamento 5.1. Problemi di tipo statistico-metodologico. Il cuore del problema statistico è quello di identificare una funzione di accreditamento, dai dati empirici, da utilizzare poi nel problema di programmazione dei budgets di crediti. Problemi metodologici preliminari dovranno comunque essere approfonditi. Per quanto riguarda il disegno della rilevazione, si pone il problema concreto della rilevazione dei carichi di lavoro effettivi, attraverso questionari progettati "ad hoc". Si pone quindi il delicato problema della ricalibratura (aggiustamento) contestuale dei punteggi di risultato, che si riferiscono ad attività diverse non facilmente assimilabili. Per determinare una funzione di accreditamento, approcci espliciti, che tentano di modellizzare direttamente (modelli di regressione multivariata multipla) la funzione di accreditamento, sono generalmente incapaci di tenere conto della complessità della struttura di correlazione, tipicamente indotta da meccanismi sottostanti il livello delle grandezze osservabili. Approcci che utilizzano modelli strutturali con variabili latenti sono invece piu’ flessibili, per rappresentare una funzione di accreditamento condizionata da uno schema concettuale sottostante, che ne costituisce il modello 28/09/06D:\DOCUMENTI LAVORO\DOCUMENTI LAVORO\Articoli\ArticoliPubblicati\Valutazione\CreditiFormativi\CreditiPaperEditCompleto.doc interpretativo. Soprattutto modelli ad equazioni strutturali multi-level sembrano concettualmente adatti. Purtroppo questi risultano difficili da implementare, anche per la mancanza di un ambiente software esplicitamente progettato per la loro implementazione. Modelli ad equazioni strutturali standard potranno invece essere implementati in ambienti tipo Lisrel 5.2. Il ricorso a modelli strutturali. Per fissare le idee, si assume lo schema concettuale schematizzato nella figura 3. Figura 3. Schema interpretativo. In questo schema: relativamente alle p attività in concorrenza, per il generico individuo k , i vettori X k :=(X 1 ,.., X p ) k e Y k :=(Y 1 ,.., Y p ) k rappresentano gli outcomes, il vettore dei carichi di lavoro percepiti e il vettore dei punteggi di prestazione, rispettivamente. I vettori Θ X k := ( Θ X 1 ,.., Θ X p ) k e ΘYk := ( ΘY1 ,.., ΘY p ) k rappresentano invece il profilo di variabili latenti sottostanti. In questo schema, η k rappresenta un effetto imputabile alle caratteristiche culturali e attitudinali dello studente k . Le frecce schematizzano, senza entrare in dettagli, relazioni di dipendenza statisticoprobabilistica. Una ragionevole funzione di accreditamento potrebbe essere E(Y | ϑ X ; z, γ ), vale a dire il valore atteso condizionato del vettore dei risultati Y, dato il vettore dei carichi di lavoro effettivi ϑ X e il profilo z dello studente. Qui la notazione γ rappresenta genericamente l’insieme dei parametri che identificano il modello sottostante. Tra i modelli strutturali, particolarmente flessibili sono modelli del tipo "conditioned mean-and covariance-structure models" (Brown e Arminger, 1995, pp. 221). Questi modelli cercano di rappresentare, a meno di un insieme di parametri γ , la struttura del vettore media e della matrice di varianza-covarianza Y E( k |z k ) = ν ( γ ) + Π ( γ ) z k Xk 28/09/06D:\DOCUMENTI LAVORO\DOCUMENTI LAVORO\Articoli\ArticoliPubblicati\Valutazione\CreditiFormativi\CreditiPaperEditCompleto.doc Y Var12 ( k |z k ) = Σ ( γ ). Xk Qui ν , Π , Σ denotano parametri strutturali (“reduced form” parameters). La parametrizzazione nella forma "ridotta" dipende dalla specificazione della struttura di un modello interpretativo sottostante (vedi Brown e Arminger, 1995, pp. 222 per dettagli e riferimenti) basato su variabili latenti. Sotto certe condizioni, dai dati rilevati si potrà cercare di identificare un modello adeguato, quindi determinare i suoi parametri γ . Nel contesto normale13, da ben note relazioni (Mardia, Kent e Bibbi, 1979, pp. 63) si potrà infine ricavare una funzione di accreditamento, tra i carichi di lavoro effettivi e i risultati, del tipo: Ψ Z ( ϑ X ; γ ):= E( Y | ϑ X , z; γ ) = −1 = E(Y| z ; γ ) +{Var( ϑ X | z; γ )} Cov( Y , ϑ X | z; γ )( ϑ X -E( ϑ X | z; γ ) Si osservi che questa funzione è lineare rispetto al vettore ϑ X dei carichi di lavoro effettivi, dato il profilo z dello studente. Una analoga funzione Ψ Z (x; γ ):= E( Y | x; z; γ ) dei risultati Y rispetto ai carichi di lavoro percepiti x potra’ naturalmente essere considerata. Problemi sull’uso dei modelli strutturali. Problemi tipici dei modelli ad equazioni strutturali sono ben noti. Soprattutto, (a) il problema concettuale della identificabilità dei parametri, che riporta anche a quello, pratico, (b) di aver a disposizione campioni sufficientemente grandi. Riguardo alla prima questione possiamo, tuttavia, osservare che lo scopo principale del modello ad equazioni strutturali è essenzialmente quello di identificare un predittore statistico per il livello dei risultati, dal carico di lavoro individuale; non tanto quello di stimare variabili latenti sottostanti. In questa ottica, quindi, la complessa questione della identificazione di parametri sottostanti diventa meno rilevante. La necessità di disporre di un campione rappresentativo, che tipicamente è grande, pone invece la questione della complessità organizzativa, quindi anche dei costi richiesti, di una concreta indagine sui crediti formativi. La chiara identificazione (politica) del segmento di studenti di interesse prevalente, da parte di una organizzazione, riducendo la eterogeneità tra gli studenti, diventa quindi anche una necessità tecnico-operativa per ridurre la dimensione, quindi i costi, della indagine. 12 Yk ) per indicare la matrice di varianza-covarianza associata al vettore X k Si usa la notazione compatta Var( Yk , strutturabile nei blocchi X k casuale 13 Cov ( X k, Yk ) Var (Yk ) Cov (Y , X ) Var ( X k ) k k In questa ottica, opportune trasformazioni delle grandezze originali (da una scala limitata ad una illimitata, ad esempio la trasformazione logistica) possono essere utili per recuperare simmetrie, dunque la normalità almeno come ragionevole assunzione di lavoro. 28/09/06D:\DOCUMENTI LAVORO\DOCUMENTI LAVORO\Articoli\ArticoliPubblicati\Valutazione\CreditiFormativi\CreditiPaperEditCompleto.doc 5.3. Una applicazione in ambiente Lisrel Il problema. Si considerano quattro insegnamenti in concorrenza, sullo stesso anno. Per ogni studente intervistato, fissato il tipo di diploma di scuola superiore, è stato rilevato, per ogni insegnamento, il carico di lavoro percepito e il punteggio di esame. Quindi, il punteggio di maturità. Si vuole costruire una funzione di accreditamento, per assegnare budgets di crediti ai diversi insegnamenti. Il modello. Senza entrare in dettagli, evitando di introdurre la specifica notazione del Lisrel (Lisrel 7, Reference Guide 1989, pp.275), si schematizza il modello concettuale di base nella figura 4. I nodi circolari si riferiscono a variabili latenti. Un modello ragionevole dovrebbe tener conto della complessa interazione, sia dei carichi di lavoro sia dei risultati imputabili a fattori strutturali sottostanti comuni. I carichi di lavoro effettivi da imputare ad ogni singolo insegnamento dovrebbero essere considerati come valori specifici che si aggiungono ad effetti comuni, condizionatamente indipendenti. Dipendenze dirette emergeranno soprattutto se le attivita` di insegnamento non sono svolte effettivamente in parallelo. Modelli adeguati diventeranno quindi molto complessi. I dati. Nell’ottica di una indagine preliminare, sono stati intervistati 50 studenti frequentanti, con maturità liceale. I punteggi di risultato, riportati da ogni studente al momento del superamento degli esami, sono stati prima riportati su una scala (0,1), quindi trasformati attraverso la funzione logistica e standardizzati nel modo usuale14. I carichi di lavoro percepiti sono stati ricostruiti attraverso un apposito questionario, ed espressi in ore. La matrice di varianza-covarianza ricavata è stata la seguente: 206.1153174 33.080955 26.543390 58.4740827 4.5245859 1.4120168 0.2242232 4.3133651 11.3499831 33.0809552 403.921569 27.198602 119.4428266 7.5162016 6.2029750 5.0999022 6.5756122 15.3506612 26.5433896 27.198602 325.968259 73.3692487 4.0953614 -2.1851566 5.1042677 -3.1686614 2.2790720 58.4740827 119.442827 73.369249 297.0491167 3.6761151 0.6300307 1.0315771 9.3722684 11.8072196 4.5245859 7.516202 4.095361 3.6761151 1.0000000 0.1647506 0.1667929 0.1748446 0.6159283 1.4120168 6.202975 -2.185157 0.6300307 0.1647506 1.0000000 0.1317130 0.2265386 0.7606890 0.2242232 5.099902 5.104268 1.0315771 0.1667929 0.1317130 1.0000000 0.1200367 0.3768104 4.3133651 6.575612 -3.168661 9.3722684 0.1748446 0.2265386 0.1200367 1.0000000 1.0311798 11.3499831 15.350661 2.279072 11.8072196 0.6159283 0.7606890 0.3768104 1.0311798 3.6354559 14 Il problema di una standardizzazione sostanziale, non solo tecnica, dei risultati non e' stato affrontato in questa sede. 28/09/06D:\DOCUMENTI LAVORO\DOCUMENTI LAVORO\Articoli\ArticoliPubblicati\Valutazione\CreditiFormativi\CreditiPaperEditCompleto.doc Figura 4. Schema di modello concettuale Dato l’esiguo numero di osservazioni (50) utilizzato in questa fase preliminare, è stato considerato un modello parsimonioso (con sole tre variabili latenti). La funzione di accreditamento. Utilizzando il linguaggio Lisrel (Lisrel 7, Reference Guide, 1989), sono stati determinati i parametri del modello, quindi è stata stimata la matrice di varianza-covarianza congiunta tra carichi di lavoro percepiti, risultati e voto di maturita’. Da questa, è stata ricavata la matrice di varianza-covarianza dei risultati, condizionata ai carichi di lavoro e al voto di maturita’. Finalmente, utilizzando il valore atteso dei risultati, condizionato ai carichi di lavoro e al voto di maturita', è stata determinata la seguente funzione di accreditamento lineare: E(Y | x) = − 0.12134 − 0.11127 − 0.0659 − 0.14912 0.001320 − 0.000169 0.001213 − 0.000156 0.017492 − 0.0059692 0.005038 0.003668 0.003580 − 0.009100 0.0292406 0.008133 + 0.007468 0.00793 0.00728 0.00491 {x- 310.5 300.3 244.5 352.55 }, che assegna livelli di risultati y (sulla scala logit standardizzata) in funzione dei carichi di lavoro (percepiti) x, fissato il voto di maturità al valore 45/60 indicatore di “mediocrita’”. Programmazione. Come esempio di programmazione, sono stati programmati, per i risultati dei quattro insegnamenti in questione, i seguenti livelli: 21, 21, 28, 26 (espressi qui sulla scala usuale dei voti, in trentesimi). Stabilito quindi un monte ore complessivo di 1500 ore, di dare lo stesso peso a tutti gli insegnamenti, di considerare vincoli compatibili con la partecipazione alle attivita’ didattiche assistite (200 ore), la ripartizione ottimale dei crediti è stata la seguente 506, 200, 204, 344 ore, rispettivamente per i quattro insegnamenti. Commenti e problemi aperti. La allocazione ottima delle risorse ottenuta non appare del tutto soddisfacente. A parte questioni campionarie imputabili al ridotto numero di 28/09/06D:\DOCUMENTI LAVORO\DOCUMENTI LAVORO\Articoli\ArticoliPubblicati\Valutazione\CreditiFormativi\CreditiPaperEditCompleto.doc intervistati, questa allocazione si comprende maggiormente se si precisa che le quattro attivita` non sono state svolte realmente in parallelo. La prima e la terza sono state infatti realizzate nel primo semestre del I anno, le altre due nel secondo. E’ plausibile quindi che i carichi di lavoro richiesti da un insegnamento abbiano avuto influenza anche sugli altri, soprattutto quelli svolti successivamente. Questa osservazione rimanda alla necessita’ di ulteriori approfondimenti metodologici, con una ricaduta concreta nella determinazione dei carichi di lavoro ottimi. Soprattutto alcuni insegnamenti, tra quelli “concorrenti”, a parte la trasmissione degli specifici contenuti disciplinari, avranno la funzione di costituire quella base culturale da cui anche gli altri insegnamenti “concorrenti” potranno trarre giovamento. Modelli piu` complessi di quello da noi utilizzato, in questa fase preliminare, saranno dunque necessari per identificare i crediti specifici da assegnare ai diversi insegnamenti, al netto di effetti comuni da scorporare (crediti trasversali) e contabilizzare a parte. Riferimenti bibliografici. Aureli Cutillo E. (1997), Efficienza, Efficacia e Produttività nel Sistema Universitario, alcuni esempi di set di indicatori e tecniche di misurazione, SIEDS, Volume LI nn. 12, pp. 191- 202 Aureli E, Grimaccia E. (1999), La Valutazione del Sistema Universitario: un confronto tra approccio quantitativo e qualitativo,in: atti della XXXIX riunione scientifica SIS, Sorrento 1998,Vol. II (CD-ROM) Biggeri L., Scarpitti (1998), Evaluation in the Italian University System, paper presentato a: International Conference on Evaluation: Profession, Business or Politics?, Rome, October 29-31. Reprint 3/98, ottobre 1998 Browne M.W., Arminger G. (1995) Specification and Estimation of Mean and Covariance-Structure Models, Handbook of Statistical Modeling for the Social and Behavioral Sciences, Arminger G., Clogg C.C., Sobel M.E. (eds), Plenum Press, New York D' Epifanio G. (1999), Sulla valutazione comparativa di prestazioni erogate da strutture sanitarie, in corso di stampa per gli atti del convegno: I Convegno Nazionale AICQ, Gestione della Qualita' Totale nelle Strutture Sanitarie: dalla teoria alla pratica, 14-15 apr. 1999 D' Epifanio G. (1999), Sulla valutazione comparativa delle prestazioni erogate da organizzazioni non-profit. Una applicazione a strutture universitarie, accettato per la pubblicazione su Statistica D' Epifanio G. (1999), A customer satisfaction approach for user-oriented comparative evaluations of services, accettato per la pubblicazione sul volume: "Studies in Classification, Data Analysis and Knowledge Organization", Vichi M., Borra S., Rocci R. (Eds.), Springer, New York. D' Epifanio G. (2000), Sulla valutazione della qualità competitiva di servizi erogati da strutture universitarie, lavoro presentato al convegno CAPTOR 2000, Padova, 10-11 febr. 2000, mimeo, Dipartimento di Scienze Statistiche, Univ. di Perugia D' Epifanio G. (2000), Sulla valutazione comparativa di organizzazioni non profit basata sulla customer satisfaction. Verso e oltre le norme ISO 9000:2000, in: Atti del Convegno Nazionale AICQ, Bologna 2000, Vol. C, pp. 29-41 28/09/06D:\DOCUMENTI LAVORO\DOCUMENTI LAVORO\Articoli\ArticoliPubblicati\Valutazione\CreditiFormativi\CreditiPaperEditCompleto.doc Jöreskog, K. G. & Sörbom, D.,(1989), LISREL 7: A Guide to the Program and Applications, SPSS Publications, Chicago. Mardia K.V., Kent J.T., Bibbi J.M. (1979), Multivariate Analysis, Academic press, London Michelotti S., Schmidt R. (2000), Crediti e innovazione didattica, Per una riflessione sulla didattica del diritto, Cerulli Relli V., Rosselli O.(Eds), Franco Angeli, Milano Murst, (2000), sito WEB http://www.murst.it/osservatorio/pubblic.htm