Teorie, tecniche ed esperienze nei processi di verifica e valutazione dei Servizi e Progetti Immateriali

LA RICERCA VALUTATIVA
COME SISTEMA DI VERIFICA E VALUTAZIONE DI PROGETTI DI FORMAZIONE
(Alberto Raviola)

0. Premessa

Per comprendere appieno il senso delle operazioni concrete legate all'attività di Verifica, Valutazione e Monitoraggio di Interventi di Formazione appare necessario premettere alcune considerazioni sul concetto di Qualità dei Servizi (sociali, di formazione, scolastici etc.) la cui finalità principale è la crescita personale e professionale dei cittadini che vi accedono.

Il tema della Qualità ha due risvolti legati fra loro. Uno è quello dell'Efficienza, cioè della qualità del processo, in altre parole della ottimizzazione del rapporto tra risorse impiegate e risultati ottenuti. Spesso nella F.P., anche per richiesta esplicita della Committenza (Ente Locale, Regione, Ministeri, Unione Europea) l'analisi costi-benefici si limita ai fattori economici, trascurando del tutto i costi umani (del personale impiegato e dell'utenza) ed i costi sociali (della "comunità" sia come fruitrice "a cascata" del servizio, che come prima finanziatrice delle risorse).

Il secondo risvolto è quello dell'Efficacia, cioè della qualità del prodotto, vale a dire dell'ottimizzazione del rapporto fra risultati ottenuti e bisogni dell'utenza. Spesso la convinzione di promuovere un'attività formativa che soddisfa i bisogni dei partecipanti si fonda su una "non scelta" (o approssimativa individuazione) dei bisogni che intende soddisfare e, di conseguenza, una vaga definizione degli obiettivi che intende perseguire.

1. La Ricerca Valutativa: finalità ed obiettivi

L'ipotesi di Verifica e Valutazione degli Interventi (progetti complessi, singoli corsi e percorsi, etc.) di Formazione che delineiamo di seguito si può considerare alla stregua di una Ricerca/Intervento (action-research) con due obiettivi principali:

1.      conoscere gli effetti di un certo intervento, corso, percorso, et.

2.      favorire, contemporaneamente, un cambiamento di tutti i soggetti (staff dei docenti, responsabili di azienda, utenti della formazione) implicati in tale attività.

Questo tipo di Ricerca/Intervento a carattere valutativo (Ricerca Valutativa - RV -) ha delle affinità con la ricerca in generale, ma si contraddistingue da questa ultima per le finalità e per la metodologia che utilizza.

La prima finalità è quella di "misurare" la distanza che intercorre tra il "prima" e il "dopo" un progetto di intervento, cioè se e quali modificazioni (nelle conoscenze e competenze tecniche, negli atteggiamenti e comportamenti) sono state indotte in seguito all'azione formativa.

Seconda finalità è "quantificare" il grado di raggiungimento degli obiettivi di un progetto, soprattutto in itinere.

Terza, collegata con la seconda, è garantire una conoscenza a tutte le componenti del progetto (docenti, partecipanti, aziende, a volte l'intera organizzazione) di come sta funzionando, se il metodo è congruente con gli obiettivi, quanto tutti si stanno impegnando nella realizzazione del progetto, qual è il grado di soddisfazione, nell’ottica di modificare, eventualmente, ciò che non funziona nell'intervento in atto.

Infine (quarta finalità) promuovere per l'organizzazione titolare dell'iniziativa un incremento di consapevolezza dei propri problemi, delle proprie risorse, capacità, potenzialità in modo da individuare, nel modo più preciso possibile, quali sono le "cose" che non funzionano per predisporre un ulteriore piano d'azione verosimile.

In sostanza, la Ricerca Valutativa non si esaurisce nella "fiscalizzazione" di un programma di intervento, ma viene ad essere parte integrante dello stesso Progetto di Formazione, e va, quindi, pensata in sede di ideazione e stesura del progetto.

2. La Ricerca Valutativa: il metodo

A livello metodologico la RV non può prescindere dalle due seguenti condizioni:

-          la partecipazione diretta di tutti i soggetti coinvolti nel progetto

-          l'utilizzazione programmata delle informazioni che si sono raccolte.

A proposito della prima condizione, è impensabile, dati i presupposti della RV, pensare ad un processo valutativo fatto "su" qualcuno, bisogna pensarlo sempre fatto "insieme" a qualcuno. Il "qualcuno", ovviamente, sono i soggetti interessati al progetto che si vuole valutare.

Per quanto riguarda la seconda condizione è assolutamente inutile raccogliere dati, opinioni, percezioni, etc. per farle rimanere in un cassetto o al più renderli pubblici all'Ente Committente.

La Ricerca Valutativa nello spirito della ricerca-intervento, intende il "conoscere" non solo per "sapere" ma per "cambiare attraverso il "sapere". Quando si procede alla RV di un'iniziativa formativa vanno pensati, a livello di progettazione, i tempi ed i modi di "restituzione" ai soggetti coinvolti, in base agli obiettivi che sia l'iniziativa sia la RV si prefiggono.

In questo senso la Ricerca Valutativa di un Progetto di Formazione risponde fondamentalmente ai seguenti quesiti:

-          quanto hanno appreso i partecipanti

-          quanto del cambiamento, se c'è stato, dipende dall'aver partecipato all'esperienza

- in che misura l’iniziativa è stata congruente con gli obiettivi dichiarati

- in che misura il metodo utilizzato è stato congruente con gli obiettivi

- qual è stato il grado di trasferibilità degli apprendimenti, cioè quanto i partecipanti sono riusciti ad applicare successivamente all’aula (nell'ambiente di lavoro ad es.) i concetti e le procedure apprese durante la formazione

- quanto lo staff responsabile del Progetto è risultato idoneo al tipo di azione formativa intrapresa

- qual è stato il grado di soddisfazione, l'impegno, la percezione di apprendimento e di "clima" dei partecipanti.

Ciò significa che la Ricerca Valutativa deve essere pensata come parte integrante del progetto di formazione e quindi è necessario segmentare precisamente il processo formativo. Ad esempio per un Corso di formazione è necessario precisare fin dall’inizio delle attività:

1. i contenuti del Ruolo professionale che si intende formare, specificandone i compiti, le mansioni, le funzioni e il rapporto con altri ruoli professionali

2. gli obiettivi specifici non solo dell'intero Corso ma anche di ciascun Modulo o se necessario di ciascun Insegnamento

3. le caratteristiche del metodo o dei metodi didattici che si intendono utilizzare

4. i contenuti didattici dei Moduli e degli Insegnamenti.

E decidere per ogni segmento che cosa è importante valutare sia a livello dei partecipanti, che dei docenti in modo da poter "riaggiustare il tiro" durante l'azione formativa in base alle esigenze e alle considerazioni degli utenti.

3. La verifica/valutazione di progetti complessi: il caso dei progetti comunitari

In riferimento alle attività nazionali e transnazionali previste da un progetto di Iniziativa Comunitaria (come ad es. quello descritto in allegato) a partire dalle considerazioni sopradelineate la Ricerca Intervento Valutativa deve tener conto di alcuni elementi specifici:

a- la caratteristica del progetto che prevede obiettivi  (istituzionale, sociale, formativo, strutturale) e azioni (di ricerca, informazione, sensibilizzazione, formazione, inserimento lavorativo, diffusione dei risultati, etc.) di elevata complessità, talvolta intrecciate e sovrapposte

b- la pluralità dei soggetti coinvolti all’interno delle differenti fasi, quali attuatori, fornitori di servizi e prestazioni, partners, fruitori delle azioni di formazione 

c- i vincoli di carattere legislativo e finanziario e le procedure burocratiche e amministrative, che caratterizzano i Piani di Iniziativa Comunitaria.

In questo senso l’ipotesi che delineiamo di seguito si preoccupa di monitorare in corso d’opera il percorso e controllare gli esiti (di prodotto e processo) in conclusione del progetto, in rapporto alle fasi significative del progetto e agli obiettivi e prodotti relativi:

FASI

OBIETTIVI

ESITI E PRODOTTI

INDAGINE - RICERCA

- anticipare e prevedere i bisogni del target

- identificare e sviluppare nuove qualifiche professionali

- realizzare informazione e sensibilizzazione a favore di Enti e istituzioni

- Banca Dati Opportunità

- Vademecum per giovani e famiglie

- Pacchetto multimedia didattico

- seminario presentazione

INFORMAZIONE

SENSIBILIZZAZIONE

- anticipare e prevedere i bisogni del target

- identificare e sviluppare nuove qualifiche professionali

- realizzare azioni di informazione a favore di Enti e Istituzioni

- attivazione Consulta Locale

- protocolli di intesa territoriale

- sito Internet SOS IN

- pubblicazione e convegno

AZIONI FORMATIVE

- sperimentare un percorso a qualifica (tecnologie innovative)

- favorire l’inserimento al lavoro dei giovani partecipanti

- attivare connessioni tra operatori, genitori, volontari

- occupazione giovani partecipanti

- validazione percorso formativo

ATTIVITA’ TRASNAZIONALI

- condurre un'analisi e confronto tra i partners in relazione all'inserimento lavorativo

- elaborare un sistema di accompagnamento per un inserimento al lavoro.

- rapporto dati e informazioni sull’inserimento lavorativo

- realizzare una Guida Operativa (cartacea e su CD ROM)

La proposta di impianto "di minima" della Ricerca Valutativa quindi dovrebbe essere il seguente:

FASI

ESITI E PRODOTTI

INDICATORI

STRUMENTI

INDAGINE RICERCA

a- Banca Dati Opportunità Formative&Occupazionali

b- Vademecum per giovani e famiglie

c- Pacchetto multimedia didattico (FAD)

d- seminario presentazione

a - n° accessi Sportello

b- n° Vademecum distribuiti

c- n° utilizzi in corsi ordinari di F.P.

d- n° partecipanti e gradimento

a- rilevazione diretta

b- rilevazione diretta

c- rilevazione diretta

d- rilevazione diretta / scheda valutazione

INFORMAZIONE

SENSIBILIZZAZIONE

a- attivazione Consulta Locale; protocolli di intesa territoriale

b- sito Internet SOS IN

c- pubblicazione e convegno

a- n° organizzazioni partecipanti; diffusione informazioni

b- n° collegamenti

a- rilevazione diretta/ interviste telefoniche

b- rilevazione diretta

c- rilevazione diretta/ scheda valutazione

AZIONI FORMATIVE

a- occupazione giovani non udenti

b- validazione percorso formativo

a- % percentuale occupati (80%)

b- grado efficacia / efficienza percorso

a- rilevazione diretta e indiretta (aziende)

b- evaluation percorso formativo

ATTIVITA’ TRASNAZIONALI

a- rapporto dati e informazioni sull’inserimento lavorativo

b- realizzare una Guida Operativa

a- n° interviste;  grado efficacia efficienza (staff transnazionali)

b - pubblicazione e stampa Guida

b- n° Guide  distribuite

a- rilevazione diretta; scheda valutazione

b- rilevazione diretta

4. Le Azioni Formative

In relazione alla centralità dell’ambito della formazione e dell’inserimento lavorativo, all’interno del Progetto, la RV dedicherà particolare attenzione alle attività formative (vedi sintesi allegata) prevedendo un monitoraggio accurato di:

· le reazioni: l'insieme delle percezioni e dei vissuti dei partecipanti e i loro giudizi a proposito dei contenuti, dei metodi, dei docenti, dell'intera esperienza

· gli apprendimenti: il miglioramento delle conoscenze teoriche, delle competenze tecniche e l'ampliamento di consapevolezza e conoscenza dei propri comportamenti

· la percezione del ruolo: l’influenza nella percezione del ruolo professionale/lavorativo, in relazione alle competenze specifiche, nei termini di autovalutazione dei propri cambiamenti.

Per misurare i tre tipi di fenomeni sopra indicati si utilizzeranno i seguenti strumenti:

a. S.I.I.    - scheda di ingresso e colloquio individuale (per i giovani partecipanti al corso di formazione)

b. Q.R.     - questionario del ruolo professionale (per i giovani)

c. Q.V.I.   - questionario di valutazione degli insegnamenti (per gli adulti)

d. Q.V.M.  - questionario di valutazione dei Modulo (per i giovani)

e. Q.V.S.   - questionario di valutazione per lo staff di progettazione e docenti

a. La scheda di ingresso è stata messa a punto per focalizzare la situazione di ingresso dell'allievo sia in relazione alla motivazione a frequentare il Corso sia per rilevare il livello di conoscenze/competenze posseduto prima di immettersi nel percorso formativo. Questa scheda sarà compilata attraverso un colloquio di orientamento/selezione, con il giovane e la sua famiglia.

b. Il Q.R. riguarda l'area professionale in termini di percezione del ruolo, di conoscenza e consapevolezza delle mansioni e dei compiti, e di autovalutazione su specifiche capacità e competenze oggetto dell'attività formativa. Il Q.R. viene fatto compilare, in modo non anonimo (il partecipante appone una sigla sulla scheda), all’inizio, a metà e in conclusione dell’iter formativo.

c. Il Q.V.I. tende a far valutare le seguenti aree: l'insegnamento (disciplina/ materia/argomento) nel suo complesso, il contributo personale che ogni partecipante dà per la riuscita, il metodo utilizzato e il clima in cui si è svolto il lavoro; inoltre il Q.V.I. chiede una valutazione del livello di apprendimento e la qualità del/dei docente/i. Il Q.V.I. viene fatto compilare ai partecipanti, in forma anonima, in conclusione di ciascun insegnamento (teorico, tecnico, pratico).

d. Il Q.V.M. riguarda la valutazione di ciascun Modulo (ciclo di insegnamenti) nella sua articolazione e intende monitorare, in modo analogo al Q.V.I., il contributo personale che ogni partecipante dà per la riuscita dell'intero ciclo di lezioni, il metodo utilizzato e il clima in cui si svolge il lavoro; inoltre il Q.V.M. intende valutare il livello di apprendimento, la qualità dei docenti, e il periodo di stage/tirocinio in azienda. Naturalmente il Q.V.M. viene somministrato, in forma anonima, ai partecipanti al termine di ciascuno dei Moduli formativi e per lo stage compilato anche dai referenti aziendali.

e. Il Q.V.S. viene compilato dallo staff di progettazione e dei docenti responsabile del corso e intende rilevare il livello di raggiungimento degli obiettivi, la percezione di apprendimento e di trasferibilità da parte degli allievi, il clima di lavoro e la qualità dei rapporti all’interno dello staff medesimo. Il Q.V.S. viene compilato alla fine del ciclo degli incontri di staff.

Naturalmente i dati adeguatamente elaborati saranno restituiti e discussi secondo la seguente tabella:

TIPOLOGIA CORSO

SOGGETTI COINVOLTI
(compilazione/restituzione)

STRUMENTI VALUTATIVI

FORMAZIONE PROF.

GIOVANI NON UDENTI

a- giovani partecipanti

b- staff progettazione e staff docenti

c- referenti aziendali

a- QR/QVM

b- QVS

c- QVM

FORMAZIONE ADULTI

a- adulti partecipanti

b- staff progettazione e

    staff docenti

a- QVI

b- QVS

ALLEGATO -

Sintesi del progetto

Obiettivi generali

Obiettivo generale del Progetto è di favorire l’integrazione sociale e lavorativa di giovani, soggetti a rischio di emarginazione, e che presentano caratteristiche di "disabilità" ad oggi non adeguatamente considerate. Ciò significa a livello strategico:

a- anticipare e prevedere i bisogni del target
b- favorirne l’inserimento al lavoro
c- identificare e sviluppare nuove qualifiche professionali
d- realizzare informazione e sensibilizzazione a favore di Enti e istituzioni
e- garantire legittimità al Sistema Integrato che si avvierà
f- sperimentare un percorso a qualifica anche attraverso l’utilizzo di tecnologie innovative

Fasi del progetto

a. Studio e ricerca

a.1 documentale, sulla situazione occupazionale e sulle qualifiche professionali (con attenzione alle tecnologie innovative)

a.2 indagine su prodotti multimediali

a.3 concertazione per l’analisi dei problemi legati all’incontro tra qualifiche e occupazione e per l’individuazione dei prodotti multimediali

b. Promozione

b.1 progettazione e realizzazione sito Internet

b.2 creazione rete telematica informativa; apertura sportello telematico 

b.3 informazione e sensibilizzazione territoriale

c. Formazione e Sperimentazione

c.1 formazione "sportellisti" per l’informazione e l’accoglienza
c.2 formazione formatori e formazione tutors all’utilizzo delle nuove metodologie didattiche e prodotti multimediali (fase a.3)
c.4 formazione a qualifica per giovani (nuove tecnologie, moduli a distanza e/o aperti)
c.5 formazione genitori

d. Monitoraggio, valutazione, diffusione

d.1 monitoraggio/valutazione: reports, stampa locale, immissione dati in sito Internet
d.2 promozione e diffusione: network locale attraverso sportelli territoriali
d.3 Banca Dati in sito Internet

ALLEGATO -

Sintesi progetto transnazionale

Obiettivi:

a- condurre un'analisi e confronto tra i differenti contesti nazionali in relazione alle problematiche connesse all'inserimento lavorativo di giovani disagiati/disabili
b- sensibilizzare le istituzioni di ogni paese partner;
c- elaborare un sistema di accompagnamento per un inserimento al lavoro efficace.

Attività:

a- precisazione di strumenti e tecniche per la realizzazione di una ricerca sui dispositivi di inserimento lavorativo
- attuazione congiunta della ricerca
- presentazione dei dati della ricerca

b- ideazione e realizzazione di una "Guida Operativa" per l'informazione,  l'orientamento e l'inserimento al lavoro;
- realizzazione di seminari di sensibilizzazione in ciascuno dei Paesi partner

c- scambio di metodologie e strumenti per la formazione dedicata
- incontri di tecnici e di responsabili di Progetto (staff transnazionali)
- formazione dei formatori all'estero (Italia - Francia)
- valutazione del progetto e dei sistemi di inserimento lavorativo approntati.

ALLEGATO -

Sintesi AZIONI FORMATIVE

Corso di formazione a qualifica professionale    

Durata: 1000 ore
Partecipanti: 12 giovani
Qualifica: settore terziario
Contenuti:
a- formazione personale
b- formazione professionalizzante
* area teorica - culturale
* area pratico-operativa
c- stage

Corso di formazione per formatori

Durata: 45 ore
Partecipanti: 6 formatori di C.F.P. - area tecnologico-informatica
Contenuti:
a- abilità psicologiche di comunicazione e relazione
b- competenze di utilizzo di PC per la formazione
c- conoscenze di psicologia dell’apprendimento

Corso di formazione per operatori dell’orientamento e tutorship 

Durata: 60 ore
Partecipanti: 12 operatori sociali, della scuola, della formazione
Contenuti:
a- abilità psicologiche di comunicazione e relazione
b- competenze di gestione di gruppo
c- conoscenze di organizzazione e legislazione del lavoro
d- competenze per l’utilizzo di strumenti multimediali 

Corso di formazione per personale di segreteria

Durata: 30 ore
Partecipanti: 5 addetti all’informazione, segreteria, servizi ausiliari
Contenuti:
a- abilità psicologiche di comunicazione "faccia a faccia"
b- conoscenze di organizzazione e legislazione del lavoro
c- competenze per l’utilizzo di strumenti multimediali 

Corso di formazione per volontari e genitori

Durata: 40 ore
Partecipanti: 20 (10 genitori e 10 volontari)
Contenuti:
a- abilità di relazione e supporto al giovane in età evolutiva
b- conoscenze di psicologia dell’età evolutiva
c- conoscenze di organizzazione e legislazione del lavoro
d- competenze di gestione di gruppo e di colloquio con giovani