Che cos'è il rilevamento dell'IA?
Il rilevamento dell'IA è l'uso di software per stimare se un testo è stato scritto da una persona o prodotto da uno strumento di IA generativa come ChatGPT o Gemini. Università e scuole usano i rilevatori di IA come uno dei segnali nei controlli sull'integrità accademica; l'indicatore di scrittura IA di Turnitin è il più diffuso nell'istruzione, accanto a strumenti come GPTZero, Copyleaks e Originality.ai.
Come funzionano i rilevatori di IA
La maggior parte dei rilevatori è a sua volta un classificatore di machine learning addestrato su grandi raccolte di testi scritti da persone e dall'IA. Cercano schemi statistici tipici dei modelli linguistici di grandi dimensioni:
- Perplessità: quanto è prevedibile ogni parola. Il testo dell'IA tende a scegliere la parola successiva più probabile, quindi è molto prevedibile.
- Burstiness (variabilità): quanto variano la lunghezza e la struttura delle frasi. La scrittura umana di solito varia di più.
Il risultato è una probabilità o una percentuale, non una prova: lo strumento stima, non sa.
Quanto è accurato il rilevamento dell'IA?
- I falsi positivi capitano. Un testo umano formale, ripetitivo nelle formule o molto rivisto può essere segnalato come IA.
- Penalizza chi non è madrelingua. Uno studio di Stanford del 2023 (Liang et al., pubblicato su Patterns) ha rilevato che diversi rilevatori molto usati segnalavano come generati dall'IA i saggi di persone non madrelingua inglese molto più spesso di quelli di madrelingua.
- Facili da ingannare. Parafrasare o ritoccare leggermente un testo dell'IA spesso abbassa il punteggio.
- Gli strumenti non concordano. Lo stesso testo può ottenere punteggi molto diversi in due rilevatori. Nel 2023 OpenAI ha ritirato il proprio classificatore di testi IA, citandone la bassa accuratezza.
Per questi motivi la maggior parte delle istituzioni afferma che il solo punteggio di un rilevatore non è una prova di condotta scorretta e deve essere seguito da una verifica umana e da un colloquio con lo studente.
Usi in ambito accademico
- Segnalare un lavoro per un controllo più attento, insieme ad altri segnali come un cambiamento improvviso di stile o riferimenti bibliografici inesistenti (vedi allucinazione dell'IA).
- Avviare un confronto su come è stato prodotto un lavoro.
- Supportare, non sostituire, il giudizio del docente.
Se temi un falso positivo
- Conserva appunti, scalette e bozze, e scrivi con uno strumento che salva la cronologia delle versioni, così puoi mostrare come si è sviluppato il testo. Papero, per esempio, salva le versioni di ogni documento mentre scrivi e le conserva fino a 30 giorni, quindi tieni copie personali delle bozze per un periodo più lungo.
- Conosci le regole del tuo corso sull'IA e dichiara ogni uso dell'IA che ti viene chiesto di dichiarare.
- Non passare il tuo lavoro in strumenti di “umanizzazione” (humanizer) per abbassare un punteggio: anche mascherare un testo scritto dall'IA è di solito considerato una condotta scorretta.
Consigli finali
Sii trasparente su come usi gli strumenti di IA, segui le regole della tua istituzione e conserva le prove del tuo processo di lavoro. Questo ti protegge più di qualsiasi punteggio di un rilevatore.
Caso d'uso: La migliore IA per scrivere saggi che restano tuoi