ChatGPT fa i compiti al posto nostro, nuovo strumento OpenAI per scoprire chi bara
L’intelligenza artificiale (AI) generativa è uno strumento che se ben usato può potenziare la nostra capacità di elaborare testi, video, immagini in qualsiasi attività lavorativa o di studio, compresi i compiti assegnati agli studenti.
Il problema è che a scuola l’AI generativa come ChatGPT (acronimo di “Chat Generative Pre-trained Transformer“, letteralmente “trasformatore generativo pre-addestrato”) va usata con cognizione di causa e seguendo delle regole ben precise, magari senza barare.
Per questo OpenAI, la società che ha sviluppato ChatGPT, ha annunciato la creazione di un nuovo tool dedicato proprio a scovare ogni tentativo da parte degli studenti di generare testi in automatico senza battere un tasto in più del proprio Pc.
Secondo il Wall Street Journal, però, lo strumento individuato da OpenAI non sarebbe efficace al 100% e andrebbe migliorato.
La filigrana di testo è efficace?
Si tratta di una soluzione di text watermarking, che prevede l’inserimento di una ‘filigrana’ di testo o di immagine che consente di riconoscere, attraverso l’impiego di un’altra AI di ricerca, se l’utente ha o meno utilizzato ChatGPT per elaborare un documento.
I dubbi di OpenAI sono legati all’efficacia reale di questa soluzione, alla possibilità di eluderne il controllo e al potenziale impatto su gruppi sociali non anglofoni, ha spiegato un portavoce al WSJ.
La presenza di filigrana in ogni parola generata consentirebbe, con apposito software di verifica, di rilevare subito l’impiego di ChatGPT, ma non di altri modelli di AI di altre aziende.
Riguardo alla possibilità di eludere la verifica, gli sviluppatori di OpenAI hanno spiegato che al momento non è possibile evitare una manomissione del testo finalizzata alla neutralizzazione della filigrana.
Ad esempio, sottolineano da San Francisco, la filigrana del testo si è dimostrata “altamente accurata e persino efficace contro la manipolazione localizzata, come la parafrasi“, ma si è dimostrata “meno robusta contro quella generalizzata; come l’uso di sistemi di traduzione, o la riformulazione del testo con un altro modello generativo”.
Il 60% degli studenti italiani usa ChatGPT per fare i compiti, ma cresce la paura del suo uso illimitato
Il punto fermo attorno cui si dovrebbe ragionare è che qualsiasi utilizzo inconsapevole dell’AI generativa alimenta solo l’ignoranza.
Un problema non da poco, quello dell’uso dell’AI generativa per fare i compiti a scuola, perché è difficile scoprire se uno studente ha davvero scritto un testo o l’ha fatto l’AI e perché sono ormai in tanti ad utilizzare questa tecnologica in classe come a casa.
In una ricerca condotta da Tgm Research per conto di NoPlagio, è emerso che nelle scuole italiane, il 71% dei ragazzi dai 16 ai 18 anni usa l’IA per cercare informazioni, il 60% per fare i compiti, il 33% per imparare, il 18% per rispondere ai test, il 21% la usa come assistente personale (per scrivere e mail per esempio), il 13% per scrivere saggi.
Rispondendo alla domanda ‘Hai mai utilizzato ChatGPT o strumenti di intelligenza artificiale simili per completare i compiti?‘, su coloro che hanno risposto sì all’uso in generale dell’IA, il 79% dei ragazzi ha risposto che li usa per fare i compiti e scrivere saggi.
Allo stesso tempo, il 64% di ragazzi ha espresso preoccupazione per l’uso illimitato che se ne possa fare sia a scuola che a lavoro.
In Europa, secondo lo studio, il 70% degli studenti spagnoli, il 65% di quelli italiani e il 63% di quelli tedeschi usa regolarmente ChatGPT per fare compiti o completare test scolastici.