Le forze dell’ordine degli Stati Uniti hanno iniziato a utilizzare immagini generate dall’AI raffiguranti ragazze adolescenti per adescare e catturare pedofili, suscitando un dibattito acceso sulla moralità e sulle implicazioni legali di tali pratiche.
Come ha rivelato questa settimana una causa intentata dallo stato del Nuovo Messico contro Snapchat, il Dipartimento di Giustizia dello Stato statunitense ha avviato un’indagine sotto copertura nei mesi recenti per dimostrare che Snapchat “è una piattaforma di social media principale per la condivisione di materiale di abuso sessuale minorile” e per sextortion ai danni di minori, poiché il suo “algoritmo mette a disposizione dei predatori adulti immagini di bambini”.
L’indagine condotta con l’account Sexy14Heather
Come parte dell’indagine sotto copertura, la Polizia ha creato un account Snapchat fittizio su una quattordicenne di nome “Sexy14Heather“. L’investigatore ha scambiato messaggi con account adulti, inclusi utenti che “hanno inviato messaggi inappropriati e foto esplicite”. In uno scambio con un utente chiamato “50+ SNGL DAD 4 YNGR”, la finta adolescente “ha indicato la sua età, ha inviato una foto e si è lamentata del fatto che i suoi genitori la costringevano ad andare a scuola”, spingendo l’utente a inviare “la propria foto” insieme a chat sessualmente suggestive.
Altri account hanno chiesto a “Heather” di “scambiare contenuti presumibilmente espliciti”, e diversi “hanno cercato di costringere la persona minorenne a condividere materiale sessuale abusivo su minori”, ha dichiarato il Dipartimento di Giustizia del New Mexico.
Questo nuovo utilizzo dell’AI è stato avviato dopo che la polizia di Albuquerque ha incriminato un uomo, Alejandro Marquez, che ha dichiarato colpevole ed è stato condannato a 18 anni per lo stupro di una ragazza di 11 anni che ha conosciuto tramite la funzione Quick Add di Snapchat nel 2022, ha dichiarato la querela del New Mexico. Più di recente, la querela del New Mexico ha affermato che un uomo di Albuquerque, Jeremy Guthrie, è stato arrestato e condannato quest’estate per “lo stupro di una ragazza di 12 anni che ha conosciuto e coltivato su Snapchat.”
“La nostra indagine sotto copertura ha rivelato che le funzionalità di progettazione dannose di Snapchat creano un ambiente in cui i predatori possono facilmente prendere di mira i bambini tramite schemi di sextortion e altre forme di abuso sessuale”, ha dichiarato il Procuratore generale del Dipartimento del New Mexico Raúl Torrez.
“Il social network ha ingannato gli utenti facendogli credere che le foto e i video inviati sulla loro piattaforma scompariranno, ma i predatori possono catturare in modo permanente questo contenuto e hanno creato un annuario virtuale di immagini sessuali di bambini che vengono scambiate, vendute e archiviate a tempo indeterminato. Attraverso la nostra causa contro Meta e Snapchat, il Dipartimento di Giustizia del New Mexico continuerà a ritenere queste piattaforme responsabili per aver dato priorità ai profitti rispetto alla sicurezza dei bambini”.
AI per catturare pedofili: soluzione o problema etico?
In passato, la polizia si è spacciata per bambini online per catturare predatori sessuali utilizzando foto di donne adulte dall’aspetto più giovane o addirittura foto più giovani di agenti di polizia. L’uso di immagini generate dall’AI potrebbe essere considerato un modo più etico per condurre queste operazioni. Tuttavia, emergono preoccupazioni significative riguardo all’etica e alle potenziali conseguenze di questa tecnologia. I critici mettono in guardia contro il rischio di creare una ‘trappola’ artificiale che potrebbe violare i diritti degli individui e sollevare questioni sul consenso e l’utilizzo improprio delle tecnologie AI.
Inoltre, l’uso di queste immagini potrebbe creare nuovi dilemmi legali, poiché non esistono ancora normative chiare che regolino l’impiego di contenuti generati dall’AI in contesti di polizia.
Questo scenario mette in luce la necessità di un equilibrio tra innovazione tecnologica e responsabilità etica, sottolineando l’urgenza di una regolamentazione che possa guidare l’adozione di tali tecnologie in modo da proteggere la società senza compromettere i diritti fondamentali.
Mentre la società si confronta con queste nuove sfide, diventa sempre più cruciale stabilire linee guida che possano prevenire abusi e garantire che le tecnologie AI siano utilizzate in modo sicuro e responsabile.