Gli strumenti di intelligenza artificiale (IA) sono rapidamente diventati strumenti essenziali di Internet: investimenti senza precedenti in questa tecnologia, che si presentano come chatbot, strumenti di ricerca o altro, hanno forzato la loro ubiquità in quasi ogni aspetto della vita politica, economica e sociale. C'è un crescente interesse nell'applicazione dell'intelligenza artificiale ai settori correlati alla droga per la sua efficacia nel "prevedere i risultati", soprattutto in ampi campioni di popolazione; Ricercatori di intelligenza artificiale ritengono che il suo potenziale nell'identificazione dei rischi correlati alla droga possa essere utile a coloro che cercano di sviluppare strategie di intervento precoce o di prevenzione.
Tuttavia, gli esperti in politiche sulla tecnologia dell’intelligenza artificiale hanno sollevato importanti preoccupazioni riguardo alla proliferazione, in gran parte indiscussa, delle nuove tecnologie e al loro possibile impatto, in particolare per quanto riguarda il loro utilizzo in ambito sanitario. Ciò è particolarmente importante quando si tratta di ricerca che affronta temi correlati alla droga, dal monitoraggio delle persone che ne fanno uso, alla riduzione del danno e alla prevenzione della droga.
Previsione del rischio
Sono sempre più numerose le prove dell'utilizzo dell'intelligenza artificiale nell'elaborazione di dati biometrici, con implicazioni sanitarie e sociali concrete. Uno di questi ambiti è la valutazione del rischio da parte dei sistemi sanitari per le persone che fanno uso di droghe (PWUD) o che sono considerate a rischio di farne uso.
Dall'analisi dei profili dei social media alla sorveglianza della posizione in tempo reale, l'intelligenza artificiale viene sempre più utilizzata per tracciare le abitudini di consumo di droghe (o le discussioni sul consumo), prevedere comportamenti correlati e, in ultima analisi, consigliare o intraprendere azioni. Sebbene gran parte di questa tecnologia sia ancora in fase concettuale o di ricerca, imita in modo inquietante la tecnologia di sorveglianza. occupato nel settore della difesa, nel modo in cui ampliano la comprensione di quali comportamenti sono considerati “rischiosi” e quali gruppi li mettono in atto.
Uno studio Suggerisce l'utilizzo di dispositivi indossabili per monitorare le "ricadute" del consumo di cannabis. Raccomanda il monitoraggio passivo a lungo termine degli indicatori di stress di una persona – come tachicardia notturna, cambiamenti nell'attività fisica o altro – per indicare che ha fatto uso di cannabis. Il monitoraggio passivo è una metodologia usato in passato per sorvegliare i gruppi percepiti come minacce. Non si basa sulla raccolta di dati auto-dichiarati, spesso utilizzata per la raccolta di dati sensibili, come attività illegali o relative alla salute personale. Lo studio evidenzia l'esistenza di una consistente letteratura sull'argomento, che indica un crescente disprezzo per l'autonomia nel processo di prevenzione.
Alcuni riparazioni suggerisce di utilizzare modelli di apprendimento automatico per rilevare correlazioni tra fattori socioeconomici, indicatori di salute mentale e fattori di stress ambientali delle popolazioni, al fine di "identificare le vulnerabilità" alla tossicodipendenza. Questo potrebbe essere fatto analizzando le cartelle cliniche, l'attività online o una combinazione di entrambi per, in sostanza, prevedere se le persone faranno uso di droghe e ne diventeranno dipendenti.
Sebbene questi esercizi di valutazione e previsione del rischio possano sembrare innocui di per sé, i loro metodi di raccolta dati possono funzionare come meccanismi di sorveglianza; i loro risultati possono essere facilmente manipolati per suggerire interventi tempestivi su coloro che sono considerati un rischio, sia per i sistemi sanitari che per la sicurezza.
Chloé Berthélémy, consulente senior per le politiche presso la European Digital Rights Network (EDRI), un'organizzazione che si batte per i diritti digitali in Europa, ha suggerito che "l'uso di algoritmi di valutazione del rischio rappresenta una pericolosa china scivolosa": i modelli di intelligenza artificiale predittiva presentano un elevato potenziale di pregiudizi razziali, economici e di genere nelle affermazioni che formulano. Le conseguenze potrebbero essere enormi per le persone sorvegliate: l'accesso alle cure o la copertura assicurativa potrebbero essere negati, o le prestazioni di assistenza sociale potrebbero essere revocate, se si ritiene che qualcuno stia adottando comportamenti a rischio o attività criminali. Le persone potrebbero persino essere arrestate se i dispositivi indossabili attivano allarmi a causa del sospetto uso di droghe, o essere prese di mira da ulteriori attività di polizia se hanno commesso attività criminali in passato. Le potenziali applicazioni della sorveglianza delle persone che fanno uso o sono coinvolte con droghe sono infinite.
Sorveglianza online
L'uso di questi strumenti è particolarmente preoccupante negli spazi online, in particolare sui social media, dove le persone condividono contenuti e potenzialmente ammettono attività illegali, credendo di essere al sicuro grazie alla crittografia digitale. Una carta sostiene che gli strumenti di intelligenza artificiale possano analizzare i post sui social media per identificare segnali di intenzione di fare uso di droghe, disperazione o altri "segnali di allarme" che fungono da "indicatori digitali" di potenziale consumo di droghe. Prosegue suggerendo che:
"I fenotipi digitali estratti dal linguaggio dei social media possono essere uno strumento di screening per identificare... i pazienti ad alto rischio di abbandono all'inizio del trattamento. Questo lavoro getta anche le basi per un monitoraggio dinamico e continuo durante il trattamento, per comprendere meglio i fattori quotidiani che vanno oltre la probabilità di successo del paziente fin dal primo giorno."
Questi fenotipi sono modelli di linguaggio correlati a modelli di comportamento, che sono stati utilizzati con successo per identificare questi pazienti all'interno dello studio, ma non hanno ancora indicato un potenziale per un utilizzo su larga scala o per una maggiore accuratezza.
Monitoraggio biopolitico dei consumatori di droga
Sia gli esempi di dispositivi indossabili alimentati dall'intelligenza artificiale che gli strumenti predittivi evocano approcci orientati alla biopolitica critica delle società totalitarie emerso ben prima dell'IA. La biopolitica ha evidenziato per decenni come le società moderne stiano sviluppando sempre più strumenti per identificare gruppi o comportamenti considerati minacce, rischi o crimini, implementando meccanismi di controllo della popolazione per sorvegliarli e limitarli quando possibile. L'IA ha ampliato la portata di queste valutazioni; può anche raccomandare azioni, escludendo completamente gli esseri umani dai processi decisionali che possono alterare radicalmente la vita delle persone sorvegliate.
Come spesso accade con questi strumenti emergenti, c'è molta ambiguità sugli indicatori utilizzati per identificare il rischio, in particolare per quanto riguarda l'uso di droghe. Un battito cardiaco accelerato di notte può significare qualsiasi cosa; la storia passata di consumo di droghe o gli indicatori demografici non determinano le azioni future. C'è ancora molto che non è chiaro riguardo all'intelligenza artificiale.ragionevolezza"processi" – come i modelli sviluppano il ragionamento alla base delle loro raccomandazioni. Ecco perché è particolarmente preoccupante vedere i ricercatori studiarne le potenziali implementazioni prima di impegnarsi in discussioni approfondite sulle possibili implicazioni del loro lavoro o su come sarebbe essere sottoposti ai meccanismi di controllo da loro sviluppati.
Berthélémy ha commentato che "la logica di fondo di questi sistemi rimane il controllo delle persone vulnerabili. Le dinamiche di potere in questi contesti [riguardanti i dispositivi indossabili], in cui uno dipende dall'altro per il supporto o la sopravvivenza, compromettono gravemente la capacità di ottenere un consenso realmente libero alla raccolta dei dati. Inoltre, i rischi di riutilizzare i dati per scopi ancora più dannosi sono elevati".
Ciò illustra il motivo per cui l'EDRi assume una posizione ampiamente scettica nei confronti dell'uso dell'IA per scopi di benessere sociale, come il monitoraggio. Inoltre, la capacità di qualsiasi individuo di dare un consenso informato alla sorveglianza viene messa in discussione, data la sua inquadratura sociale come strumento positivo per il benessere e la riduzione del danno.
Drugbots
Gli strumenti di intelligenza artificiale, con linee guida limitate e chiare sulla privacy e l'utilizzo dei dati, possono essere utili per la riduzione del danno. Ne parliamo con Ivan Roman e Josh Torrance, gli sviluppatori di Drugbot, un chatbot basato sull'intelligenza artificiale gestito da Cranstoun, un'organizzazione britannica per il trattamento della tossicodipendenza, entrambi hanno sottolineato l'importanza della privacy nel mondo della droga.
Come ha detto Torrance, "l'utente deve fidarsi di Drugbot, ed è nostra responsabilità costruire e mantenere questa fiducia". Ciò includeva essere trasparenti con gli utenti su come vengono gestiti i loro dati, nel limitare i permessi di posizione e uno sforzo mirato per addestrare il modello per fornire consulenza sulla riduzione del danno basata sulle prove e gestire informazioni sensibili.
Questo approccio ottimistico evidenzia i vantaggi che i progressi tecnologici e l'intelligenza artificiale possono apportare nell'ampliare l'accesso alle informazioni e al supporto. Ad esempio, Roman ha illustrato come Drugbot elaborasse i dati sulla posizione e le risposte degli utenti per avvisarli della presenza di contaminanti pericolosi nei mercati della droga circostanti. Sebbene la raccolta e l'utilizzo dei dati sulla posizione possano rappresentare un rischio per la privacy dell'utente, la sua attenzione alla trasparenza potrebbe risolvere questo problema, concentrandosi sul consenso dell'utente per gli strumenti offerti.
La natura del termine "sorveglianza" implica l'assenza di scelta e, quindi, di potere. Il monitoraggio delle popolazioni a rischio deve essere effettuato tenendo conto del consenso e della trasparenza per massimizzare l'impatto, e delle scelte dei consumatori di utilizzare tecnologie che li aiutino a proteggerli. Le sanzioni e le attività di controllo attuate attraverso strumenti di valutazione del rischio e riduzione del danno basati sull'intelligenza artificiale si basano su un livello di coinvolgimento passivo degli utenti che priva ulteriormente i consumatori di autonomia e sicurezza.
Restano domande sulle applicazioni
In che modo la sorveglianza e le interazioni con gli LLM e altri strumenti di intelligenza artificiale possono plasmare le nostre esperienze di discussione e apprendimento online sulle droghe? Sebbene Drugbot sia un esempio di prodotto realizzato da persone interessate e preoccupate per la riduzione del danno, è importante notare che la sua filosofia potrebbe non essere condivisa da tutti coloro che desiderano studiare o monitorare le persone che fanno uso di droghe.
Sebbene gran parte del lavoro sulla previsione del consumo di droghe e sulla riduzione dei comportamenti a rischio sia ancora agli inizi, le sue potenziali applicazioni sono davvero un terreno scivoloso fatto di sorveglianza, violazioni della privacy e controllo demografico. Alcuni degli studi qui evidenziati mostrano che il processo di messa in pratica di queste idee è già iniziato. Chi crea questi modelli deve fermarsi a considerare le implicazioni del lavoro che sta svolgendo e le conseguenze concrete e potenzialmente in grado di cambiare la vita che il suo lavoro può creare.
