As ferramentas de Inteligência Artificial (IA) tornaram-se rapidamente ferramentas essenciais da internet: investimentos sem precedentes nessa tecnologia, que se manifesta em chatbots, ferramentas de pesquisa e muito mais, consolidaram sua onipresença. quase todos aspecto da vida política, econômica e social. Há um interesse crescente na aplicação da IA em áreas relacionadas a drogas devido à sua eficácia em "prever resultados", especialmente em grandes amostras populacionais; Pesquisadores de IA Acredito que seu potencial para identificar riscos relacionados a drogas pode beneficiar aqueles que buscam desenvolver estratégias de intervenção ou prevenção precoce.
No entanto, especialistas em políticas de tecnologia de IA levantaram questões importantes. preocupações Considerando a proliferação, em grande parte incontestada, de novas tecnologias e seu possível impacto, especialmente no que diz respeito ao seu uso na saúde, isso é particularmente importante ao lidar com pesquisas que abordam temas relacionados a drogas, desde o monitoramento de usuários até a redução de danos e a prevenção do uso de drogas.
Previsão de risco
Há cada vez mais evidências do uso da IA no processamento de dados biométricos, com implicações reais para a saúde e a sociedade. Uma dessas áreas é a avaliação de risco dos sistemas de saúde para pessoas que usam drogas (PUD) ou que são consideradas propensas a usar drogas.
Por meio da coleta de dados de perfis em redes sociais e da vigilância de localização em tempo real, a IA é cada vez mais utilizada para rastrear os hábitos de consumo de drogas (ou discussões sobre o consumo), prever comportamentos relacionados e, em última instância, recomendar ou tomar medidas. Embora grande parte dessa tecnologia ainda esteja em fase conceitual ou de pesquisa, ela se assemelha de forma assustadora à tecnologia de vigilância. empregada no setor de defesa, na forma como ampliam a compreensão de quais comportamentos são considerados "de risco" e quais grupos os adotam.
Um estudo Sugere-se o uso de dispositivos vestíveis para monitorar as "recaídas" do uso de cannabis. Recomenda-se o monitoramento passivo a longo prazo de indicadores de estresse, como frequência cardíaca acelerada à noite, alterações na atividade física, entre outros, para identificar o uso de cannabis. O monitoramento passivo é uma metodologia. usado no passado para monitorar grupos percebidos como ameaças. Não depende da coleta de dados autodeclarados, frequentemente utilizada na coleta de dados sensíveis – como atividades ilegais ou informações sobre saúde pessoal. O estudo destaca que já existe um corpo substancial de literatura sobre o tema, o que aponta para um crescente desrespeito à autonomia no processo de prevenção.
Alguns pesquisa Sugere-se o uso de modelos de aprendizado de máquina para detectar correlações entre fatores socioeconômicos, indicadores de saúde mental e estressores ambientais em populações, a fim de "identificar vulnerabilidades" ao vício em drogas. Isso poderia ser feito por meio da análise de registros de saúde, atividades online ou uma combinação de ambos, para, em essência, prever se as pessoas usarão drogas e se tornarão dependentes delas.
Embora esses exercícios de avaliação e previsão de riscos possam parecer inócuos por si só, seus métodos de coleta de dados podem funcionar como mecanismos de vigilância; suas descobertas podem ser facilmente manipuladas para sugerir intervenções precoces naqueles considerados um risco – seja para os sistemas de saúde ou para a segurança.
Chloé Berthélémy, Assessora Sênior de Políticas da Rede Europeia de Direitos Digitais (EDRiA organização que defende os direitos digitais na Europa, afirmou que “o uso de algoritmos de avaliação de risco é uma perigosa porta de entrada”: modelos preditivos de IA têm um alto potencial para viés racial, econômico e de gênero nas afirmações que fazem. As consequências podem ser enormes para os vigiados: o acesso a tratamento ou cobertura de seguro pode ser negado, ou benefícios sociais podem ser suspensos, se alguém for considerado como estando envolvido em comportamentos de risco ou atividades criminosas. As pessoas podem até ser presas se dispositivos vestíveis dispararem alarmes devido à suspeita de uso de drogas, ou serem alvo de atividades policiais adicionais se tiverem histórico de atividades criminosas. As aplicações potenciais da vigilância de pessoas que usam ou estão envolvidas com drogas são inúmeras.
Vigilância on-line
O uso dessas ferramentas é particularmente preocupante em espaços online, especialmente nas redes sociais, onde as pessoas compartilham conteúdo e podem admitir atividades ilegais, acreditando estarem seguras devido à criptografia digital. Um papel Alega-se que ferramentas de IA podem analisar publicações em redes sociais para identificar indícios de intenção de usar drogas, desespero ou outros "sinais de alerta" que servem como "indicadores digitais" de potencial uso de drogas. Sugere-se ainda que:
“Os fenótipos digitais extraídos da linguagem das redes sociais podem ser uma ferramenta de triagem para identificar pacientes com alto risco de abandono no início do tratamento. Este trabalho também estabelece as bases para um monitoramento contínuo e dinâmico durante o tratamento, a fim de compreender melhor os fatores do dia a dia que vão além da probabilidade de sucesso no primeiro dia.”
Esses fenótipos são padrões de linguagem que se correlacionam com padrões de comportamento, os quais foram usados com sucesso para identificar esses pacientes dentro do estudo, mas ainda não indicaram um potencial para uso em maior escala ou precisão.
Monitoramento biopolítico de usuários de drogas injetáveis
Tanto os exemplos de dispositivos vestíveis com inteligência artificial quanto as ferramentas preditivas evocam uma orientação biopolítica. crítica às sociedades totalitárias que surgiu muito antes da IA. A biopolítica tem destacado, há décadas, como as sociedades modernas estão desenvolvendo cada vez mais ferramentas para identificar grupos ou comportamentos considerados ameaças, riscos ou crimes, implementando mecanismos de controle populacional para vigiá-los e restringi-los quando possível. A IA aumentou a escala em que essas avaliações podem ser feitas; ela também pode recomendar ações, removendo completamente os humanos dos processos de tomada de decisão, o que pode alterar radicalmente a vida daqueles que são vigiados.
Como costuma acontecer com essas ferramentas emergentes, há muita ambiguidade em relação aos indicadores usados para identificar riscos – principalmente no que diz respeito ao uso de drogas. Uma frequência cardíaca acelerada à noite pode significar qualquer coisa; o histórico de uso de drogas ou indicadores demográficos não determinam as ações futuras de uma pessoa. Ainda há muito que não está claro sobre a “Inteligência Artificial”razoabilidadeOs processos — como os modelos desenvolvem o raciocínio por trás de suas recomendações — são particularmente preocupantes. Por isso, é especialmente preocupante ver pesquisadores estudando suas potenciais implementações antes de se engajarem em discussões adequadas sobre as possíveis implicações de seu trabalho ou sobre como seria estar sujeito aos mecanismos de controle que eles desenvolvem.
Berthélémy comentou que “a lógica subjacente desses sistemas continua sendo o controle de pessoas vulneráveis. A dinâmica de poder nesses contextos [relativos a dispositivos vestíveis], em que um depende do outro para apoio ou sobrevivência, prejudica seriamente a capacidade de obter um consentimento genuinamente livre para a coleta de dados. Além disso, os riscos de reutilização dos dados para fins ainda mais prejudiciais são altos.”
Isso ilustra por que a EDRi adota uma postura amplamente cética em relação ao uso da IA para fins de bem-estar social, como o monitoramento. Além disso, a capacidade de qualquer indivíduo de dar consentimento informado para a vigilância é questionada, dada a sua apresentação social como uma ferramenta positiva para o bem-estar e a redução de danos.
Robôs de drogas
Ferramentas de IA, com diretrizes de privacidade e uso de dados claras e limitadas, podem ser úteis para a redução de danos. Em conversa com Ivan Roman e Josh Torrance, os desenvolvedores de Drugbot, um chatbot com inteligência artificial operado pela Cranstoun, uma organização britânica de tratamento de drogas, ambos destacaram a importância da privacidade no mundo das drogas.
Como disse Torrance, “o usuário precisa confiar no Drugbot, e é nossa responsabilidade construir e manter essa confiança”. Isso inclui ser transparente com os usuários sobre como seus dados são tratados, limitar as permissões de localização e um esforço concentrado para treine o modelo Fornecer aconselhamento sobre redução de danos baseado em evidências e lidar com informações sensíveis.
Essa abordagem otimista destaca os benefícios que os avanços tecnológicos e a IA podem trazer para ampliar o acesso à informação e ao suporte. Por exemplo, Roman descreveu como o Drugbot processava os dados de localização e as respostas dos usuários para alertá-los sobre contaminantes perigosos em mercados de drogas próximos. Embora a coleta e o uso de dados de localização possam representar um risco à privacidade do usuário, seu foco na transparência pode neutralizar esse problema, priorizando o consentimento do usuário para as ferramentas oferecidas.
A natureza da palavra vigilância implica ausência de escolha e, portanto, de poder. O monitoramento de populações em risco deve ser feito com consentimento e transparência em mente, a fim de maximizar o impacto e as escolhas das pessoas que usam drogas (PUD) em relação ao uso de tecnologias que as ajudem a se manterem seguras. Punições e policiamento realizados por meio de ferramentas de avaliação de risco e redução de danos baseadas em inteligência artificial dependem de um nível de engajamento passivo do usuário que priva ainda mais as PUD de sua autonomia e segurança.
Ainda existem dúvidas sobre as candidaturas.
Como a vigilância e as interações com LLMs e outras ferramentas de IA podem moldar nossas experiências ao falar e aprender sobre drogas online? Embora o Drugbot seja um exemplo de produto desenvolvido por pessoas interessadas e preocupadas com a redução de danos, é importante observar que seus princípios podem não ser compartilhados por todos que buscam estudar ou monitorar pessoas que usam drogas.
Embora grande parte do trabalho de previsão do uso de drogas e redução de comportamentos de risco ainda esteja em seus estágios iniciais, suas aplicações potenciais representam um verdadeiro caminho perigoso rumo à vigilância, violações de privacidade e controle populacional. Alguns dos estudos aqui destacados demonstram que o processo de colocar essas ideias em prática já começou. Aqueles que criam esses modelos precisam parar e refletir sobre as implicações do trabalho que estão realizando, bem como sobre as consequências reais e potencialmente transformadoras que ele pode gerar.
