Les outils d'intelligence artificielle (IA) sont rapidement devenus des outils incontournables d'Internet : des investissements sans précédent dans cette technologie, se manifestant sous forme de chatbots, d'outils de recherche ou autres, ont imposé leur omniprésence. presque tout aspect de la vie politique, économique et sociale. On observe un intérêt croissant pour l'application de l'IA aux domaines liés aux médicaments en raison de son efficacité à « prédire les résultats », notamment sur de grands échantillons de population ; Chercheurs en IA Nous pensons que son potentiel en matière d'identification des risques liés à la drogue peut être bénéfique à ceux qui cherchent à développer des stratégies d'intervention précoce ou de prévention.
Cependant, les experts en politiques relatives aux technologies d'IA ont soulevé d'importantes questions. préoccupations Concernant la prolifération, largement incontestée, des nouvelles technologies et leur impact potentiel, notamment dans le domaine de la santé, cette question est particulièrement importante dans le cadre de recherches portant sur les drogues, qu'il s'agisse du suivi des usagers, de la réduction des risques ou de la prévention.
Prédiction des risques
L'utilisation de l'IA dans le traitement des données biométriques est de plus en plus documentée, avec des implications concrètes sur la santé et la société. L'un de ces domaines concerne l'évaluation des risques par les systèmes de santé pour les personnes consommatrices de drogues ou susceptibles d'en consommer.
Grâce à l'analyse des profils sur les réseaux sociaux et à la géolocalisation en temps réel, l'IA est de plus en plus utilisée pour suivre les habitudes de consommation de drogues (ou les discussions à ce sujet), prédire les comportements associés et, en fin de compte, recommander ou entreprendre des actions. Bien que la plupart de ces technologies soient encore au stade conceptuel ou de recherche, elles ressemblent étrangement aux technologies de surveillance. employés dans le secteur de la défense, en ce qui concerne la manière dont ils élargissent la compréhension des comportements considérés comme « à risque » et des groupes qui s'y adonnent.
Une étude Il est suggéré d'utiliser des dispositifs portables pour suivre les « rechutes » de consommation de cannabis. Il est recommandé de surveiller passivement et à long terme les indicateurs de stress d'une personne – tels qu'une accélération du rythme cardiaque nocturne, des changements d'activité physique, etc. – afin de détecter une consommation de cannabis. La surveillance passive est une méthodologie. utilisé dans le passé Ce système de surveillance vise à identifier et surveiller les groupes perçus comme menaçants. Il ne repose pas sur la collecte de données autodéclarées, souvent utilisée pour recueillir des données sensibles, telles que des informations relatives à des activités illégales ou à la santé personnelle. L'étude souligne l'existence d'une littérature abondante sur le sujet, témoignant d'un mépris croissant pour l'autonomie dans le processus de prévention.
Certain Une étude Cette approche suggère d'utiliser des modèles d'apprentissage automatique pour détecter les corrélations entre les facteurs socio-économiques, les indicateurs de santé mentale et les facteurs de stress environnementaux au sein des populations, afin d'identifier les vulnérabilités à la toxicomanie. Cela pourrait se faire en analysant les dossiers médicaux, l'activité en ligne ou une combinaison des deux, dans le but de prédire si les individus consommeront des drogues et deviendront dépendants.
Bien que ces exercices d'évaluation et de prédiction des risques puissent paraître anodins en eux-mêmes, leurs méthodes de collecte de données peuvent fonctionner comme des mécanismes de surveillance ; leurs résultats peuvent facilement être manipulés pour suggérer des interventions précoces chez les personnes considérées comme présentant un risque – que ce soit pour les systèmes de santé ou la sécurité.
Chloé Berthélémy, conseillère principale en politiques au sein du Réseau européen des droits numériques (EDRIL'organisation de défense des droits numériques européens, EDN, a averti que « l'utilisation d'algorithmes d'évaluation des risques constitue une pente glissante dangereuse » : les modèles d'IA prédictifs présentent un risque élevé de biais raciaux, économiques et sexistes dans leurs conclusions. Leurs conséquences pourraient être dramatiques pour les personnes surveillées : l'accès aux soins ou à l'assurance maladie pourrait leur être refusé, ou leurs prestations sociales supprimées, si elles sont considérées comme adoptant des comportements à risque ou des activités criminelles. Elles pourraient même être arrêtées si leurs appareils connectés déclenchent des alarmes en raison d'une suspicion de consommation de drogue, ou faire l'objet de contrôles policiers supplémentaires si elles ont des antécédents judiciaires. Les applications potentielles de la surveillance des personnes consommant des drogues ou impliquées dans leur trafic sont innombrables.
Surveillance en ligne
L’utilisation de ces outils est particulièrement préoccupante dans les espaces en ligne, notamment sur les réseaux sociaux où les gens partagent du contenu et admettent potentiellement des activités illégales, croyant être en sécurité grâce au cryptage numérique. Un papier L'article affirme que les outils d'IA peuvent analyser les publications sur les réseaux sociaux pour identifier des signes d'intention de consommer des drogues, de désespoir ou d'autres « signes avant-coureurs » servant d'« indicateurs numériques » d'une consommation potentielle de drogue. Il suggère ensuite que :
« Les phénotypes numériques extraits du langage des médias sociaux peuvent servir d’outil de dépistage pour identifier les patients présentant un risque élevé d’abandon de traitement dès le début de leur prise en charge. Ces travaux jettent également les bases d’un suivi continu et dynamique pendant le traitement, permettant de mieux comprendre les facteurs quotidiens qui vont au-delà de la simple probabilité de réussite le premier jour. »
Ces phénotypes sont des schémas de langage qui correspondent à des schémas de comportement, qui ont été utilisés avec succès pour identifier ces patients dans le cadre de l'étude, mais qui n'ont pas encore démontré un potentiel d'utilisation à plus grande échelle ni une meilleure précision.
Surveillance biopolitique des personnes qui consomment des drogues
Les exemples d'objets connectés alimentés par l'IA et d'outils prédictifs évoquent tous deux une orientation biopolitique. critique des sociétés totalitaires Ce phénomène est apparu bien avant l'intelligence artificielle. Depuis des décennies, la biopolitique met en lumière la manière dont les sociétés modernes développent des outils pour identifier les groupes ou les comportements perçus comme des menaces, des risques ou des crimes, et déploient des mécanismes de contrôle des populations pour les surveiller et les contenir lorsque cela est possible. L'IA a amplifié la portée de ces évaluations ; elle peut également recommander des actions, écartant totalement l'humain des processus décisionnels susceptibles de bouleverser radicalement la vie des personnes surveillées.
Comme c'est souvent le cas avec ces outils émergents, les indicateurs utilisés pour identifier les risques restent ambigus, notamment en ce qui concerne la consommation de drogues. Une accélération du rythme cardiaque la nuit peut avoir de multiples significations ; les antécédents de consommation de drogues ou les indicateurs démographiques ne permettent pas de prédire les comportements futurs. De nombreux aspects de l'IA restent encore flous.raisonnabilitéLes processus – c’est-à-dire la manière dont les modèles élaborent le raisonnement qui sous-tend leurs recommandations – sont particulièrement préoccupants. C’est pourquoi il est particulièrement inquiétant de voir des chercheurs étudier leurs applications potentielles avant même d’avoir abordé sérieusement les implications de leurs travaux ou ce que signifierait être soumis aux mécanismes de contrôle qu’ils développent.
Berthélémy a fait remarquer que « la logique sous-jacente de ces systèmes demeure le contrôle des personnes vulnérables. Les rapports de force dans ces contextes [concernant les dispositifs portables], où l’un dépend de l’autre pour son soutien ou sa survie, compromettent gravement la possibilité d’obtenir un consentement véritablement libre à la collecte de données. De plus, les risques de réutilisation des données à des fins encore plus néfastes sont élevés. »
Cela explique pourquoi EDRi adopte une position globalement sceptique quant à l'utilisation de l'IA à des fins de protection sociale, comme la surveillance. De plus, la capacité de toute personne à donner un consentement éclairé à la surveillance est remise en question, étant donné que celle-ci est perçue par la société comme un outil positif de protection sociale et de réduction des risques.
Robots de la drogue
Les outils d'IA, assortis de directives claires et limitées en matière de confidentialité et d'utilisation des données, peuvent contribuer à la réduction des risques. Ivan Roman et Josh Torrance, les développeurs de… Drugbot, un chatbot alimenté par l'IA et géré par Cranstoun, une organisation britannique de traitement des toxicomanies, tous deux ont souligné l'importance de la confidentialité dans le monde de la drogue.
Comme l'a déclaré Torrance, « l'utilisateur doit faire confiance à Drugbot, et il est de notre responsabilité de bâtir et de maintenir cette confiance ». Cela implique d'être transparent avec les utilisateurs sur la manière dont leurs données sont traitées, de limiter les autorisations de géolocalisation et de déployer des efforts ciblés pour entraîner le modèle Fournir des conseils de réduction des risques fondés sur des données probantes et traiter des informations sensibles.
Cette approche optimiste met en lumière les avantages que les progrès technologiques et l'IA peuvent apporter pour élargir l'accès à l'information et au soutien. Par exemple, Roman a expliqué comment Drugbot traite les données de géolocalisation et les réponses des utilisateurs afin de les avertir de la présence de contaminants dangereux sur les marchés de la drogue environnants. Bien que la collecte et l'utilisation des données de géolocalisation puissent présenter un risque pour la vie privée de l'utilisateur, l'accent mis sur la transparence pourrait atténuer ce problème en privilégiant le consentement de l'utilisateur pour les outils proposés.
Le terme « surveillance » sous-entend une absence de choix, et donc de pouvoir. Le suivi des populations à risque doit impérativement se faire dans le respect du consentement et de la transparence afin d'optimiser son impact, et de permettre aux personnes qui consomment des drogues de choisir les technologies qui contribuent à leur sécurité. Les sanctions et le contrôle exercés par le biais d'outils d'évaluation des risques et de réduction des méfaits basés sur l'IA reposent sur une participation passive des utilisateurs, ce qui les prive davantage de leur autonomie et compromet leur sécurité.
Des questions subsistent concernant les candidatures
Comment la surveillance et les interactions avec les LLM et autres outils d'IA peuvent-elles influencer notre rapport aux drogues en ligne ? Si Drugbot est un exemple de produit conçu par des personnes soucieuses de la réduction des risques, il est important de noter que leur philosophie n'est pas forcément partagée par tous ceux qui cherchent à étudier ou à surveiller les consommateurs de drogues.
Bien que la recherche sur la prédiction de la consommation de drogues et la réduction des comportements à risque soit encore à ses débuts, ses applications potentielles constituent un terrain glissant vers la surveillance, les atteintes à la vie privée et le contrôle des populations. Certaines études présentées ici montrent que la mise en pratique de ces idées a déjà commencé. Les concepteurs de ces modèles doivent prendre le temps de réfléchir aux implications de leurs travaux et aux conséquences bien réelles, voire bouleversantes, qu'ils peuvent engendrer.
