Narzędzia sztucznej inteligencji (AI) szybko stały się podstawowymi narzędziami Internetu: bezprecedensowe inwestycje w tę technologię, objawiającą się w chatbotach, narzędziach badawczych i innych, wymusiły ich wszechobecność w Internecie. prawie każdy aspekt życia politycznego, gospodarczego i społecznego. Wzrasta zainteresowanie zastosowaniem sztucznej inteligencji w dziedzinach związanych z narkotykami ze względu na jej skuteczność w „przewidywaniu wyników”, zwłaszcza w dużych próbach populacyjnych; Badacze AI Wierzymy, że jego potencjał w zakresie identyfikowania ryzyka związanego z narkotykami może być pomocny tym, którzy chcą opracować strategie wczesnej interwencji lub zapobiegania.
Jednak eksperci zajmujący się polityką technologii AI poruszyli ważne kwestie dotyczy w odniesieniu do w dużej mierze niekwestionowanego rozpowszechnienia nowych technologii i ich potencjalnego wpływu, zwłaszcza w kontekście ich zastosowania w ochronie zdrowia. Jest to szczególnie ważne w przypadku badań dotyczących zagadnień związanych z narkotykami, od monitorowania osób używających narkotyków, po redukcję szkód i profilaktykę narkotykową.
Przewidywanie ryzyka
Coraz więcej dowodów wskazuje na wykorzystanie sztucznej inteligencji w przetwarzaniu danych biometrycznych, co ma realne implikacje zdrowotne i społeczne. Jednym z takich obszarów jest ocena ryzyka w systemach opieki zdrowotnej dla osób używających narkotyków (PWUD) lub osób, u których istnieje prawdopodobieństwo, że będą używać narkotyków.
Od scrapingu profili w mediach społecznościowych po nadzór lokalizacji w czasie rzeczywistym, sztuczna inteligencja jest coraz częściej wykorzystywana do śledzenia nawyków związanych z używaniem narkotyków (lub dyskusji na ich temat), przewidywania powiązanych zachowań i ostatecznie rekomendowania lub podejmowania działań. Chociaż wiele z tych technologii jest wciąż na etapie koncepcyjnym lub badawczym, w niepokojąco przypomina ona technologię nadzoru. zatrudniony w sektorze obronnym w jaki sposób poszerzają wiedzę na temat tego, jakie zachowania są uznawane za „ryzykowne” i jakie grupy się w nie angażują.
Jedno badanie Sugeruje używanie urządzeń przenośnych do śledzenia „nawrotów” używania konopi. Zaleca długoterminowe pasywne monitorowanie wskaźników stresu danej osoby – takich jak szybkie tętno w nocy, zmiany aktywności fizycznej i inne – w celu wskazania, że używała konopi. Pasywne monitorowanie to metodologia. używany w przeszłości do inwigilacji grup postrzeganych jako zagrożenie. Nie opiera się na samodeklaracjach dotyczących gromadzenia danych, które są często wykorzystywane w przypadku gromadzenia danych wrażliwych – takich jak nielegalne lub osobiste działania zdrowotne. Badanie wskazuje na istnienie bogatej literatury na ten temat, co wskazuje na rosnący brak poszanowania autonomii w procesie zapobiegania.
Trochę naukowe Sugeruje wykorzystanie modeli uczenia maszynowego do wykrywania korelacji między czynnikami społeczno-ekonomicznymi populacji, wskaźnikami zdrowia psychicznego i stresorami środowiskowymi w celu „identyfikacji podatności” na uzależnienie od narkotyków. Można to osiągnąć poprzez analizę dokumentacji medycznej, aktywności online lub ich kombinacji, aby w istocie przewidzieć, czy ludzie będą sięgać po narkotyki i uzależniać się od nich.
Chociaż te ćwiczenia w zakresie oceny i przewidywania ryzyka same w sobie mogą wydawać się nieszkodliwe, stosowane w ich ramach metody zbierania danych mogą działać jako mechanizmy nadzoru; uzyskane wyniki można łatwo zmanipulować, aby zasugerować wczesne interwencje w przypadku osób uznanych za stanowiące zagrożenie – czy to dla systemów opieki zdrowotnej, czy dla bezpieczeństwa.
Chloé Berthélémy, starsza doradczyni ds. polityki w Europejskiej Sieci Praw Cyfrowych (EDRi), organizacja działająca na rzecz europejskich praw cyfrowych, zasugerowała, że „wykorzystywanie algorytmów oceny ryzyka to niebezpieczna równia pochyła”: predykcyjne modele sztucznej inteligencji (AI) mają wysoki potencjał do dyskryminacji rasowej, ekonomicznej i płciowej w swoich twierdzeniach. Ich konsekwencje dla osób objętych nadzorem mogą być ogromne: dostęp do leczenia lub ubezpieczenie mogą zostać odmówione, a świadczenia socjalne mogą zostać cofnięte, jeśli ktoś zostanie uznany za podejmującego ryzykowne zachowania lub działalność przestępczą. Osoby mogą nawet zostać aresztowane, jeśli urządzenia noszone na ciele uruchomią alarm z powodu podejrzenia używania narkotyków, lub stać się celem dodatkowych działań policyjnych, jeśli w przeszłości dopuszczały się działalności przestępczej. Potencjalne zastosowania nadzoru nad osobami używającymi narkotyków lub mającymi z nimi styczność są nieograniczone.
Nadzór online
Korzystanie z tych narzędzi budzi szczególne obawy w przestrzeni internetowej, zwłaszcza w mediach społecznościowych, gdzie ludzie udostępniają treści i potencjalnie przyznają się do nielegalnych działań, wierząc, że są bezpieczni dzięki cyfrowemu szyfrowaniu. Jeden papier Twierdzi, że narzędzia sztucznej inteligencji potrafią analizować posty w mediach społecznościowych, aby identyfikować oznaki zamiaru zażycia narkotyków, rozpaczy lub inne „sygnały ostrzegawcze”, które służą jako „cyfrowe wskaźniki” potencjalnego zażywania narkotyków. Sugeruje również, że:
„Fenotypy cyfrowe wyodrębnione z języka mediów społecznościowych mogą stanowić narzędzie przesiewowe do identyfikacji… pacjentów z wysokim ryzykiem rezygnacji z leczenia na początku terapii. Praca ta stanowi również podstawę dynamicznego, ciągłego monitorowania w trakcie terapii, aby lepiej zrozumieć codzienne czynniki wykraczające poza to, czy dana osoba ma szansę na sukces już pierwszego dnia”.
Fenotypy te to wzorce języka, które odpowiadają wzorcom zachowania. Zostały one z powodzeniem wykorzystane do identyfikacji tych pacjentów w ramach badania, ale jak dotąd nie wykazano, że mogą być stosowane na większą skalę lub mieć większą dokładność.
Biopolityczny monitoring użytkowników narkotyków
Zarówno przykłady urządzeń noszonych zasilanych sztuczną inteligencją, jak i narzędzi predykcyjnych przywodzą na myśl nurt biopolityki krytyka społeczeństw totalitarnych które pojawiły się na długo przed pojawieniem się sztucznej inteligencji. Biopolityka od dziesięcioleci uwypukla, jak współczesne społeczeństwa coraz częściej opracowują narzędzia do identyfikacji grup lub zachowań uznawanych za zagrożenie, ryzyko lub przestępstwo, wdrażając mechanizmy kontroli populacji w celu ich monitorowania i ograniczania, gdy jest to możliwe. Sztuczna inteligencja zwiększyła skalę, na jaką można przeprowadzać takie oceny; może również rekomendować działania, całkowicie eliminując ludzi z procesów decyzyjnych, które mogą radykalnie zmienić życie osób objętych nadzorem.
Jak to często bywa w przypadku tych nowych narzędzi, istnieje wiele niejasności co do wskaźników używanych do identyfikacji ryzyka – szczególnie w kontekście używania narkotyków. Szybkie tętno w nocy może oznaczać cokolwiek; historia używania narkotyków w przeszłości ani wskaźniki demograficzne nie determinują przyszłych działań. Wciąż wiele pozostaje niejasnych w kwestii sztucznej inteligencji.rozsądność„procesy – w jaki sposób modele rozwijają rozumowanie stojące za ich rekomendacjami. Dlatego szczególnie niepokojące jest to, że naukowcy badają potencjalne implementacje, zanim podejmą właściwe dyskusje na temat potencjalnych implikacji swojej pracy lub tego, jak wyglądałoby poddanie się opracowanym przez nich mechanizmom kontroli.
Berthélémy skomentował, że „podstawową logiką tych systemów pozostaje kontrola nad osobami bezbronnymi. Dynamika władzy w tych kontekstach [dotyczących urządzeń noszonych], gdzie jedno jest zależne od drugiego w kwestii wsparcia lub przetrwania, poważnie podważa możliwość uzyskania prawdziwie dobrowolnej zgody na gromadzenie danych. Co więcej, ryzyko wykorzystania danych do jeszcze bardziej szkodliwych celów jest wysokie”.
To ilustruje, dlaczego EDRi podchodzi do wykorzystania sztucznej inteligencji w celach socjalnych, takich jak monitorowanie, z dużym sceptycyzmem. Co więcej, kwestionowana jest możliwość wyrażenia świadomej zgody na nadzór przez jakąkolwiek osobę, biorąc pod uwagę jego społeczne postrzeganie jako pozytywnego narzędzia służącego dobru wspólnemu i redukcji szkód.
Roboty narkotyczne
Narzędzia AI, z ograniczonymi i jasnymi wytycznymi dotyczącymi prywatności i użytkowania danych, mogą być przydatne w redukcji szkód. W rozmowie z Ivanem Romanem i Joshem Torrance’em, twórcami Narkotyk, chatbot oparty na sztucznej inteligencji, obsługiwany przez Cranstoun, brytyjską organizację zajmującą się leczeniem uzależnień, obaj podkreślili znaczenie prywatności w świecie narkotyków.
Jak powiedział Torrance, „użytkownik musi zaufać Drugbotowi, a naszym obowiązkiem jest budowanie i podtrzymywanie tego zaufania”. Obejmowało to transparentność wobec użytkowników w zakresie sposobu przetwarzania ich danych, ograniczania uprawnień do lokalizacji oraz skoncentrowane działania na trenować modelkę udzielanie porad w zakresie ograniczania szkód opartych na dowodach naukowych oraz radzenie sobie z poufnymi informacjami.
To optymistyczne podejście podkreśla korzyści, jakie postęp technologiczny i sztuczna inteligencja mogą przynieść w poszerzaniu dostępu do informacji i wsparcia. Na przykład, Roman opisał, jak Drugbot przetwarzał dane o lokalizacji i odpowiedzi użytkowników, aby ostrzegać ich o niebezpiecznych zanieczyszczeniach na okolicznych rynkach narkotykowych. Chociaż gromadzenie i wykorzystywanie danych o lokalizacji może stanowić zagrożenie dla prywatności użytkownika, nacisk na transparentność może zniwelować ten problem, koncentrując się na zgodzie użytkownika na korzystanie z oferowanych przez niego narzędzi.
Pojęcie „nadzór” implikuje brak wyboru, a tym samym władzy. Monitorowanie grup ryzyka musi odbywać się z zachowaniem zgody i transparentności, aby zmaksymalizować wpływ, a także umożliwić użytkownikom narkotyków korzystanie z technologii, które pomagają im zapewnić bezpieczeństwo. Karanie i działania policyjne realizowane za pomocą narzędzi do oceny ryzyka i redukcji szkód opartych na sztucznej inteligencji opierają się na poziomie biernego zaangażowania użytkowników, który dodatkowo pozbawia użytkowników narkotyków ich autonomii i bezpieczeństwa.
Nadal pozostają pytania dotyczące aplikacji
W jaki sposób nadzór i interakcje z LLM i innymi narzędziami sztucznej inteligencji mogą kształtować nasze doświadczenia związane z rozmowami i zdobywaniem wiedzy o narkotykach online? Chociaż Drugbot jest jednym z przykładów produktu stworzonego przez osoby zainteresowane i troszczące się o redukcję szkód, należy zauważyć, że ich etos może nie być podzielany przez wszystkich, którzy chcą badać lub monitorować osoby używające narkotyków.
Chociaż znaczna część prac nad przewidywaniem używania narkotyków i ograniczaniem ryzykownych zachowań jest wciąż w powijakach, ich potencjalne zastosowania to istna śliska ścieżka nadzoru, nadużyć prywatności i kontroli populacji. Niektóre z przedstawionych tu badań pokazują, że proces wdrażania tych idei w praktyce już się rozpoczął. Osoby tworzące te modele powinny zatrzymać się i zastanowić nad implikacjami swojej pracy oraz nad bardzo realnymi i potencjalnie zmieniającymi życie konsekwencjami, jakie może ona przynieść.
