Las herramientas de inteligencia artificial (IA) se han convertido rápidamente en herramientas básicas de Internet: inversiones sin precedentes en esta tecnología, que aparecen como chatbots, herramientas de investigación o más, han forzado su ubicuidad en casi todos Aspecto de la vida política, económica y social. Existe un creciente interés en aplicar la IA a los campos relacionados con las drogas por su eficacia para predecir resultados, especialmente en grandes muestras de población. Investigadores de IA Creemos que su potencial para identificar riesgos relacionados con los medicamentos puede beneficiar a quienes buscan desarrollar estrategias de intervención o prevención temprana.
Sin embargo, los expertos en políticas de tecnología de IA han planteado cuestiones importantes: preocupaciones de estudiantes y facultad sobre la proliferación, en gran medida incuestionada, de nuevas tecnologías y su posible impacto, especialmente en su uso en la salud. Esto es especialmente importante en la investigación que aborda temas relacionados con las drogas, desde el seguimiento de las personas que las consumen hasta la reducción de daños y la prevención del consumo de drogas.
Predicción de riesgos
Cada vez hay más evidencia del uso de la IA en el procesamiento de datos biométricos, con implicaciones sociales y sanitarias reales. Una de estas áreas es la evaluación de riesgos de los sistemas de salud para las personas que consumen drogas (PWUD), o aquellas que se evalúan como propensas a consumirlas.
Desde el rastreo de perfiles en redes sociales hasta la vigilancia de la ubicación en tiempo real, la IA se utiliza cada vez más para rastrear los hábitos de consumo de drogas de las personas (o sus conversaciones sobre el consumo), predecir comportamientos relacionados y, en última instancia, recomendar o tomar medidas. Si bien gran parte de esta tecnología aún se encuentra en una etapa conceptual o de investigación, imita de forma inquietante la tecnología de vigilancia. empleado en el sector de defensa, en cómo amplían la comprensión de qué conductas se entienden como “riesgosas” y qué grupos participan en ellas.
Un estudio Sugiere el uso de dispositivos portátiles para rastrear las recaídas en el consumo de cannabis. Recomienda la monitorización pasiva a largo plazo de los indicadores de estrés de una persona, como la frecuencia cardíaca rápida por la noche, los cambios en la actividad física, etc., para indicar que ha consumido cannabis. La monitorización pasiva es una metodología. usado en el pasado Para vigilar a grupos percibidos como amenazas. No se basa en la recopilación de datos autodeclarados, que suele utilizarse para recopilar información sensible, como actividades ilegales o de salud personal. El estudio señala la existencia de una amplia bibliografía sobre el tema, lo que indica una creciente indiferencia hacia la autonomía en el proceso de prevención.
Cosas investigacion Se sugiere el uso de modelos de aprendizaje automático para detectar correlaciones en factores socioeconómicos, indicadores de salud mental y factores de estrés ambiental de las poblaciones, con el fin de identificar vulnerabilidades a la drogadicción. Esto podría lograrse mediante el análisis de historiales médicos, actividad en línea o una combinación de ambos para, en esencia, predecir si las personas consumirán drogas y desarrollarán adicción.
Si bien estos ejercicios de evaluación y predicción de riesgos pueden parecer inofensivos por sí mismos, sus métodos de recolección de datos pueden funcionar como mecanismos de vigilancia; sus hallazgos pueden manipularse fácilmente para sugerir intervenciones tempranas en aquellos considerados un riesgo, ya sea para los sistemas de salud o la seguridad.
Chloé Berthélémy, asesora principal de políticas de la Red Europea de Derechos Digitales (Edri), una organización que defiende los derechos digitales europeos, sugirió que «el uso de algoritmos de evaluación de riesgos es una peligrosa pendiente resbaladiza»: los modelos predictivos de IA tienen un alto potencial de sesgo racial, económico y de género en las afirmaciones que realizan. Sus consecuencias podrían ser graves para las personas vigiladas: se podría denegar el acceso a tratamientos o la cobertura del seguro, o retirar las prestaciones sociales, si se considera que alguien participa en conductas de riesgo o actividades delictivas. Las personas podrían incluso ser arrestadas si los dispositivos portátiles activan alarmas debido a la sospecha de consumo de drogas, o ser objeto de nuevas actividades policiales si han participado en actividades delictivas en el pasado. Las posibles aplicaciones para la vigilancia de personas que consumen o están involucradas con drogas son infinitas.
Vigilancia en línea
El uso de estas herramientas es especialmente preocupante en los espacios en línea, especialmente en las redes sociales, donde las personas comparten contenido y potencialmente admiten actividades ilegales, creyendo que están seguras debido al cifrado digital. Un papel Afirma que las herramientas de IA pueden analizar publicaciones en redes sociales para identificar indicios de intención de consumo de drogas, desesperación u otras señales de alerta que sirven como indicadores digitales de un posible consumo de drogas. Continúa sugiriendo que:
Los fenotipos digitales extraídos del lenguaje de las redes sociales pueden ser una herramienta de detección para identificar a pacientes con alto riesgo de abandono al inicio del tratamiento. Este trabajo también sienta las bases para un monitoreo continuo y dinámico durante el tratamiento, con el fin de comprender mejor los factores cotidianos que van más allá de la probabilidad de éxito desde el primer día.
Estos fenotipos son patrones de lenguaje que se correlacionan con patrones de comportamiento, que se utilizaron con éxito para identificar a estos pacientes dentro del estudio, pero que aún no han indicado un potencial para un uso a mayor escala o precisión.
Monitoreo biopolítico de las personas que consumen drogas
Tanto los ejemplos de wearables impulsados por IA como las herramientas predictivas evocan ideas orientadas a la biopolítica. crítica a las sociedades totalitarias que surgió mucho antes que la IA. La biopolítica ha puesto de relieve durante décadas cómo las sociedades modernas desarrollan cada vez más herramientas para identificar grupos o comportamientos considerados amenazas, riesgos o delitos, implementando mecanismos de control poblacional para vigilarlos y restringirlos cuando sea posible. La IA ha ampliado la escala de estas evaluaciones; también puede recomendar acciones, eliminando por completo a los humanos de los procesos de toma de decisiones que pueden alterar radicalmente la vida de las personas vigiladas.
Como suele ocurrir con estas herramientas emergentes, existe mucha ambigüedad sobre los indicadores utilizados para identificar el riesgo, especialmente en relación con el consumo de drogas. Una frecuencia cardíaca rápida por la noche podría significar cualquier cosa; el historial de consumo de drogas o los indicadores demográficos de una persona no determinan sus acciones futuras. Aún hay mucha incertidumbre sobre la IA.razonabilidadProcesos: cómo los modelos desarrollan el razonamiento que sustenta sus recomendaciones. Por eso es particularmente preocupante ver a los investigadores estudiar sus posibles implementaciones antes de entablar debates adecuados sobre las posibles implicaciones de su trabajo o cómo sería estar sujeto a los mecanismos de control que desarrollan.
Berthélémy comentó que «la lógica subyacente de estos sistemas sigue siendo el control de las personas vulnerables. Las dinámicas de poder en estos contextos [en relación con los dispositivos portátiles], donde una persona depende de la otra para su sustento o supervivencia, socavan gravemente la capacidad de obtener un consentimiento genuinamente libre para la recopilación de datos. Además, los riesgos de reutilizar los datos para fines aún más perjudiciales son altos».
Esto ilustra por qué EDRi mantiene una postura mayoritariamente escéptica respecto al uso de la IA con fines de bienestar social, como la vigilancia. Además, se cuestiona la capacidad de cualquier persona para dar su consentimiento informado a la vigilancia, dado su enfoque social como una herramienta positiva para el bienestar y la reducción de daños.
Robots farmacéuticos
Las herramientas de IA, con una privacidad de datos limitada y clara y directrices de uso, pueden ser útiles para la reducción de daños. Hablando con Ivan Roman y Josh Torrance, los desarrolladores de Drugbot, un chatbot impulsado por inteligencia artificial operado por Cranstoun, una organización británica de tratamiento de drogas, ambos destacaron la importancia de la privacidad en el mundo de las drogas.
Como dijo Torrance, «el usuario debe confiar en Drugbot, y es nuestra responsabilidad construir y mantener esa confianza». Esto incluía ser transparente con los usuarios sobre cómo se manejan sus datos, limitar los permisos de ubicación y un esfuerzo centrado en entrenar al modelo Proporcionar asesoramiento sobre reducción de daños basado en evidencia y tratar información confidencial.
Este enfoque optimista destaca los beneficios que los avances tecnológicos y la IA pueden aportar a la ampliación del acceso a la información y al apoyo. Por ejemplo, Roman explicó cómo Drugbot procesaba los datos de ubicación y las respuestas de los usuarios para advertirles sobre contaminantes peligrosos en los mercados de drogas circundantes. Si bien la recopilación y el uso de datos de ubicación podrían suponer un riesgo para la privacidad del usuario, su enfoque en la transparencia podría minimizar este problema al centrarse en el consentimiento del usuario para las herramientas que ofrece.
La naturaleza del término vigilancia implica la ausencia de opciones y, por lo tanto, de poder. El monitoreo de las poblaciones en riesgo debe realizarse con el consentimiento y la transparencia en mente para maximizar el impacto, así como las opciones de las personas con discapacidad para usar tecnologías que las ayuden a mantenerse seguras. El castigo y la vigilancia policial, implementados mediante herramientas de evaluación de riesgos y reducción de daños impulsadas por IA, se basan en un nivel de participación pasiva del usuario que despoja aún más a las personas con discapacidad de su autonomía y seguridad.
Aún quedan preguntas sobre las solicitudes
¿Cómo pueden la vigilancia y las interacciones con LLM y otras herramientas de IA influir en nuestras experiencias al hablar y aprender sobre drogas en línea? Si bien Drugbot es un ejemplo de un producto creado por personas interesadas y preocupadas por la reducción de daños, es importante señalar que su filosofía podría no ser compartida por todos aquellos que buscan estudiar o monitorear a las personas que consumen drogas.
Si bien gran parte del trabajo para predecir el consumo de drogas y reducir las conductas de riesgo aún se encuentra en sus primeras etapas, sus posibles aplicaciones son un verdadero dilema de vigilancia, abusos de la privacidad y control demográfico. Algunos de los estudios aquí destacados muestran que el proceso de poner en práctica estas ideas ya ha comenzado. Quienes crean estos modelos deben detenerse a considerar las implicaciones del trabajo que realizan y las consecuencias, muy reales y potencialmente transformadoras, que su labor puede generar.
