Στο δυναμικό και διαρκώς εξελισσόμενο τοπίο των μέσων κοινωνικής δικτύωσης, αναδύθηκε ένα περίεργο γλωσσικό φαινόμενο:algospeak.» Αυτή η ψηφιακά μητρική γλώσσα χρησιμοποιεί κωδικοποιημένες λέξεις με εναλλακτικές σημασίες για τη συζήτηση θεμάτων που είναι υπερβολικά εποπτευόμενα στα μέσα κοινωνικής δικτύωσης, αποφεύγοντας έτσι τον εντοπισμό από αλγόριθμους. Η ανάπτυξη μιας τέτοιας γλώσσας αντανακλά μια συνεχιζόμενη μάχη μεταξύ των χρηστών και των εταιρειών Big Tech. Στο TikTok, είναι σύνηθες να βρίσκεις ανθρώπους να ανταλλάσσουν τον όρο «αυτοκτονία» με εκφράσεις όπως «μη (ζωντανός)"? emoji ή λέξεις που γράφονται περίεργα χρησιμοποιούνται επίσης συχνά. Το Algospeak έχει διεισδύσει σε όλες τις μορφές πολιτικού λόγου στις πλατφόρμες μας στα μέσα κοινωνικής δικτύωσης εκτός από το έννοια δεν είναι καινούργιο και μοιάζει περισσότερο με μια εκσυγχρονισμένη έκδοση Cockney Rhyming Slang.
Αλλά το Algospeak είναι κάτι περισσότερο από δημιουργικό παιχνίδι με λέξεις. είναι η σκόπιμη και επιδέξια πλοήγηση στον περίπλοκο λαβύρινθο της εποπτείας περιεχομένου που μπορεί σιωπή συζητήσεων σε εγκεκριμένα θέματα. Σε έναν κόσμο όπου η νομιμότητα των ναρκωτικών εξελίσσεται συνεχώς, οι πλατφόρμες έχουν την πρόκληση να επιτύχουν την ισορροπία μεταξύ της επιβολής των κοινοτικών κατευθυντήριων γραμμών και της προώθησης του ανοιχτού διαλόγου. Καθώς οι περιοριστικές ερμηνείες των πολιτικών ελέγχου περιεχομένου συχνά καταπνίγουν τις διαφοροποιημένες συζητήσεις, οι ακούσιες συνέπειες της εποπτείας περιεχομένου σε κρίσιμες συζητήσεις σχετικά με θέματα που σχετίζονται με τα ναρκωτικά γίνονται ολοφάνερα.
Πώς λειτουργεί η εποπτεία περιεχομένου
Οι περισσότερες μεγάλες πλατφόρμες μέσων κοινωνικής δικτύωσης, όπως το Meta ή το TikTok, ακολουθούν μια κάπως συγκρατημένη προσέγγιση για την εποπτεία περιεχομένου. Το TikTok απασχολεί εποπτεία περιεχομένου σε πραγματικό χρόνο μέσω προηγμένων αλγορίθμων που σαρώνουν και αναλύουν συνεχώς περιεχόμενο που δημιουργείται από τους χρήστες για να εντοπίζουν και να αντιμετωπίζουν γρήγορα τις παραβιάσεις της κοινότητας. Αυτά τα συστήματα επισημαίνουν περιεχόμενο με βάση μια ποικιλία σημάτων, συμπεριλαμβανομένων λέξεων-κλειδιών, εικόνων, τίτλων, περιγραφών και ήχου.
Αυτό που διαμορφώνει το περιεχόμενο διαφορετικά στο TikTok, ωστόσο, είναι το πώς η πλατφόρμα ρυθμίζει την ορατότητα του περιεχομένου. Σε αντίθεση με την παραδοσιακή εποπτεία περιεχομένου που εστιάζει κυρίως στην κατάργηση ή το φιλτράρισμα, η εποπτεία ορατότητας αφορά σκόπιμα την προώθηση, την ενίσχυση ή την ιεράρχηση περιεχομένου που θεωρείται πιο σχετικό και κατάλληλο. Αυτή ήταν μια εξέχουσα τάση στον έλεγχο περιεχομένου πέρα από το TikTok: Η Human Rights Watch αποκάλυψε πώς ήταν το περιεχόμενο που σχετίζεται με την Παλαιστίνη στο Instagram και το Facebook που ανήκει στο Meta λογοκρίνεται συστηματικά. Η καταστολή περιεχομένου που σχετίζεται με την πολιτική, τις περιθωριοποιημένες κοινότητες, τα ναρκωτικά ή το έγκλημα, ανεξάρτητα από το πλαίσιο και το κοινό που προσπαθεί να προσεγγίσει, εγείρει ερωτήματα σχετικά με το πώς ένα υποτιθέμενο «κοινωνικό» δίκτυο καθοδηγείται περισσότερο από εκείνους που διευθύνουν τις πλατφόρμες παρά από τα πραγματικά μέλη που τις συνθέτουν .
Διαφορετικές πλατφόρμες, διαφορετικά χειριστήρια
Στο παρελθόν, οι αλλαγές αλγορίθμων στο YouTube έχουν προκαλέσει ανησυχίες στους δημιουργούς καναλιών εκπαίδευσης για τα ναρκωτικά. Δημιουργοί όπως το PsychedSubstance και το The Drug Classroom, που προσφέρουν ενημερωτικό περιεχόμενο σχετικά με την ασφάλεια των ναρκωτικών και τη μείωση της βλάβης, είδαν τα διαφημιστικά έσοδα και τις προβολές τους επηρεάστηκε σημαντικά από αλλαγές στον αλγόριθμο του Youtube. Αυτές οι αλλαγές, που εφαρμόστηκαν μετά την αποχώρησή τους από τους διαφημιστές λόγω ανησυχιών για την προβολή διαφημίσεων ενάντια σε εξτρεμιστικό περιεχόμενο, οδήγησαν σε περιορισμένη δημιουργία εσόδων για ορισμένα βίντεο, επηρεάζοντας την ικανότητα των καναλιών να επιβιώνουν και να προσεγγίζουν ευρύτερο κοινό. Σε μερικές περιπτώσεις, έχουν ακόμη διαγράψει πλήρως τα κανάλια που προωθούν τη μείωση της βλάβης.
Παρόμοια δυναμική μπορεί να παρατηρηθεί σε όλες τις πλατφόρμες. Το Instagram έχει έθεσε με συνέπεια προκλήσεις για περιεχόμενο που σχετίζεται με την κάνναβη και τις επιχειρήσεις κάνναβης, για παράδειγμα. Αυτό που κάποτε ήταν σπάνιο για τη βιομηχανία με έδρα τις ΗΠΑ και τον Καναδά, η διαγραφή των επιχειρηματικών λογαριασμών κάνναβης έχει γίνει τώρα ένα επαναλαμβανόμενο ζήτημα. Παρόμοιες προκλήσεις συναντώνται με κλινικές και επιχειρήσεις που σχετίζονται με την κεταμίνη, οι οποίες πρέπει να συμμορφώνονται με τους κανονισμούς της ιατρικής για την προώθηση προϊόντων με ισορροπημένο τρόπο. Αν και είναι έγκυρο να διασφαλίζεται ότι οι διαφημιστές σέβονται τους υφιστάμενους κανονισμούς σχετικά με την προώθηση ιατρικών προϊόντων, υπάρχει μια πρακτική κατανάλωσης αυτών των ουσιών για ψυχαγωγική χρήση που πρέπει να αντιμετωπιστεί. Η αποτροπή της διάδοσης πληροφοριών μείωσης της βλάβης σημαίνει ότι το περιεχόμενο που σχετίζεται με τα ναρκωτικά ελέγχεται επομένως από κανόνες διαφήμισης – οι οποίοι συνιστούν σημαντικό μέρος των εσόδων της πλατφόρμας – ή περιοριστικές οδηγίες κοινοτικής ασφάλειας.
Αυτές οι αποφάσεις από τις πλατφόρμες πυροδοτούν μια ευρύτερη συζήτηση σχετικά με το ποιον απευθύνεται το διαδίκτυο και πώς να βρεθεί η κατάλληλη ισορροπία μεταξύ των ρυθμιστικών μέτρων και της διατήρησης των ανοιχτών καναλιών, ιδιαίτερα σε χώρους όπου ο υπεύθυνος λόγος είναι ζωτικής σημασίας.
Εποπτεία περιεχομένου έναντι εποπτείας περιβάλλοντος
Ενώ το TikTok εποπτεύει το περιεχόμενο σε πραγματικό χρόνο μέσω αλγορίθμων, μετριασμός πλαισίου εξετάζει τις περιβάλλουσες συνθήκες και τις αποχρώσεις του περιεχομένου. Στο παρελθόν, πλατφόρμες όπως το Facebook, το Twitter (X) και το YouTube απασχολούσαν δεκάδες χιλιάδες εργαζόμενους κατά περίπτωση, λαμβάνοντας υπόψη παράγοντες όπως η πρόθεση, η ιστορική συμπεριφορά και η ευρύτερη συζήτηση κατά την αξιολόγηση δυνητικά προβληματικού περιεχομένου. Η ύπαρξη κάποιου επιπέδου ανθρώπινης επίβλεψης για την εποπτεία μπορεί να συμβάλει στην επίτευξη μιας πιο ισορροπημένης προσέγγισης για την εποπτεία περιεχομένου, διατηρώντας την επωνυμία των πλατφορμών ασφαλή, επιτρέποντας παράλληλα διαφοροποιημένες συζητήσεις. Αλλά το να βασίζεσαι σε αλγόριθμους είναι πολύ πιο αποδοτικό από το να χρησιμοποιείς χιλιάδες συντονιστές (ακόμα κι αν πληρώθηκε σχεδόν τίποτα).
Δεν είναι περίεργο που η γοητεία των αλγορίθμων έχει γίνει ακαταμάχητη για τις πλατφόρμες. Η σχέση κόστους-αποτελεσματικότητας και η αποδοτικότητα που υπόσχονται τους καθιστούν μια δελεαστική επιλογή – και, σε αντίθεση με τους ανθρώπινους συντονιστές, δεν γίνονται τραυματισμένος από το περιεχόμενο που εποπτεύουν. Αλλά η υπερβολική εξάρτηση των πλατφορμών σε αυτές είναι τελικά με δικά τους έξοδα. Ενώ ο αυτοματισμός φέρνει ταχύτητα και κλίμακα, συχνά στερείται της λεπτής κατανόησης και της γνώσης των συμφραζομένων που μόνο η ανθρώπινη επίβλεψη μπορεί να προσφέρει. Η ανάγκη για περιορισμό του περιεχομένου ενισχύεται από το μεταβαλλόμενο τοπίο της μεταρρύθμισης της πολιτικής για τα ναρκωτικά. Όπως έχει η νομιμότητα ουσιών όπως η κάνναβη και τα ψυχεδελικά άλλαξε διαχρονικά, το ίδιο συμβαίνει και με τα νομικά και πολιτιστικά πλαίσια που τα περιβάλλουν. Δυστυχώς, οι τρέχουσες δομές μετριοπάθειας συχνά λείπουν ευελιξία να ανταποκριθεί σε αυτές τις αλλαγές. Η μείωση της βλάβης, με την ιδιαίτερη έμφαση που δίνει στο πλαίσιο στον μετριασμό των κινδύνων, απαιτεί μια εξίσου ευαίσθητη στο πλαίσιο προσέγγιση που συγκρούσεις με τις άκαμπτες οδηγίες και το αυτοματοποιημένο φιλτράρισμα που χρησιμοποιούνται επί του παρόντος σε πολλές πλατφόρμες.
Μπορεί να βρεθεί ισορροπία;
Η επίτευξη ισορροπίας μεταξύ της αποτελεσματικότητας των αυτοματοποιημένων αλγορίθμων και του βάθους της ανθρώπινης διορατικότητας δεν είναι απλώς επιλογή για πλατφόρμες, αλλά αναγκαιότητα, ειδικά όταν πρόκειται για την πλοήγηση στις πολυπλοκότητες του λόγου και της εκπαίδευσης για τα ναρκωτικά. Κατά κάποιο τρόπο, το algospeak προστατεύεται από αλγοριθμική εποπτεία περιεχομένου, καθώς μπορεί να ξεπεράσει τους ελέγχους για να προσεγγίσει ευρύτερο κοινό. Δεδομένης της παγκόσμιας εξωτερικής ανάθεσης της εποπτείας περιεχομένου, οι επόπτες μπορεί συχνά να μην είναι πλήρης συμφραζόμενα πληροφορίες για μια ανάρτηση και να περιορίσουν το περιεχόμενο που σχετίζεται με τα ναρκωτικά με βάση την παγκόσμια απαγόρευση των ναρκωτικών, ακόμη και αν είναι αποποινικοποιημένα ή νόμιμα στον τόπο που έγινε αρχικά η ανάρτηση.
Και ενώ οι διεθνείς πολιτικές προσφέρουν ευκολότερη επιβολή -ιδιαίτερα με την άνοδο της τεχνητής νοημοσύνης- συχνά καταλήγουν σε μια ενιαία προσέγγιση που δεν λαμβάνει υπόψη τις εθνικές ή περιφερειακές αποχρώσεις. Η ανάπτυξη πρακτικών εποπτείας περιεχομένου σε αυτό το επίπεδο θα είναι το κλειδί για να αντικατοπτρίζει μεταβαλλόμενους νόμους και συμπεριφορές, είτε πρόκειται για φάρμακα είτε για οποιαδήποτε άλλη πρακτική ή προϊόν. Αυτός ο περιορισμός αναγνωρίζεται από το Reddit που έχει α με γνώμονα την κοινότητα προσέγγιση της μετριοπάθειας. Αυτή η πλατφόρμα υπογραμμίζει τον τρόπο με τον οποίο μπορεί να λειτουργήσει η εποπτεία σε συγκεκριμένο πλαίσιο, όπου όσοι έχουν επενδύσει περισσότερο στην κοινότητα έχουν λόγο στην εποπτεία του περιεχομένου της, ενώ παράλληλα υποστηρίζουν τις αξίες σε όλο το Reddit. Ωστόσο, μεγαλύτερες πλατφόρμες γενικού ενδιαφέροντος όπως το Twitter (X) μπορεί να δυσκολευτούν να αντιγράψουν το μοντέλο του Reddit για τη μετριοπάθεια της μικροκοινότητας σε μαζική κλίμακα.
Τελικά, η καλύτερη λύση για τη μετριοπάθεια περιεχομένου απαιτεί χρόνο και σοβαρές επενδύσεις, δύο πράγματα που ένας κλάδος χτίστηκε με βάση το άναρχη, η εκθετική ανάπτυξη περιφρονεί. Μόνο μέσω της κοινοτικής οργάνωσης ή της κυβερνητικής ρύθμισης θα αλλάξουν τρόποι οι εταιρείες κοινωνικής δικτύωσης. Και μέχρι να αναγκαστούν να συνεργαστούν με ειδικούς του θέματος – όπως οργανισμοί μείωσης της βλάβης – Για να αναπτύξουμε πολιτικές εποπτείας περιεχομένου κατάλληλες για το πλαίσιο, δεν μπορούμε να περιμένουμε συστημική αλλαγή. Είτε πρόκειται για εσκεμμένη είτε για σκόπιμη άγνοια, προς το παρόν, οι εταιρείες μέσων κοινωνικής δικτύωσης θα επιλέξουν να μετριάσουν τις μαζικές κοινότητές τους εσωτερικά και με ελάχιστη έως καθόλου ευθύνη της κοινότητας.
