ในภูมิทัศน์ของโซเชียลมีเดียที่เปลี่ยนแปลงตลอดเวลา ปรากฏการณ์ทางภาษาที่น่าสงสัยได้เกิดขึ้น: “อัลกอส” ภาษาแม่แบบดิจิทัลนี้ใช้คำที่เข้ารหัสซึ่งมีความหมายอื่นเพื่อหารือเกี่ยวกับหัวข้อที่มีการกลั่นกรองมากเกินไปบนโซเชียลมีเดีย ดังนั้นจึงหลีกเลี่ยงการตรวจจับโดยอัลกอริทึม การเติบโตของภาษาดังกล่าวสะท้อนให้เห็นถึงการต่อสู้อย่างต่อเนื่องระหว่างผู้ใช้และบริษัทเทคโนโลยีขนาดใหญ่ ใน TikTok เป็นเรื่องปกติที่จะพบว่าผู้คนเปลี่ยนคำว่า "การฆ่าตัวตาย" เป็นสำนวนเช่น "ยกเลิก (มีชีวิตอยู่)"; อิโมจิหรือคำที่สะกดแปลกๆ ยังใช้บ่อยอีกด้วย Algospeak แพร่กระจายไปทั่ววาทกรรมทางการเมืองทุกรูปแบบบนแพลตฟอร์มโซเชียลมีเดียของเรา ยกเว้น แนวคิด ไม่ใช่เรื่องใหม่ และฟังดูคล้ายกับเวอร์ชันที่ทันสมัยมากกว่า Cockney คล้องจองสแลง.
แต่ Algospeak เป็นมากกว่าการเล่นคำอย่างสร้างสรรค์ มันเป็นการนำทางอย่างตั้งใจและมีทักษะของเขาวงกตที่ซับซ้อนของการกลั่นกรองเนื้อหาที่สามารถทำได้ เงียบการสนทนา ในหัวข้อที่ได้รับอนุมัติ ในโลกที่ความถูกต้องตามกฎหมายของยาเสพติดมีการพัฒนาอยู่ตลอดเวลา แพลตฟอร์มต่างๆ ต้องเผชิญกับความท้าทายในการสร้างสมดุลระหว่างการบังคับใช้แนวปฏิบัติของชุมชนและการส่งเสริมการสนทนาที่เปิดกว้าง เนื่องจากการตีความนโยบายการกลั่นกรองเนื้อหาอย่างเข้มงวดมักจะขัดขวางการอภิปรายที่มีรายละเอียดปลีกย่อย ผลที่ตามมาโดยไม่ได้ตั้งใจของการกลั่นกรองเนื้อหาต่อการอภิปรายที่สำคัญเกี่ยวกับหัวข้อที่เกี่ยวข้องกับยาเสพติดจึงปรากฏชัดเจนอย่างชัดเจน
วิธีการทำงานของการกลั่นกรองเนื้อหา
แพลตฟอร์มโซเชียลมีเดียหลัก ๆ ส่วนใหญ่เช่น Meta หรือ TikTok ใช้แนวทางที่ค่อนข้างครอบคลุมในการกลั่นกรองเนื้อหา TikTok มีพนักงาน การกลั่นกรองเนื้อหาแบบเรียลไทม์ ผ่านอัลกอริธึมขั้นสูงที่สแกนและวิเคราะห์เนื้อหาที่ผู้ใช้สร้างขึ้นอย่างต่อเนื่องเพื่อระบุและแก้ไขการละเมิดของชุมชนอย่างรวดเร็ว ระบบเหล่านี้จะติดธงเนื้อหาตามสัญญาณต่างๆ รวมถึงคำสำคัญ รูปภาพ ชื่อ คำอธิบาย และเสียง
สิ่งที่ทำให้เนื้อหาบน TikTok แตกต่างออกไปก็คือลักษณะของแพลตฟอร์ม ควบคุมการมองเห็นเนื้อหา. ต่างจากการกลั่นกรองเนื้อหาแบบดั้งเดิมที่มุ่งเน้นไปที่การลบหรือการกรองเป็นหลัก การกลั่นกรองการมองเห็นนั้นเป็นเรื่องเกี่ยวกับการส่งเสริม ขยาย หรือจัดลำดับความสำคัญของเนื้อหาที่ถือว่ามีความเกี่ยวข้องและเหมาะสมมากกว่าโดยเจตนา นี่เป็นเทรนด์ที่โดดเด่นในการกลั่นกรองเนื้อหานอกเหนือจาก TikTok: Human Rights Watch ได้เปิดเผยว่าเนื้อหาที่เกี่ยวข้องกับปาเลสไตน์บน Instagram และ Facebook ที่เป็นเจ้าของ Meta เป็นอย่างไร เซ็นเซอร์อย่างเป็นระบบ. การระงับเนื้อหาที่เกี่ยวข้องกับการเมือง ชุมชนชายขอบ ยาเสพติด หรืออาชญากรรม โดยไม่คำนึงถึงบริบทและผู้ชมที่เนื้อหาพยายามเข้าถึง ทำให้เกิดคำถามว่าเครือข่าย “โซเชียล” ที่คาดคะเนนั้นได้รับการชี้นำจากผู้ที่ดูแลแพลตฟอร์มมากกว่าสมาชิกจริงที่เขียนเนื้อหาเหล่านั้นอย่างไร .
แพลตฟอร์มที่แตกต่างกัน การควบคุมที่แตกต่างกัน
ในอดีตที่ผ่านมาการเปลี่ยนแปลงอัลกอริทึมบน YouTube ทำให้เกิดความกังวลในหมู่ผู้สร้างช่องการให้ความรู้ด้านยาเสพติด ครีเอเตอร์อย่าง PsychedSubstance และ The Drug Classroom ที่นำเสนอเนื้อหาที่ให้ข้อมูลเกี่ยวกับความปลอดภัยของยาและการลดอันตรายจากยา ได้เห็นรายได้จากโฆษณาและจำนวนการดู ส่งผลกระทบอย่างมีนัยสำคัญ โดยการเปลี่ยนแปลงอัลกอริทึมของ Youtube การเปลี่ยนแปลงเหล่านี้ซึ่งดำเนินการหลังจากที่ผู้ลงโฆษณาคลายความกังวลเกี่ยวกับการแสดงโฆษณาต่อเนื้อหาที่มีแนวคิดสุดโต่ง ส่งผลให้มีการสร้างรายได้อย่างจำกัดสำหรับวิดีโอบางรายการ ซึ่งส่งผลต่อความสามารถของช่องในการอยู่รอดและเข้าถึงผู้ชมในวงกว้างขึ้น ใน บางกรณีพวกเขาได้ลบช่องที่ส่งเสริมการลดอันตรายออกไปโดยสิ้นเชิง
การเปลี่ยนแปลงที่คล้ายกันสามารถเห็นได้บนแพลตฟอร์มต่างๆ อินสตาแกรมก็มี เผชิญกับความท้าทายอย่างต่อเนื่อง สำหรับเนื้อหาที่เกี่ยวข้องกับกัญชาและธุรกิจกัญชา เป็นต้น สิ่งที่ครั้งหนึ่งเคยเป็นสิ่งที่หาได้ยากในอุตสาหกรรมในสหรัฐฯ และแคนาดา การลบบัญชีธุรกิจกัญชากลายเป็นปัญหาที่เกิดขึ้นซ้ำแล้วซ้ำอีก ความท้าทายที่คล้ายกันนี้พบได้ในคลินิกและธุรกิจที่เกี่ยวข้องกับคีตามีน ซึ่งจะต้องปฏิบัติตามกฎระเบียบด้านการแพทย์ในการส่งเสริมผลิตภัณฑ์อย่างสมดุล แม้ว่าผู้ลงโฆษณาจะเคารพกฎระเบียบที่มีอยู่เกี่ยวกับการโปรโมตผลิตภัณฑ์ทางการแพทย์ก็ตาม แต่ก็มีแนวทางปฏิบัติในการบริโภคเพื่อความบันเทิงของสารเหล่านี้ที่จำเป็นต้องได้รับการแก้ไข การป้องกันการเผยแพร่ข้อมูลการลดอันตรายหมายความว่าเนื้อหาที่เกี่ยวข้องกับยาจึงถูกควบคุมโดยกฎการโฆษณา ซึ่งถือเป็น รายได้ส่วนใหญ่ของแพลตฟอร์ม – หรือแนวปฏิบัติด้านความปลอดภัยของชุมชนที่เข้มงวด
การตัดสินใจโดยแพลตฟอร์มเหล่านี้จุดประกายให้เกิดการสนทนาในวงกว้างว่าอินเทอร์เน็ตมีไว้สำหรับใคร และวิธีค้นหาสมดุลที่เหมาะสมระหว่างมาตรการกำกับดูแลและการรักษาช่องทางที่เปิดกว้าง โดยเฉพาะอย่างยิ่งในพื้นที่ที่ วาทกรรมที่มีความรับผิดชอบเป็นสิ่งสำคัญ.
การกลั่นกรองเนื้อหาเทียบกับการกลั่นกรองบริบท
ในขณะที่ TikTok กลั่นกรองเนื้อหาแบบเรียลไทม์ผ่านอัลกอริธึม การกลั่นกรองบริบท พิจารณาสถานการณ์โดยรอบและความหมายที่เหมาะสมของเนื้อหา ในอดีต แพลตฟอร์มอย่าง Facebook, Twitter (X) และ YouTube จ้างพนักงานหลายหมื่นคนเป็นรายกรณี โดยพิจารณาปัจจัยต่างๆ เช่น เจตนา พฤติกรรมในอดีต และการสนทนาที่กว้างขึ้นเมื่อประเมินเนื้อหาที่อาจเป็นปัญหา การกำกับดูแลโดยมนุษย์ในระดับหนึ่งสามารถช่วยให้เกิดแนวทางที่สมดุลมากขึ้นในการกลั่นกรองเนื้อหา โดยรักษาแบรนด์ของแพลตฟอร์มให้ปลอดภัยในขณะที่ยังคงเปิดใช้งานการอภิปรายที่เหมาะสมยิ่ง แต่การใช้อัลกอริธึมจะคุ้มค่ากว่ามากเมื่อเทียบกับการจ้างผู้ดูแลหลายพันคน (แม้ว่าจะเป็นเช่นนั้นก็ตาม) จ่ายไปไม่มีอะไรเลย).
ไม่น่าแปลกใจเลยที่เสน่ห์ของอัลกอริธึมกลายมาเป็นแพลตฟอร์มที่ไม่อาจต้านทานได้ ความคุ้มค่าและประสิทธิภาพที่พวกเขาสัญญาไว้ทำให้พวกเขาเป็นตัวเลือกที่น่าดึงดูด และพวกเขาไม่ได้กลายเป็นผู้ดำเนินรายการที่ไม่เหมือนกับผู้ดำเนินรายการที่เป็นมนุษย์ บอบช้ำ โดยเนื้อหาที่พวกเขากำลังกลั่นกรอง แต่ท้ายที่สุดแล้วการพึ่งพาแพลตฟอร์มเหล่านั้นมากเกินไปก็คือ ออกค่าใช้จ่ายเอง. แม้ว่าระบบอัตโนมัตินำมาซึ่งความเร็วและขนาด แต่มักจะขาดความเข้าใจที่เหมาะสมและความรู้เชิงบริบทที่มีเพียงการควบคุมดูแลของมนุษย์เท่านั้นที่สามารถทำได้ ความจำเป็นในการกลั่นกรองเนื้อหาที่เหมาะสมยิ่งถูกขยายโดยภูมิทัศน์ที่เปลี่ยนแปลงไปของการปฏิรูปนโยบายยาเสพติด เนื่องจากความถูกต้องตามกฎหมายของสารเช่นกัญชาและยาหลอนประสาทมี การเปลี่ยนแปลง ตลอดเวลา บริบททางกฎหมายและวัฒนธรรมโดยรอบก็เช่นกัน น่าเสียดายที่โครงสร้างการกลั่นกรองในปัจจุบันมักขาด ความยืดหยุ่น เพื่อตอบสนองต่อการเปลี่ยนแปลงเหล่านี้ การลดอันตรายโดยเน้นเฉพาะบริบทในการลดความเสี่ยงนั้น ต้องใช้แนวทางที่คำนึงถึงบริบทอย่างเท่าเทียมกัน การปะทะกัน ด้วยแนวทางที่เข้มงวดและการกรองอัตโนมัติที่ใช้อยู่ในหลายแพลตฟอร์มในปัจจุบัน
จะหาจุดสมดุลได้หรือไม่?
การสร้างสมดุลระหว่างประสิทธิภาพของอัลกอริธึมอัตโนมัติและข้อมูลเชิงลึกของมนุษย์ไม่ได้เป็นเพียงตัวเลือกสำหรับแพลตฟอร์ม แต่ยังเป็นสิ่งจำเป็น โดยเฉพาะอย่างยิ่งเมื่อต้องจัดการกับความซับซ้อนของวาทกรรมและการศึกษาด้านยาเสพติด ในบางแง่ Algospeak ได้รับการปกป้องโดยการควบคุมเนื้อหาด้วยอัลกอริธึม เนื่องจากสามารถก้าวข้ามการควบคุมเพื่อเข้าถึงผู้ชมในวงกว้างได้ เนื่องจากมีการจ้างบุคคลภายนอกเพื่อดูแลเนื้อหา ผู้ตรวจสอบมักจะขาดความครบถ้วน ตามบริบท ข้อมูลบนโพสต์ และจำกัดเนื้อหาที่เกี่ยวข้องกับยาเสพติดตามการห้ามใช้ยาทั่วโลก แม้ว่าสิ่งเหล่านั้นจะถูกลดทอนความเป็นอาชญากรรมหรือถูกกฎหมายในสถานที่ที่โพสต์นั้นแต่เดิมก็ตาม
และในขณะที่นโยบายระหว่างประเทศเสนอการบังคับใช้ที่ง่ายกว่า โดยเฉพาะอย่างยิ่งกับการเพิ่มขึ้นของปัญญาประดิษฐ์ แต่นโยบายเหล่านี้มักส่งผลให้เกิดแนวทางเดียวที่เหมาะกับทุกฝ่าย โดยไม่ได้คำนึงถึงความแตกต่างในระดับชาติหรือระดับภูมิภาค การพัฒนาแนวปฏิบัติในการกลั่นกรองเนื้อหาในระดับนี้จะเป็นกุญแจสำคัญในการสะท้อนกฎหมายและพฤติกรรมที่เปลี่ยนแปลงไป ไม่ว่าจะเป็นยาเสพติดหรือแนวปฏิบัติหรือผลิตภัณฑ์อื่นใด ข้อจำกัดนี้ได้รับการยอมรับโดย Reddit ซึ่งมี ขับเคลื่อนโดยชุมชน แนวทางการกลั่นกรอง แพลตฟอร์มนี้เน้นย้ำว่าการกลั่นกรองเฉพาะบริบทสามารถทำงานได้อย่างไร โดยที่ผู้ที่ลงทุนมากที่สุดในชุมชนจะพูดในการกลั่นกรองเนื้อหาในขณะที่ยังคงรักษาคุณค่าทั่วทั้ง Reddit แต่แพลตฟอร์มที่มีความสนใจทั่วไปขนาดใหญ่เช่น Twitter (X) อาจต้องดิ้นรนเพื่อจำลองรูปแบบการดูแลชุมชนย่อยของ Reddit ในขนาดใหญ่
ท้ายที่สุดแล้ว ทางออกที่ดีที่สุดในการกลั่นกรองเนื้อหาต้องใช้เวลาและการลงทุนอย่างจริงจัง ซึ่งเป็นสองสิ่งที่อุตสาหกรรมสร้างขึ้นจากด้านหลัง อลหม่านการเติบโตแบบทวีคูณดูถูกเหยียดหยาม บริษัทโซเชียลมีเดียจะเปลี่ยนแนวทางผ่านการจัดระเบียบชุมชนหรือกฎระเบียบของรัฐบาลเท่านั้น และจนกว่าพวกเขาจะถูกบังคับให้ร่วมมือกับผู้เชี่ยวชาญเฉพาะเรื่อง – เช่น องค์กรลดอันตราย – เพื่อพัฒนานโยบายการกลั่นกรองเนื้อหาที่เหมาะสมกับบริบท เราไม่สามารถคาดหวังการเปลี่ยนแปลงที่เป็นระบบได้ ไม่ว่าจะเป็นจงใจหรือจงใจเพิกเฉย สำหรับตอนนี้ บริษัทโซเชียลมีเดียจะเลือกที่จะกลั่นกรองชุมชนขนาดใหญ่ของตนภายในองค์กร และแทบไม่ต้องรับผิดชอบต่อชุมชนเลย
