ダイナミックで進化し続けるソーシャル メディアの状況では、次のような興味深い言語現象が現れています。アルゴスピーク」このデジタルネイティブ言語は、ソーシャルメディアで過度に抑制されたトピックについて議論するために、別の意味を持つコード化された単語を使用することで、アルゴリズムによる検出を回避します。このような言語の増加は、ユーザーとビッグテック企業の間で進行中の戦いを反映しています。 TikTok では、「自殺」という言葉を次のような表現に置き換える人をよく見かけます。アン（生きている）"; 絵文字や奇妙な綴りの単語 もよく使われます。 Algospeak は、ソーシャル メディア プラットフォーム上のあらゆる形態の政治的議論に浸透してきましたが、 コンセプト 新しいものではなく、むしろ現代化されたバージョンのように聞こえます コックニー押韻スラング.
しかし、Algospeak は単なる創造的な言葉遊びではありません。それは、コンテンツ管理の複雑な迷路を意図的かつ巧みにナビゲートすることであり、 議論を沈黙させる 認可されたトピックについて。薬物の合法性が絶えず進化する世界では、プラットフォームはコミュニティガイドラインの施行とオープンな対話の促進の間でバランスを取るという課題を抱えています。コンテンツモデレーションポリシーの制限的な解釈が微妙なニュアンスの議論を抑圧することが多いため、薬物関連のトピックに関する重要な議論におけるコンテンツモデレーションの意図せぬ結果が明らかになっています。
コンテンツモデレーションの仕組み
Meta や TikTok などの主要なソーシャル メディア プラットフォームのほとんどは、コンテンツのモデレーションに対してある程度包括的なアプローチを採用しています。 TikTokが採用 リアルタイムのコンテンツモデレーション ユーザーが作成したコンテンツを継続的にスキャンして分析する高度なアルゴリズムを通じて、コミュニティ違反を迅速に特定して対処します。これらのシステムは、キーワード、画像、タイトル、説明、音声などのさまざまな信号に基づいてコンテンツにフラグを立てます。
ただし、TikTok でコンテンツの形が異なるのは、プラットフォームの仕組みです。 コンテンツの可視性を規制する。主に削除やフィルタリングに焦点を当てた従来のコンテンツのモデレーションとは異なり、可視性のモデレーションは、より関連性が高く適切であると思われるコンテンツを意図的に促進、増幅、または優先することを目的としています。これは、TikTokを超えたコンテンツモデレーションにおける顕著な傾向である。ヒューマン・ライツ・ウォッチは、メタ所有のインスタグラムとフェイスブック上のパレスチナ関連コンテンツがどのように扱われてきたかを明らかにした。 組織的に検閲されている。文脈やリーチしようとしている視聴者に関係なく、政治、疎外されたコミュニティ、麻薬、犯罪に関連するコンテンツを抑制することは、「ソーシャル」ネットワークであるはずのネットワークが、プラットフォームを構成する実際のメンバーではなく、プラットフォームを運営している人々によってどのように導かれているかという疑問を引き起こします。 。
異なるプラットフォーム、異なるコントロール
過去には、YouTube のアルゴリズム変更は、薬物教育チャンネルのクリエイターの間で懸念を引き起こしています。 PsychedSubstance や The Drug Classroom など、薬物の安全性やハームリダクションに関する有益なコンテンツを提供するクリエイターは、広告収入と再生回数を確認しました。 大きな影響を受けた Youtubeのアルゴリズム変更により。これらの変更は、過激派コンテンツに対して広告が表示されることを懸念して広告主が撤退したことを受けて実施されたもので、一部の動画の収益化が制限され、チャンネルが存続し、より幅広い視聴者にリーチする能力に影響を及ぼした。で ある場合、ハームリダクションを促進するチャンネルさえ完全に削除しました。
同様のダイナミクスがプラットフォーム全体で見られます。インスタグラムには 一貫して提起される課題 たとえば、大麻や大麻ビジネスに関連するコンテンツの場合。米国とカナダに本拠を置く業界ではかつては珍しいことであったが、現在では大麻ビジネスアカウントの削除が繰り返し問題となっている。ケタミン関連のクリニックや企業でも同様の課題が見られ、バランスのとれた方法で製品を宣伝する際には医薬品規制に準拠する必要があります。広告主が医療製品の宣伝に関する既存の規制を遵守することを保証することは有効ですが、娯楽目的でこれらの物質を摂取する慣行には対処する必要があります。ハームリダクション情報の拡散を防ぐということは、薬物関連のコンテンツが広告ルールによって管理されることを意味します。 プラットフォームの収益のかなりの部分を占める – または制限的な地域安全ガイドライン。
プラットフォームによるこうした決定は、インターネットは誰のためのものなのか、特に規制措置とオープン チャネルの維持との間の適切なバランスをどのように見つけるかについて、より広範な議論を引き起こします。 責任ある言論は極めて重要である.
コンテンツモデレーションとコンテキストモデレーション
TikTok はアルゴリズムを通じてコンテンツをリアルタイムでモデレートしますが、 コンテキストモデレーション 周囲の状況やコンテンツの微妙な意味を考慮します。これまで、Facebook、Twitter (X)、YouTube などのプラットフォームは、潜在的に問題のあるコンテンツを評価する際に、意図、過去の行動、広範な会話などの要素を考慮して、ケースバイケースで数万人の従業員を雇用していました。モデレーションに対して人間によるある程度の監視があれば、コンテンツモデレーションに対してよりバランスのとれたアプローチを採用することができ、微妙な議論を可能にしながらプラットフォームのブランドを安全に保つことができます。しかし、アルゴリズムに依存する方が、何千人ものモデレータを採用するよりもはるかに費用対効果が高くなります（たとえ彼らがモデレーターを雇っていたとしても） ほとんど何も支払われなかった).
プラットフォームにとってアルゴリズムの魅力が抗えなくなるのも不思議ではありません。彼らが約束する費用対効果と効率性により、彼らは魅力的な選択肢となっていますが、人間のモデレーターとは異なり、モデレーターになることはありません。 トラウマになった 彼らがモデレートしているコンテンツによって異なります。しかし、プラットフォームがそれらに過度に依存することは、最終的には 自費で。自動化はスピードと規模をもたらしますが、多くの場合、人間の監視のみが提供できる微妙な理解や状況に応じた知識が不足しています。医薬品政策改革の状況の変化により、微妙なコンテンツのモデレーションの必要性がさらに高まっています。大麻や幻覚剤のような物質の合法性が高まっているため、 変更 時間の経過とともに、それらを取り巻く法的および文化的背景も変化します。残念ながら、現在のモデレーション構造には多くの場合、 柔軟性 こうした変化に対応するために。ハームリダクションは、リスクの軽減に文脈固有の重点を置くため、同様に文脈に応じたアプローチを必要とします。 衝突 現在多くのプラットフォームで採用されている厳格なガイドラインと自動フィルタリングを使用します。
バランスは取れるでしょうか？
自動化されたアルゴリズムの効率と人間の洞察力の深さの間のバランスをとることは、プラットフォームの選択だけでなく、特に薬物に関する議論や教育の複雑さを乗り切る場合には必要不可欠です。アルゴスピークは、制御を超えてより幅広い視聴者にリーチできるため、ある意味、アルゴリズムによるコンテンツ管理によって保護されています。コンテンツモデレーションの世界的なアウトソーシングを考慮すると、モデレーターには十分な人材が不足していることがよくあります。 文脈上の 投稿の情報を保護し、投稿が最初に行われた場所で薬物が非犯罪化または合法であっても、世界的な薬物禁止に基づいて薬物関連のコンテンツを制限します。
また、国際政策は、特に人工知能の台頭により施行が容易になる一方、国や地域の微妙な違いを考慮しない、画一的なアプローチになることがよくあります。このレベルでコンテンツモデレーションの実践を開発することは、薬物やその他の慣行や製品に関係なく、変化する法律や行動を反映する鍵となります。この制限は、Reddit によって認識されています。 コミュニティ主導 節度へのアプローチ。このプラットフォームは、コンテキスト固有のモデレーションがどのように機能するかを強調しており、コミュニティに最も投資している人々が Reddit 全体の価値観を維持しながらコンテンツをモデレートする発言権を持っています。しかし、Twitter (X) のような大規模な一般利益プラットフォームは、Reddit のマイクロコミュニティモデレーションのモデルを大規模に再現するのに苦労するかもしれない。
結局のところ、コンテンツモデレーションに対する最善のソリューションには時間と多大な投資が必要であり、この 2 つのことは業界が裏付けとして構築したものです。 規制されていません、指数関数的な成長は軽蔑されます。ソーシャルメディア企業がやり方を変えるには、コミュニティの組織化か政府の規制が必要だ。そして、彼らがその分野の専門家と協力することを余儀なくされるまで、 ハームリダクション組織 – 状況に応じたコンテンツモデレーションポリシーを開発するには、体系的な変化は期待できません。意図的か意図的な無知かにかかわらず、ソーシャルメディア企業は当面、大規模なコミュニティを社内で管理し、コミュニティへの説明責任をほとんど、あるいはまったく持たないことを選択するだろう。
