政府があなたのソーシャル投稿に秘密裏にフラグを立てることがますます困難になっています
政府がソーシャル投稿にフラグを立てることが困難になっています
2021年5月、イスラエル警察は東エルサレムの街でパレスチナ人の抗議活動を抑え込んでいた一方で、別の機関がオンライン上でも掃討を試みました。イスラエル司法省のサイバー犯罪部門は、抗議活動に関する投稿でサービスのコンテンツポリシーに違反したとして、数千のユーザーアカウントの一覧をソーシャルメディア企業に送り、削除を要請しました。元Twitter社の従業員は、イスラエルの機関がフラグを立てた一部のアカウントが憎悪的な言語や嫌がらせの言葉を使用していたため、会社がそれらのアカウントを一時停止したと述べています。しかし、ポリシースタッフは、ほとんどが単にイスラエルに批判的なコメントをツイートしているパレスチナ人や他の人々であり、ルールを破っていないと判断しました。
イスラエルのサイバー部門は、オンラインプラットフォームの研究者がインターネット紹介部門と呼ぶものの一例です。これは政府のチームであり、好ましくないコンテンツに対してオンラインサービスに対策を取るよう働きかけます。様々な国の政府がオンラインプラットフォームに取り組む中で、IRUは急速に増えてきました。批評家たちは、テクノロジー企業がしばしばIRUの要求を優先的に処理することを懸念しており、これは政治的な動機を反映していると指摘しています。また、不公正な検閲を防ぐために設計された法的な障壁を回避することもしばしばあります。
インターネット紹介部門は、主に制約の少なかった10年間を経て、米国とEUで新たな監視とバランスを求められるようになりました。
ルイジアナ州の連邦裁判所は今月、10の異なる米国機関の41人のバイデン政権の関係者とそのスタッフに対して、サービスの利用規約に違反すると思われるコンテンツについて、ソーシャルメディア企業に情報を提供しないようにする暫定差し止め命令を発した。この差し止め命令により、ホワイトハウスは非公式なIRUを通じたデジタルな広場への影響力を著しく制限され、国務省も外国でのディスインフォメーション対策に関する情報共有のためのMetaとの予定されていた会議を延期せざるを得なくなりました。
EUでは、デジタルサービス法の一部として、紹介部門は来年から新たな透明性の要件に従うことになります。
- 「Appleの小売店では、顧客に自宅配送オプションを提供する予定です」
- 「Apple、提案された監視法改正に対し、UKでのFaceTimeとiMessageの提供...
- 取引：AppleのM1 MacBook AirがAmazonで過去最高の$749.99で販売再開さ...
この判決と法律は、オンラインプラットフォームと政府機関、および他の組織との間に存在していた親密さに初めて大きな影響を与えるものです。表現の自由を促進する人権団体は、新たな介入を歓迎していますが、IRUとそれによって引き起こされるモデレーションの決定は、適切な制御や公開がほとんどなく続けられることに警告しています。
インターネット紹介部門は2010年頃にイギリスで初めて登場しました。当時、FacebookやYouTubeなどのサービスは、暴力的なイスラム極端主義者が生成したコンテンツをより適切に扱うようにと、テロ対策当局の圧力に直面していました。一般的に政府との関係を改善しようとする企業は、要求を受け入れ、IRUを「信頼できるフラガー」として指名しました。フラグを立てた悪質なコンテンツの報告は、通常のユーザーよりも迅速にレビューされることになりました。
IRUの数と活動は急速に拡大しました。企業は民間社会組織も信頼できるフラガーとして追加しました。ドイツやフランスなどの国の当局は、2010年代後半には社会メディア上の極右政治的な過激主義を抑制するためにこの戦術を使用し、その後パンデミック時には健康に関するディスインフォメーションを抑え込みました。
紹介部門は常に形式的または組織化された存在ではなく、その任務も異なりますが、一般的なプロセスが確立されています。監視するトピック（例：政治的なディスインフォメーションや反ユダヤ主義）を選び、問題のあるコンテンツを探し出し、専用のホットライン、物理的な手紙、内部者との個人的な関係、またはすべてのユーザーが利用できる「報告する」ボタンを通じて企業に報告します。紹介部門は犯罪行為と思われるものだけでなく、ヌードやボットアカウントのようにプラットフォームのルールで禁止されているが合法なコンテンツも報告する場合があります。
専門家たちは、通常、プラットフォームの遵守は自発的であり、要求は法的に拘束力を持たないため、報告されたコンテンツの通知を受けたユーザーは一般的に知らされません。人権団体は、IRUが実質的に法的なプロセスを回避し、速さと簡便さを透明性と権力の乱用に対するチェックと引き換えに提供することに長い間懸念を表明しています。また、ユーザーからの報告は後回しにされることが多いと言われています。
ソーシャルメディア企業は、IRUの要求に対して行動を起こす圧力を感じることがあります。それに抵抗することは事業のコストを上昇させる規制を引き起こす可能性があるため、いくつかの専門家や以前のテクノロジー企業のポリシースタッフは述べています。政治家や影響力のある団体がコンテンツに関する懸念をエスカレートさせるための直接の連絡経路を要求し、プラットフォームがそれを提供することは一般的です。
オフラインで確立された権力のバランスがプログラムに反映されます。イスラエルと対立する小さな統治団体の一つであるパレスチナ自治政府は、「効果的なIRUを運営するためのレバレッジやMetaとの関係を持っていません」と、パレスチナの人権団体7amlehのエリック・サイプ氏は述べています。Meta、TikTok、Twitterはこのストーリーに関するコメントへのリクエストに応じず、YouTubeはコメントを控えました。
IRUは以前にも挑戦されてきました。2021年、イスラエルは東エルサレムで抗議活動とTwitterを含む企業に対してピンを刺しましたが、この国の最高裁判所は司法省のユニットに対する訴えを退けました。裁判所はその業務を「国家の安全保障と社会秩序に極めて重要である」と呼び、被告は直接的な被害を実証することができなかったため、継続することを許可しました。その年、イスラエルのIRUは、テロの称賛やCOVIDワクチンの誤った情報などのコンテンツを自主的に削除または制限するために、ほぼ6,000件の要求をテクノロジー企業に送りました。そのうち約5,000件の要求が受け入れられたことがデータからわかります。ワシントンDCのイスラエル大使館はコメントに応じませんでした。
メタの独立した監視委員会は、困難なコンテンツモデレーションの問題に対する上訴機関であり、これにも反発しています。昨年、ロンドン警察の要請により、英国のドリルミュージックのトラックを削除したことがありました。この曲がシューティングに言及しているため、暴力を引き起こす可能性があるという懸念がありました。監視委員会は、Metaが信頼性のある脅威の証拠を不十分と判断し、会社が「手落ちで不透明な」方法で非公式の法執行機関の要求を受け入れることを非難しました。委員会はMetaに対して、このような要求をすべて公表するよう求め、Oversight Boardの共同議長であるMichael McConnellとメンバーのSuzanne Nosselが、別々のオピニオン記事で今月にも繰り返し述べました。Metaは自社のウェブサイトで、そのような取り組みに取り組んでいると述べていますが、要求を一元化することが複雑であるため、それには時間がかかるかどうかはわかりません。
今月、米国連邦裁判所の判決により、政府機関の削除要請を禁止することで、IRUにとって最大の打撃となりました。この判決は、保守派の州といくつかのソーシャルメディアユーザーが、ホワイトハウスがFacebookやTwitterに対して投稿に助言的ラベルを付けたり、アカウントを一時停止または禁止するよう圧力をかけることで、政府の検閲に対する第一修正条項の保護を侵害しているとして訴訟を起こした後に出されました。争議の内容は、Covidのフェイスマスク、ワクチン、ウイルスの起源、ロックダウンについてのものでした。
判事テリー・ドーティは、原告がホワイトハウスと連邦機関の関係者からの電子メールや電話による大量の削除要請に成功する可能性があると判断し、それはジョーボニングと呼ばれる行為に相当すると述べました。彼は、政府が「不利な保守的なスピーチ」を標的にしており、関係者の非公式ながら時に強烈な電子メールによる要求を指摘しました。その中には、「この問題をすぐに解決する必要性を強調することはできません。このアカウントを直ちに削除してください。」と書かれていたものもありました。
ドーティは、「被告はソーシャルメディア企業に対して大幅な圧力をかけたため、企業の決定は政府の決定と見なされるべきである」と述べました。
ホワイトハウスの控訴手続きが行われる間、ドーティの禁止は保留中ですが、政府のIRUに対する許容される行動の範囲を設定しようとしています。公安保障上の適切な保護と批判者の不当な抑圧の間には、非常に薄い線があるため、ワシントンDCのCenter for Democracy & TechnologyのFree Expression Projectのディレクターであるエマ・ランソーは、まだ解決されていないと述べています。
EUのIRUへの新しいアプローチも、一部の活動家によれば妥協があるようです。Digital Services Act（DSA）では、各EU加盟国が2月までに国家規制機関を指定し、政府機関、非営利団体、業界団体、または中大規模プラットフォームに直接違法コンテンツを報告できる信頼できるフラッガーになりたいと思う企業からの申請を受け付けることが義務付けられています。信頼できるフラッガーによる報告は、「適切な遅延なく」審査されなければならず、違反した場合には企業の世界的な年間売上高の最大6％の罰金が科せられます。
この法律は、人種差別的な憎悪スピーチ、偽造品、著作権違反など、違法コンテンツのさまざまな分野に専門知識を持つ信頼できるフラッガーの数を任命することによって、IRUの要求をより正確にすることを目的としています。また、組織は毎年、申請した報告の数、報告先、および結果を開示する必要があります。
ただし、開示には重要な欠落があります。EUの国家で違法とされるコンテンツに関連する要求のみを含み、サービス利用規約違反のためにフラッグされたコンテンツの報告は見えなくなります。テック企業はコンテンツ違反の報告を優先する必要はありませんが、それを行うことを防ぐものはありません。また、プラットフォームは未登録の信頼できるフラッガーとも連携することができ、実質的には現在の曖昧な手法を維持することができます。DSAは、企業がフラッグされたコンテンツのモデレーションの決定をEUのデータベースに「適切な遅延なく」公開することを要求していますが、フラッガーの身元は省略することができます。
「DSAは、IRUのような既存のフラッガーに関する懸念を直接的に取り扱わずに、信頼できるフラッガーの新しい並行した構造を作り出しています」と、DSAの継続的な分析を提供するプロジェクトに関与しているアムステルダム大学のポストドクトラル研究員であるパディ・レールセンは述べています。
DSAの執行に取り組んでいる2人のEUの関係者は、メディアと話す権限を持っていないため匿名で話したが、新しい法律は、信頼できるフラッガーが協力しない企業に迅速な通知を送る能力を、4500万人のEU住民全員が享受できるようにすることを目的としていると述べました。新しい信頼できるフラッガー指定は、政府機関や法執行機関を対象としていないものの、応募することは妨げられず、DSAではインターネット参照ユニットを可能な候補として明示的に挙げています。
人権団体は、政府が信頼できるフラッガープログラムに参加する場合、それがブロックのように使用され、ブロックのような厳しい法律の一部であるハンガリーの同性関係の推進を禁止する法律（現在は裁判所の審議中）などのより厳しい法律で合法的な発言を封じ込めるために使用される可能性があると懸念しています。Access Nowのグローバルな表現の自由リードであるエリーシュカ・ピルコヴァは、テック企業がその圧力に立ち向かうことは困難であると述べていますが、州のコーディネーターは不適切な行動をとると判断された信頼できるフラッガーを一時停止することができます。「独立した保護策がまったくないのです」と彼女は言います。「かなり心配です。」
Twitterは数年前に、誤った報告を多く提出したため、少なくとも1つの人権団体が最優先の報告キューに提出できないようにしましたと、元Twitter従業員は言います。しかし、政府を排除することはさらに難しいかもしれません。ハンガリーのワシントンDC大使館はコメントの要求に応じませんでした。
INACHのゼネラルマネージャーであるタマーシュ・ベレチは、オンラインヘイトと戦う非政府団体の世界的な連合である24のEUメンバーのうち、一部が公式の信頼できるフラッガーのステータスを申請することを検討していると述べています。しかし、いくつかの国のコーディネーターが、同性婚が禁止されているハンガリーのような国で反ゲイのヘイトスピーチを監視している団体の申請を承認するかどうか、政府の価値観と一致しない団体からの申請を承認するかについて懸念があります。「何が起こるか本当に分かりません」とベレチは言いますが、いくつかの楽観的な余地も残しています。「今のところ、非公式の信頼できるプログラムに参加して満足しています。」
