Metaは2024年6月6日、未成年の性的コンテンツを削除し、拡散を防ぐプラットフォーム「Take It Down」の日本語版ローンチ記念イベントを開催した。この「Take It Down」は全米行方不明・被搾取児童センター（National Center for Missing and Exploited Children、以下NCMEC）が運営する無料プラットフォームで、MetaはTake It Downの開発を支援している。
Meta東京オフィス（虎ノ門）で開催された本イベントには、日本国内で女性・若年層支援などの活動に携わるNPO／NGO団体の関係者らが参加。米国から来日したNCMEC ディレクターのFallon McNulty（ファロン・マクナルティ）氏、Meta アジア太平洋地域 セーフティポリシー担当 Malina Enlund（マリーナ・エンランド）氏によるプレゼンテーション、さらに性犯罪や性暴力に詳しい弁護士の川本瑞紀氏を交えてのパネルディスカッションが行われた。
また、イベント終了後にリセマムで登壇者に取材を行った。本記事では、それぞれの概要をお伝えする。
無料かつ匿名で性的コンテンツの削除申請ができる
イベント前半の講演では、まずNCMECディレクターのファロン・マクナルティ氏が登壇し、「Take It DownとCyber Tiplineのご紹介」と題して話があった。
NCMECは、1984年に設立された米国最大の児童保護組織であり、「すべての子供が安全な子供時代を過ごす権利をもっている」との理念のもと、行方不明の子供の捜索、子供の性的搾取の防止・対策などの活動を行なっている。そのNCMECが運営する「Cyber Tipline」は、1998年に設立された、児性的搾取等の報告を集約するシステムだ。2023年には3,600万件の報告があったという。
近年、子供たちがSNSなどを介して接触してきた大人により性的な画像や動画を求められ、拡散されたり、脅迫されたりする被害が増加している。こうした問題に対処するために、NCMECはMetaの支援を受け、無料かつ匿名で加盟プラットフォームから性的コンテンツの削除を申請できるTake It Downを立ち上げた。
Take It Downに加盟しているオンライン・プラットフォーム上で、「18歳未満のときに撮影された性的コンテンツが拡散された」という報告があった場合、そのコンテンツを削除すると同時に、警察など当局への報告も行なっている。
Take It Downは、2023年2月に英語版とスペイン語版でスタート。グローバルなサービスとして対応言語を拡大しており、2024年5月下旬からは日本語でも利用可能になった。
Take It Downの利用方法は非常にシンプルだ。
まずは「拡散を止めたいコンテンツが18歳未満のときに撮影されたものかどうか」などの質問に答える。
次に、自分のデバイスから画像や動画を選び、リクエストを申請するだけ。
選んだ画像や動画はハッシュ値としてNCMECのハッシュリストに登録され、加盟プラットフォームと共有される。画像や動画のデータ自体は共有されないので、自分のデバイスから外に流出させたり、誰かに見られたりすることはない。これにより、該当する画像や動画はプラットフォームから削除され、二度と同じ画像が流出することはない。2023年の提供開始以来、すでに何万ものアクセスがあり、何十万ものコンテンツが削除されたとのことだ。
子供を守るためにテクノロジーを駆使
続いて、Meta アジア太平洋地域 セーフティポリシー担当のマリーナ・エンランド氏が「未成年の性被害防止に関するMetaの取組み」と題して話をした。
MetaはFacebookやInstagram上での安全性を最優先し、10年以上にわたりテクノロジーやツールを駆使して、安全への対策を講じてきた。安全対策へのアプローチのひとつとして、Metaの専門知識を補完するために外部パートナーとの協力体制を構築しており、今回のNCMECとのパートナーシップやTake It Downへの支援もその一環だ。このほか、安全対策として、Metaのプラットフォームが利用される各国の基準に合わせた対策を講じること、利用者が特定の情報について「見たい」「見たくない」などを自ら選択し、プラットフォーム上での体験の管理を可能にするツールの提供などがあげられる。
子供を守るという観点からもMetaはさまざまなポリシーをもち、テクノロジーを駆使して対策している。画像や動画が不適切な場合のみならず、たとえば写真自体は着衣であっても、コメントに不適切なワードや絵文字が含まれている場合も検出可能だ。また、児童の性的搾取につながるようなキーワードを検索した利用者がいた場合、「子供の性的虐待は犯罪です」という文言で注意喚起を行っている。対象となるワードは約3万語で、50か国語に対応しているという。
Metaが2024年1月～3月に、FacebookとInstagram上での児童の危険を及ぼすコンテンツに対して措置を講じた数は下図のとおりであり、98％以上について利用者が報告する前に措置を講じている。今回、子供を守るためのツールとしてTake It Downが加わったことで、さらに安全対策が強化されたといえる。
さらに、Metaでは保護者が子供の利用を管理しやすくするために『ファミリーセンター』を導入している。ファミリーセンターは、Metaが提供するプラットフォームにおける未成年の利用者のオンライン体験を保護者が見守り、ペアレンタルコントロールができるツールや情報を提供するとともに、オンライン上での子供の安全に関する専門家の記事も紹介している。
誰でもあっという間に被害者に
イベント後半は、「オンライングルーミングから子供を守るためにできること」をテーマにパネルディスカッションが行われた。NCMEC ディレクターのファロン・マクナルティ氏、性犯罪や性暴力の被害者のために活動する弁護士の川本瑞紀氏のほか、モデレーターとしてMeta公共政策部部長の小俣栄一郎氏が登壇した。
まず、川本氏とマクナルティ氏より「オンライングルーミング被害の現状」について説明があった。
未成年の性的被害のケースを数多く扱ってきた川本氏は、冒頭で「交通事故と同じく、誰もが被害者になる可能性がある」「子供を愛しているし、しっかり見ているから大丈夫ということはない」と強調した。近年のオンライン上での被害の特徴として、子供が加害者から最初の連絡を受けてから性的画像を送ってしまうまで、早い場合は1週間程度と短期間で進展する傾向が顕著だという。
マクナルティ氏によると、NCMECへのオンライン上での児童搾取の被害報告は、過去3年間で約3倍に増加しており、2024年1月から5月までにすでに10万件の報告を受けているそうだ。同氏も川本氏同様、「誰でも標的になりうる」としたうえで、「予防とともに、万が一被害に遭ってしまった場合の対策を事前に理解しておく必要がある」と述べた。
では、子供たちはどのような手口で狙われるのだろうか。川本氏によると、未成年の子供がSNSでアカウントを作成するだけで、DM（ダイレクトメール）でアプローチが押し寄せる。多くの子はこれをスルーするものの、うっかり応えてしまうと相手は最初はアイドルやスイーツ、趣味の話から会話を始め、その後も「おはよう」「おかえり」など接触を続ける。「10代の子供たちは一般的に、自信を失っていたり、小さな悩みがあったり、寂しさを抱えていたりする年頃。相手はその弱さにつけ込み、無条件に肯定、受容、共感してくれる優しい相談相手を装って近づいてくる」（川本氏）。
女の子に限らず、男の子もターゲットになる。成人男性が幼い子供をターゲットにすることもあるし、中高生を狙うこともある。こうした成人男性は、必ずしも男の子を性的対象としているとは限らず、子供を自分の言いなりにすることに快感を得ている場合、あるいは、入手した性的画像を販売して利益を得ている場合もある。「男の子の方が服を脱ぐことに抵抗がないので、あっという間に被害に遭ってしまう」とのことだ。
マクナルティ氏によると、男の子も被害者になっている現状はアメリカも同様だ。未成年の女の子になりすまして男の子にコンタクトを取り、恋愛感情をほのめかしてヌード写真を求める手口も多い。ここ数年のトレンドは、国境を越えて被害者が出ていること、そして金銭目当てのケースが増加していること。子供に画像を送らせた後、「拡散するぞ」と脅し、何百ドル、何千ドルを要求。子供は羞恥心や罪悪感を抱え、自殺に追い込まれてしまうこともある。
子供は被害者。「あなたは悪くない」と伝えて
次に「被害を防ぐために、何ができるのか」についてディスカッションが行われた。
川本氏は、被害に遭う確率をなるべく減らすことが重要であり、そのための策として「フィルタリングをかけるなど、子供が被害者と接触したり画像を送ったりするのを面倒にすること」や「ペアレンタルコントロールを利用すること」をあげた。悪意ある大人も、最初は「ダンスを見せて」など、着衣の画像を要求するケースが多い。被害を食い止めるには、こうした早い段階で保護者が気づくことが必要だ。そのために日頃から意識しておくと良いこととして、川本氏は以下をあげた。
「困ったことがあったら言ってね」と伝え、親に相談しやすい環境を作っておくこと
児童搾取に関するニュースが流れても、「画像を送った子が悪い」など、被害者を責め立てる発言をしないこと（自分が同じ状況になったら親に怒られると思ってしまうから）
子供がリビングではなく、自分の部屋、お風呂場、トイレなどでSNSをするようになったら、警戒すること
子供が利用しているSNS等のアプリは親もすべてインストールし、機能について理解しておくこと（親が理解していないとトラブルが起きても親に説明することを面倒に感じてしまうから）
マクナルティ氏は、「NCMECには、誰にも相談できず、どうしたら良いかわからずパニックになった子供たちから電話がかかってくる。子供が不安と恥ずかしさから保護者に相談できないという状況は、犯罪者の思う壺だ。親は子供が使っているプラットフォームを理解し、早い段階でデジタルセーフティについてしっかりと話し合っておいてほしい」と述べた。
被害に遭ったら冷静に対処
パネルディスカッションの最後のテーマは、「被害に遭ってしまったときに大人がすべきこと」について。
川口氏は「交通事故に遭ったと考えて、淡々とやるべきことをしてほしい」と言う。以下がそのステップの一例だ。
① 子供が相談してきた際は、決して怒ったり責めたりせず、「話してくれてありがとう」と伝える。
② どこの誰にどんな画像を送ったのか等、冷静かつ詳細に聞く。
③ Take It Downで画像削除の手続きを取る。
④ 加害者からのアクセスをブロック。ただし、メッセージのやり取りなどは証拠となるので削除しない。
⑤ Take It Downに加盟していないSNSについては、複数アカウントを作成して報告し、凍結するなどの手段をとる。
⑥ 警察に相談する（メッセージのやり取りなどが証拠となる）。
⑦ 子供の心のケアのために「犯罪・性暴力被害者のためのワンステップ支援センター＊」に連絡する。
＊ワンストップ支援センター短縮番号：＃8891（はやくワン）
マクナルティ氏も、川本氏の「保護者は怒らないこと」というアドバイスに共感。まずは「あなたは悪くない」と伝えて、今後の対処を一緒に考えることが大事だという。また、加害者は複数のプラットフォームを駆使しているため、画像が拡散されてしまったプラットフォームに報告することはもちろんのこと、他のプラットフォームにも報告し、被害が広がらないように対策をとる必要があるという。
最後に川本氏は、「Take It Downは、性的被害に遭った後のアフターピルのような存在だと感じた」と感想を述べた。被害に遭ってしまったことは事実として変えられないが、Take It Downに報告することでさらなる被害を回避することができるという趣旨だ。「被害に遭うと気持ちが動転しますが、Take It Downには『これで、さらなる被害は回避できた』と、気持ちを落ち着かせるためにも有効なツールなのではないでしょうか」（川本氏）。
マクナルティ氏は、「オンライングルーミングの加害者は、常に戦略やテクニックを変えて近づいてくる。日本の関係者の皆さまとも協力しながら、子供たちを守るためにあらゆる対策と解決策を考えていきたい」と締めくくった。
子供を救うために「Take It Down」の認知拡大を
イベント終了後、リセマムはマクナルティ氏、エンランド氏、川本氏に取材を行い、下記の追加情報をいただいた。
そもそも、Metaはなぜこの取組みに協力をしているのか。この問いに対してエンランド氏は、「Metaは13歳以上の人に利用してもらえるプラットフォームとして、安全性を最重視しているものの、すべての分野においてセキュリティの専門家というわけではない。そこで、セキュリティに関する知識とノウハウを持つNPO・NGO団体とのパートナーシップが大変重要になってくる。NCMECのような専門組織と協力しながら、子供たちにも安心してFacebookやInstagramを使ってもらうことを目指している」と回答した。
マクナルティ氏は、「デジタル犯罪には国境がない」としたうえで、近年の国境を越えた児童の性的搾取の傾向として、「お金が絡む脅迫」の台頭をあげた。子供に画像を送らせ、数分後にはそれをもとにした脅しが始まり、金銭の支払いを要求するスピーディでアグレッシブな手口が特徴で、特に10代の男の子が狙われているという。また、送った画像は性的なものではなくとも、加害者が生成AIを使って性的描写を含む画像に加工し、それをネタに脅迫してくるケースもある。
川本氏によると、日本におけるオンラインでの児童の性的搾取の相談件数は、警察発表ではこの数年2,000件前後で横ばいだ。しかし、保護者や警察に相談できていないケースも多いはずで、同氏は「被害にあった子供が、大人に相談せずに自力で画像削除の対策がとれるという点でも、Take It Downは優秀なツールだ」と評価する。
いざというときに子供たちがこうしたツールを使えるように、保護者や学校の教師たちが積極的にその存在と使い方を伝えていくことが望まれる。
想像していた以上にデジタル犯罪が身近な存在だと知り衝撃を受けるとともに、いつでも慌てず対処できるように、親子で具体的な対策を準備・共有しておくことが重要だと学んだ今回の取材。Take It Downはいざというときに非常に心強いツールであり、この存在が広く認知され、被害に遭ってしまった子供たちの救いになることを心から願う。
