SSTエンジニアブログ

SSTのエンジニアによるWebセキュリティの技術を中心としたエンジニアブログです。

【CODEBLUE2020】虚偽情報は真実よりも魅力的か？：ソーシャルメディアにおける虚偽情報の拡散を低減する レポート

イベント

はじめに

こんにちは！今年もこの季節がやってまいりましたね！事業開発部の清水です。
2020/10/29～10/30で開催されたCODEBLUE2020（https://codeblue.jp/2020）に参加したので、本日は10/29に実施された私的に一番興味深かったLACの鈴木悠さんによるセッションについてレポートしたいと思います。

f:id:sst_shimizu:20201030130832p:plain
CODEBLUE(今年はオンラインで無料！)

セッション内容

公開されているセッション内容は以下です。

虚偽情報は真実よりも魅力的か？：ソーシャルメディアにおける虚偽情報の拡散を低減する

"本セッションでは、ソーシャルメディアにおいてdisinformation（虚偽情報）が拡散する背景について、disinformationの持つ性質と人の心理的側面から有効策を提案する。 ソーシャルメディアは、今や民主主義の脅威とされている。その理由は、ソーシャルメディアは国境を越え、人の心に直接語りかけることができるという性質を持つからである。2016年のブレグジットおよび米大統領選挙では、disinformationを活用したサイバー選挙干渉が大きな問題となった。 日本においても、デマ情報、誹謗中傷、なりすまし投稿、ハッシュタグを利用した抗議デモ、Infodemicによる買い占め騒動といったいくつかの事例が既に発生しており、今後問題となり得るdisinformationに関しても対策を検討しておく必要がある。 では、日本ではdisinformationに対するどのような施策を実施することが可能だろうか？ 日本国内で利用されているソーシャルメディアの多くは外資系企業のサービスであり、法律面においては表現の自由がある。本セッションでは、新しい切り口として、ソーシャルメディアを利用する「人」に着目する。「なぜ、人はソーシャルメディアのdisinformationを信じ、拡散するのか？」を社会心理学の観点から説明していく。"
https://codeblue.jp/2020/talks/?content=talks_17

※12月末まで動画も公開して頂けるとのことなので、セッション内容が気になった方はぜひ動画も見て頂ければと思います。

レポート

虚偽情報はソーシャルメディアにおいて、真実よりも拡散される傾向にあり、
人が真偽不明の虚偽情報を拡散する背景について社会心理学の観点から解説するという内容でした。

サーバー空間と人との関係性

まずサーバー空間と人との関係性には、以下二つの関係性があるとの説明がありました。

1. 人を経由して情報を扱っているサイバー空間や物理空間に侵入する試み

　標的型メールなど、人の行動を誘導し目的とする情報や金銭の窃取を試みるもの

2. サイバー空間を経由して人の心に侵入する試み

　ソーシャルメディアなどを利用して、目的とする人の心理や行動に影響を与えようとするもの
　(本日はこちらの解説となる。)

「2. サイバー空間を経由して人の心に侵入する試み」に関する心理学的背景知識

人の行動する背景には態度があり、今までの学習や人生経験をもとに後天的に態度を形成している。 この決めた態度を外から変化させることを態度変容と呼び、態度変容を促進させる外的な力には、「学習」と「説得」がある。

また、サイバー空間には以下のような人が説得されやすくなる仕組みがある。

  • 複数のソーシャルメディアで虚偽情報を蔓延させることで数の説得性を生み出すことができる。
  • 機械的に量産される「いいね」やプロフィール情報からのターゲッティング広告により人が目にする情報を偏らせることができる。

歴史的背景と類似性

説得がどのように行われるのか歴史的背景とその類似性について説明がありました。

  • プロパガンダの発展

    • 1620年 （布教のための）宗教的なプロパガンダ
    • 1880年 （植民地の友好的な獲得のための）文化的なプロパガンダ
    • 1918年 （味方の参戦や敵の戦闘意欲をそぐための）戦時プロパガンダ
    • 1920年 （党の支持者獲得のための）政治的なプロパガンダ

  • 第二次世界大戦時の洗脳の三つの過程

    1. 不満状態を作り出す
    2. 疎外感を高めさせる
    3. 不満や憎しみをターゲットに投影させる

  • 事例：2016年のアメリカ大統領選挙

    • ロシアの民間企業IRA社が複数のソーシャルメディアにおいて虚偽情報を拡散し、米市民の分断・対立を促進させていた。
      1. アフリカ系アメリカ人が白人警官に暴行される写真を拡散
      2. 人種問題を煽り、不満状態を作り出す
      3. 不満を怒り感情とともに拡散
      4. 現実社会に波及させる
        • 上記過程は先の洗脳過程と類似性があり、サイバー空間は物理的な制約を超えるだけでなく、心理的な距離も短くするということ。

上記事例はサイバープロパガンダではなく、インフルエンスオペレーションズの事例となり、各用語の説明は以下。

　サイバープロパガンダ

　　信頼・味方を得るための説得活動のこと。
　　自らの正当性を誇張し、相手の信頼性を損ねるような印象操作をする。
　　受け手は他国の問題が提起される。

　インフルエンスオペレーションズ

　　真の目的を円滑に達成するための醸成活動のこと。
　　真の目的である社会を混乱させ民主主義の信頼性を損ねるというを達成することが狙いの先の事例に合致。
　　受け手は自国の問題が提起され、人が虚偽情報を拡散させやすくなる。

虚偽情報拡散の背景

次に虚偽情報の定義について、そして拡散の事例についての説明がありました。

虚偽情報の定義・分類について

  • 有害性の観点からの定義分類(Council of Europe, 2017)

    • ミスインフォメーション(Mis-information)
      • 偽情報として共有されるが、害はないもの
    • ディスインフォメーション(Dis-information)
      • 偽情報を故意に共有され、害を引き起こすもの
    • マルインフォメーション(Mal-information)
      • 真情報として共有され、害を引き起こすもの

  • 意図性の観点からの定義分類(DCMS, 2018)

    • ディスインフォメーション(Dis-information)
      • 意図的に作り出されたり共有されたりする間違った操作された情報。
    • ミスインフォメーション(Mis-information)
      • 不注意により共有された間違った情報。

意図性があるかないかという点を考慮すると、日本語訳の「虚偽情報」という言葉では不十分なため、「Dis-information」と呼ぶのが正確な表現となる。

事例について

  • 事例：2016年のBrexitにおけるマイクロターゲッティング

    • Brexitの国民投票にむけて、ソーシャルメディア上で集めた個人情報を用いて、個人の性格や嗜好にあわせた政治広告をしていた。
    • 当時のCambridge analyticaのCEOは説得可能な有権者を特定していたとメディアに回答していた。
      • プライバシーの問題とともに国民一人一人の意思がゆがめられた可能性を示唆している。

  • 事例：2020年3月の日本の防衛大臣による虚偽ツイート

    • 台湾国内でマスクが不足しているにもかかわらず、日本に大量のマスクを送ったという虚偽ツイートが拡散された。

どのように虚偽情報が拡散されるのか？

拡散の仕組みについては、以下のような3つの要因の説明がありました。

要因１：インフラサービス
  • 広告支援サービスが拡散を助長している。
  • botによる拡散
    • botは真情報も偽情報もどちらも拡散するため、虚偽情報が拡散される背景には人の行動が関係していると考えられる。
要因２：ソーシャルメディアの動機

Facebook社の研究論文では、他者の感情にさらされる機会が減ると投稿数が減るという結果もある。 アクティブユーザーや投稿数を増やすため、より感情的なコンテンツの投稿を推奨していると問題視している論文もある。

要因３：人

人によって虚偽情報が拡散されるのは以下の4段階に分けられる。

  • フェーズ1：情報の開示
    　怒りや不満を伴った情報が開示される。
    　この段階で情報源の信頼性は重要ではなく、自分の信じている信念と一致しているものが真実であり、友人が言っているものが安全となる。
  • フェーズ2：伝染・共有
    　誘発された感情(怒り)が情動伝染し、自身の体験が反芻されることで自分の怒りへ生まれ変わる。
    　そして怒りを発散するために、虚偽情報が拡散される。
    　喜びと怒りは伝染する過程が異なり、喜びは近接ネットワークで共有される一方で、怒りは知らない遠くのネットワークまで細く長く広がる。
  • フェーズ3：感情の増幅
    　同じ意見を持つ人のグループで議論が巻き起こり、怒りが増幅していく。
    　お互いが意見を言い合うことでより感情が増幅されていくことを「エコーチェンバー効果」という。
  • フェーズ4:対立
    　意見の異なるグループとの対立が生まれる。
    　内集団で増幅された感情は自分たちが多数派で正しいという錯覚を生む。
    　一方で外集団は少数派であり、正しくなく、単純な考えしか持たないというステレオタイプ的な思考となる。
    　結果的に外集団が問題であると原因を帰属させ、グループ同士の対立が起こる。

解決策の提言

海外での事例と日本での解決策の提言については以下のような説明がありました。

  • 海外での取り組み
    • タスクフォースの設立（欧州、イギリス、アメリカ）
    • 虚偽情報に関する法律の施行
      • 情報操作の防止、ヘイトスピーチへの対策、災害時のデマ情報の拡散防止
    • 情報機関・報道機関の透明性の強化
    • ファクトチェックの強化
    • 情報リテラシーの向上
    • ソーシャルメディアで虚偽情報を流布するアカウントの凍結・投稿の削除
    • プラットフォーム事業者への対策協力の要請
    • 海外メディアへの情報開示義務
    • 選挙干渉に対する制裁措置

米選挙でターゲットとなったのは様々なルーツを持つ方であった。日本でターゲットとなり得るのは何か？

  • 日本でターゲットとなり得るもの

    • 国民投票
    • 日本経済・消費者への混乱
    • 同盟国との亀裂
    • プレゼンスの低下

  • 日本での対策時の課題

    • 表現の自由があり、安直な法規制は言論統制との批判につながる恐れ
    • 主要なソーシャルメディアは外資系企業であり、どこまで協力を得られるかは海外企業に依存

4段階の各段階の境界で多層的に低減策を行うことが必要では？

  • 日本での対策提言
    • 発信された虚偽情報に対するカウンターとしての対策
      • 虚偽情報の検知
        • ファクトチェックシステムの構築
        • ネガティブな感情の言葉や犯罪ワードに焦点を当てる
      • 早期警告・訂正
        • 事前警告は実質不可能だが、例えば国民投票の期間は注意喚起を促すなどして警戒心を高めることができるのでは
        • 悪質な虚偽情報を検知したら、迅速に連携対処をし、訂正発信する
          • 問題となった虚偽情報は感情の反芻に繋がらないよう事細かに取り上げないことが重要。
    • 共有を抑制する仕組み
      • 情報リテラシーの向上
        • 虚偽情報によって刺激された不快感を共有して発散しようとするが、共有には怒りを収めることはできず、怒りを広める加害者となってしまう
          • もし友人が感情的な投稿・コンテンツを共有している場合は、同じ怒りで返すのではなく、それよりも弱い感情で返信するとよい。人には類似性の法則があるため、弱い感情で返されると、人は感情を弱く調整することが研究で分かっている。
    • 集団同士の対立の緩和
      • 内集団の関係性を理解する
        • 他者への知識不足による偏見
        • 外集団の良い感情を知ること
          • 集団の特徴的な思考に「集団思考」があり、集団思考に陥ると「情報を精査しない、情報の取捨選択に偏りが出る、道徳観が薄れ倫理観が低下する」などの特徴が表れる。さらに匿名性が保証されている場合、没個性化が生じ、周囲に影響され衝動的な行動をしやすくなる。
      • グループの再カテゴライズ
        • 協力的な関係性を作るため、より高次元で再カテゴライズする
          • グループ同士の接点を見出したり、共通点を作るなど関係性を構築していくことが必要。対立するグループ同士のハッシュタグを併記することで情報の偏りを減らしていくことができるのでは。

まとめ

この虚偽情報の話はサイバーセキュリティの話と考えられるか？
おそらく日本の技術者の答えはNOであり、その認識のギャップが日本サイバー空間に空白地帯を生み出している。
この空白地帯には国境を越えて直接国民に語りかける力がある。
私たちはその力を知り、何ができるのかを考える必要がある。
人々の心が虚偽情報を拡散させている。私たちは自分たちの行動を改める必要がある。
ソーシャルメディアが怒りではなく喜びを分かち合う場所となることを願う。

  • サイバーセキュリティの領域は拡大している
  • ソーシャルメディアは国境を越えて人々の心に直接語りかける
  • ソーシャルメディアは不満のはけ口として簡単に使用される

感想

怒りと喜びの拡散のされ方が違うとか、怒りを鎮めるために人は情報を共有するけど、その行為に怒りを鎮める効果はないなど、人は「XXXしがち」というところを、社会心理学をもとに解説していて、人間として心の中を見透かされているような気になりました。
「エコーチェンバー効果」という言葉も今回初めて知りましたが、「強い怒りに対して強い怒りで返すとさらにその感情が増幅される」というのは今までの人生の中で何度か目にしているため、実感を持って理解することができました。

最後のまとめのときに言及されていましたが、確かにサイバーセキュリティは技術的なところに意識が向きがちで、人の心理が関連した虚偽情報等についてはセキュリティ技術者の関心の空白地帯が生まれているように感じました。一方で、「脅威インテリジェンスによる中国の情報操作の分析」のセッションでも言及されていた通り、国は情報を操作するために多額の金銭を投じているのが現状のようです。そしてそれは国境を越えて直接国民に語りかける力があると考えると、注目すべき分野なのではひしひしと感じさせられるセッションとなりました。

また、10/30のオードリータンさんの「特別講演 : デジタル・ソーシャル・イノベーション」においては、正しい情報が拡散されるように「ユーモア」を利用したとの発言が印象に残りました。これも虚偽情報ではなく正しい情報が拡散されるための一つの策として、参考になり得るのではと感じられました。

最後に

今回初めてのオンライン開催で大変なこともたくさんあったかと思いますが、このような機会を作ってくださった関係者の皆様にこの場を借りて感謝を伝えたいと思います。
本当にお疲れ様でした！そして、貴重な機会をありがとうございました！