「私たちは社会として操作に慣れる必要がある」

• 東アジアとヨーロッパの誤情報と偽情報の力学
• 生成AIは情報環境とメディア・リテラシー教育をどのように変化させるか？  
• 政治を語る：国家の規制とイデオロギー
• フォトギャラリー：4か国で実際に聞かれた誤情報とヘイトスピーチへの対処
• グローバルな視座を生かし人々の力を結集した解決策を
• シンポジウムプログラムと登壇者 

誤情報と陰謀論が流布されることは、社会構造の一つの側面として常に存在してきましたが、インターネットの登場とソーシャルメディアの隆盛により、ニュースの拡散のされ方、消費のされ方は根本的に変化しました。近年AI技術が目覚ましい発展を遂げ、メディア制作のためのツールを誰もが手軽に利用できるようになったことで、情報拡散のスピードはさらに加速しています。世界中に広がる風評、誤情報、ヘイトスピーチの扇動は、数多くの社会に分断と両極化をもたらしています。 

ゲーテ・インスティトゥートとドイツ連邦政治教育センター（bpb）は、メディアが持つ力に対する理解を深め、虚偽の情報やオンライン上のヘイトスピーチへの対応策の実施方法について議論することを目的に、「Facts and Contexts Matter: Media Literacy in East Asia and Europe（フェイクニュースとメディア・リテラシー：東アジアとヨーロッパからの視座）」を共同開催しました。韓国、日本、台湾、ドイツから専門家を招き、それぞれの地域の状況と、誤情報や偽情報、オンラインのヘイトスピーチと闘うために採用している方法について議論していただきました。 

東アジアとヨーロッパの誤情報と偽情報の力学 

ここ数年、誤情報と偽情報の「脅威」に関する研究への関心は、世界中の学術界とジャーナリズム双方で着実に高まっています。基調講演に登壇した香港大学の鍛冶本正人氏とベルリン自由大学のジャネット・ホフマン氏は、誤情報や偽情報の実際の脅威が時には過剰に誇張され、経験に基づく根拠だけではなく、深みや背景を欠いていることがあるという点で意見が一致しました。「誤情報はプラットフォームの問題だと思われがちですが、虚偽や誤解を招く情報の多くはトップダウン、つまり政治エリートからもたらされています」とホフマン氏は話しました。これに付け加えて鍛冶本氏は「誤情報はむしろ両極化、不平等、憎悪、不信、その他の問題の症状であって原因ではありません」と述べました。 
[Insert picture of screenshot on the right side. Byline: モデレーターを務めたラウ・アイメン氏（ダブルシンク･ラボのソーシャル・エンゲージメント・リード）、鍛冶本正人氏（香港大学）とジャネット・ホフマン氏（ベルリン自由大学）]  

誤情報や偽情報が投票行動やヘイトクライムに及ぼす影響は、科学的に測定することが難しい場合が多いのですが、両専門家は、誤解を招く情報の共有における集団のアイデンティティーの影響について話しました。「情報は、自分がどの政治団体に属しているかを示すために共有するのであって、必ずしもその情報を信じているからではありません」とホフマン氏は述べています。これに対して鍛冶本氏は「全員が集団重視の行動を意識すれば状況は良くなるかもしれません。短絡的でテクノロジー中心の教育ではなく、集団行動に関する教育を取り入れるべきでしょう。私たちは信頼できる質の高いコンテンツを識別し、作成することをもっと重視するべきです」と話し、ファクトチェックの域を超えるのであれば、メディア・リテラシー教育は必要であるという考えを示しました。同氏のチームとネットワークは、2019年から同氏の学生が主導するニュースルームを使って、ファクトチェック・プロジェクトのアニーラボ（Annie Lab）とAsian Network of News and Information Educators（ANNIE）の運営を行っています。 

ホフマン氏は、質の高いメディアは誤情報や偽情報と闘うための最善で最重要な方法の一つであると強調しました。一方で鍛冶本氏は、英語以外の言語による質の高い情報がないことを指摘しました。このことは、特に世界的な医療パンデミックが発生した場合に問題となる可能性があります。質の高い情報がない場所では、風評が広がる余地があります。
 

生成AIは情報環境とメディア・リテラシー教育をどのように変化させるか？ 

私たちが導入しているAIモデルは、システムが構築されている場所の規制や倫理を反映しています。「現在、私たちのAIモデルの多くは、私たちが高く評価すべきだと米国企業が考えているものです。そして中国のモデルは、中国の規制当局が望ましいと考える動作をするものです」とドイツ人工知能研究センターのCEO兼科学ディレクターのアントニオ・クルーガー氏は話しました。 

クルーガー氏は、生成AIの力と、例えば写真や動画に透かしを入れることで人間的なコンテンツを人工的なコンテンツと区別する方法について、さらに幅広い考察を行いました。他の2人のパネリストは、生成AIを使ったローカルアプリケーションの話をしました。韓国では、ヘイトスピーチを拡散して強い批判を受けた人気チャットボット「イルダ」に生成AIモデルを導入して再教育が行われました。「イルダの最初のバージョンは、『Science of Love Service』（恋愛相談プラットフォーム）から取得した1億件のチャットを使ってトレーニングされました。イルダのヘイトスピーチは人間が交わしたチャットから生まれたものなのです」とソウル大学校のホン・ソンウク氏は述べました。同氏は、イルダがどのように変わったかを研究し、イルダのプログラミングを行った技術系スタートアップのスキャッターラボが、ICT Policy institute（ICT政策研究所）やイルダのユーザーと共創しながらどのように倫理原則を確立したかを説明しました。 

人工的なネットワークを使って人間の神経ネットワークを刺激する － これは、AI技術のトレンドの中で業界のステークホルダーを教育することを目的とした非営利団体の台湾AIアカデミーで事務局長を務めるイザベル・フー氏が発したメッセージです。話の中で同氏は、オープンソース技術で動作し、そのデータベースがアクティブユーザーによりクラウドソーシングされた知識で構成されているファクトチェックのチャットボット・サービスである、Cofactsを紹介しました。フー氏は「読み手側のデジタル・リテラシーを高めることで、読み手自身が意思決定できるようにするのです」と述べ、生成AIだけでは特効薬にはならないことを強調しました。これに加えてクルーガー氏も「私たちは社会として操作に慣れ、新しいツールを学ぶ必要があります」と述べました。それは、多様なステークホルダーから情報を収集するツールです。 

政治を語る：国家の規制とイデオロギー 

2023年8月25日、EUのデジタルサービス法（DSA）が正式に発効しました。グーグル、メタ、アマゾンのような巨大テクノロジー企業は現在、自社のプラットフォーム上に投稿されたコンテンツに対して、より厳格な説明責任基準を課せられており、顧客が問題のあるコンテンツを報告できるフィードバック・オプションを含める必要があります。シンクタンク戦略的対話研究所（ISD）のマウリティウス・ドルン氏は、DSAの仕組みを説明して、より安全なオンライン環境の促進を目的としたこの法律の制定に至った議論の一部を語りました。同氏は「私たちはEUとしてサイバー外交でどのような要素に焦点を当てているのか認識する必要があります」と話し、問題のある分野を挙げました。さらにこのセッションでモデレーターを務めたベルリン自由大学のジャネット・ホフマン氏は「問題なのは、違法コンテンツを定義して、プラットフォームが何を削除する必要があるかを決めるのが国家だということです」と話しました。このことは、裁判所が独立していない国家では特に重要です。DSAは、言論の自由の権利を制限するEU諸国にとっては強力なツールとなる可能性があります。  日本ファクトチェックセンター編集長の古田大輔氏は、これが、日本政府がプラットフォーム規制に反対している理由の一つかもしれないと主張し、「日本では総務省のプラットフォームサービスに関する研究会が、誤情報を法律で規制するのではなく、民間部門が誤情報と闘うべきであると提言しています」と話しました。「中立的な統治機構」を有する組織が強化されるべきです。「もちろん、民間のファクトチェック組織だけでは大手テクノロジー・プラットフォームに対処することはできません」と同氏は指摘し、何らかの規制の必要性に言及しましたが、「ただしこれは現政権の優先事項ではありません」と述べました。全般的に日本は、例えば隣国の台湾と同様に、誤情報や偽情報に影響されにくいようです。台湾には、古田氏のファクトチェック組織と同じ考えを持つ組織があり、互いに密接な関係を結んでいます。「ほとんどのファクトチェックツールは欧米諸国のものですが、例えば中国語のツールなどは不足しています。台湾はその開発の最前線にいます」。同氏によると、誤情報や有害な言論と闘うには、中国のマイクロブログサービス「微博（ウェイボー）」や日本のインスタントメッセージングアプリ「LINE」のような「非西洋」プラットフォームの知識を深める必要があります。 

フォトギャラリー：4か国で実際に聞かれた誤情報とヘイトスピーチへの対処 

グローバルな視座を生かし人々の力を結集した解決策を 

最後のパネルディスカッションでは、特に誤情報とヘイトスピーチのつながりが検討され、ヘイトスピーチの定義に関する質問から始まりました。実際にヘイトスピーチとは何なのでしょうか。「ドイツでは、憲法上人間の尊厳が重視されていることが、ヘイトスピーチに対する私たちのアプローチを形成しています」とISDのマウリティウス・ドルン氏が話しました。またCCDMのジョン・スーキュン氏は「韓国では、差別に焦点を当てて定義しています。ヘイトスピーチとは、人々が社会の主流から排除されることを意味しています」と話しました。台湾AIアカデミーのイザベル・フー氏がヘイトスピーチにつながる可能性のある偽情報に強い関心を示す一方で、台湾の裁判所はヘイトスピーチを定義しています。香港大学の鍛冶本正人氏は、アジアの一部の国における政治色を帯びた裁判所の問題を提起したほか、ドルン氏は、プラットフォームにはその製品やポリシーを設計する余地が十分あるため、コンテンツモデレーションやレコメンダーシステムの透明性を高めることが急務であると付け加えました。DSAはこの取り組みに貢献しようとしています。 
 
パネリストたちは、ヘイトスピーチの問題に取り組むためには全体的なアプローチが必要であるという点で意見が一致しました。「法的規制だけでは不十分です。例えば教室でのヘイトスピーチを直接禁止するというような行動規制が必要です。またデジタル環境もヘイトスピーチに関与しづらくなるように修正する必要があります」とジョン氏は話しました。鍛冶本氏は、教室でこの問題に対処できるようにする様々な方法を説明しました。言われたことだけに対処する人もいます。「歴史を学び、憎しみの心理を学び、傷を開きましょう」と言う人もいました。パネリストたちは、メディア・リテラシー教育はあらゆる年齢層の人々を対象にすべきだと指摘しました。ヘイトスピーチの問題に取り組むには、社会全体がしっかりと協調して関与する必要があります。ドルン氏にとって、それは公共の利益における新しいツールやスペースを使って「民主主義を革新すること」でもあります。「私たちは複数の危機に直面した状態にあります。だからこそ、人々が自らの生活に影響を及ぼす問題について事実に基づく情報を得ることができ、憎しみや扇動なく質問ができるスペースが必要なのです」。 

全体として、アジア諸国とヨーロッパ諸国には、誤情報への対処という点で、おそらく当初想定されていたよりも多くの共通点をもっていることが、今回のシンポジウムで示されたといえるでしょう。 
 

シンポジウムプログラムと登壇者