東京, 2024年10月16日 - (JCN Newswire) - 内閣府や経済産業省、その他の関係府省が連携し、経済安全保障の強化、推進に向けて創設した「経済安全保障重要技術育成プログラム（通称“K Program”）」（注1）のもと、国立研究開発法人新エネルギー・産業技術総合開発機構（以下、NEDO）が公募した、「偽情報分析に係る技術の開発」（注2）（以下、本事業）に、2024年7月に採択された富士通株式会社（以下、富士通）は、プライム事業者として偽情報検知と評価における国内屈指のアカデミアや企業を再委託先として選定し、大学共同利用機関法人 情報・システム研究機構 国立情報学研究所（以下、NII）、日本電気株式会社（以下、NEC）、慶應義塾大学SFC研究所、国立大学法人東京科学大学（以下、東京科学大学。採択時、国立大学法人東京工業大学）、国立大学法人東京大学（以下、東京大学）、公立大学法人会津大学（以下、会津大学）、国立大学法人名古屋工業大学（以下、名古屋工業大学）、国立大学法人大阪大学（以下、大阪大学）の9者（注3）によるオールジャパン体制で、偽情報の検知から根拠収集、分析、評価までを統合的に行う点で世界初の偽情報対策プラットフォームを2025年度末までに構築することを目指し、2024年10月より共同研究開発を開始します。
図1 本事業に参画する組織
概要
インターネットにおける、生成AIや合成コンテンツによる偽情報の流通が大きな社会問題となる中、ディープフェイクを用いた意図的な偽情報（文章、画像、音声、動画）を検知する技術などが個別に検討されてきているものの、これらは偽情報の問題における一部の解決であり、偽情報に対する根本的な解決には至っていません。偽情報を的確に検知するためには、これら個々の技術による検知のみならず、関連する様々な周辺情報を集めて統合的に検証する仕組みが不可欠です。
富士通と産学組織の計９者は、偽情報に対する解決アプローチとして、真偽不明な情報に関連する様々な周辺情報を根拠としてインターネット上から収集し統合管理した上で、根拠としての整合性や矛盾を総合的に分析することで真偽判定を支援するとともに、社会への影響度を分析し評価することで偽情報の検知や対処を可能にする社会を目指します。これにより偽情報による社会への悪影響を解決し、信頼性の高いデジタル社会を実現します。
9者は、上記アプローチに基づき、偽情報の検知（技術1）、根拠収集・統合管理（技術2）、総合的な分析（技術3）、社会的な影響度評価（技術4）に関する各種技術の研究開発を開始するとともに、富士通がこれら技術を統合し、偽情報の検知から根拠収集、分析、評価までを統合的に行う世界初の偽情報対策プラットフォームの構築を進めていきます。
富士通の役割
富士通は、本事業におけるプライム事業者として4つの技術の研究開発を推進および主導するとともに、これら技術の統合と体系化、ならびに偽情報対策プラットフォーム全体の構築を担当します。また、富士通は偽情報に関連する最新事例や技術動向に基づき、公的機関や民間企業によるユースケースを創出し、研究開発成果の社会実装につなげていきます。
4つの研究開発技術と各者の役割
技術1：メディアデータごとの情報分析と偽情報検知（担当：NII、NEC）
フェイクメディア検知の分野で実績を有するNIIは、真偽判定の対象となるSNS投稿などの情報を構成するメディアデータ（画像、映像、音声）に対し、昨今拡大するディープフェイクを用いた意図的な偽情報を検知する技術に加え、改ざん箇所や生成手法を、判定の確信度を含める形で推定し、これらを根拠情報として出力する技術を開発します。フェイクメディア検知結果を根拠情報の一部として活用した偽情報検知技術の開発は、先進的な試みです。
NECは、画像、映像、音声を含む内容について、例えばどのような出来事が発生しているかなどをテキストとして抽出するメディア理解技術を開発し、SNS投稿文との一致分析や、根拠情報の収集に活用します。
技術2：根拠、エンドースメント管理（担当：慶應義塾大学SFC研究所、富士通、大阪大学大学院情報科学研究科）
トラストを念頭においたインターネットアーキテクチャの分野で実績を有する慶應義塾大学SFC研究所と富士通は、技術1から出力される分析結果に加えて、インターネット上から収集した様々な根拠情報の関係性を「エンドースメントグラフ」（注4）として統合し、構造化した上で蓄積、総合的な真偽判定支援や影響度評価において活用可能にする技術を開発します。
IoTデータ解析の分野で実績を有する大阪大学大学院情報科学研究科は、根拠情報の一つとなるIoTセンサーデータの収集技術を開発します。真偽判定の対象エリアの情報を網羅的に取得できない場合に、近隣エリアの取得可能な情報群から、対象エリアの根拠情報を推定し、根拠情報として出力する技術を開発します。人が情報を集めて推定するように、システムが能動的に根拠情報を集める技術の開発は、先進的な試みです。
技術3：総合真偽判定支援（担当：富士通、名古屋工業大学）
富士通は、技術2のエンドースメントグラフから、大規模言語モデル（LLM）等の活用により、真偽判定の対象情報に紐づけられた根拠の整合性や矛盾を分析し、判定結果とともにユーザーに分かりやすく根拠を説明するといった総合的な真偽判定支援を行う技術を開発します。
さらに富士通は、スーパーコンピュータ「富岳」を活用して日本語データを中心に一から学習したLLM「Fugaku-LLM」や、エンタープライズ向け日本語特化型LLM「Takane」の開発で培われた技術を活かし、偽情報対策に特化した日本語LLMを開発します。これは偽情報対策のためにニュースやSNSなどの多様なデータの理解能力を強化し、さらに論理的な推論能力を高めたLLMであり、真偽判定において高い精度を達成する高速な推論や、ハルシネーション（LLMの誤出力）の抑制を実現します。
富士通と名古屋工業大学は、ユーザーの心理的要因（誤情報持続効果など）を考慮した認知科学に基づくユーザーインターフェース、情報提供技術を開発します。これによりユーザーが正確に情報の真偽を判断し、不用意に情報を拡散しないようにするなど、適切な行動を促します。
技術4：偽情報影響度評価（担当：東京科学大学、東京大学、会津大学）
ソーシャルメディアなどに関する計算社会科学の分野で実績を有する東京科学大学、東京大学、会津大学は、SNSデータからメッセージの情報源、情報内容、社会的文脈に着目し、LLMを拡張して偽情報評価用AIモデルを構築することにより、例えば、過去の偽情報との類似度や拡散速度などの偽情報の特徴を分析し、拡散規模や社会的な影響度などの指標を評価する技術を開発します。偽情報の社会的影響を可視化し、定量的に評価するための技術の開発は、先進的な試みです。
図2 本事業で構築する偽情報対策プラットフォーム
今後について
本事業を通じて、9者は担当する技術の研究開発を行うとともに、富士通がこれら技術を統合しシステム化することで、今後も一層の拡大が懸念される偽情報に対して、安定的で自律的な経済活動を維持するための偽情報対策の社会基盤を構築整備します。これにより9者はNEDOを通じて、本事業の成果を新産業創出および国際競争力強化につなげ、日本の重要性、優位性の向上に貢献します。
本事業を進めるにあたり、2024年度は民間企業・公的機関向けユースケースの分析と機能要件の抽出を行うとともに、各技術の研究開発を行っていきます。2025年度末までに、4つの技術を統合した偽情報対策システムを構築する予定です。
9者の代表者によるコメント
富士通株式会社 執行役員副社長 CTO、CPO ヴィヴェック マハジャンのコメント
偽情報対策の関連分野において世界的にも実績のある国内屈指の産学組織と体制を構築し、本事業を推進できることを非常に嬉しく思います。関連省庁や他組織とも連携しながら偽情報対策システムを実現し、社会課題の解決に貢献していきます。
国立情報学研究所 教授 山岸 順一のコメント
偽情報対策には多岐にわたる複数技術の高度化と統合が必要になります。私たちがこれまで長年研究・開発してきたフェイクメディア検知技術を最大限活用し、偽情報対策システムの強力な基盤を構築していきます。
日本電気株式会社 執行役 Corporate EVP 兼 CTO 西原 基夫のコメント
社会的に重要な本事業に当社がメンバーとして参加できることを嬉しく思います。偽情報はAIの進化に伴い巧妙化が進んでおり、対策においてもAIの活用が不可欠です。当社の最先端のAI技術を活用して効果的な対策技術の確立に貢献いたします。
慶應義塾大学環境情報学部 教授 楠本 博之／政策・メディア研究科 特任教授 鈴木 茂哉のコメント
インターネットの情報は、人だけでなくLLMを活用した情報システムから発信されるものもあります。発信者を表現するための最新のデジタルアイデンティティ技術を用い、発信者と情報との様々な関係を記録し、多角的に分析可能な基盤を開発します。このことにより、より綿密で的確な判断をエンドユーザに提供します。
東京科学大学 教授 笹原 和俊のコメント
偽情報の大規模化と高度化は、日常生活や民主主義を脅かす深刻な問題となっています。AIの進化により真偽の判別が困難になる中、偽情報の影響力を推定する技術の確立が急務であり、広く活用される技術開発に取り組みたいと考えています。
東京大学 教授 豊田 正史のコメント
多様な分野の専門家が連携して偽情報対策に取り組む大変貴重な機会を頂けたことを嬉しく思います。様々な専門知識と技術を取り入れ偽情報の影響評価に関する基盤技術の構築に貢献していきます。
会津大学 上級准教授 橋本 康弘のコメント
偽情報の発生と拡散は、社会の安定や国の安全保障にも影響を及ぼす重大な問題であり、その解決には情報学や工学、社会科学など多岐にわたる学術分野の知見が不可欠です。偽情報が流通する大規模な構造や複雑な関係性を可視化する技術を開発し、偽情報の動態を速やかに閲覧・分析することができる環境を構築していきます。
名古屋工業大学 教授 田中 優子のコメント
偽情報の流通が巧妙化・深刻化する中で、先端技術を融合してその対策を講じる本事業に参画できることを嬉しく思います。偽情報の検知から評価までの結果をユーザーに効果的に伝達するために、人間の認知的特性を考慮したインターフェース設計の観点から寄与したいと考えております。
大阪大学大学院情報科学研究科 准教授 荒川 伸一のコメント
社会課題となりつつある偽情報氾濫への対策につながる研究開発に携わることを嬉しく思います。理論評価に留まらず実践的な研究開発と社会還元を意識して、本事業に参画します。
URL https://pr.fujitsu.com/jp/news/2024/10/16.html