SNSや動画サービスのURLから直接フェイク動画の検出
この度弊社では、SNSや動画共有サービスなどのURLから、動画のフェイク判定を行うアプリケーションを開発しました。従来のフェイク検出では、対象のデータファイルを検出器へアップロードする必要があったのに対し、今回開発したアプリケーションでは、データそのものが手元にない場合でも、ウェブページのURLから簡単に動画のフェイク検出が行えるようになりました。
■開発の背景と概要
近年、様々な生成AIの活用が急速に広がり、SNSや動画共有サービス上ではAIを利用して生成された動画が多く見られるようになりました。中には悪意を持って生成された、社会的や経済的な混乱を引き起こす可能性のあるフェイク動画も存在します。このようなフェイク動画に対して、当社では動画、画像、音声、文章など様々なメディアのフェイク検出技術開発を行い、フェイク検出モデルの提供を行ってまいりました。しかし、従来のフェイク動画に対する検出器では、ユーザー自身のデバイス上に保存された動画ファイルを検出器へ直接アップロードする必要がありました。このような課題に対し、当社ではURLから、直接ウェブページ内の動画に対するフェイク判定が可能なアプリケーションを開発しました。
■URLからのフェイク動画検出技術の特徴
1. 幅広い映像プラットフォームへ対応
YouTube、X（旧Twitter）、Instagram、Facebook、TikTok、Twitch、Flickrなど、主要なSNSや動画共有サービスのURLから簡単に動画のフェイク検出が可能です。
2. 動画内の映像に特化
動画の映像データに対してフェイク検出を行います。
※動画に含まれる音声データは検出対象外です。
3. 生成に使用された可能性の高い元情報も抽出
動画の中からフェイクの可能性が最も高い10フレームを抽出し、検索APIを用いてそれらのフレームが生成される元となった可能性のあるデータについてもフェイク判定と同時に出力します。
■今後の展望
生成AI技術は、日々高度化・多様化を続けており、検出技術の精度はもちろん検出可能な範囲についてもさらに研究開発を進めて行く必要があります。フェイク動画の中には、音声データのみがフェイクである場合や、映像データと音声データ共にフェイクである場合も存在します。今後は動画内の映像データだけでなく、音声データに対してもフェイク検出が可能となるモデルの開発を進めていく予定です。また、当社では引き続き、誰もが容易に信頼性の高い情報へアクセスできる社会作りに貢献してまいります。
■お問い合わせ
NABLASのフェイク検出技術に関するお問い合わせは以下フォームからお気軽にご相談ください。