フェイクの過検知を抑制することで判定性能が向上
NABLAS株式会社（以下、弊社）はこの度、弊社保有のディープフェイク検知ソリューションに対し、新たなデータの追加を行い、リアル画像・動画（生成AIを使用していない画像・動画）に対する判定の正確性を向上させるアップデートを実施いたしました。多様なデータセットを用いて検出モデルの強化を行ったことで、スマートフォンカメラ*に搭載されているフィルターや補正機能をはじめ、テロップ挿入などの映像加工が施されたデータに対する過剰なフェイク検知を抑制し、ディープフェイク検知ソリューションの判定精度向上を実現しました。
*iPhone機種に搭載のカメラの場合
◾️ディープフェイク検知ソリューションについて
当社が保有するディープフェイク検知ソリューションは、画像・動画・音声など様々な形式のデータに対し、AIによって生成されたものであるかを判定するソリューションです。
また、テキスト情報に対しては、特定のデータベースやWeb上の情報を参照し正誤を明らかにするファクトチェック機能を有しています。
フェイク検出サービスについてはこちら
当社のテキストファクトチェックに関する詳細はこちら
AI生成文章の検出モデルに関する詳細はこちら
◾️アップデートの内容
1. リアルデータに対する判定精度向上
様々な種類のデータを学習データセットへ追加したことにより、リアルデータに対する判定精度の向上を実現しました。従来は、スマートフォンで撮影された画像や動画データに対し、補正機能（露光調整、明暗調整、フィルター機能など）の影響で過剰なフェイク判定（過検知）が見られることがありました。しかし、今回のデータセット追加により、リアルデータが誤ってフェイクと判定されるリスクを大幅に軽減しました。また、画像だけでなく映像コンテンツにおけるテロップやエフェクトが挿入された動画データに関しても、フェイクの過検知を抑制しており、従来よりもさらに信頼性の高い判定を実現しています。
2. データセット追加による検出モデルの強化
ディープフェイク検知能力の強化と検出精度向上 のため、MidjourneyやDall-E、Stable Diffusionをはじめとする生成AIで生成された画像データセットの追加を行いました。これにより、検出モデルがより一層強化されフェイク検知の判定精度向上を実現しました。
◾️ディープフェイク検知ソリューションの活用シーン
近年ディープフェイクがもたらしうる脅威はSNS・Webメディアを運用する企業、報道機関、政府機関、金融関連企業など多岐に渡ります。ディープフェイク検知ソリューションは、それらのセクターが抱えるリスクを軽減し、ディープフェイクによってもたらされる問題を防ぎます。
【想定される活用シーン】
SNS・Webメディアを運用する企業
偽情報の発信や拡散を未然に防ぎ、ブランドの価値や読者、世間との信頼性を維持
報道機関
情報発信前に内容の正誤を正確に判断し、真実に基づいた情報発信に貢献
政府機関
偽情報の検出や拡散予防により国家レベルでの経済、政治、防衛、公共の秩序維持に貢献
金融・保険関連企業
なりすましや詐欺被害の防止に貢献
◾️今後の展望
当社は、この度のアップデートにとどまらず今後もディープフェイク検知ソリューションのさらなる精度向上に向けて継続的に技術開発を進めて参ります。また、日進月歩するAI技術に追従し、新たに出現する生成技術やディープフェイクの脅威に対してもスピード感を持って柔軟に対応し、企業や公共機関が直面するリスクの軽減に貢献して参ります。