生成情報の信頼性とセキュリティ面の安全性確保で企業のChatGPT活用を後押し
この度NABLASでは、ChatGPTなどのAIによって生成されたものかどうかに関わらず、テキスト情報の正誤を判定するファクトチェックツールの提供を開始しました。このファクトチェックツールは、インターネットや社内のデータベースを参照し、それらの情報範囲の中から、該当のテキスト情報に関する根拠を取得し、情報の真偽をチェックします。これにより、テキスト情報の真偽判断が可能になるだけでなく、チャットボットやChatGPTなどの生成AIをビジネスで活用する中で、AIが誤った情報を出力するハルシネーションへの対策として、より生成AIの信頼性を高める事が可能となります。
本サービスが提供する価値
テキスト情報や生成AIによって生成された文章のファクトチェック 特定のテキスト情報の内容に、嘘や誤った情報がないか判定します。
生成AIへの信頼性向上による幅広い業界業種でのAI活用の推進 一般知識に関する質問応答（QA）をベースに、それぞれのテキスト情報に関してインターネットや企業のデータベースを参照し、ファクトチェックをする手法により、正確性と汎用性の高いファクトチェックを実現します。これにより情報の正確さや信頼性での懸念が生成AI導入のハードルとなっていた分野へのAI活用を促進します。
クローズドな環境でも対応可能なセキュリティ面での安全性 ファクトチェックにあたり、特定の必要な部分のみのデータを使用することで、外部への情報漏洩や情報セキュリティー面でのリスクを最小限に抑えます。
提供開始の背景
近年、ChatGPTをはじめとする文章生成AIが急速に普及し、ビジネスにおいても様々な領域や場面で文章生成AIが活用されるようになりました。しかし、AIによるテキスト生成は100%正しい情報とは限らず、常に誤情報を含むリスクが指摘されています。自動化がされる一方で人による情報確認が必要であるうえ、情報に詳しくない場合は情報の正誤判断ができないなど、信頼性という点で課題がありました。こういった課題に対し、企業が安心して生成AI技術を活用できるようにするため、NABLASではファクトチェックツールを開発いたしました。
主なサービス対象者
生成AIを活用したチャットボットの提供者 / 開発者
生成AIを活用したチャットボットの利用者
AIによって生成された文章のファクトチェックを行いたい方
専門用語を含む生成された文章のファクトチェックを行いたい方
機密性の高い情報を含む生成された文章に対してファクトチェックを行いたい方
ファクトチェックツールの仕組みと特徴
【ファクトチェックツールの仕組み】
NABLASのファクトチェックツールでは、テキストをチェックすべき要素に分解し、各要素について特定のデータベースを参照し情報の証拠を収集します。それらの証拠と、テキストの情報を照合し内容の正誤を判断します。
【ファクトチェックツールの特徴】
選択可能な大規模言語モデル 参照する言語モデルを選択可能なため、自社の特定の要件や目的に最適な言語モデルを選択することで、一般的な情報に対するファクトチェックだけでなく、専門性の高い業界や特定の分野に関連する情報のファクトチェックが可能です。
高度なプライバシー保護 情報をOpenAIなどの外部へ送信することなく、社内で構築されたLLMで完結させることができるため情報漏洩や情報セキュリティーに懸念のある企業でも安心してファクトチェックが可能です。
お問い合わせ
NABLASのファクトチェックツールに関するお問い合わせは以下フォームからお気軽にご相談ください。
Comentários