検証可能な（根拠のある）AIとは？
検証可能なAIとは、すべての回答がその出どころとなった正確な情報源を引用し、それを確認できる人工知能です。信じるしかない、出典のない主張とは違います。
ただ信じるのではなく、確認できるAI
ほとんどのAIアシスタントは、出どころを示さないまま流暢な文章を生成します。モデルが根拠を指し示せないことを断言したとき、それはハルシネーションです。もっともらしい言い回しでも、裏づけとなる証拠はありません。検証可能なAIはそのギャップを埋めます。すべての回答が、それが引き出された具体的な一節、ノート、記録に結びついています。
この考え方は、根拠づけ・来歴・署名された履歴という3つの柱の上に成り立っています。根拠づけとは、回答がモデルの制限のない記憶ではなく、既知の情報源の集合だけから組み立てられることを意味します。来歴とは、それぞれの主張がその出どころへの引用を伴うことを意味します。署名された履歴とは、それらの情報源へのあらゆる変更が記録され、暗号的に署名されることを意味し、回答が何にいつ基づいていたのかを証明できます。
その結果、監査できるAIが生まれます。モデルが「もっともらしく聞こえる」かどうかを問う代わりに、引用された情報源を開いて確認できます。あるいは、情報源がその主張を裏づけていないことを、はっきりと見て取ることができます。
問いから、確認できる答えへ
根拠づけ
システムは、定義されたコーパス（あなたのノート、文書、コード）から関連する一節だけを取り出し、モデルに制限のない記憶から答えさせるのではなく、その文脈を与えます。
引用
回答の各文は、それが引き出された正確な情報源へと結びつけられます。こうして主張とその証拠は一緒に運ばれます。
確信度と回答の保留
情報源が問いを裏づけないとき、根拠のあるAIは沈黙を埋めるために答えをでっち上げるのではなく、そう正直に伝えます。
署名された来歴
基盤となる情報源へのあらゆる変更は、改ざんが検知できる署名済みの履歴に記録されるため、回答がどのバージョンに基づいていたのかを正確に証明できます。
自信を持って擁護できる確かさ
出典のないAIはブレインストーミングには向いていますが、意思決定には危険です。回答が契約書、診断、リリース、コンプライアンス報告書に流れ込んだ瞬間、「モデルがそう言った」では不十分です。検証可能なAIは、回答を同僚や監査人、そして将来のあなた自身に対して擁護できるものへと変えます。証拠が付随し、履歴が証明可能だからです。
静かなハルシネーションがない
引用された回答は、実在の情報源を指し示すか、できないと認めるかのどちらかです。検証できない中間はありません。
説明責任
署名された履歴は、誰が何をいつ変更したかを示すため、回答は争うのではなく辿ることができます。
スケールする信頼
すべての回答が確認できるとき、チームはすべてを手作業で再検証する代わりに、実務でAIに頼ることができます。
Apiliumがそれをどう体現するか
Apiliumは検証可能なAIを後付けするのではなく、製品に組み込んでいます。Akashiは、あなた自身のノートやコードに関する問いに、各回答の出どころとなった正確な一節と確信度スコアを返すことで答えます。もしあなたの情報源が主張を裏づけないなら、でっち上げる代わりにそう伝えます。その内側では、AIngleがあらゆる変更を署名済みのアクションとして記録するため、回答が拠って立つ履歴を再生し、証明できます。AIモデルはMCPを通じてあなた自身が持ち込みます。Apiliumは根拠づけと証明を提供します。
Akashiで体験するよく寄せられる質問
検証可能なAIはRAGと同じものですか？
検索拡張生成（RAG）は根拠づけの一手法で、モデルが答える前に関連する情報源を取ってきます。検証可能なAIはより広い目標です。単に情報源を取ってくるだけでなく、それを回答内で引用し、その情報源が何であったかを証明可能な署名済みの記録として残します。引用と来歴のないRAGは、確認できない根拠づけにすぎません。
これは普通のチャットボットと何が違いますか？
普通のチャットボットは学習済みのパラメータから答え、その主張を確認する手段を与えません。検証可能なAIは定義された情報源の集合から答え、各主張に引用を付けるため、情報源を開いて確認できます。あるいは裏づけがないことがわかります。
「署名された履歴」は何をもたらしますか？
署名された履歴とは、情報源へのあらゆる変更が記録され、暗号的に署名されることを意味します。これにより、回答があなたの知識のどのバージョンに基づいていたかを証明でき、事後に何かが改変されたかどうかを検知できます。ただ信じるのではなく、検証できる来歴です。
検証可能なAIはハルシネーションを完全に止めますか？
それは失敗のあり方を変えます。根拠のあるAIも表現を不完全に言い回すことはありますが、あらゆる主張が情報源に結びついているため、裏づけのない記述は隠れるのではなく見えるようになります。そしてよく設計されたシステムは、情報源が足りないときにはでっち上げるのではなく回答を保留します。