AI 新創 Anthropic 推出開源工具 FlashProve，利用密碼學技術，讓使用者能驗證 AI 模型的回應是否來自宣稱的模型。此舉旨在解決 AI 服務不透明或模型可能遭替換的問題，有助於提升 AI 的可信度與安全性。
為提升人工智慧（AI）模型的透明度與可信度，美國 AI 新創公司 Anthropic 於週三（11月4日）發布了一款名為 FlashProve 的開源系統。該工具旨在透過密碼學技術，讓使用者能夠驗證 AI 模型的回應是否確實來自開發者所宣稱的模型，解決當前 AI 服務中的信任挑戰。
Anthropic 指出，目前使用者在使用 AI 模型時，幾乎沒有方法能確認回應是否來自特定模型。AI 服務供應商可能會基於成本考量，秘密將請求導向較便宜、能力較弱的模型，或是模型本身遭惡意竄改。這類不透明的實務操作，不僅損害使用者信任，也可能導致 AI 服務無法如預期般運作。
FlashProve 系統基於 Anthropic 研究團隊的「可證明推論」（Provable Inference）方法，核心採用了零知識證明（zero-knowledge proof）這類密碼學技術。簡單來說，它會在 AI 每次生成回應時，附帶一個簡短的加密證明。這個證明能讓使用者在自己的裝置上快速驗證該回應的來源，且過程中無需揭露模型的專有權重（即模型內部運作的機密數據），即使運算資源有限也能進行驗證。
Anthropic 已在 GitHub 上免費分享了 FlashProve 的技術規格與部分工作程式碼，並以 Apache 2.0 開源授權發布。不過，該公司也強調，FlashProve 仍處於早期研究階段，並非一個已完成的產品，並鼓勵外部開發者參與測試與改進。這項技術的潛在應用廣泛，從消費者產品到企業內部安全，都能用於獨立驗證所使用的 AI 模型是否符合預期，對於提升 AI 系統的透明度與問責制具有重要意義。