あるものが「どこから来て、どう扱われ、どこへ行ったか」を後から辿れるようにします。製造業の原材料・ロット管理と同じ発想で、AI ではデータの来歴とモデル処理の記録の 2 方向に効きます。
あるものが「どこから来て、どう扱われ、どこへ行ったか」を後から辿れるようにします。製造業の原材料・ロット管理と同じ発想で、AI ではデータの来歴とモデル処理の記録の 2 方向に効きます。
AI システムの運用や監査で、出力の根拠になった資料やモデルのバージョンを確認する場面に出ます。問題が起きたとき、影響範囲を絞り込む手がかりとしても使われます。
データ → 処理 → 出力 と左から右へ並べ、出力から上に大きく戻る矢印で「後から遡る」動きを描く
擬人化ポンチ絵 · 後日差し込みデータの来歴とモデル処理を後から辿れるようにします。
問題が起きたとき、影響範囲を絞り込みやすくなります。
オブザーバビリティは動きを見る話、こちらは残す話です。
インシデント報告の期限内対応や、監査での説明に役立ちます。
まず出力の根拠になった資料を辿れるか確かめてみます。
プロベナンス、ロット管理、変更履歴
ブロックチェーンによる来歴管理や製造業のトレーサビリティ規格の逐条解説は本エントリのスコープ外とした。