設計ガイドライン vol.02
AIエージェント PoC 開始前チェックリスト(7項目)
この記事の要点
- AIエージェントのPoCを始める前に確認しておきたい論点は7つあります
- 中でも「AIエージェントの操作権限範囲」は最も重要な論点です
- 短期のPoCと中長期の本格導入では、選ぶべき手法が異なります
私たちはエンタープライズのお客様向けにAIエージェントのPoCを数多くご支援していますが、始める前にお客様と認識合わせをしておくべき論点は、案件が変わってもだいたい共通しています。今回は、その7項目を一覧にしてご紹介します。
PoC開始前に確認する7項目
| No. | 項目 | 確認内容 |
|---|---|---|
| 1 | ユーザーのアクセス経路 | VPN経由か、固定IPからか、インターネットからのアクセスを許可するか |
| 2 | 利用規模 | 何人が、どの程度の頻度で使うか |
| 3 | 認証方式 | Cognitoで完結させるか、顧客のEntra IDと連携するか、MFAを必須にするか |
| 4 | データの種類 | 公開データのみか、顧客データを扱うか |
| 5 | データ処理・保存場所 | 東京リージョンに限定するか、Cross-Region Inferenceの利用を許容するか |
| 6 | AIエージェントの操作権限範囲 | 重要操作の前に人間の承認を挟むか、プロンプトインジェクション対策をどこまで行うか |
| 7 | PoCの可用性 | バックアップの要否、リリースタイミングの制約 |
7項目の中でも私たちが特に重視しているのが6番目の「AIエージェントの操作権限範囲」です。AIエージェントは人間の代わりに操作を実行できてしまうため、どの操作を自動で進めてよく、どこから人間の承認を挟むのかを、PoCの設計段階で決めておく必要があります。あわせて、プロンプトインジェクションのような外部入力を通じた誤動作のリスクにどこまで対策するかも、この段階で握っておくべき論点です。
短期PoCと中長期導入で変わる考え方
PoCの期間や目的によっても、選ぶべきアプローチは変わります。短期のPoCであれば、まずは結果を出すことを優先し、実装の手法自体は問わないという判断もあり得ます。一方で、中長期の運用を見据え、複数人が使うことが決まっている場合や、セキュリティ観点での要求が高い場合は、フルマネージドなサービスを選ぶことが正しい判断になります。
よく聞かれる3つの質問
学習データはどう扱われますかBedrock経由でご利用いただくClaudeは、入力いただいたデータで追加学習を行わない仕様になっています。
AIの回答が間違っていた場合の対策は生成物には注意表示を行い、処理の過程を多層でログに記録した上で、最終的な判断は人間が確認する前提で運用を設計します。
どのセキュリティ基準に準拠していますかAWSおよびBedrockはISO27001、SOC1/2/3などの基準に準拠しています。
これらの論点をあらかじめ整理しておくと、PoC開始後の手戻りをかなり減らすことができます。A4横1枚のPDFにまとめていますので、サイドバーからダウンロードいただけます。
まとめ
PoCを始める前の7項目の確認は、地味に見えて手戻りを防ぐ効果が大きい作業です。特に操作権限の範囲だけは、後から広げるより最初に狭く決めておくほうが、結果的にスムーズに進みます。
この記事に関連するご相談
PoC開始前チェックリストをPDFでダウンロード
相談する
本記事で紹介した7項目をA4横1枚にまとめたチェックリストPDFです。PoC開始前の社内確認にご活用ください。