60 AI Agent 設計の心得

60 AI Agent 設計の心得

重要な制御権は人間に残し、AI に与えないでください

AI Agent を設計する際、非常に重要な原則があります。それは、重要な制御権を AI ではなく人間に委ねることです。

例えば、コード作成に使用する Coding Agent を考えてみましょう。

設計時には 2 つの段階を考慮する必要があります。1 つはタスク開始、もう 1 つはタスク終了です。

まずタスク開始段階について、タスクを開始する際、ユーザーが入力するものが期待に合致しない可能性があります。開発タスクとは限らず、随意の質問、一言のテスト、あるいは文章作成の補助など、coding タスクではない場合もあります。