60 AI Agent设计心法
把关键控制权留给人，不要给AI
设计 AI Agent 时，有一个非常重要的原则，就是把关键的控制权交给人，而不是 AI。
举个例子，比如一款用来写代码的 Coding Agent。
设计时需要考虑两个阶段的事情，一个是任务开始，一个是任务结束。
先说任务开始阶段，开始一个任务，用户可能输入的并不符合预期，他不一定是一个开发任务，还是一个随意的问题，还是说一句话的测试，或者说是让你帮他写文章之类的，不是 coding 的任务。
60 AI Agent设计心法 把关键控制权留给人，不要给AI 设计 AI Agent 时，有一个非常重要的原则，就是把关键的控制权交给人，而不是 AI。 举个例子，比如一款用来写代码的 Coding Agent。 设计时需要考虑两个阶段的事情，一个是任务开始，一个是任务结束。 先说任务开始阶段，开始一个任务，用户可能输入的并不符合预期，他不一定是一个开发任务，还是一个随意的问题，还是说一句话的测试，或者说是让你帮他写文章之类的，不是 coding 的任务。 这是一个很现实的问题，所有的此类工具都会遇到这个问题。然后有的工具它是怎么处理的呢？ 哎他灵机一动，他说我用 AI 去判定这个任务的类型...
暂无评论，快来发表你的见解吧