60 AI Agent 설계 심법

60 AI Agent 설계 심법

중요한 제어권은 사람에게 남기고, AI 에게 주지 마십시오

AI Agent 를 설계할 때, 매우 중요한 원칙이 있습니다. 그것은 중요한 제어권을 AI 가 아닌 사람에게 맡기는 것입니다.

예를 들어, 코드 작성에 사용하는 Coding Agent 를 생각해 봅시다.

설계 시에는 2 개의 단계를 고려해야 합니다. 하나는 태스크 시작, 다른 하나는 태스크 종료입니다.

먼저 태스크 시작 단계에 대해, 태스크를 시작할 때, 사용자가 입력하는 것이 기대에 부합하지 않을 수 있습니다. 개발 태스크와는 한らず, 임의의 질문, 한 마디의 테스트, 혹은 글쓰기 보조 등, coding 태스크가 아닌 경우도 있습니다.