GitHub이 자사 개발자 보조 도구인 Copilot CLI의 에이전트 위임(delegation) 메커니즘을 최적화했다. 같은 작업을 혼자 빠르게 끝낼 수 있는데 보조 에이전트에 불필요하게 넘기지 않도록 개선한 것이다.

에이전트 시스템의 숨겨진 비용

에이전트 기반 시스템에서는 위임이 많다고 해서 항상 좋은 것만은 아니다. 사용자가 간단한 코드 수정을 요청했는데, 메인 에이전트가 이를 직접 처리하지 않고 보조 에이전트를 호출하면 어떻게 될까. 저장소를 탐색하고 결과를 기다리는 사이 원래 1단계면 될 일이 3단계가 된다. 위임할 때마다 조율 오버헤드, 도구 호출, 대기 시간이 쌓인다.

GitHub은 "위임이 강력하지만 무료가 아니다"며 이 문제를 정면으로 인식했다. 저장소 탐색, 코드의 독립적 영역 확인, 오래 실행되는 명령 수행 같은 특정 작업은 보조 에이전트가 진정한 가치를 더한다. 하지만 그렇지 않은 경우라면, 에이전트의 "도움"이 오히려 마찰이 된다.

3단계 개선 루프

GitHub은 신규 정책을 구현하기 위해 먼저 LLM(대규모언어모델)을 활용해 기존 세션을 자동 분석했다. 분석 결과는 명확했다. 보조 에이전트들이 메인 에이전트가 이미 충분한 맥락을 가진 간단한 작업까지 맡고 있었다. 그 결과 이미 알려진 파일 경로로 불필요한 저장소 검색을 반복했다.

개선 방향도 마찬가지로 LLM이 도왔다. 좁고 명확한 작업(파일 찾기 → 읽기 → 수정 → 검증)은 메인 에이전트가 직접 처리하고, 위임은 광범위한 탐색, 여러 영역에 걸친 작업, 병렬화가 자연스러운 경우로 제한하는 식이다.

두 번째 핵심 변경은 병렬화다. 이제 메인 에이전트가 보조 에이전트를 호출한 뒤 결과를 기다리지 않고, 독립적인 작업을 동시에 진행한다. 위임을 "일시 정지"가 아니라 "병렬 처리 도구"로 재정의한 셈이다.

세 번째는 명확한 핸드오프다. 보조 에이전트에 넘길 때는 사용자 요청, 이미 알려진 사항, 보조 에이전트의 역할, 필요한 반환값을 구체적으로 명시한다.

실제 성과: 23% 도구 실패 감소

GitHub은 이 개선을 프로덕션 A/B 테스트로 검증했다. 새로운 정책을 받은 사용자 그룹이 대조 그룹 대비 다음 성과를 달성했다:

• 도구 실패: 23% 감소
• 검색 도구 실패: 27% 감소
• 편집 도구 실패: 18% 감소
• 사용자 대기 시간(P95): 5% 단축
• 사용자 대기 시간(P75): 3% 단축
• 코드 품질 저하 없음

여기서 P95는 가장 느린 상위 5% 세션의 대기 시간, P75는 일반적 범주에서 느린 쪽 대기 시간을 나타낸다. 즉 불필요한 위임이 줄고, 중복 검색이 줄고, 실패하기 쉬운 도구 경로가 줄었다는 의미다.

개발자 경험의 실질적 변화

GitHub Copilot CLI 사용자는 이제 /update 명령으로 버전 1.0.42 이상으로 업데이트할 수 있다.

실제로는 어떤 변화일까. 사용자가 "이 함수를 다시 쓰고 테스트해줘"라고 요청했다고 치자. 기존에는 메인 에이전트가 먼저 저장소를 탐색하고, 함수 정의를 찾은 뒤 "더 자세히 알아볼까"라며 보조 에이전트를 따로 띄웠다. 이제는 메인 에이전트가 함수를 직접 찾고 수정 후 테스트를 병렬로 시작한다. 같은 작업이 더 빨라지고, 중간에 실패할 지점도 줄었다.

"조율의 과학"이 가진 의미

이 개선이 중요한 이유는 속도 자체가 아니다. 에이전트 기반 개발 도구가 본격적으로 보급되면서, 단순히 "에이전트를 더 많이 만들 것인가"에서 "에이전트 간 조율을 어떻게 할 것인가"로 핵심이 옮겨왔다는 신호다. 더 나은 모델, 더 많은 도구도 중요하지만, 필요한 순간에만 역할을 나누고 나머지는 효율적으로 처리하는 정책이 실제 사용성을 좌우한다는 교훈이다.

GitHub이 이 접근법을 공개한 배경도 흥미롭다. 자사의 성공 경로를 커뮤니티와 공유함으로써, 에이전트 시스템을 설계하는 다른 기업들도 같은 문제를 일찍 인식하고 해결하도록 돕겠다는 의도가 보인다.

한국 개발자의 관점

한국 IT 기업들이 자체 개발 보조 에이전트나 LLM 기반 도구를 구축할 때도 이 교훈이 적용된다. AI가 "영리하면 좋다"는 생각에서 벗어나, "언제 일을 맡기고 언제 직접 할 것인가"를 정책 수준에서 설계해야 한다는 뜻이다. 한국의 대규모 개발 조직(게임사, 금융사, 통신사)도 내부 에이전트 도구를 도입할 때 이 원칙을 기준으로 삼아야 한다.