LLM은 언어적 소통 이상으로 Reasoning과 Planning에서 놀라운 가능성을 보여 주고 있다. 즉 대화 상대를 넘어 유저에게 "서비스"를 제공할 수 있도록 "행동"을 할 수 있음을 확인되고 있다. 이제 하나의 LLM Agent가 아닌 여러 LLM Agent가 함께 일하도록 하여 더 어려운 일을 효율적으로 할 수 있도록 할 수는 없을까? 이 논문에서 그 힌트를 얻어 보도록 하자.
Paper Title: S-Agens: Self-orgnaizaing Agents in Open-ended Environments
이 논문은 복수의 LLM Agent들이 사람의 개입없이 효율적으로 협업하기 위한 방법을 고민하고 그 방법을 제안한 논문이다. 이런 종류의 논문이 보통 그렇지만, 결론적으로는 LLM Agent들도 사람이 하는 효율적 협업 방식을 적용하면 사람과 같은 행태를 보이면서 효율적으로 협업한다는 점을 보여 주고 있다.
이 논문에서 제안한 효율적 협업 방식은 다음과 같이 정리할 수 있다.
leader와 worker의 계층적 협업 체계를 통해 LLM Agent가 협업하도록 하는 것이 효율적이다. 전체 LLM Agent가 서로 자율적으로 커뮤니케이션을 하면서 협업을 하도록 하면 서로 명령을 내리고 실행은 하지 않는 모습을 보인다. 명령을 leader와 worker간에만 일어나게 하고 worker 사이에는 정보는 교환하더라도 명령은 하지 못하도록 막으면 이런 상황을 방지할 수 있다.
Planning을 위한 추론 과정으로 모래 시계형 구조를 제안하였다. 이름은 거창하지만 간단히 말해 환경 정보와 현재 진행 현황에 대한 분석 결과를 취합하여 목표를 정립하고, 정립한 목표에 따라 하위 Task를 계획하고 당장 실행할 Task에 대한 Action을 도출하는 방식의 추론 방식을 취하였다는 것이다. 여기서 얻을 교훈은 LLM Agent의 자율적인 협업 행동을 위해서는 현재 상황에 대한 분석과 목표 도출과 같은 "상황 파악"을 위한 사고 과정을 먼저 거치고 행동을 계획하는 방식이 유용할 수 있다는 점이겠다.
이 논문에서는 마인크래프트에서 자원 수집과 건물 건설 작업에 대해 제안된 LLM Agent의 협업 방식이 효율적임을 보이고 있다. 다만 제안된 방식이 엄청 대단한 것은 아니고, 자명한 결론이기 때문에 놀라울 일은 아니다. 그냥 "사람과 같은 계층적 협업 체계를 LLM Agent로 구현할 수 있고, 효율적으로 작동할 수 있겠구나."라는 교훈을 얻는 정도로 의미부여할 수 있겠다.
기타 참고 사항
흥미로운 점은 Leader와 Worker 모두 환경에 대한 interaction이 가능하나, Leader의 경우 worker에게 명령을 내리고 보고 받는 일만 수행하고 직접 작업은 하지 않는 모습을 보였다는 점이다. LLM이 사람의 지식을 녹여냈음을 감안하면 사람 같은 역할 분담 모습을 보이는 것은 자연스러운 현상이라고 이해할 수 있다.
