2022년말 ChatGPT의 등장은 AI 혁신의 새로운 신호탄이 되었다. 그 이후 LLM에 대한 연구와 이를 활용하고자 하는 열기는 더욱 뜨거워졌으며, Game 분야도 예외가 아니었다. LLM은 Game에 어떻게 활용될 수 있을까? Game AI의 대가인 Togelius와 Yannakakis가 함께 작성한 이 논문을 통해 LLM이 Game에 어떻게 활용될 수 있을지 살펴 보기로 하자.
Paper Title: Large Language Models and Games: A Survey and Roadmap
내용은 논문 제목 그대로이다. LLM을 게임에 활용하는 다양한 방식, 현황과 한계, 해결해야할 이슈들에 대해 이야기를 풀어 내고 있다. LLM을 게임에 활용할 생각이 있는 사람이라면 Game AI 분야를 오랫동안 연구해 온 이들의 통찰에 귀를 기울여 보고 좀 더 넓은 시야로 LLM을 게임에 어떻게 활용할 수 있을지 파악할 수 있을 것이다.
LLM을 게임에 어떻게 활용할 수 있을지를 요약하면 아래와 같다.
Game 내에서 활용
Player AI: 플레이어를 대신하여 플레이어를 흉내내어 게임을 Play하는 player역할 수행
Game play 실시간 해설 및 사후 요약 설명, 청중의 반응(별풍? 슈퍼챗?)에 대해 대신 코멘트 해주는 스트리머의 도우미
Game 제작 과정에 활용: Game design 수행 및 Human designer 지원
초안만 제작: AI output(초안)을 받아서 designer가 완성
함께 제작: designer의 제작 과정 동안 함께하며 interactive하게 제작 과정을 지원
전적으로 제작: AI가 요구조건이나 피드백만 받되 최종 결과물은 AI가 전적으로 생성
LLM을 게임에 활용함에 있어 해결해야 할 주요 Challenge는 다음과 같다.
Hallucination은 LLM을 게임에 활용함에 있어 치명적으로 작용할 수 있는 이슈이다. NPC가 그럴듯 하지만 게임에 없거나 틀린 사실을 이야기하면 어떤 사용자 경험을 가지게 될지 생각해 보면 쉽게 이해할 수 있다.
LLM Agent가 사실에 기반한 대화와 행동을 하기 위해서는 context에 대한 메모리를 제공해야 하지만 그 분량에는 한계가 있다. context로 제공할 메모리를 어떻게 다룰 것인지가 중요한 이슈이다.
LLM이 해로운 말을 하는 것을 완벽하게 막을 수 있을 것인가.
개인적으로 LMM의 Hallucination이나 유해 발언 가능성은 완전히 제거하기 어려우므로 활용 시나리오에 있어 Hallucination이 드러나지 않도록 하는 것이 최선이라고 생각한다. 예를 들어 player assistant의 persona를 동물이나 말을 하지 않는 캐릭터로 설정하고 의사 소통을 이모티콘이나 행동으로만 하도록 하면 Hallucination의 부작용을 최소화할 수 있을 것이다. 부득이 언어적 커뮤니케이션을 도입하고 싶으면 대사를 사전에 준비해 두고 LLM NPC는 그 중 상황에 맞도록 "선택"만 하도록 하는 것도 방법이다.
LLM agent가 designer나 player의 intention을 정확하게 파악하는 것은 해결해야 할 challenge이다.
LLM은 학습과정에서 user의 명령에 순종적이도록 tuning되어 있다. 이로 인한 폐해를 방지하는 것도 과제이다. 일차적으로 생각할 수 있는 해법으로는 LLM이 NPC의 role을 수행하는 것이 아니라 stroy teller의 역할을 수행하도록 하는 것이다. 즉, 사용자의 말을 이야기의 "대사"로 처리하고 LLM agent는 stroy teller로써 NPC의 적절한 반응을 서술하도록 하는 것이다.
LLM이 빠르게 대답을 생성하도록 해주는 것도 해결 과제이다. context의 길이가 길어지거나 대답의 품질을 높이기 위해 여러 단계를 거쳐 대답을 생성하도록 하면 답변을 생성하는데 긴 시간이 걸릴 수 밖에 없다. real time application을 기획한다면 무엇보다 중요한 이슈가 될 것이다.
LLM을 게임에 활용함에 참고 사항
LLM player를 만들고자 한다면 다음 사항을 검토해 봐야 한다
game state와 action을 token을 사용하여 자연어로 표현할 수 있는가.
Player 제어에 필요한 API가 제공되는가.
Human designer의 지원은 아직 초안만 만들어 주고 완성은 전적으로 Human designer가 담당하는 방식으로 활용되는 것이 현재 수준이다.
현재 LLM이 주로 Game에 활용되는 분야는 player AI와 designer 지원 도구이다. 아직 많이 연구되지 않았지만 유망한 분야는 interactive하게 제작과정을 지원해 주는 분야이다.
Player assisstant도 아직 사례가 등장하지 않은 유력 분야이다.
사용자의 game 몰입도를 예측하기 위한 player modelling도 유력한 활용 분야라고 이야기하고 있다. 이와 결합하여 game environment를 contorol하여 몰입도를 높일 수 있을 것이다. (experience-driven PCG + Player experience modelling)
저자들은 LLM의 reasoning 능력이 과대 평가되고 있을 수 있음을 지적하고 있다. 일부 연구에서 LLM이 reasoning 과정이 틀렸는데 맞는 답을 도출하는 현상이 관찰됨을 reporting하고 있다. LLM의 reasoning 능력을 너무 과신하지는 말아야 할 것 같다.