"Untitled"

AI 에이전트 생태계: 프레임워크와 프로토콜로 여는 새로운 AI 패러다임

프롤로그

진정한 ‘에이전트 경제’가 열리기 위해서는 고성능 에이전트 프레임워크와 도구의 성숙, 프로토콜간 연결, 생태계 전반의 확장이 필수다.

에이전트로 손쉽게 해결할 수 있는 문제를 오히려 대규모 모델 학습이나 GPU 리소스에만 의존해 추진하다가 시간과 비용을 낭비하고 프로젝트에 실패하는 사례를 적잖이 목격해왔다.

PART 1. 에이전틱 AI의 탄생과 흐름

Chapter 1. 에이전트 생태계의 태동: 지능의 진화, 경험의 재편

폭풍의 서막, AI 러시

골드러시는 단순한 열풍이 아니라, ‘기술적 발견 $\to$ 도구의 보급 $\to$ 인프라의 확장 $\to$ 가치의 재구성’이라는 수직 통합된 산업 생태계의 탄생 과정이다.

[AI 1단계] 모델: 디지털 금맥의 발견 $\to$ [AI 2단계] NPU: 금을 캐기 위한 도구의 ‘변신’과 보급 $\to$ [AI 3단계] AI 서비스 플랫폼: 금을 다듬는 공방이자 유통망 $\to$ [AI 4단계] 에이전트: 반지를 만들고 손에 쥐어주는 존재

항목	LLM	에이전트
정체	금광석	금 세공사
상태	정제 전	정제 후
사용자 대상	개발자	일반 사용자
역할	지식의 가능성	목적의 실현
비유	원석	완제품(반지, 시계)

단계	골드러시(전개 흐름)	AI 러시(대응 단계 및 예시)
1단계	채굴 열풍(금 발견)	모델 발견(LLM). ex) GPT, LLaMA
2단계	도구·보급 생태계(곡괭이, 삽)	AI 반도체(NPU). ex) NVIDIA, GPU, TPU
3단계	인프라와 도시화(철도, 은행)	AI 플랫폼/API. ex) OpenAI API, Vertex Model Garden
4단계	골드 경제(금 장신구, 금융)	에이전틱 서비스/경험. ex) ChatGPT, Cursor

에이전트는 모델의 잠재성(Potential)을 목적성(Purpose)으로 전환한다.

모델과 툴(API)은 이미 나와 있다. 이제 중요한 것은, 그것들을 실제 사용자 경험으로 연결해 주는 에이전트 프레임워크와 MCP 같은 프로토콜 기반 플랫폼이다. 이 플랫폼들이야말로 사용 가치를 증명하고, 수익을 만들어내는 구조로 진입하고 있는 핵심 열쇠다.

요약: AI 러시와 에이전트 생태계의 탄생

• GPT는 시작일 뿐, 에이전트가 진짜 사용자 경험을 만든다.
• LLM은 금광석, 에이전트는 금 세공사에 해당한다.
• 코퍼스는 지식의 땅이며, 모델은 그 정제의 산물이다.
• 기술 생애주기는 모델 $\to$ 도구 $\to$ 인프라 $\to$ 에이전트로 이어지는 구조다.
• 에이전트는 사용자와 AI를 연결하는 새로운 ‘경제 단위’가 된다.

에이전트 vs. 앱: 앱의 종말, 아니면 진화?

지금 실제로 ‘돈을 버는’ 것은 LLM 그 자체가 아니라 SaaS(Software as a Service)다.

LLM을 단순히 API로 연동한 수준이 아니라, 기존 사람 중심의 개발 프로세스를 과감히 해제하고, 사람과 AI의 협업에 최적화된 구조로 재설계하여 태어난 에이전틱 SaaS, 즉 AaaS(Agent as a Service)다.

사용자가 열광하는 것은 AI Wrapper가 아니라, 서비스형 에이전트다. 기존 구조를 깨고, 사용자 ‘기능’이 아닌, ‘목표’ 중심으로 다시 설계된 제품만이 진정한 에이전트 경험(Agentic UX)을 실현할 수 있다.

문제는 이 도구의 원래 목적(Why)인 철학과 방법론 등이 사용자에게는 잘 보이지 않다보니, 기능적 구조(How)만 남는다는 데 있다. 사용자는 이 도구를 ‘배워야’만 한다. 결국 ‘문제를 해결하기 위한 도구’였던 소프트웨어는, 점점 ‘도구를 잘 쓰기 위한 학습 대상’으로 전락한다.

개발팀을 예로 들었을 때, 소프트웨어 산업의 개발팀이 ‘태스트(task) 관리의 어려움’이라는 문제를 해결하기 위해, ‘애자일 방법론’과 ‘CI/CD 파이프라인’을 활용하여 ‘칸반 보드’라는 UI로 구현된 ‘프로젝트 관리도구’ 같은 서비스를 만든다.

NOTE

위 문구는 기존의 소프트웨어, 특히 기업용 SaaS 앱이 만들어지는 방식에 대한 얘기다. 아마 문제 해결을 위해 만든 소프트웨어의 러닝 커브를 말하고 싶은 것으로 보인다.

에이전트의 궁극적 목적은 사용자가 별도의 도구 학습 없이도 원하는 결과를 얻을 수 있도록 돕는 것이다.

• 사용자는 도구를 거의 배우지 않아도 된다.
• UI와 메뉴를 거의 익힐 필요가 없다.
• 특정 프레임워크나 규칙을 따르지 않아도 된다.
• 단지 ‘무엇을 하고 싶은지’ 말하면 된다. 나머지는 에이전트가 처리한다.

에이전트는 특정 부서의 규칙이 아니라, 개인의 일하는 방식, 선호하는 형식, 소통하는 방식 등 개인화된 업무 맥락에 따라 작동할 수 있다.

구분	기존 앱(규칙 기반)	에이전틱 서비스
시작점	특정 부서/팀의 특정 문제 해결	사용자 개인의 목표/의도 이해
개발 초점	기능 명세, 정해진 규칙 구현	데이터 패턴 학습, 맥락 기본 추론
인터페이스	UI 중심, 메뉴 탐색 필요	자연어 입력 기반
사용자 경험	기능 학습 필수, 정해진 워크플로우	목표 전달 중심, 유연한 상호작용
주요 장벽	학습 곡선, 변화 관리 부담, 부서 간 사일로	(초기) AI 신뢰도, 데이터 프라이버시 우려
핵심 역할	정해진 일을 처리하는 ‘기능적 도구’	목표 위해 자율적으로 일하는 ‘문제 해결사’

에이전트는 도구가 아니라 목표 중심의 통합 카테고리를 새롭게 정의하는 경험(Agentic UX)이다.

구분	기존 SaaS 시장	에이전틱 시장
시장 구조	기능별 고도 세분화, 카테고리 리더 포화	통합적 경험 중심, 카테고리 경계 모호
경쟁 방식	기능성, 스펙 비교	문제 해결력, 적응력, 응답 품질
사용자 경험	조각난 앱 간 이동, 데이터 파편화	끊김 없는 워크플로우, 통합된 맥락
주요 특징	사일로 심화	사일로 해소, 범용성, 개인화
분류 기준	명확한 B2B/B2C 구분	개인(사용자+에이전트) 중심, B2B/B2C 경계 감소
개별 기능 중심의 경쟁에서 벗어나, 사용자의 복합적인 문제를 얼마나 잘 해결해주고 통합적인 가치를 제공하는지가 AI 서비스 경쟁의 핵심이 되고 있다.

에이전트는 단순히 명령을 따르는 것이 아니라, 사용자의 의도, 선호, 맥락까지 고려해 주도적으로 목표 달성을 도와주는 존재다. 이러한 변화는 기존의 공급자 중심(B2B/B2C) 분류가 사용자 중심 설계(user-centric architecture)로 재편되는 전환점이 도래했음을 보여준다.

앞으로의 경쟁력은 ‘누가 더 많은 기능을 제공하는지’가 아니라, ‘누가 더 사용자 대리성을 잘 보존하고 실현해주는지’, 즉 ‘누가 더 정확하게, 유연하게, 그리고 주도적으로 개인의 목표 달성을 도와주는지’에 의해 결정될 것이다.

에이전트 경제, 에이전트 매개 시장

• 에이전트 경제(Agent Economy): 전통적인 B2B나 B2C 중심의 시장 구조를 넘어, 개별 사용자와 그의 AI 에이전트 간의 상호작용과 가치 교환이 중심이 되는 새로운 경제 모델을 의미한다. 이 구조에서는 제품이나 서비스가 특정 기업이나 소비자 집단을 대상으로 설계되지 않고, 각 개인의 맥락과 목표에 최적화된 방식으로 제공된다. 핵심 경쟁력은 기능 수가 아니라, 개인의 목적을 얼마나 효과적으로 달성하게 해주는가에 있다.
• 에이전트 매개 시장(Agent-Mediated Market): AI 에이전트가 사용자를 대신해 상품 탐색, 정보 비교, 협상, 구매 결정 등 거래의 전 과정을 자동 수행하는 시장 구조다. 여기서 거래는 사람 간이 아니라, 에이전트 간 상호작용을 통해 이뤄지며, 시장의 주요 단위도 인간이 아닌 에이전트가 된다. 이는 커머스, 서비스 예약, 업무 의뢰 등 다양한 영역에서 완전히 새로운 사용자 경험과 시장 역학을 만들어낸다.

에이전트는 ‘소프트웨어가 만들어지고 사용되는 방식’, 그리고 ‘시장이 구성되는 방식’ 자체를 근본적으로 바꾸고 있다.

• 사용자는 더 이상 기능을 배우는 데 시간을 쏟지 않고, 목표 달성에 집중하게 된다.
• 소프트웨어는 미리 정의된 규칙이 아니라, 사용자의 의도를 이해하고 자율성과 추론에 기반해서 동작한다.
• 시장은 조각난 기능별 경쟁에서 벗어나, 통합된 경험과 가치 제공을 중심으로 재편될 가능성이 크며, 공급자 중심의 B2B/B2C 구분마저 모호해지는 새로운 경제 구조가 나타날 수 있다.

따라서 에이전트는 단순히 앱을 없내는 ‘대체자’라기보다는, 앱의 존재 방식과 가치를 ‘재정의’하고 사용자 경험을 새롭게 설계하여 한 단계 끌어올리는 ‘게임 체인저’라고 보는 것이 더 정확할 것이다. 그러므로 에이전트 시대를 맞아 우리는 소프트웨어의 본질, 사용자와의 관계, 그리고 디지털 환경의 설계 방식에 대해 다시 생각해야 할 시점에 와 있다.

요약: 에이전트는 소프트웨어와 시장을 어떻게 재구성하는가

• 기능 중심 $\to$ 목적 중심
• UI 중심 학습 $\to$ 자연어 기반 상호작용
• 부서별 솔루션 $\to$ 개인화된 동반자
• B2B/B2C 시장 분화 $\to$ A2A 경제로의 전환
• 파편화된 앱 생태계 $\to$ 통합된 문제 해결 경험

에이전틱 UX: 사용자 기대와 인터페이스 변화 - 클릭에서 대화로, 대화에서 행동으로

막연한 두려움이나 경쟁심 대신, AI와 인간이 가장 잘하는 역할에 집중하고 시너지를 내는 ‘파트너십’을 기대해야 한다.

• AI의 강점: 방대한 데이터 처리, 빠른 연산, 패턴 인식, 지치지 않는 반복 작업 수행 능력
• 인간의 장점: 창의성, 비판적 사고, 공감 능력, 윤리적 판단, 복잡하고 미묘한 사회적 맥락 이해

이제 우리는 단순히 신기한 엔진(LLM) 성능을 넘어, 실제 문제를 해결하고 원하는 목표를 안정적으로 달성해주는 ‘완성된 결과물’을 에이전트에게 기대하게 된다. 복잡한 조작법을 배우기보다, 목적지를 말하면 알아서 데려다주는 자율주행차를 기대하는 것과 같다. 이는 단순 정보 생성을 넘어 ‘목적 달성’ 그 자체를 기대하는 방향으로 사용자 기대치가 이동함을 의미한다.

결과가 기대에 못 미치는 이유는 AI가 우리가 처한 상황, 이전의 대화 내용, 우리의 의도와 배경 지식 등 맥락을 정확히 알지 못하기 때문이다. 에이전트 시대에는 이러한 맥락을 효과적으로 제공하는 것이 사용자의 중요한 역할이 된다. 기존 앱에서 정해진 버튼을 누르는 ‘기능 조작자’였다면, 이제 사용자는 에이전트에게 ‘목표 설정자’이자 ‘맥락(context) 해설자’로서 기능해야 한다.

• Before: 기능을 조작하는 사용자
• After: 목적과 맥락을 전달하는 사용자

1. 내가 어떤 상황에 있고,
2. 무엇을 원하며,
3. 어떤 스타일을 선호하는가

이처럼 맥락을 명확하게 전달할수록, AI 서비스는 더 나은 결과를 제공할 것이다.

사용자가 맥락을 자연스럽게 제공하고, 에이전트는 그에 맞춰 목표를 정확히 이해하며 실행할 수 있도록, 새로운 UI/UX 유형이 필요하다(Cursor 기능을 생각하면 쉽게 이해 가능).

인터페이스 유형	설명
목표 지향형	사용자가 복잡한 명령이나 단계를 입력하는 대신, 최종 ‘목표’를 명확히 전달하는 데 집중할 수 있도록 설계한다.
맥락 인지형	사용자의 현재 작업 환경, 문서, 이전 대화(사용자 허락 하에) 등을 자연스럽게 파악하여 에이전트에게 전달하고, 사요앚가 일일이 설명하는 수고를 덜어준다.
선제적 예측형	사용자의 의도나 다음 행동을 예측하여 먼저 필요한 정보나 기능을 제안한다.
멀티모달형	텍스트 뿐만 아니라 음성, 이미지, 데이터 파일 등 다양한 형태의 입력을 이해하고 활용한다.
통합형	개별 앱 화면을 오가는 대신, 에이전트가 중심이 되어 여러 앱과 서비스를 배후에서 조율하고 결과를 단일 인터페이스에서 제공한다.
신뢰 기반형	에이전트가 어떤 근거로 판단하고 행동했는지 설명 가능성을 제공하고, 사용자가 결과를 검토하고 수정/통제할 수 있는 장치를 마련하여 신뢰를 구축한다.

이들 기능은 아직 제한된 범위에서만 작동하는데 현재 대부분의 서비스가 ‘에이전트’라기보다는 여전히 챗봇이나 플러그인 수준의 AI에 머물러 있기 때문이다.

에이전트가 진정한 ‘맥락 기반 목표 달성 파트너’로 자리잡으려면, 맥락 해석 능력 뿐 아니라 이를 반영하는 인터페이스의 구조와 흐름 자체가 근본적으로 재설계되어야 한다.

에이전트 시대는 우리에게 새로운 사용자 태도를 요구한다.

1. AI와 경쟁하지 말고, 파트너로 수용할 것
2. 단순한 기능 요청자가 아니라, 목적을 공유하고 맥락을 설계하는 존재가 될 것
3. 결과물보다 ‘목적 달성’에 집중할 것 그리고 이러한 기대 변화에 맞춰 인터페이스 또한 더욱 지능적이고, 통합적이며, 신뢰 가능한 방향으로 조정되어야 한다.

핵심 공식: [기술의 발전] + [사용자 기대의 재정립] $\to$ 새로운 UX의 완성

결국 에이전트 시대의 성공적인 사용자 경험은 기술의 발전 뿐만 아니라, 인간의 기대치와 상호작용 방식이 함께 공진화(Coevolution)할 때 비로소 완성될 것이다.

요약: 사용자 경험은 어디까지 에이전트화될 것인가

• 에이전트는 인간과 경쟁하는 존재가 아니라, 협업을 통해 시너지를 내는 파트너다.
• LLM이 엔진이었다면, 에이전트는 목표 달성을 위한 ‘완성차’로 기대된다.
• 사용자는 이제 기능 조작자가 아니라, 목표 설정자이자 맥락 제공자다.
• 이에 따라 인터페이스도 목표 지향적, 선제적, 통합적 형태로 재설계되어야 한다.
• 에이전트 UX의 핵심은 기술과 사용자의 기대가 함께 맞물려 작동할 때 실현된다.

Chapter 2. 챗봇 이후의 세계: 에이전트의 구조와 작동 원리

챗봇을 넘어 행동하는 에이전트로: 한계의 자각과 새로운 시작

ChatGPT를 비롯한 대부분의 챗봇은 방대한 데이터로 사전 학습된(pre-trained) 언어 모델에 기반한 정적 질의응답 시스템에 가깝다. 본질적으로는 다음에 올 단어를 가장 확률 높게 예측하는 모델일 뿐, 우리가 처한 실시간 맥락을 온전히 이해하거나, 특정 목표를 향해 능동적으로 계획하고 ‘행동’하지는 못한다.

2017년, 구글이 발표한 논문 Attention Is All You Need 에서 제안된 트랜스포머(Transformer) 아키텍처는 문장 내 단어들의 관계를 병렬로 처리하고, 장기적인 문맥을 효율적으로 이해할 수 있도록 하여, 기존의 순환신경망(Recurrent Neural Network, RNN) 기반 모델들이 가진 느린 처린 속도와 장기 의존성 문제를 뛰어넘었다.

트랜스포머는 대화를 유창하게 이어가는 데는 강하지만, 현실 세계에서 ‘실행’하거나 ‘조치’하는 행동 기반(action-taking) 구조와는 거리가 있다. 우리가 에이전트로 나아가기 위해서는, 단순한 언어 생성의 원리를 넘어 계획-결정-실행으로 이어지는 일련의 행위 흐름을 이해하고 설계할 수 있어야 한다.

기계의 언어 학습 방식이 인간의 언어 습득 과정과 철학적으로 놀라운 유사성을 보인다.

• 트랜스포머 기반 언어 모델은 명시적인 문법 규칙 없이, 방대한 언어 데이터를 통해 언어 구조를 내면화한다. 이러한 비지도 학습(unsupervised learning) 방식은, 마치 어린아이가 모국어에 반복적으로 노출되며 언어 능력을 습득해나가는 과정과도 닮아 있다.
• 또한 외부에서 주어진 데이터 패턴을 모방하며 언어 체계를 익히는 모습은, 제2외국어 학습자가 통계적 규칙성과 반복을 통해 감을 익혀가는 과정과도 유사하다.

챗봇의 아홉 가지 구조적 한계

구분	한계	설명
개인화 부족	내 정보 모름(Lack of Personal Context)	사전 학습(Pre-trained)된 일반 지식 기반 답변 위주. 내 이메일, 캘린더, 업무 데이터 등 개인 맥락 반영 불가.
최신성 부족	과거 정보만 앎(Outdated Knowledge)	학습 시점 이후의 최신 정보는 알지 못 함. 웹 검색 연동 없이는 실시간 정보 업데이트 불가.
사실 왜곡/환각	없는 사실 생성(Hallucination/Fabrication)	학습 데이터에 없거나 잘못된 정보를 바탕으로, 틀리거나 존재하지 않는 내용을 사실처럼 자신감 있게 생성함. 신뢰도 저하.
실시간성 부족	흘러가는 정보 놓침(No Real-time Awareness)	RAG/검색 기능도 한계. 주식 시세, 항공권 좌석, 실시간 센서 데이터 등 동적/스트리밍 정보 처리 미흡.
행동 능력 부재	말만 하고 실행 못함(Inability of Act)	정보 검색/요약 등 ‘말’은 잘하지만, 이메일 발송, DB 업데이트, 서비스 예약 등 실제 ‘행동’ 수행 불가.
자율성 부재	시키는 일만 함(Lack of Autonomy)	명시적 요청 없이는 능동적으로 상황 판단/업무 개시 못함. 장기적 목표 추구 및 자율 계획/실행 불가.
기억력 부족	대화 맥락 자주 잊음(Limited Memory)	긴 대화나 복잡한 다단계 작업 시 이전 맥락/중간 결과를 기억 못 해 비효율 발생. 매번 새로 시작.
도구 통합 실패	앱 사일로 못 깸(Tool Silos Persist)	기존 앱/도구와 유기적으로 통합되기보다, 또 하나의 별도 AI 도구로 추가되어 관리 부담 가중.
워크플로우 단절	일하는 방식 못 바꿈(Workflow Disruption)	기존 업무 흐름 내부에 깊숙이 개입하여 자동화하기보다, 외곽에서 Q&A하는 조수 역할에 그침.

챗봇은 정보를 잘 처리할 수 있지만, 실질적인 작업(Task)을 자동으로 계획하고 실행하는 데는 한계가 있다. 이 차이는 단순히 기능의 문제가 아니라, 그 구조 자체가 ‘언어 생성기(Language Generator)‘로 설계되었기 때문이다.

에이전트는 챗봇의 한계를 극복하고, 실제 문제 해결을 위한 ‘일하는 AI’로 진화하기 위해 다음과 같은 핵심 역량을 갖춘다.

• 복잡한 사용자 목표(goal)를 이해하고 이를 달성하기 위한 작업 계획(plan)을 스스로 세운다.
• 필요한 경우 외부 도구(tool)를 능동적으로 호출하고 활용한다.
• 이전의 상호작용과 주어진 상황(Context)을 기억하며 적절한 판단(decision)을 내린다.
• 높은 수준의 자율성(autonomy)을 바탕으로 계획된 작업을 스스로 실행(action)한다.

결국, 에이전트는 단순히 ‘대답하는 AI’를 넘어서, 사용자를 대신해서 ‘일하는 AI(Working AI)’, ‘행동하는 AI(Actionable AI)‘로 나아가는 전환점이다.

요약: 챗봇은 어디까지 왔고, 에이전트는 어디로 가는가

• 챗봇은 언어를 잘 생성하지만, 행동하지는 못한다.
• 챗봇은 구조적으로 ‘정적인 반응자’에 머물러 있으며, ‘자율적 문제 해결사’는 아니다.
• 챗봇은 인간의 언어 학습 방식과 구조가 흡사하지만, 실행 능력과 컨텍스트 활용에는 한계가 있다.
• 에이전트는 사용자의 목표를 이해하고, 필요한 도구를 호출하며, 기억과 자율성을 바탕으로 ‘일’을 수행한다.
• 우리는 이제 ‘대답하는 AI’에서 ‘일하는 AI’로 넘어가는 전환점에 와 있다.

에이전트 해부학: LAMT - 지능(L), 자율성(A), 기억(M), 행동(T)

우리가 AI에게 ‘에이전트’라는 이름을 붙일 수 있는 것은, AI의 능력치(capabilities)가 단순히 정보를 처리하는 수준을 넘어, 사람의 복잡한 업무를 대신 수행하거나 긴밀히 협업할 수 있는 수준까지 진화했음을 시사한다.

오퍼레이터, 딥리서치

• 오퍼레이터(Operator): 클릭이나 입력 등 사용자 인터페이스 상의 동작을 자동으로 수행하는 도구 기반 기능
• 딥리서치(Deep Research): 웹을 탐색해 정보를 수집하고 비교, 분석하는 추론 기반 기능이다.

2025년 7월 OpenAI에서 발표한 ‘Chat GPT Agent’는 개별 기능들을 하나의 에이전트로 통합하고, AI가 스스로 필요에 따라 기능을 판단하고 호출하는 자율적 실행 환경을 실현했다. 즉, 사용자가 일일이 지시를 하거나, 관련 기능의 버튼을 누르지 않아도, 에이전트가 문맥과 목표를 파악해 적절한 도구를 선택하고, 일련의 작업을 스스로 계획하고 수행하는 시대가 열린 것이다.

에이전트의 4대 핵심 구성요소: LAMT

1. 지능(LLM): 에이전트의 ‘뇌(Brain)‘다. 자연어를 이해하고 생성하며, 복잡한 추론, 계획 수립, 의사 결정 등 지능적 처리의 기반을 제공한다.
2. 자율성(Autonomy): 에이전트의 ‘자율적 의지’다. 주어진 목표를 달성하기 위해 스스로 계획을 세우고, 도구를 선택하며, 작업을 실행하고, 결과를 평가하며, 필요 시 계획을 수정하는 능력이다(‘뇌’의 핵심 기능).
3. 기억(Memory): 에이전트의 ‘기억 장치’다. 대화나 작업의 맥락을 유지(단기)하고, 과거의 경험과 지식을 축적하여 학습하며(장기), 개인화된 상호작용과 응답의 현실성(그라운딩)을 확보한다(‘감각기관’ 및 ‘뇌’와 연동).
4. 도구(Tools): 에이전트의 ‘손과 발. 감각기관(Action & Perception)‘이다. 외부 세계와 상호작용하고, 실시간 정보를 가져오거나(Perception), 특정 작업을 실행(Action)하는 능력을 부여한다.

결국 에이전트는 ‘학습 가능한 메모리를 갖추고, 실시간으로 필요 정보와 데이터를 동적 그라운딩(Dynamic Grounding)해서, (LLM 기반) 추론 능력에 따라 도구를 스스로 활용할 수 있는 행동하는 완성형 프로그램’ 이라고 정의할 수 있다.

동적 그라운딩

에이전트가 답변이나 행동을 결정하기 전에, 관련된 최신 정보나 검증된 사실 데이터를 실시간으로 접근 가능한 메모리(Memory)나 도구(Tool)을 통해 확인하고, 이를 판단의 근거(Ground)로 삼는 것이다.

예를 들어, “현재 KOSPI 지수는 얼마인가?”라는 질문에 대해, LLM이 단순히 학습 데이터에 기반해 추측하는 것이 아니라, 에이전트가 실시간 주식 시세 조회 도구를 사용하여 현재 시점의 정확한 지수 정보를 가져와(Grounding) 이를 바탕으로 답변하는 방식이다. 똑똑하지만 가끔 엉뚱한 소리를 하는 친구(LLM) 옆에, 엄청 빠른 팩트 체커 친구(Tool & Memory)가 딱 붙어있는 셈이다.

지능: 에이전트의 두뇌

LLM은 에이전트의 핵심 지능을 담당하는 엔진이다. 사용자의 자연어 요청을 이해하고, 복잡한 지시사항을 해석하며, 주어진 목표를 살성하기 위한 전략적 사고(Thought), 추론(Reasoning), 계획 수립(Planning) 능력을 제공한다.

추론, 계획, 사고

• 추론(reasoning): 문제를 이해하고 해석하며, 다음에 취할 수 있는 행동을 논리적으로 탐색하는 사고의 핵심 구성 요소다. ex) “이전 단계에서 실패했으니, 다른 방법을 시도해야 한다.”
• 계획(planing): 가능한 여러 경로 중 어떤 순서와 방식으로 진행할지를 결정하는 전략적 판단이다. ex)“먼저 정보를 검색하고, 그 다음 요약한 뒤, 보고서를 작성하자.”
• 사고(thought): 일반적으로 추론을 중심으로 구성되지만, 때로는 간단한 행동 계획까지 포함하는 LLM의 사고 단위 표현이다. 다음 단계로 나아가기 위한 중간 판단의 역할을 한다. ex) “웹에서 최신 정보를 찾은 뒤 정리해보자(이 안에는 추론 + 간단한 계획이 함께 들어 있다).”

또한 LLM은 어떤 도구를 사용해야 할지 결정하고, 도구의 실행 결과를 해석하며, 최종 응답을 생성하는 등 에이전트 작동 전반에 걸쳐 중추적인 역할을 수행한다. 에이전트의 ‘똑똑함’은 일차적으로 이 LLM의 성능에 크게 의존한다. 에이전트의 다른 구성 요소(Autonomy, Memory, Tool)는 결국 이 LLM의 능력을 최대한 활용하고 보완하기 위해 존재한다고 볼 수 있다.

자율성: 스스로 생각하고 움직이는 힘

단순히 프로그램이 스스로 실행되는 것을 넘어, 주어진 목표를 달성하기 위해 능동적으로 상황을 판단하고, 계획을 세우며, 필요한 행동을 결정하고 실행하는 능력을 의미한다.

진정한 에이전트 시스템에서 자율성은 가장 핵심적인 구성 요소이며, 지능(LLM), 기억(Memory), 도구(Tool) 같은 다른 컴포넌트를 조율하고 이끄는 상위 레벨의 추론 능력이다.

자율성

자율성에 관한 내용은 반드시 원문으로 읽어보자. 중요한 내용이 많다.