NVIDIA NemoClaw 기반 메모리 구동 에이전트: 기업 워크플로우 생산성 향상 방안

NVIDIA는 NemoClaw를 활용하여 기업 워크플로우에서 생산성을 향상시킬 수 있는 '메모리 기반 에이전트' 구축 방안을 제시했다. 이 에이전트는 '셀프 모델(self model)'이라는 인간이 읽을 수 있는 지식 계층을 유지하여 관련 인물, 프로젝트, 우선순위, 작업 패턴 등 기업 업무의 지속적인 맥락을 제공한다. 이는 기존의 대화 기록이나 단순 검색으로는 해결하기 어려웠던 시간 경과에 따른 정보 연결 문제를 해결하며, 에이전트가 단기적인 긴급성보다 사용자 의도를 우선시하고 사용자 피드백을 통해 학습하며 보안 경계를 유지하도록 설계되었다.

기업 환경에서 AI 에이전트는 메시지, 결정, 프로젝트, 의무 등 시간이 지남에 따라 변화하는 방대한 맥락을 이해해야 한다. 초기 상태의 에이전트는 이러한 맥락이 부족하여 업무에 효과적으로 기여하기 어렵다. 기존 대화 기록은 단기적인 연속성을 제공하지만, 현재의 우선순위와 과거의 결정, 임시 요청이 혼합되어 있어 혼란을 야기할 수 있다. 또한, 검색 기능은 관련 원본 자료를 찾을 수 있지만, 에이전트가 여러 시점에 걸쳐 정보를 연결하고 통합하는 능력은 여전히 부족하다. 예를 들어, 프로젝트 상태 질문에 대한 답변은 이전 결정, 이후 메시지의 수정, 미해결 의무, 그리고 동일한 프로젝트를 지칭하는 여러 이름에 대한 지식 등 복합적인 정보를 요구한다. 이러한 문제들을 해결하기 위해 구조화되고 선택적으로 검색되며 거버넌스가 적용된 에이전트 메모리의 필요성이 대두되었다.

NVIDIA의 접근 방식은 '셀프 모델'을 통해 이러한 관계를 구조화된 마크다운 페이지로 유지한다. 이 모델은 사람, 프로젝트, 우선순위, 목표, 개념, 반복되는 작업 패턴에 대한 정보를 체계적으로 정리한다. 셀프 모델의 스키마는 정보의 인덱싱, 상호 참조, 출처, 그리고 성장 제한을 정의한다. 또한, 에이전트의 메모리 설계는 '증거(Evidence)', '지식(Knowledge)', '거버넌스 적용 실행(Governed execution)'의 세 가지 계층으로 정보를 분리한다. 지식 계층은 사람, 프로젝트, 우선순위, 작업 패턴과 같은 정보를 마크다운 기반의 에이전트 메모리에 저장하며, 판단 계층은 항목의 주의 필요 여부, 순위, 사용자 무시 여부 등을 SQLite 원장(ledger)에 기록하여 에이전트의 판단을 원본 메시지와 분리하여 보존한다.

이 메모리 기반 에이전트는 '의도 게이트(intent gate)'를 통해 단기적인 긴급성보다 사용자 의도를 우선시한다. 이는 사용자가 명시한 우선순위와 연결된 의무에 가장 높은 등급을 부여하여 에이전트가 중요한 작업에 집중하도록 돕는다. 사용자는 에이전트의 결정을 수정할 수 있으며, 예를 들어 의무를 다른 계층으로 이동하거나 무시할 수 있다. 이러한 사용자 결정은 이후 에이전트 실행에 반영되며, 모든 변경 사항은 추가 전용 감사 추적(append-only audit trail)에 기록된다. 반복적인 수정 패턴은 작은 읽기 가능한 선호도 정책을 업데이트하여 사용자 피드백 루프를 투명하게 유지한다. 보안 측면에서는 NVIDIA OpenShell 보안 런타임을 활용하여 에이전트의 파일 시스템, 프로세스, 네트워크 접근에 대한 거버넌스 및 정책을 적용하며, 자격 증명은 샌드박스 외부에 유지되어 보안 경계를 강화한다.

NemoClaw에 메모리 기반 Chief of Staff 에이전트를 추가한 결과, 여러 에이전트 작업에서 측정 가능한 성능 향상이 나타났다. Agent Memory Benchmark 평가에서 셀프 모델은 기존 에이전트 RAG(Retrieval-Augmented Generation) 기준선 대비 높은 정확도를 보였다. 구체적으로, 전체 정확도는 82.8%에서 90.9%로 8.1%p 증가했으며, 어려운 질문에 대한 정확도는 67.7%에서 87.1%로 19.4%p 향상되었다. 시간 경과에 따른 사실 추적은 60.0%에서 100.0%로 40.0%p, 특정 시점 추론은 33.3%에서 66.7%로 33.3%p, 엔티티 모호성 해소는 66.7%에서 86.7%로 20.0%p, 다중 소스 종합은 87.7%에서 94.5%로 6.8%p 증가했다. 인용 범위 또한 92.5%에서 97.8%로 5.4%p 향상되었다. 이 모든 평가는 NVIDIA Nemotron 3 Ultra를 사용하여 진행되었다.

이러한 메모리 기반 에이전트 설계는 개발자와 사용자 모두에게 긍정적인 영향을 미친다. 개발자는 NVIDIA NemoClaw와 OpenShell을 활용하여 복잡한 기업 맥락을 이해하고 관리하는 에이전트를 효율적으로 구축할 수 있다. 에이전트의 잘못된 답변이 증거, 메모리 유지 관리, 검색, 모델의 최종 결정 중 어느 단계에서 발생했는지 파악하는 데 용이하며, 에이전트의 판단을 원본 데이터와 분리하여 보존함으로써 데이터 오염을 방지한다. 또한, 에이전트의 접근 권한과 잠재적 실패의 영향을 제한하여 보안을 강화한다. 사용자 측면에서는 에이전트가 자신의 우선순위를 더 잘 이해하고 반영하여 작업 품질이 향상되며, 에이전트의 결정을 수정하고 피드백을 제공함으로써 에이전트와의 신뢰를 구축할 수 있다. 에이전트가 단기적인 긴급성보다 실제 사용자 의도를 우선시하여 중요한 작업에 집중할 수 있게 돕고, 에이전트의 판단이 투명하게 기록되고 수정될 수 있어 사용자에게 더 큰 제어권을 제공한다.

이 메모리 기반 에이전트 설계는 NVIDIA NemoClaw 및 NVIDIA OpenShell 환경에서 작동한다. NVIDIA는 오픈 소스 Memory-Driven Chief of Staff 레시피를 제공하여 개발자가 이 메모리 설계를 자신의 NemoClaw 예제에 적용할 수 있도록 지원한다. 이 레시피는 구조화된 메모리 스키마, 내구성 있는 의무 원장, 제한된 순위 로직, 사용자 수정 및 감사 경로, 예약된 메모리 유지 관리, 합성 메시지 및 메모리 페이지, 오프라인 워크스루, 단위 테스트 스위트를 포함하는 배포 가능한 Hermes 프로필로 제공된다. 그러나 이 설계에는 몇 가지 제약과 한계가 있다. 메모리 및 검색된 콘텐츠는 모델의 입력일 뿐 신뢰할 수 있는 보안 정책이 아니므로, 에이전트가 맥락을 잘못 해석하거나 악의적인 지침을 따르더라도 운영자가 정의한 런타임 경계 내에서 작동해야 한다. 현재 레시피는 메모리 기반에 중점을 두며, 메시지를 보내거나 원본 시스템을 직접 수정하지 않는다. 이는 작업 공간 계정 연결 없이 설계를 검토할 수 있도록 하기 위함이며, 실제 라이브 커넥터는 자격 증명, 개인 정보 보호, 보존, 삭제에 대한 별도의 처리가 필요하다. 또한, 일부 지표(말뭉치 기반 충실한 답변 -7.7%p, 단일 홉 조회 -3.3%p)에서는 기존 RAG 방식보다 성능이 소폭 감소하는 결과도 나타나, 특정 유형의 질문에서는 메모리 기반 접근 방식이 항상 우월하지 않을 수 있음을 시사한다.