로컬 AI 에이전트 OpenClaw vs Hermes Agent

로컬 AI 에이전트, 왜 지금인가

2025년까지 'AI 에이전트'는 대체로 개발자가 프레임워크로 직접 조립하는 영역이었다. CrewAI나 AutoGen으로 역할을 나누고 코드를 짜야 비로소 멀티 에이전트가 돌았다. 그런데 2026년에는 결이 다른 흐름이 빠르게 커졌다. 설치 한 번이면 곧장 일하는 완성형 개인 에이전트다. 공통 키워드는 local-first(데이터가 내 기기를 벗어나지 않음), persistent memory(세션을 넘어 기억 유지), self-hosted(내 인프라에서 구동), agentic(말이 아니라 실제로 행동)이다.

이 흐름을 대표하는 두 오픈소스가 OpenClaw와 Hermes Agent다. 둘 다 Claude·GPT·Gemini 같은 클라우드 모델은 물론 Ollama로 띄운 로컬 모델도 그대로 붙일 수 있다. 로컬 모델과 묶으면 토큰 비용이 0이고, 프롬프트가 기기를 떠나지 않아 프라이버시까지 챙겨진다. 같은 목표를 향하지만, 둘이 그 목표에 다가가는 방식은 거의 정반대다. 한쪽은 '연결과 접근성', 다른 한쪽은 '학습과 성장'에 무게를 둔다.

OpenClaw — 모든 기기를 잇는 게이트웨이

OpenClaw는 2026년 초 GitHub 10만 스타를 빠르게 넘긴 오픈소스 개인 에이전트다. 핵심은 챗봇이 아니라 내 컴퓨터(또는 VPS)에서 항상 켜져 도는 게이트웨이(Gateway) 프로세스라는 점이다. 기본 포트 18789에서 세션 관리, 채널 라우팅, 도구 호출, 이벤트를 모두 담당하는 일종의 '관제탑'이다. 텔레그램·슬랙으로 들어온 메시지를 이 게이트웨이가 받아 LLM 에이전트로 넘기고, 단순 응답을 넘어 실제 작업까지 처리한다.

설치와 첫 가동

설치는 npm 패키지 한 줄로 시작하고, 안내형 온보딩이 게이트웨이·모델 인증·워크스페이스·채널을 한 번에 잡아준다. Node 24가 권장 환경이다. Docker Compose로 올리면 30분 안에 가동돼, 웹 검색·파일 도구로 같은 날 바로 실제 작업을 시켜볼 수 있을 만큼 진입이 빠르다.

강점은 '접근성(breadth)'

OpenClaw의 최대 무기는 연결 범위다. WhatsApp, Telegram, Slack, Discord, Signal, iMessage를 포함해 50개 이상의 메신저에 붙고, 네이티브 모바일 앱과 음성 활성화까지 지원한다. 어느 기기에서든 평소 쓰는 메신저로 내 AI를 부른다는 경험이 핵심이다. 메모리도 특징적이다. 모든 기억이 마크다운과 SQLite로 저장되는데, 특히 마크다운 기록은 파일로 직접 열어 보고 편집·삭제할 수 있어 "내 에이전트가 무엇을 기억하는지"가 투명하다. 여기에 ClawHub라는 스킬 마켓(2026년 4월 기준 4만 4천여 개)이 더해져 기능을 끼워 넣기도 쉽다. 다만 이 스킬 마켓은 보안 측면에서 주의가 필요한데, 뒤에서 따로 다룬다.

Hermes Agent — 스스로 배우는 자가발전 에이전트

Hermes Agent는 Hermes 모델 시리즈로 알려진 Nous Research가 2026년 2월 25일 공개한 자체 호스팅 에이전트다. 내 인프라에서 24시간 상주하는 데몬으로 돌며, 내장 cron 스케줄러로 예약 작업을 자율적으로 수행하고 결과를 지정한 메신저로 보내준다. 즉 내가 자는 동안에도 서버에서 알아서 일한다.

핵심은 '학습 루프(learning loop)'

Hermes의 진짜 차별점은 self-improving이다. 작업이 끝날 때마다 성공 여부를 스스로 평가하고, 잘 풀린 작업의 절차를 재사용 가능한 스킬 파일(마크다운)로 저장한다. 다음에 비슷한 일이 오면 처음부터 추론하지 않고 저장된 스킬을 꺼내 쓴다. 공개 자료에 따르면 스킬이 20개 이상 쌓인 에이전트는 비슷한 작업을 약 40% 빠르게 처리한다. 세션 기록·메모리·스킬 메타데이터는 SQLite의 FTS5 전문 검색으로 관리해, 지난 맥락을 효율적으로 끌어온다. 모델은 OpenRouter를 통해 200종 이상을 지원하고, 물론 Ollama 로컬 모델도 붙는다.

설치와 무게

설치 스크립트와 설정 마법사로 시작하지만, 메모리와 도구까지 갖춘 완전한 로컬 구성은 보통 2~4시간을 잡아야 한다. 로컬 모델 서버를 처음 세팅한다면 더 걸린다. 대신 한 번 자리를 잡으면 디스크 우선 메모리와 가벼운 서브 에이전트 구조 덕에 5달러짜리 VPS에 올려두고 잊어도 될 만큼 운영 부담이 적다. 6월 2일에는 macOS용 데스크톱 앱(공개 프리뷰, v0.15.2)도 나와 진입 장벽이 한층 낮아졌다.

핵심 비교표

두 도구를 같은 기준으로 나란히 놓으면 차이가 분명해진다. 한쪽은 '넓게', 다른 한쪽은 '깊게' 간다.

어떤 걸 골라야 하나

하나의 '정답'을 고르기보다 용도로 나누는 게 맞다. 직접 써보고 정리한 기준은 이렇다.

• 여러 기기·메신저에서 즉시 AI를 부르고 싶다면 → OpenClaw. 폰의 메신저든 데스크톱이든 같은 에이전트로 연결되고, 오늘 띄워서 오늘 바로 쓸 수 있는 속도가 강점이다.
• 몇 달에 걸쳐 리서치·반복 업무·지식을 누적하는 '성장하는 비서'가 필요하다면 → Hermes Agent. 스킬이 쌓일수록 빨라지고 정교해지는 학습 루프가 장기전에 유리하다.
• 프라이버시가 최우선이라면 → 둘 다 Ollama 로컬 모델과 묶는다. 토큰 비용 0에 프롬프트가 기기를 벗어나지 않아, 민감한 문서·코드 작업에 안성맞춤이다.

붙이기 전 반드시 — 보안

이 도구들은 '말'이 아니라 '행동'한다. 메신저에 답하고, 파일을 열고, 터미널 명령을 실행한다. 편리한 만큼 권한이 곧 위험이 된다는 점을 잊으면 안 된다.

특히 OpenClaw의 ClawHub 스킬은 주의가 필요하다. 보안 분석마다 차이는 있지만 스킬의 약 13~20%가 악성이거나 심각한 보안 문제를 가진 것으로 보고됐다. 모든 스킬을 '실행 코드'로 간주하고 소스를 확인하며, 버전을 고정하고, 스킬 설명에 적힌 난독화된 터미널 명령은 절대 그대로 실행하지 않는 게 안전하다. 2026년 3월에는 나흘 사이 9개의 CVE(그중 하나는 CVSS 9.9의 치명적 등급)가 보고되기도 했다. 게이트웨이는 루프백(localhost)에 바인딩하고, DM 페어링을 켜둔 채 알려진 사용자만 승인하며, 공개 인바운드 메시지는 추가 필터 없이 열지 않는 것이 기본 수칙이다.

Hermes Agent는 상대적으로 신생이지만 문서화된 7계층 보안 모델로 보수적으로 설계됐다. 다만 앞서 말한 자기 평가의 맹점이 있다. 스스로 "잘했다"고 판단하는 경향이 강해, 실제로는 실패한 작업도 성공으로 기록할 수 있다. 따라서 중요한 자동화에는 사람이 한 번 확인하는 단계를 끼워 두는 편이 안전하다.

마무리

2026년은 '내 PC에서 도는 개인 에이전트'의 원년에 가깝다. OpenClaw는 넓게 연결하는 길로, Hermes Agent는 깊게 학습하는 길로 간다. 어느 쪽이 더 낫다기보다, 내가 풀려는 문제가 '접근성'인지 '성장'인지에 따라 답이 갈린다. 둘 다 Ollama 로컬 모델을 품을 수 있으니, 토큰 비용과 프라이버시 걱정 없이 가볍게 실험해 보기에도 좋은 시점이다. 거창한 자동화를 노리기 전에, 매일 반복하는 작은 일 하나를 맡겨 보는 것부터 시작하길 권한다.