·ClawNode로컬 AI개인정보보호AI 보안

로컬 AI의 장점: 내 데이터가 외부로 안 나가는 AI 환경

ChatGPT나 Claude에 회사 계약서를 붙여넣은 적 있으신가요. 아니면 고객 데이터가 담긴 스프레드시트를 분석해달라고 한 적은요.

당연하다고 느낄 수 있습니다. AI에게 맥락을 줘야 좋은 답을 얻으니까요. 하지만 그 내용이 어디로 가는지 생각해보면 얘기가 달라집니다.

클라우드 AI를 쓸 때 데이터는 어디로 가는가

ChatGPT, Claude, Gemini는 모두 클라우드 서비스입니다. 입력한 내용이 각 회사의 서버로 전송됩니다.

OpenAI, Anthropic, Google은 API 사용 데이터를 기본적으로 학습에 쓰지 않는다는 정책을 갖고 있습니다. 맞습니다. 하지만 데이터가 미국 서버를 거친다는 사실은 바뀌지 않습니다. 전송 중에 암호화되고, 저장 후 일정 기간 보관됩니다.

이게 문제가 되는 상황이 있습니다.

법적 제약이 있는 데이터. 의료 기록, 금융 거래 데이터, 미공개 기업 정보. 이런 데이터는 외부 서버로 전송하는 것 자체가 계약 위반이거나 법규 위반일 수 있습니다.

개인정보 보호법 관점. 한국의 개인정보보호법과 EU의 GDPR은 개인정보를 제3자(해외 포함)에게 전송할 때 정보 주체의 동의나 적절한 보호 조치를 요구합니다. 고객 이름, 이메일, 연락처가 담긴 데이터를 AI에 입력하면 이 조건을 충족하기 어렵습니다.

경쟁 정보 유출 리스크. M&A 검토 문서, 신제품 로드맵, 영업 전략 같은 내용을 클라우드 AI에 넣으면, 데이터가 미국 회사 서버에 저장됩니다. 실제로 유출되지 않더라도, 내부 정책 위반이 됩니다.

로컬 AI는 어떻게 다른가

로컬 AI는 데이터가 기기 밖으로 나가지 않습니다.

오픈클로를 맥미니에 설치하고 Ollama 같은 로컬 LLM을 연동하면, 텍스트 추론이 내 기기 위에서 이뤄집니다. 인터넷 연결 없이도 동작합니다. 어떤 내용을 처리해도 외부 서버에 기록이 남지 않습니다.

클라우드 AI API(Claude, GPT)를 같이 쓰면 그 부분은 외부 서버를 거칩니다. 민감한 데이터 처리는 로컬 LLM으로, 일반적인 업무는 클라우드 API로 나눠 쓰는 방식이 현실적입니다. 오픈클로는 이 두 가지를 혼합해서 쓸 수 있게 설계됐습니다.

오픈클로의 보안 구조

오픈클로 자체가 어떤 보안 구조를 가지는지 살펴봅니다.

Tailscale 기반 접근 제어. 오픈클로는 Tailscale VPN을 통해 외부 접근을 제한합니다. 집 밖에서 텔레그램으로 지시를 보낼 때도, Tailscale 네트워크 안에서만 통신이 이뤄집니다. 공개 인터넷에 포트를 열지 않습니다.

Keychain 기반 크리덴셜 관리. API 키, 토큰 같은 민감한 정보는 macOS Keychain에 저장됩니다. 설정 파일이나 코드에 평문으로 저장하지 않습니다. 화면 캡처나 로그에 노출될 위험이 낮습니다.

로컬 실행. 에이전트 자체가 내 컴퓨터에서 실행되므로, 작업 내역과 기억(MEMORY.md)이 내 기기에 저장됩니다. 오픈클로 회사 서버로 업로드되지 않습니다.

보안 관련 설정을 더 깊이 다루는 글은 AI 에이전트 보안 설정 가이드에서 확인할 수 있습니다.

"로컬 AI"의 한계도 있습니다

로컬 AI가 모든 면에서 우월한 건 아닙니다.

현재 로컬에서 실행 가능한 LLM은 Claude 3.7, GPT-4o 같은 최신 클라우드 모델보다 성능이 낮습니다. 복잡한 추론, 정교한 코드 생성 같은 작업은 클라우드 모델이 아직 앞섭니다.

맥미니 M4 기준으로 Llama 3.1 70B, Qwen 2.5 32B 정도가 현실적인 선택입니다. 일반 텍스트 작업, 요약, 분류, 간단한 코드 작업은 충분히 처리합니다.

판단 기준은 간단합니다. 처리하려는 데이터의 민감도가 높을수록 로컬 비중을 높입니다.

어떤 데이터를 로컬에서 처리해야 하나

실무 판단 기준을 정리하면 이렇습니다.

로컬 LLM으로 처리할 것:

  • 고객 개인정보가 포함된 문서 분석
  • 미공개 재무 데이터, 계약서
  • 직원 정보, 급여 데이터
  • 법률 관련 민감한 내용

클라우드 API로 처리해도 되는 것:

  • 공개된 정보 리서치
  • 비민감 텍스트 작성, 번역
  • 코드 작업(민감 정보가 없는 경우)
  • 일반적인 아이디어 발산

오픈클로를 쓰면 같은 에이전트 안에서 이 두 가지를 자동으로 라우팅하도록 설정할 수 있습니다.


로컬 AI 환경을 직접 구축하기 복잡하다면 ClawNode가 도와드립니다. 보유 장비 기준 오픈클로 설치, 보안 설정, 로컬 LLM 세팅까지 한 번에 진행합니다. 가격 안내를 확인해보세요.

관련 글: