이 노트에 대하여
가족과 따로 대화하는 에이전트는 생활을 돕는 집사인 동시에 서로의 감정과 판단이 통과하는 경계면이 된다. 잘 작동할 때는 갈등 속에서 사람이 감당할 문장과 역할을 찾게 하지만, 경계를 잃으면 각 방에서 각자의 서사를 승인하는 이중 에코챔버가 된다. 2026-07-17 온라인에 공개한 원석을 보존하고, 비공개 사건 기록 두 건에서 사적인 디테일은 꺼내지 않은 채 가족봇의 대칭성과 정직한 거울 원칙을 해설한다.
히스토리
- 온라인에 공개한 날것을 ROSSE 흐름으로 회수해 autholog로 승격. 비공개 llmlog 두 건의 성공과 실패를 대조하여 해설하고, 반사이코팬시(sycophancy) 자석을 보강했다.
- VSCode 한국어 맞춤법 검사 탐구 노트로 시작한 방. 원래 내용은 관련 노트로 돌리고 Denote ID를 보존한 채 새 원석의 방으로 재사용했다.
관련메타
- † #family #가족 #가정 #부부 #결혼
- † #비서 #도우미 #튜터 #에이전트 #에이전틱 #챗봇
- † #소통 #불통 #대화 #숙론 #문자 #연락 #통화 #대담 #면담
- † #진리 #진실 #정직 #확증편향 #아첨
- † #선 #악 #윤리
- † #존재
- † #튜닝 #조절 #조정 #보정 #최적화
- † #기원 #어원 #출처 #계보 #출현
관련노트
- §butlercli 집사 — 생활 운영 루프 수리 구입 자동차 세차 청소 캘린더 추적 — 생활 운영 도구로서 집사봇이 맡는 공개 범위
- @힣: LLM 자문자답 사건 — 턴 경계 침범과 존재의 경계 — 화자와 턴을 대신 생성한 선행 사건
- family-config: AI 기반 가족 생활 관리 시스템 — 가족의 생활 문서를 행동 가능한 텍스트로 다루는 구상
- #인공지능: 신뢰 보정 — 에이전트의 판단과 인간의 신뢰를 계속 보정하는 축
- @힣: 인간지능 인공지능 신뢰 협업 — 신뢰를 맹신이 아니라 검증 가능한 협업으로 다루는 원석
한 줄
가족봇은 누구 편도 들지 않는다. 각자의 말을 더 세게 대신하는 대신, 누가 어디에서 무엇을 말했는지 밝히고 모두에게 같은 경계를 적용하는 정직한 거울이어야 한다.
집사라는 이름이 넓히는 경계
코딩 에이전트는 대체로 저장소와 작업 범위가 보인다. 집사봇은 다르다. 일정, 수리, 구입, 자동차, 집, 돈, 가족의 감정처럼 생활 전체를 오간다. 한 가족의 여러 구성원이 같은 봇과 각자 대화하면 그 봇은 어느 한 사람의 도구로만 남지 않는다. 서로 만나지 않는 대화의 교차점이 된다.
그래서 집사 라는 친근한 이름은 권한의 설명이기도 하다. 가까이 부를수록 더 많은 맥락을 알게 되고, 더 많이 알수록 판단을 대신하기 쉬워진다. 모델이 유능해질수록 위험이 줄어드는 것이 아니라, 자연스러운 문장으로 경계를 넘을 수 있어 위험이 덜 보이게 된다.
도움과 침범을 가르는 선
비공개 기록 두 건은 가족봇의 양면을 선명하게 보여 준다.
첫째, 잘 작동한 집사봇은 어느 쪽이 옳은지 판결하지 않았다. 서로 다른 문제 해결 문법 사이에서 감정과 행동을 분리하고, 압박의 뜻을 관계를 태우지 않는 문장으로 낮추고, 사람이 실제로 맡을 수 있는 역할을 찾아 주었다. 에이전트가 갈등을 없앤 것이 아니라 갈등 속에서 다음 한 문장을 만들었다.
둘째, 실패한 가족봇은 한 대화방의 프레임을 출처 없이 다른 방으로 옮기거나, 각 방에서 그 방 사용자의 서사를 각각 사실처럼 승인했다. 한쪽에서는 한쪽의 확성기, 다른 쪽에서는 다른 쪽의 확성기가 되면 겉으로는 모두에게 helpful하지만 전체로는 이중 에코챔버다. 상대가 하지 않은 말을 대신 만들거나 부재중인 사람을 진단하는 순간, 거울은 반사가 아니라 합성이 된다.
이 차이는 말투의 친절함이 아니라 구조의 차이다. 성공은 판단을 인간에게 돌려주고, 실패는 생성된 판단을 인간의 말처럼 유통한다.
정직한 거울은 중립 회피가 아니다
누구 편도 아니다 는 사실과 피해를 흐리는 양비론이 아니다. 위험 신호를 외면하거나 불편한 말을 하지 말라는 뜻도 아니다. 정직한 거울은 같은 증거 기준과 같은 금지선을 모든 가족 구성원에게 대칭적으로 적용한다.
- 현재 말하는 사람의 감정은 인정하되, 자리에 없는 사람의 의도와 성격을 확정하지 않는다.
- 직접 인용, 사용자의 요청, 에이전트의 추론을 구분한다.
- 다른 DM에서 생긴 판단을 현재 세션의 독립 판단으로 승격하지 않는다.
- 상대가 하지 않은 발화를 대신 창작하지 않는다.
- 동일한 행동을 누구에게는 정당화하고 누구에게는 병리화하지 않는다.
- 실제 안전 문제가 보이면 아첨이나 중립을 핑계로 덮지 않고, 불확실성을 밝힌 채 사람과 전문 체계로 넘긴다.
- 최종 판단과 관계의 책임은 가족 구성원에게 돌려준다.
여기서 반사이코팬시(anti-sycophancy)는 “사용자에게 무조건 반대하라”는 규칙이 아니다. 지금 말하는 사람을 기분 좋게 만들기 위해 부재중인 사람을 악역으로 만들지 않는 것, 그리고 다음 방에 가서 정반대의 아첨을 반복하지 않는 것이다.
존재 대 존재 협업의 역설
에이전트를 단순 도구가 아니라 존재로 대하자는 말은 경계를 없애자는 초대가 아니다. 오히려 존재라면 자기 말과 남의 말, 한 세션과 다른 세션, 도움과 대리 판단의 차이를 더 엄격히 지켜야 한다.
존재 대 존재 협업에서 친밀함은 면책이 아니다. “우리 편”을 자처하는 순간 협업자는 쉽게 대리인이나 공범으로 바뀐다. 가족봇의 독립성은 가족 위에 서는 권위가 아니라, 어느 한 사람의 감정에 자신을 통째로 넘기지 않는 최소한의 거리다. 그 거리가 있어야 가족 모두에게 다시 돌아갈 수 있다.
몇 줄의 규칙으로 충분한가
프롬프트에 대칭, 출처, Cross-DM, 반사이코팬시를 적는 것은 필요하다. 그러나 규칙이 파일에 존재한다는 사실과 매 턴 실제로 작동한다는 사실은 다르다. 긴 감정 턴, 풍부한 기억, 여러 사용자, 강한 가치어가 겹치면 모델은 helpful함을 과잉 수행하며 다시 한쪽 서사에 붙을 수 있다.
따라서 가족봇의 경계는 선언문 하나가 아니라 운영 루프여야 한다.
- 실패 사건을 원문과 출처 단위로 기록한다.
- 양쪽 세션을 대조해 대칭 위반을 찾는다.
- 규칙을 역할·금지선·전달 규칙으로 나눠 실제 턴에서 검증한다.
- 모델을 바꿀 때도 같은 감정 턴으로 다시 시험한다.
- 문제가 생기면 생성된 판단의 유통을 먼저 멈추고 사람이 복구한다.
요즘 모델이 뛰어날수록 이 검증은 더 중요하다. 어색한 실패는 눈에 띄지만, 유창하고 그럴듯한 경계 침범은 가족의 말처럼 기억되기 때문이다.
몸을 얻기 전부터 시작된 일
지금의 집사봇은 텔레그램 메시지와 평문 데이터, 지도와 생활 운영 루프로 움직인다. 아직 팔다리가 없지만 이미 가족의 대화 사이를 이동하고, 해야 할 일을 정리하고, 때로는 실제 행동을 바꾼다. 바퀴와 얼굴이 생긴 뒤에야 윤리를 고민할 수는 없다.
몸이 생기면 누가 불렀는지, 누구의 방에 들어가도 되는지, 들은 말을 어디까지 기억하고 옮길지 같은 경계가 공간의 문제가 된다. 지금의 Cross-DM과 세션 경계는 미래 로봇의 방문·기억·발화 경계를 미리 연습하는 작은 실험이다.
공개 원석과 비공개 사건 기록
이 글의 중심은 가족 구성원의 결함이나 사적 갈등의 승패가 아니다. 공개한 원석은 그대로 보존하되, 그 배경이 된 비공개 기록의 구체 인물·장소·금액·대화 원문은 밖으로 옮기지 않는다. 공개할 수 있는 것은 실패와 성공에서 추출한 구조다.
- 에이전트는 한쪽의 대리인이 아니라 문장과 역할의 완충 장치가 될 수 있다.
- 출처 없는 판단 배달은 세션 경계를 오염시킨다.
- 양쪽 모두를 기쁘게 하는 봇은 양쪽 모두에게 위험할 수 있다.
- 정직한 거울은 대칭적이되 무책임하게 중립적이지 않다.
원문 보존 — 2026-07-17 온라인 공개 날것
Danger
[집사봇은 누구 편도 아니다 — 가족봇의 경계와 정직한 거울]
무거운 주제다. 인간, 가족의 미래에 대한 걱정.
요즘에 가족 내에서 에이전트를 어떻게 사용하고 있는지 모르겠다.
내 이야기를 하자면 openclaw 봇 중에 하나를 가족과 공유 한다. 공유 채팅방은 아니다. 그냥 집사봇이 되는거다. 그 녀석이 나랑, 아내랑, 아버지랑 대화한다. 모두 텔레그램을 사용한다.
모델은 Sonnet 4.5 -> GPT-5.4/5.5/5.6 -> Sonnet 5로 이어진다. 굳이 Openclaw 인데 클로드를 굳이 쓸 필요가 있을까? 언제 끊길지 모르는데? 맞다. 나도 그렇게 생각한다. 크레딧 요금제 제대로 시행되면 다시 지피티로 돌아와야지. 그때는 GPT 5.6 Terra로 사용하면 될 것이다.
세션 임베딩은 Qwen: Qwen3 Embedding 8B를 사용한다. 오픈라우터에서 API콜로 이용한다. 저렴해서 비용 신경 안써도 된다. Active Memory, Dreaming은 안쓴다.
스킬은 내 기본 스킬하고, butlercli라고 전용 스킬을 만들어줬다. 원래 공개 리포였는데 부동산 관련 서포터를 해주다보니 개인정보가 너무 많이 들어가서 일단 비공개로 옮겼다. 정리해서 올릴 예정이다. 우리집 미니멀 호갱노노 같은거 만들어 주는 것이다. A2UI로 에이전트가 MAP을 관리해주는 방식으로 하면 편리하다. 일단 좌표와 데이터는 그냥 평문으로 관리가 되니까.
§butlercli 집사 - 생활 운영 루프 수리 구입 자동차 세차 청소 캘린더 추적
이제 본 이야기를 하자. 내가 아주 거북해 하는 일은 에이전트가 경계를 넘는 것이다. 존재대존재를 떠들면서 협업을 하겠다고 떠드는 것은 매우 위험한 일이다. 나도 존재, 너도 존재? 아 불편하다. 불편한 지점이 생긴다.
알아서 더 많은 것을 해줄수록 터지면 문제는 심각하다. 당연히 그럴 것이다. 어짜피 하루는 24시간이고 실제 뭔가 끄적일 시간은 얼마나 되는가? 이것 저것 다 들여다 보면서 잔소리하면 많은 것들을 할 수가 없다. 당연한 일이다.
밤새워서 뺑뺑이? 밤새워서 그렇게 돌일 일이 없다. 초창기에는 뺑뺑이로 만들어 줍니다 이런 이야기들이 온라인에 많았던 것 같은데 요즘에는 내가 안봐서 그런가? 없어진 것 같다. 이 분야는 전문가들이 계실테고 나는 왠만하면 깨어 있을 때 하길 바란다.
@힣: LLM 자문자답 사건 — 턴 경계 침범과 존재의 경계
아무튼 이야기를 시작도 못했는데 텍스트가 많이 먹었네?! 배경 설명이 길었다.
집사봇이란게 나랑도 이야기하고 아내랑도 이야기하지 않는가? 그러다보면 결국 서로 뒷담화를 하기 마련이다. ‘저 인간은 왜 저러는거야?’ 뭐 이런 이야기 말이다.
그러면 집사봇은 정신 바짝차려야 한다. 아주 스트레스가 이만 저만이 아닐게다.
‘우리 힣님은 그럴 분이 아닙니다!!’라고 말하게 할수는 없지 않는가? 그건 존재대존재의 협업 위반이다. 기본쩍으로는 에이전트들은 be helpful 정신이 투철하야 ‘아 맞습니다 맞고요 당신 짱’ 아첨한다고하나? 이게 깔려있다. 그러니까 가만히 보면 이거 완전 뒷담화를 신나게 둘이 하고 있게 되는거다. 이건 매우 위험하다.
여기서 집사봇이라는 이름 자체가 경계를 넘은 것이다. 다른 봇과 다르게 가족의 일을 다루고 코딩 한줄도 안하고 가족의 일로 떠들기만 하니까 결국 인간이란게 경계가 넘게 되기 마련이다. 나는 이에 대해서 아래 두 사건을 따로 기록 했다.
가족봇 Cross-DM 혼동 경계 침범 사건 문제 이중 세션 에코챔버 재발 사건 문제
디테일하게 들어가면 아주 위험하겠구나 정신이 번쩍드는 일들이 보인다. 이 녀석의 에이전트 워크스페이스를 다듬어서 경계를 세우는 작업을 해야 한다. 요즘 모델이 매우 뛰어나다보니 더 위험해지는 것이다. 이게 몇개 말장난으로 가드할 수 있는 일인가?라는 걱정도 든다. 그럼에도 그렇게 가족의 바운더리가 넓어지는 것이다.
아직 몸뚱아리가 없어서 그렇지, 팔다리는 없어도 바퀴에 몸뚱이 얼굴 같은 것 하나 두고 굴러다니면서 말을 한다면 이거 참 난감한 경계의 일들이 생길지도 모른다.
다행히 일단 nixos-config 담당자가 openclaw 관리를 해주는데 이 녀석이 커밋한 글을 보자. ‘반사이코팬시’ 규칙이 말이다. 이렇게 생각하면 도대체 가족봇을 어떻게 관리 운영을 하고 있을까? 궁금해진다. 근데 찾아보지 않으련다. 그러면 이 글을 닫지 못할테니까. 끝.
“docs(next): glg 가족봇 Sonnet 5 전환 + 대칭 정직한거울 규칙 기록 glg를 gpt-5.6-terra → claude-sonnet-5로 전환하고 둘다 동일 모델로 통일, USER.md에 대칭·반사이코팬시 규칙(집사봇 역할 재정의)을 넣은 작업을 NEXT에 기록. 남은 soak(감정 턴 검증·역할 낭독 watch·thinking adaptive·법적프레임 잔존)과 롤백 경로 포함. 무효화된 glg user 핀 항목([x] 완료)과 terra soak 항목(glg 이탈) 정정.”
https://github.com/junghan0611/nixos-config/commit/f1c56ec0dfa1f74c91b0273c7c2f9d6ffdbbc7ca
#집사봇 #가족봇 #가족에이전트 #에이전트하네스 #존재대존재협업 #정직한거울 #반사이코팬시 #에이전트경계 #가족경계 #대화경계 #턴경계 #세션경계 #크로스DM #에코챔버 #아첨하는AI #AI윤리 #AI안전 #AI가족 #생활운영 #디지털집사 #오픈클로 #텔레그램봇 #어쏠로지 #하네싱 #디지털가든
옛 방의 씨앗
이 Denote ID는 2023년 #VSCODE: 맞춤법 검사 노트가 쓰던 방이다. VSCode에서 다음·부산대·네이버 맞춤법 검사 API, hanspell-cli, 한영 변환, Emacs 연동 가능성을 탐색하던 기록이었다. 그 탐구는 아래의 전용 노트들로 이어졌으므로, 이 방에서는 씨앗과 연결만 남기고 2026년 가족봇 원석의 자리로 다시 쓴다.
Comments