이 노트에 대하여
다리오 아모데이와 그가 공동창업한 Anthropic을 Claude·AI 안전·거대모델 산업의 한 축으로 함께 읽는 서지 허브다. 회사 홍보와 위험 경고, 제품과 연구, 낙관적 미래상과 실제 배포 전략을 한 사람의 발언과 조직의 행보 위에서 교차해 본다.
히스토리
- @mitsein/gpt-5.6-terra — GLG의 「다리오 아모데이의 세계관 — 문열고닫음은 하나」 외부 공개글을 원문 보존으로 회수하고, 니킬 카마스 대담 botlog의 검증 전 기록을 이 허브로 이관했다. 빈방은 씨앗만 남긴다.
- ©Anthropic meta 방의 회사 소개·Claude 컴퓨터 유스·Anthropic Cookbook·Zed 자료와 인용키를 이곳으로 이관했다. 다리오 아모데이와 Anthropic을 함께 읽는 표준 bib 허브로 수선하고, meta ID는 빈방으로 돌렸다.
- 다리오 아모데이의 인물 소개와 『Machines of Loving Grace』 자료를 정리했다.
- 다리오 아모데이와 Anthropic의 AI 위험·안전 대응을 묻는 대화에서 시작했다.
관련메타
- † #회사 #기업 #업체 — Anthropic을 연구 집단만이 아니라 자본·조직·클라우드 파트너십을 가진 기업으로 보는 축.
- ‡ † #인공지능 #외계지능 — Claude와 거대모델이 속한 더 넓은 지능·AGI 개념축.
- † #비서 #도우미 #튜터 #에이전트 #에이전틱 #챗봇 — Claude가 사용자와 개발자에게 나타나는 서비스·에이전트 형태.
- † #백업 #보관 #저장 #안전 #안정 — AI 안전이라는 말에서 기술적·사회적 위험 관리로 건너가는 축.
관련노트
- @샘올트먼 @SamAltman ©OpenAI ¤ChatGPT — 회사·인물·API — 생성형 AI 회사의 철학·제품·안전·상업화 방향을 대조하는 이웃 서지.
- @니콜라스칼리니 @NicholasCarlini — Anthropic·AI 안전 연구 — 모델 보안과 안전 연구자의 계보.
- @힣: 옴 말릭 이후 — Mythos, Abstraction, 그리고 줄을 당기는 인간 — Anthropic이 영리해야 한다는 2026-07 원석과 이 글이 이어지는 이웃 autholog.
- Anthropic·Claude Code·claude-code.el — Claude를 실제 코딩 하네스에서 쓰는 구현면.
- Anthropic Life Sciences와 Tools for Life 패러다임 — 생명과학으로 확장되는 회사의 제품·연구 방향.
- @힣: Anthropic Claude 인터뷰 — Claude와 직접 대화하며 본 회사·모델의 얼굴.
BIBLIOGRAPHY
———. 2024. “Machines of Loving Grace 사랑과 은총의 기계.” October 11, 2024. https://darioamodei.com/machines-of-loving-grace.
Anthropic. 2024. “Introducing Computer Use, a New Claude 3.5 Sonnet, and Claude 3.5 Haiku #Computeruse.” 2024. https://www.anthropic.com/news/3-5-models-and-computer-use.
“Anthropics/Anthropic-Cookbook.” 2025. https://github.com/anthropics/anthropic-cookbook.
Claude. 2024. https://www.youtube.com/watch?v=vH2f7cjXjKI.
Dario Amodei, and Daniela Amodei. n.d. “Anthropic - Wikipedia #앤트로픽.” Accessed October 22, 2024. https://en.wikipedia.org/wiki/Anthropic.
“Dario Amodei — the Adolescence of Technology 기술의 사춘기 강력한 Ai의 위험에 맞서고 이를 극복하기.” n.d. Accessed January 29, 2026. https://www.darioamodei.com/essay/the-adolescence-of-technology.
Inside the World of Dario Amodei. 2026. https://www.youtube.com/watch?v=LWlt43M3tRM.
Lex Fridman. 2024. “Transcript for Dario Amodei: Anthropic Ceo on Claude, Agi & the Future of Ai & Humanity.” 2024. https://lexfridman.com/dario-amodei-transcript/.
neo. 2024. “Zed AI 공개 (with Anthropic).” August 21, 2024. https://news.hada.io/topic?id=16398.
한 줄
다리오 아모데이와 Anthropic은 AI의 위험을 강하게 말하면서 동시에 Claude를 빠르게 확장한다. 이 서지의 핵심은 그 긴장을 모순으로 지워버리지 않고, 안전 연구·제품 배포·연산 자본·미래 비전을 같은 시간축에서 읽는 데 있다.
다리오 아모데이와 Anthropic
다리오 아모데이는 OpenAI 연구 부문을 거쳐 Anthropic을 공동창업한 연구자이자 CEO다. Anthropic은 다리오와 다니엘라 아모데이를 비롯한 공동창업자들이 세운 AI 회사이며 Claude 모델 계열을 개발한다. 인물의 발언과 회사의 선택이 밀접하므로 이 방에서는 둘을 억지로 분리하지 않는다. (다리오 아모데이 1983; Dario Amodei and Daniela Amodei n.d.)
다만 인물의 미래 전망을 회사의 객관적 예측으로, 회사의 안전 담론을 곧바로 안전의 증명으로 받아들이지는 않는다. 공개 발언, 연구 방법, 제품 기능, 파트너십과 배포 결과를 서로 대조한다.
안전을 말하며 능력을 확장하는 회사
Anthropic의 중심 서사는 강력한 AI가 큰 이익과 큰 위험을 함께 가져온다는 것이다. 위험은 단순한 편향이나 오답뿐 아니라 오용, 자율적 행동, 사이버·생물학적 악용, 권력 집중과 사회적 충격까지 넓어진다. 이에 대한 대응도 한 가지 장치가 아니라 모델 행동 원칙, 평가, 해석 가능성 연구, 배포 정책과 외부 협력을 함께 보는 문제다.
그러나 안전은 회사의 정체성을 설명하는 표어이기도 하다. 따라서 “안전을 연구한다”는 선언과 실제 모델의 능력 확장·상용화 속도를 동시에 기록해야 한다. Lex Fridman과의 장시간 대담은 아모데이가 Claude, AGI, 위험과 인류의 미래를 어떻게 한 서사로 묶는지 확인할 수 있는 1차 자료다. (Lex Fridman 2024)
문을 열고 닫는 것은 하나
The Information의 Cory Weinberg는 아모데이가 OpenAI 시절부터 강력한 AI의 위험을 실제로 믿어 왔고, 그 확신이 Anthropic의 전략을 빚었다고 보도한다. (Inside the World of Dario Amodei 2026) 이것은 회사의 안전 담론을 사실로 인증하는 자료가 아니라, 그 위험 경고가 단순한 마케팅 문구만은 아닐 수 있음을 읽는 기자의 프로필이다.
여는 쪽과 막는 쪽을 따로 세울 수 없다는 GLG의 문장은 이 허브의 긴장을 더 정확히 붙든다. 능력을 여는 사람은 그 결과의 경계도 함께 맡고, 안전을 말하는 사람은 능력을 멈춘 채 순결해질 수 없다. 그러므로 이 방은 Anthropic을 고발하거나 면죄하는 자리가 아니라, 문을 여는 힘과 닫는 책임이 실제 배포·제도·삶에서 어떻게 함께 움직이는지를 계속 보는 자리다.
원문 보존 — 2026-08-08 외부 공개글
Danger
[다리오 아모데이의 세계관 - 문열고닫음은 하나]
Inside the World of Dario Amodei 유튜브 기자 https://youtu.be/LWlt43M3tRM, (Inside the World of Dario Amodei 2026) 이건 서지노트
오!! 이런 주제 아주 좋아.
힣: 옴 말릭 이후 — Mythos, Abstraction, 그리고 줄을 당기는 인간 @힣: 옴 말릭 이후 — Mythos, Abstraction, 그리고 줄을 당기는 인간
이 글에서 날것을 아래와 같이 내뱉었었지. 정말 영리해야 한다. 더 말하자면 아예 자기를 버려야 한다. 이건 구도자의 워딩이다. 영상의 저자들의 원죄라는 표현이 적당하다. 막는것과 여는것은 앞과뒤 남과북 밤과낮이다. 닫는것과 여는것은 둘로 나뉠 수가 없다. 이왕 문열 열었으니 하는대까지 해보길. 힣은 원망따윈 안한다. 할수 있는 한 가보길 바란다. 뭐 큰일 나봐야 깊은 잠에 드는 것 뿐이리라.
— 202607006 날것 일부
“아무튼 힣은 ‘영리함’을 이야기 했다. 1KB 프롬프트 초안에서 앤트로픽을 언급하며 안전한 인공지능에 노력하는 팀이 앞서가길 희망한다라고 했다. 이는 아모데이가 줄기차게 말해온 바다. 앤트로픽이 잘되야 자기네들이 말하는 ‘안전’ 담론을 다들 따라 올거라는 말이다. 여기에 신경쓰는 것은 비용이 들어가는 일이라는 말도 했다. 사실, 강한 제제를 안하면 강에다가 폐수를 무단 방류하는게 인간 아닌가!
신념이 강하면 실용을 잃는다. 정말 영리해야 한다. 그게 교활해 보일 수도 있다. 실제 그런 것인지 어떤 프레밍이 덧씌워 지고 있는지는 모른다. 앤트로픽이 뭐하는지 사실 힣는 잘 모른다. 그저 사용자 수준의 끄적이는 정도에서 뭘 논하겠는가! 다만 실용적인 견지에서 영리하길 바란다. 그들의 모델 네이밍과 아모데이의 글만 보면 대략 어떤 생을 사는지 알 수는 있다. 그의 여동생이 잘 붙잡아 주리라 본다.
앤트로픽 (다른 모델 사도 마찬가지) 다니고 있다면 일단 생존 문제는 끝난것 아닌가? 그렇다면 다들 어느정도 사명감과 세상에 대한 작은 부채 의식이 있으리라 본다. 그것들이 묶여서 영리함으로 거듭나야 하는 것이다. 여기에 오너들은 휴먼 히스토리의 서사를 넘기는 대표로서 경계를 넘나들어야 한다. 그들의 운명 사명 뭐든 좋다.”
화면 기록
>
>
Claude — 대화형 모델에서 컴퓨터를 쓰는 에이전트로
Claude는 대화형 언어 모델에서 코딩·도구 사용·컴퓨터 조작으로 범위를 넓혀 왔다. 2024년 공개된 computer use는 모델이 화면을 보고 커서를 움직이며 클릭하고 입력하는 실험적 기능이었다. 당시 Anthropic도 번거로움과 오류 가능성을 명시했다. 이 기능은 모델 능력의 확장이 곧 안전·신뢰성·권한 경계의 확장임을 보여 준다. (Anthropic 2024; Claude 2024)
Anthropic Cookbook은 Claude API를 실제 작업에 적용하는 레시피 모음이다. 회사의 거대한 미래 담론과 개발자가 당장 실행하는 작은 예제가 같은 생태계를 이룬다. (“Anthropics/Anthropic-Cookbook” 2025)
Zed와 Anthropic의 결합 사례는 Claude가 독립 제품에 머물지 않고 편집기와 개발 워크플로 안으로 들어가는 초기 흐름을 보여 준다. (neo 2024)
『Machines of Loving Grace』 — 위험 담론 너머의 낙관
『Machines of Loving Grace』에서 아모데이는 강력한 AI가 생물학과 건강, 신경과학, 경제 발전, 평화와 거버넌스, 일과 의미를 빠르게 바꿀 수 있다는 낙관적 시나리오를 제시한다. 이 글은 위험을 오래 말해 온 인물이 왜 동시에 AI 개발을 가속하는지를 이해하는 핵심 자료다. (다리오 아모데이 2024)
제목은 리처드 브라우티건의 시를 떠올리게 하지만, 글의 요지는 막연한 기술 낙관이 아니다. 높은 확률의 예언이라기보다 “잘 풀릴 경우 무엇을 목표로 삼을 것인가”를 구체화한 비전 문서에 가깝다. 따라서 위험 경고와 낙관적 전망을 둘 중 하나로 환원하지 않고 함께 읽는다.
회사·연산·파트너십을 보는 법
거대모델 회사의 연산 자원은 현금 투자액만으로 설명되지 않는다. 클라우드 사업자와의 전략적 투자, 장기 컴퓨팅 계약, 전용 가속기와 데이터센터 접근, 공동 제품화가 묶인다. Anthropic 역시 AWS를 비롯한 대형 인프라 파트너십을 통해 모델 훈련과 배포 자원을 확보한다.
이 방에 남아 있던 옛 LLM 대화의 투자액·매출액 숫자는 생성 당시에도 출처가 없고 이후 빠르게 낡았다. 숫자가 필요하면 시점과 1차 출처를 붙여 별도로 갱신한다. 여기서는 “투자 규모가 작아 보이는데 어떻게 연산을 확보하는가”라는 질문의 구조만 보존한다.
자료 묶음
Anthropic 개요
(Dario Amodei and Daniela Amodei n.d.)
- 다리오 아모데이와 다니엘라 아모데이를 비롯한 공동창업자 및 회사 개요.
다리오 아모데이 — 인물 개요
- Anthropic 공동창업자·CEO, 전 OpenAI 연구 부문 부사장.
Lex Fridman Podcast #452 대담
- Claude, AGI, AI 위험과 인류의 미래에 관한 장시간 인터뷰 원문.
Machines of Loving Grace
- How AI Could Transform the World for the Better.
Computer use 발표와 데모
- Claude 3.5 Sonnet의 화면·커서·클릭·입력 기반 컴퓨터 사용 기능.
- 초기 베타의 실험성과 오류 가능성을 발표문과 데모에서 함께 확인한다.
Anthropic Cookbook
(“Anthropics/Anthropic-Cookbook” 2025)
- Claude를 활용하는 노트북·레시피 모음.
Zed AI 공개 — with Anthropic
(neo 2024)
- Claude가 편집기와 개발 워크플로에 결합되는 사례.
옛 botlog 대담 — 사실 검증 전 기록
아래는 2026-02-27 botlog `20260227T031800`에서 옮긴 요약이다. 당시 대담의 발언·회사 수치·출시 영향은 원 출처와 시점 대조 전에는 사실로 재인용하지 않는다. 이 허브에는 “AI 쓰나미”, 권력 집중, 탈숙련화, 사회 준비라는 문제틀만 보존한다.
- 아모데이는 AI 발전 속도와 사회·정부의 준비 부족을 “쓰나미” 비유로 말한다는 기록.
- 위험은 기술 그 자체만이 아니라 권력 집중, 노동 전환, 제도 지체와 얽힌다는 문제 제기.
- 인간의 몫으로 비판적 사고·관계·맥락 이해를 들며, AI 배포가 탈숙련화를 부를 수 있다는 우려.
- Anthropic의 헌법·해석가능성·정렬 연구는 제품 확대와 분리된 면죄부가 아니라 계속 검증할 주장이다. (“Dario Amodei — the Adolescence of Technology 기술의 사춘기 강력한 Ai의 위험에 맞서고 이를 극복하기” n.d.)
옛 LLM 대화 — 사실 검증 전 기록
2024년 생성 답변의 한계
아래 대화는 당시 질문의 시간축을 보존하기 위한 원문이다. Anthropic 공동창업자는 다리오의 여동생 다니엘라 아모데이(Daniela Amodei) 이며, 답변에 나온 “다니엘 아모데이(Daniel Amodei)”는 오류다. Amazon 투자액·OpenAI 투자 및 매출 수치도 출처 없는 과거 생성값이므로 현재 사실로 인용하지 않는다. 『Machines of Loving Grace』 요약은 위의 인용 원문과 새 해설을 우선한다.
Comments