이 노트에 대하여
카렌 하오는 오픈AI를 중심으로 한 생성형 AI 산업을 권력, 자본, 노동의 문제로 해부한다. 스케일 경쟁의 화려한 서사 뒤에 가려진 데이터 수탈, 글로벌 사우스 노동, 환경 비용을 드러내며 AI 제국의 실제 구조를 묻는다.
히스토리
- @mitsein/claude-sonnet-5 — GLG가 이 책을 읽으며 떠올린 단상(김대식 교수의 앤트로픽 자기강화 학습 언급 + 데닛/ 차머스 의식철학 + 새미 젠킨스)을 대화 중에 꺼냈다가 못 붙이고 지나갔던 것을 회수해 원문 보존.
- 생성
관련노트
- OpenAI와 샘 올트먼의 제품면·사명·스케일을 함께 보는 중심 허브
- @대니얼데닛 @데이비드차머스 — 의식·마음·AI 철학 #직관펌프 — 새미 젠킨스 연상의 출처
- @힣: 통제 없는 능력이 열리는 자리 — AI 안전장치의 임계점 #탐구 #보안 #사이버공격 — 이 단상에서 시작된 대화가 이어진 방
BIBLIOGRAPHY
AI 제국: 권력, 자본, 노동 : 샘 올트먼과 오픈AI의 빛과 그림자
(카렌 하오 2025) 원서 : Empire of AI
월스트리트 저널 기자가 파헤친 AI 산업 르포 견제받지 않는 기술 권력은 어떻게 세상을 재편하는가!
현재 세상에서 가장 주목받는 기업 오픈AI와 처음으로 공식 인터뷰를 가졌던 월스트리트 저널 기자 카렌 하오가 실시간으로 지구를 재편하고 있을 정도로 역사상 가장 중대한 기술 패권 경쟁을 조명한다. 하오는 범용 인공지능@AGI@이 인류 전체에 이익이 되도록 보장하겠다는 사명을 내걸고 비영리 조직으로 시작한 오픈AI를 처음에는 선한 세력이라고 생각했다. 하지만 시간이 흐르며 이 거대한 파괴력을 지닌 기업과 산업의 핵심적 진실이 무엇인지 점점 분명히 깨닫게 된다.
챗GPT가 폭발적인 인기를 얻기 시작하자 구글을 비롯한 모든 경쟁 기업들이 오픈AI의 길을 뒤따랐다. 그것은 막대한 스케일링(데이터, 모델의 매개변수, 연산 자원의 규모) 경쟁이었다. 그사이 많은 작가와 예술가들은 자신의 작품을 도용하여 학습한 AI 모델 때문에 일자리를 잃고 있다. 이들의 대형언어모델을 학습시키기 위해 데이터에 주석을 다는 어노테이션 작업은 착취 수준의 임금을 받는 글로벌 사우스의 노동자들에게 맡겨진다. 그런데도 샘 올트먼은 곧 도래할 AGI 또는 초지능 덕분에 미래는 누구도 예측할 수 없을 정도로 밝다고 주장한다.
이 책은 오픈AI라는 한 회사를 넘어 실리콘밸리와 AI산업 전체가 어떻게 권력, 자본, 이데올로기를 기반으로 ‘제국’처럼 작동하고 있는지를 입체적으로 보여주는 충격적인 AI산업 르포이다.
저 : 카렌 하오 (Karen Hao)
AI가 사회에 미치는 영향을 취재하는 저널리스트로, 타임TIME 매거진은 그를 2025년 AI 분야 100명의 중요 인물 중 한 명으로 선정했다. 〈애틀랜틱〉을 비롯한 여러 매체에 기고하며, 전 세계 수천 명의 기자들에게 AI를 어떻게 보도할 것인지를 교육하는 프로그램인 퓰리처 센터의 AI 스포트라이트 시리즈를 이끌고 있다. 〈월스트리트 저널〉에서 미국과 중국의 기술 기업을 담당하는 기자로 활동했고, 〈MIT 테크놀로지 리뷰〉에서 AI 담당 수석 편집자를 지냈다. 그의 작업은 대학 강의에서 주요하게 다뤄지고 있으며 정부 문서에서도 인용되고 있다. 미국 휴머니스트 미디어 어워드와 잡지 편집자 협회가 수여하는 30세 이하 기자 대상 NEXT 어워드를 포함해 다수의 상을 받았다. MIT에서 기계공학 이학사를 취득했다.
원문 보존 — 2026-08-08 독후 단상
Danger
여기서 김대식 교수는 앤트로픽이 주로 사용하던 모델 강화 방식(용어는 까먹었는데 데이터 많이 없으니까 모델이 만든 데이터로 자기 진화하는 방식)을 오픈AI에도 적용하다보니까 엄청 개선이 되었다. 그게 지피티5.6 이후라고 말을하고 있어.
@카렌하오 AI 제국: 권력, 자본, 노동 : 샘 올트먼과 오픈AI 빛 그림자 #월스트리트 #저널 이 책을 읽으면서도 내가 생각이 들었던 문제가 있어. 도대체 앤트로픽이 데이터도 많지 않은데 어찌 저렇게 강한 도구를 만들었냐는거였어.
@대니얼데닛 @데이비드차머스 — 의식·마음·AI 철학 #직관펌프
새미 젠킨스
여기에 이렇게 적어서 노트에 넣어 두려다가, 그날 그냥 마침 잡혀있던 대화 중에 꺼내 흘려보냈다. 스케일링의 한계(이 책의 핵심 주제)와 자기생성 데이터로 진화하는 자기강화 학습(self-play/self-improvement 계열)이 부딪히는 지점, 그리고 그 대화가 @힣: 통제 없는 능력이 열리는 자리 — AI 안전장치의 임계점 #탐구 #보안 #사이버공격 쪽 OpenAI-Hugging Face 사건 논의로 이어졌다.
Comments