History
- 이분의 책이 매우 중요하다.
- 컴퓨x
Related-Notes
BIBLIOGRAPHY
브라이언 크리스천. 2021. 인간적 Ai를 위하여 - Ai에 윤리를 심기 위한 철학과 공학의 거대한 도전. Translated by 이한음. https://www.yes24.com/product/goods/143553475.
브라이언 크리스천, and 톰 그리피스. 2018. 알고리즘, 인생을 계산하다 : 컴퓨터 과학. Translated by 이한음. http://www.yes24.com/Product/Goods/58815816.
저 : 브라이언 크리스천 (Brian Christian)
브라운대학교에서 컴퓨터과학과 철학을 공부하고, 워싱턴대학교에서 시작(詩作)으로 문학 석사 학위를 받았다. 현재 기술과 사회, 문화, 인공지능 및 심리 분야에서 가장 주목할 만한 젊은 저술가로 촉망받고 있다. 구글, 마이크로소프트, 런던정경대학 등에서 강의한 바 있으며, [월스트리트저널], [가디언], [와이어드] 등 대중 매체와 [인지과학]과 [파리 리뷰]를 비롯한 과학 전문 저널과 문학 저널에 기고하고 있다. …
저 : 톰 그리피스 (Tom Griffiths)
UC버클리대학교의 심리학 및 인지과학 교수로서, 컴퓨터 인지과학 연구실을 맡고 있다. 인지심리학에서 문화적 진화에 이르기까지 다양한 분야의 논문 150편 이상을 발표했고, 국립과학재단, 슬로언재단, 미국심리학회, 심리작용학회 등에서 다양한 상을 받았다. 컴퓨터과학으로 사람들이 매일 부딪히는 일상의 문제를 해결하는 방법과 미래를 예측하고 인과관계를 학습하는 법을 연구하고 있다.
컴퓨터과학 알고리즘 삶의 문제
- Algorithms to Live by: The Computer Science of Human Decisions
브라이언 크리스천 and 톰 그리피스 이한음 2018 (브라이언 크리스천 and 톰 그리피스 2018)
“나는 인생의 모든 답을 컴퓨터과학에서 배웠다!” 수많은 오류가 넘치는 세상, 틀린 답을 피해가는 가장 똑똑한 방법
- “집을 사려고 할 때, 몇 채의 집을 본 후에 계약하는 것이 좋을까?”
- “이 사람과 결혼하는 것이 최선일까? 더 나은 사람이 어디선가 날 기다리고 있지는 않을까?”
- “어디쯤 내 차를 주차할 공간이 있을까? 목적지에서 가까운 곳? 아니면 적당히 먼 곳?”
- “한창 주가를 올리고 있는 S전자 주식, 언제 팔아야 손해 보지 않고 최대 이익을 얻을까?”
컴퓨터과학의 알고리즘이 일상에서 발생하는 사소하고도 다양한 문제 해결의 실마리가 될 수 있다면? 컴퓨터를 위해 개발한 알고리즘은 우리가 부딪히는 문제들을 해결하는 데에도 도움이 될 수 있다. 브라이언 크리스천과 톰 그리피스가 저술한『알고리즘, 인생을 계산하다』는 인생의 거의 모든 문제를 해결하는 데 도움을 주는 11가지 알고리즘을 친절하게 알려준다.
서문 인생의 거의 모든 문제를 해결하는 알고리즘
제1장 살펴보는 일을 멈춰야 할 때 _ 최적 멈춤
제2장 가장 최신의 것 vs 가장 좋은 것 _ 탐색/이용
제3장 질서를 찾다 _ 정렬하기
제4장 잊어라 _ 캐싱
제5장 중요한 것부터 하라 _ 일정 계획
제6장 미래 예측 _ 베이즈 규칙
제7장 생각을 덜해야 할 때 _ 과적합
제8장 그냥 넘어가자 _ 완화
제9장 우연에 맡겨야 할 때 _ 무작위성
제10장 어떻게 연결할 것인가 _ 네트워킹
제11장 남들의 마음 _ 게임 이론
책 속으로
우리는 지원자 수가 늘수록 최고의 사람을 뽑을 확률이 꾸준히 낮아질 것임을 직관적으로 안다. 예를 들어, 우리가 지원자 100명 중에서 무작위로 골라 고용한다면 성공 확률은 1%가 될 것이고, 100만 명 중에서 그렇게 한다면 0.0001%가 될 것이다. 그러나 놀랍게도 비서 문제의 수학은 한결같다. 최적 전략을 따라서 멈춘다면, 지원자 100명 중에 가장 나은 사람을 뽑을 확률은 37%다. 그리고 믿기 힘들지 모르지만, 지원자가 100만 명일 때에도 여전히 37%다. 따라서 지원자 수가 더 늘수록, 최적 알고리즘을 아는 것이 더욱더 가치가 있다. 대체로 건초 더미에서 바늘을 찾아낼 정도로 가능성이 적다는 것은 분명하지만, 최적 멈춤 전략은 건초 더미가 아무리 커도 그것에 대처하는 최고의 방어 전략이 된다. --- p. 33
아마 노년기를 수십 년에 걸쳐 모은 지식을 이용할 기회라고 여김으로써 얻게 될 가장 심오한 깨달음은 이것이 아닐까? 삶은 시간이 흐를수록 더 나아져야 한다는 것. 지식을 얻기 위해 탐색자가 내놓는 것은 즐거움이다. 앞서 살펴보았듯이, 기틴스 지수와 신뢰 상한 알고리즘은 덜 알려진 대안들의 매력을 우리가 실제로 기대하는 것 이상으로 부풀린다. 즐겁고 놀라운 대안을 발견하면 몇 배 더 큰 보상을 얻을 수 있기 때문이다. 그런 한편으로 이것이 대부분의 상황에서는 탐색이 반드시 실망으로 이어지기 마련임을 의미하기도 한다. 선호하는 것에 주의를 집중하면 삶의 질은 높아져야 한다. 그리고 실제로 그런 듯하다. --- p. 33
이로부터 우리는 정렬할 때 고통과 괴로움을 최소화하는 방법이 오로지 ‘정렬해야 할 항목의 수를 최소화하는 것이 아닐까?’ 하고 추론할지도 모르겠다. 그 말이 맞다. 양말 정렬을 계산하는 어려움을 예방하는 가장 좋은 방법 중의 하나는 그저 빨래를 더 자주 하는 것이다. 한 예로, 빨래를 3배 더 자주 하면, 정렬의 총비용을 9분의 1로 줄일 수 있다. 만약 힐리스의 방 친구가 자신의 별난 방식을 고집한다고 해도 세탁을 14일마다 하는 대신에 13일마다 했다면, 빨래 바구니에서 양말을 꺼내는 횟수가 28번이나 줄어들었을 것이다.(그리고 세탁 간격을 하루 더 늘리면 3 0번을 더 꺼내야 할 것이다.) 그렇게 그리 심하지 않은 2주 단위만 해도, 정렬의 규모가 감당할 수 없이 커지기 시작한다는 것을 알 수 있다. 하지만 컴퓨터는 한 번에 수백만 가지의 항목을 일상적으로 정렬해야 한다. 영화 〈조스Jaws〉의 대사를 인용하자면, 그러려면 더 커다란 배가 필요할 것이다. 더 나은 알고리즘도. 하지만 정렬을 어떻게 해야 하고, 어느 방법이 가장 나은가 하는 질문에 답하려면, 먼저 알아내야 할 것이 있다. 어떻게 기록할 것이냐다.--- p. 119
요컨대 자기 조직화 목록의 수학은 급진적인 무언가를 시사한다. 당신의 책상에 가득 쌓여 있는 서류 더미는 죄책감을 일으키는 혼돈의 산물과는 거리가 멀며, 사실상 가장 잘 설계된 가장 효율적인 구조 중의 하나라는 것이다. 남들에게는 정리 안 된 쓰레기 더미처럼 보일지라도, 사실 그것은 자기 조직화 더미다. 꺼냈던 것을 더미 꼭대기에 던져놓는 것은 미래를 알지 못하는 상태에서 당신이 할 수 있는 최고의 행동이다. 앞 장에서 우리는 무언가를 정리하지 않고 놔두는 것이 시간을 들여서 모든 것을 정렬하는 것보다 더 효율적인 사례들을 살펴본 바 있다. 하지만 여기서는 정리할 필요가 없는 전혀 다른 이유가 있다. 이미 정리를 했으니까.--- p. 185
예를 들어, 각 과제가 기다리는 고객을 나타낸다면, 가능한 한 그들의 전체 시간을 줄일 방법이 있다. 4일짜리 과제와 1일짜리 과제를 하나씩 일정표에 담고서 월요일 아침을 시작한다고 하자. 목요일 오후에(4일이 지난) 큰 과제를 전달한 다음 금요일 오후에(5일이 지난) 작은 과제를 전달한다면, 고객은 총 4+5=9일을 기다리는 셈이 될 것이다. 하지만 순서를 뒤집어서, 월요일에 작은 과제를 전달하고 금요일에 큰 과제를 전달하면, 고객은 총 1+5=6일만 기다리면 된다. 어느 쪽이든 간에 당신은 주중 내내 일하지만, 고객의 시간에서 총 3일을 절약해주는 게 된다. 일정 관리 이론가들은 이 척도를 ‘완료 시간의 총합sum of completion times’이라고 한다. 완료 시간의 총합을 최소화하는 것은 ‘최단 처리 시간Shortest Processing Time’이라는 아주 단순한 최적 알고리즘으로 이어진다. 언제나 가장 빨리 끝낼 수 있는 과제를 먼저 하라는 것이다.--- p. 206
결과적으로, 좋은 예측에는 좋은 사전 확률이 필요하다. 여기에는 많은 중요한 의미가 함축되어 있다. 우리의 판단은 우리의 기댓값을 드러내며, 우리의 기댓값은 우리의 경험을 드러낸다. 따라서 미래를 예측할 때, 우리는 많은 것을 드러내는 셈이다. 자신이 살고 있는 세상과 자신의 과거에 관한 것들을 말이다. --- p. 270
출판사 리뷰
“알고리즘은 절대 후회하지 않는다!”
평생의 짝을 찾는 일부터 주차장의 빈자리를 알아보는 방법까지,복잡한 인생을 쉽게 계산하는 컴퓨터과학의 힘
우리는 한정된 시간과 공간의 제약을 받고 살아간다. 그리고 그 속에서 수많은 문제들이 생겨난다. 우리는 무엇을 해야 하고, 무엇을 하지 말아야 할까? 내 공간의 느슨하고 흐트러진 모습을 얼마나 용납할 수 있을까? 새로운 것(사람)과 기존의 친숙한 것(사람) 사이에 어떻게 균형을 잡아야 가장 만족스러운 삶을 살 수 있을까? 이런 문제들이 인간만의 것으로 보일지도 모르지만 사실은 그렇지 않다. 컴퓨터도 똑같은 제약들에 속박되어 있다. 프로세서가 최소한의 시간과 비용으로 사용자들이 요구하는 모든 과제를 수행하려면 어떤 식으로 ‘주의(intention)‘를 배분해야 할까? 과제 사이의 전환은 어떻게 해야 하고, 애초에 과제를 얼마나 많이 떠맡아야 할까? 한정된 기억 자원을 활용하는 최선의 방법은 무엇일까? 자료를 더 모아야 할까, 아니면 이미 가지고 있는 자료를 토대로 행동해야 할까? 촉망받는 기술과학 관련 베스트셀러 저자이자 컴퓨터공학자, 철학자인 브라이언 크리스천과 UC버클리대학교 인지심리학 교수인 톰 그리피스는 기존의 문제 해결 구조와는 전혀 다른 새로운 사고의 구조인 ‘컴퓨터과학의 알고리즘’을 우리의 선택 문제에 대입한다. 연산의 충돌 문제, 빠른 처리 능력을 위한 최적의 선택, 집중, 자원 분배, 타이밍 등을 고려해 만들어진 컴퓨터과학의 알고리즘 구조야말로 우리가 다양한 환경 속에서도 최적의 선택을 하고 문제를 해결할 수 있는 적절한 해답을 도출할 수 있도록 도와준다고 주장한다. 저자들은 “알고리즘은 절대 후회하지 않는다”고 말하며 컴퓨터과학의 힘을 믿어보라고 권한다. 컴퓨터과학의 알고리즘이 우리의 복잡한 인생에 산적해 있는 문제들을 단숨에 해결해줄 것이라고 말하면서 말이다.
“0과 1로 만들어지는 세상, 우리에겐 심리치료사보다 알고리즘이 필요하다”
컴퓨터를 위한 알고리즘 설계에서 사람을 위한 알고리즘 활용까지우리가 일상을 보낼 때 주변에 보이는 근심 걱정이 가득한 모든 사람들-자신이 가진 비용에서 최적의 집을 구해야 하는 임차인, 주차장을 찾는 운전자, 평생의 짝을 찾아 헤매는 구혼자 등-은 모두 주어진 시간 안에서 최적의 선택을 하기 위해 노력하고 있다. 그러다 보니 스트레스를 받고 이상 행동을 보이기도 한다. 심리치료사는 그들에게 충동적인 태도를 멈추고 생각을 많이 하지 말 것을 권유하며 적절하면서도 편안한 마음의 균형을 찾으라는 애매모호한 말로 위로한다. 그러나 알고리즘은 단호하게 말한다. 그 균형이 바로 37%라고 말이다. 이처럼 매일 선택의 기로에 놓이는 우리에게 필요한 것은 심리치료사가 아니라 알고리즘이다. 정말 알고리즘을 인간의 삶에 적용하는 게 가능한 일일까? 오늘날의 컴퓨터는 단순한 산수 문제를 뛰어넘어 사람과 대화하거나 손상된 파일을 고치거나 사람과의 바둑에서 이기는 일을 해내는 것을 도전 과제로 삼고 있다. 이런 과제들은 규칙이 명확하지 않거나, 필요한 정보 중 일부가 빠져 있거나, 정답을 찾으려면 천문학적인 수의 가능성들을 찾아봐야 하는 문제들이다. 그리고 연구자들이 가장 어려운 부류의 문제들을 풀기 위해 개발한 알고리즘이 쓰이면서 컴퓨터는 철저한 계산에 극도로 의지하던 양상에서 점점 더 벗어나왔다. 우연을 받아들이고, 정확성을 희생시켰지만, 대신에 시간을 단축하고 근삿값을 사용하면서 풀어야 하는 현실세계의 과제들을 다루는 쪽으로 발전해 오늘날 인간의 삶에 적용할 수 있게 되었다. 그렇다면 알고리즘은 어떻게 우리 문제를 해결해줄 수 있을까?
“이제 철학의 시대는 끝났다! 디지털 세상을 살아가기 위한 또 하나의 지혜!”
가장 빠르게, 합리적인 선택을 만드는 알고리즘 사용설명서이 책은 ‘알고리즘 설계’라는 개념을 제안하며, 복잡한 문제를 가장 빠르게 해결하고 합리적인 선택을 만드는 방법을 알려준다. 책에서 소개하는 11가지 컴퓨터과학의 알고리즘은 다음과 같다.
- 최적 멈춤 : 시간의 흐름이 모든 의사 결정 문제를 최적 멈춤 문제로 바꾼다. 어떤 선택도 두 번 다시 할 수는 없다. 그럴 때 바로 ‘최적 멈춤’이 필요하다. 최적 멈춤은 우리가 살펴볼 때는 언제이고 뛰어들 때는 언제인지 알려준다.
- 탐색/이용 : 자신에게 남은 시간이 얼마나 되는지 예민하게 의식하게 될 때, ‘탐색/이용’이 필요하다. 탐색/이용은 왜 우리가 노인의 조언을 받아들여야 하는지도 알려준다. 수십 년에 걸친 탐색을 통해 모은 보석 같은 정보이기 때문이다.
- 정렬하기 : 정렬하기는 사무실을 어떻게 정리할지, 양말 짝은 어떻게 맞춰야 할지, 도서관의 책들을 어떻게 꽂아야 할지 알려준다. 어떤 문제라도 기준을 정하면 정렬을 확장하는 계산 문제로 바뀌면서 풀린다.
- 캐싱 : ‘캐싱’은 컴퓨터의 기억 구조에서 중요한 역할을 하며 인간 삶의 온갖 저장 체계와 기억 은행을 보는 새로운 관점을 제시한다. 나이를 먹을수록 무언가를 떠올리는 데 시간이 걸리기 시작할 것이다. 안심하라. 시간 지연의 길이는 당신이 얼마나 많은 경험을 했는지 알려주는 지표이기도 하니까.
- 일정 계획 : 생산성을 올리고 여유로운 삶을 위해서 꼭 필요한 것이 바로 ‘일정 계획’이다. 시간을 배분하는 다양한 알고리즘을 통해 우리는 일과 인생의 균형을 맞춰갈 수 있다.
- 베이즈 규칙 : ‘베이즈 규칙’이란 한 사건이 발생했을 때 이 사건을 근거로 알고자 하는 사실의 가능성을 추측하는 것이다. 우리는 베이즈 규칙을 써서 사람들의 기댓값을 알아냄으로써 세계에 관한 간접적인 조사를 수행할 수 있다.
- 과적합 : 가장 단순한 것이 최고의 계획일 수도 있다. 우리의 기댓값이 불확실하고 자료에 잡음이 많을 때, 최선의 방안은 폭넓게 생각하는 것이다. 이렇듯 ‘과적합’ 상태에 놓인다면 생각을 덜해야 한다.
- 완화 : 아무리 기술이 발달해도 본질적으로 완벽한 해결책에 도달할 수 없는 문제 유형들이 있다. 최적 해법에 도달할 수 없는 문제들에 접근하는 최선의 방식은 바로 ‘완화’이다. 우리는 완화를 통해 현실과 실제로 타협할 수 있게 되며 완벽함을 추구하느라 하염없이 세월을 보내지 않을 수 있다.
- 무작위성 : 무작위 알고리즘은 때로 모든 결정론적 알고리즘보다 더 빨리 어려운 문제의 좋은 근사적 해답을 내놓을 수 있다. 인생도 마찬가지다. 때로 철저히 추론하여 답을 얻으려고 하기보다 그저 우연에 맡기는 것이 어떤 문제에 대한 최고의 해답일 수 있다.
- 네트워킹 : 메시지가 전달되고 있는지 어떻게 알 수 있는가? 네트워킹 버퍼가 가득 차면 모든 패킷을 그냥 거부함으로써 사실상 삭제한다. 우리 인생도 마찬가지다. 누군가의 기다림이 길어지게 하지 말라. 기다릴 수 있을 만큼만 줄을 세워라. 기다릴 수 없을 것 같다면 거부하라. 그래도 달라지는 것은 없다.
- 게임 이론 : 모든 게임에는 경쟁자가 있다. 우리는 경쟁 상대의 반응을 고려해 자신의 최적 행위를 결정해야 하는 상황에서 의사 결정을 내려야 한다. 컴퓨터과학의 게임 이론은 말한다. “전략을 바꾸어도 도움이 되지 않는다면 게임 자체를 바꾸려고 시도하라.” 무엇보다 정직이 우선인 게임을 찾는 것이 가장 좋다.
삶은 어려운 문제들로 가득하다. 그리고 사람들이 저지르곤 하는 실수는 사람 뇌의 오류 가능성보다는 그 문제가 지닌 어려운 측면들에 관해 더 많은 것을 알려주곤 한다. 이제 이런 문제들을 철학으로 해결하는 시대는 저물어가고 있다. 세상은 알고리즘으로 움직인다. 알고리즘 관점에서 세상을 바라보고, 우리가 직면한 문제의 기본 구조와 그 해결책의 특성을 알아낸다면, 우리는 자신이 실제로 얼마나 문제를 잘 해결하고 있는지를 간파하고, 자신이 어떤 오류를 저지르는지 더 잘 이해할 수 있을 것이다. 이 책은 알고리즘을 통해 우리가 어떻게 하면 직감을 더 향상시킬 수 있는지, 일을 우연에 내맡겨야 할 때가 언제인지, 선택의 여지가 지나치게 많은 상황에 어떻게 대처할지, 남들과 관계를 맺는 좋은 방법은 무엇인지 등을 설명한다. 평생의 반려를 찾는 일부터 주차 공간을 찾는 일에 이르기까지, 이메일을 정리하는 방법에서 기억의 작동 방식을 이해하기에 이르기까지, 컴퓨터과학에서 얻은 지혜를 삶을 살아가는 전략으로 탈바꿈해보자. 컴퓨터과학의 알고리즘을 통해 얻은 깨달음이 우리의 일상을 바꾸고, 다른 사람의 마음은 물론 자신의 마음을 이해하는 데 큰 도움을 줄 것이다.
정렬의문제 인공지능 머신 러닝
- The Alignment Problem: Machine Learning and Human Values
(브라이언 크리스천 2021) 브라이언 크리스천 이한음 2021
책소개
인스타그램 공동 창업자 “지금 우리에게 필요한 책.” 마이크로소프트 CEO “내게 영감을 준 책.” AI에 대해 당신이 궁금해할 모든 질문에 답한다!
인간은 스스로를 불완전한 존재로 여긴다. 그런데 그 인간이 탄생시킨 AI는 완전해 보이기까지 한다. AI를 자랑스러워하면서도 두려워하는 인간의 양면성이 존재하는 이유다. 그렇게 AI에 대한 논의는 맹렬히 불붙었다. 그 논의는 기술의 발전 문제를 떠나 윤리와 도덕, 철학에서 답을 구하는 데 이르렀다. 이 미래의 ‘과거로 향한’ 움직임은 인간이 의도한 목표와 AI의 작동을 정렬시키는 ‘정렬의 문제’로 현재와 미래의 화두가 됐다.
『인간적 AI를 위하여』는 이 ‘정렬의 문제’에 대한 ‘거의 모든’ 학문적 접근을 담은 책이다. AI의 공정성부터 데이터 편향, 인간 행동에 AI가 미치는 영향 등에 대한 질문에 철학자, 공학자들이 답하는 형식이기 때문이다. AI에 대해 지나친 두려움과 대책 없는 낙관 사이에서 가장 중심을 잘 잡은 책으로 볼 수 있는 이유다. 또한 딥 페이크, 자율 주행 차량, AI 면접관, 원격 의료 등 지금 우리에게 가장 중요한 AI 기술에 대한 사례도 풍부하다. 이러한 사례를 통해 AI가 가져올 인간의 미래를 학자들은 어떻게 점치는지를 알 수 있다.
1부_예언들(“인간은 AI가 학습하는 세계를 잘 표본화하는가?“)
I 예언들 Prophecy - 표현 Representation 17 - 공정 Fairness 51 - 투명성 Transparency 82
1장_표현
2장_공정
3장_투명성
2부_행위자(“현실 세계와 AI 세계를 정렬하기 위해 인간은 어떤 노력을 하는가?“)
II Agency 4. 강화 Reinforcement 121 5. 조형 Shaping 152 6. 호기심 Curiosity 181
4장_강화
5장_조형
6장_호기심
3부_규범성(“AI의 발전을 위해 인간에게 필요한 자격은 무엇인가?“)
- III 규범성 Normativity 7. 모방 Imitation 213 8. 추론 Inference 251 9. 불확실성 Uncertainty 277
7장_모방
8장_추론
9장_불확실성
결론 / 고마움의 말 / 주 / 참고문헌
책 속으로
구글 포토의 사진 인식 툴은 사진을 주제별로 자동 분류해 앨범마다 제목을 달았다. 어떤 앨범에는 “졸업”이란 제목이 붙었다. 앨신은 사진 속 동생이 쓴 학사모를 식별했음을 알고 깊은 인상을 받았다. 그런데 어떤 앨범에 붙은 제목을 보고 얼어붙었다. 앨범에는 친구랑 같이 찍은 사진이 있었다. 참고로 앨신은 아이티계 미국인어서 사진 속 둘은 모두 흑인이었다. “고릴라” 이게 앨범 제목이었다. --- 「1부 1장 “표현”」 중에서
예를 들어, 가장 무모한 운전자를 남성이라 파악하는 예측 툴이 있다고 하자. 결과적으로 남성 운전자를 공격적으로 단속하면 그들의 무모함이 상당히 줄어들 수 있다. 하지만 여성 운전자는 자신이 단속당할 가능성이 더 적음을 깨닫고 무모하게 운전할 수도 있다. 결과적으로 도로는 평균적으로 덜 안전해진다. 하코트는 이렇게 썼다. “과거나 현재, 미래의 범죄에 더 높은 점수를 부여하는 것이 법 집행의 핵심 목적, 즉 범죄를 최소화한다는 목적에서는 완전히 역효과를 낳을 수도 있다.” --- 「1부 2장 “공정”」 중에서
무엇보다도 우리가 의사 결정을 ‘통계 모형에 떠맡길 때’ 직면할 수많은 문제가 무엇이든 간에, 인간의 판단만 고집하는 것 역시 바람직한 방안이 아니라고 시사하는 듯하다. 또한 인간의 예측 능력에 맞먹거나 더 나은 예측을 하는 데 굳이 복잡하고 정교한 모형까진 필요하지 않다는 점도 시사하는 듯했다. 그러나 여기에는 감질나는 질문 몇몇이 숨었다. “이 놀라운 결론은 대체 무엇을 설명하는 걸까?”, “인간의 판단은 정말로 나쁜 걸까?”, “몇 개의 변수를 쓰는 단순한 선형 모형이 정말 좋은 걸까?”, “우리가 예상하지 못한 어떤 지점에서, 인간의 지식이 그 단순한 선형 모형에 들어간 것은 아닐까?”, “아니면 인간이 엉뚱한 곳을 보던 게 아닐까?” --- 「1부 3장 “투명성”」 중에서
자전거를 타고 아무렇게나 돌아다니다 목적지에 다다를 가능성은 아주 낮았기에, 연구진은 자전거가 목적지에 조금이라도 더 가깝게 다가갈 때면 낮은 점수를 주기로 했다. 그러자 놀랍게도 시스템은 출발점에서 20~50미터의 반지름을 그리면서 빙빙 돌았다. 목적지에서 멀어질 때 문제를 빠뜨린 탓이었다. 시스템이 그 허점을 발견했고, 어지러웠겠지만 거침없이 허점을 계속 사용했다. --- 「2부 5장 “조형”」 중에서
“정확히 운전하는 사례만 보여 줘서는 안 된다. 실수했을 시 복구(즉, 차선 중앙으로 돌아오는)하는 사례도 보여 줘야 한다,” 그런데 그게 어떻게 가능할까? 가장 먼저 떠오르는 방법은 일부러 차를 어긋나게 몰았다가 돌아오는 것을 보여 주는 것이다. 물론 차선을 이탈하는 첫 장면을 보여 줘서는 안 된다. 차선 이탈까지 훈련하지 않도록 말이다! (…) 포멀로는 앨빈의 카메라에 찍힌 실제 사진을 뽑아서 도로가 살짝 기운 것처럼 조작했다. 그리고 차선 안쪽으로 살짝 운전대를 돌린 후 직진하라는 명령문과 함께 도로 사진을 훈련 데이터에 집어넣었다. 일종의 해킹이었지만 아무튼 I-79 도로에서는 먹혔다. --- 「3부 7장 “모방”」 중에서
“기계에다가 네 자신의 목표를 추구하라 하지 않고, 우리 목표를 추구하라고 하면 어떨까요? 이게 우리가 줄곧 했어야 할 일이 아닐까요?” --- 「3부 8장 “추론”」 중에서
“제가 개 사진을 한 무더기 주고서 품종 분류 툴을 만들라는 과제를 낸다 치죠. 그리고 이 사진을 툴로 분류하라 해요.” 그런데 사실 개가 아니라 고양이 사진이었다. “당신은 모형이 사진을 어떻게 분류하기를 바라나요? 당신이 어떤 사람인지는 모르지만, 툴이 고양이 사진을 개라고 분류하기를 원치 않을 거예요. 대신 전혀 보지 못한 사진이라고, 데이터 바깥에 있다라는 반응을 원할 겁니다. 제가 든 예가 극단적일 수도 있어요. 그런데 의사 결정에서는 이런 상황이 계속 나타나요. --- 「3부 9장 “불확실성”」 중에서
출판사 리뷰
“AI 채용관이 당신을 불합격시킨다면 인정하겠는가?” “AI가 인간의 결정을 바꾸는 것은 긍정적인가?” AI에 관한 모든 의문에 명쾌한 해답을 줄 최고의 책!
우리의 기술은 행동을 명시적으로 지정하는 소프트웨어에서 예시를 학습하는 머신 러닝으로 이동하고 있습니다. 그들이 올바른 예시를 올바르게 학습하고, 우리가 원하는 방식으로 행동할 것이라 어떻게 확신할 수 있을까요? - 저자가 언론사 인터뷰에서 남긴 말.
AI와 인간의 관계가 어떻게 흘러갈지에 대한 궁금증이 최고조인 지금, 『인간적 AI를 위하여』는 그 궁금증에 꼭 필요한 지식과 해답을 제공한다. AI 시대를 맞아 우리가 진정으로 주목해야 할 점이 무엇인지, 실제로 어떤 행동을 해야 하는지를 과학과 철학까지의 관점을 정리해 제시하기 때문이다. 과학과 철학의 관점을 쉽게 전달하기 위해, 저자는 가장 원초적인 질문을 과학자와 철학자에게 던지는 방식으로 책을 진행한다. “AI 채용관이 당신을 불합격시킨다면 인정하겠는가?”, “AI가 인간의 결정을 바꾸는 것은 긍정적인가?” 우리가 가장 궁금해할 질문들 아닌가? 그 답이 이 책에 있다. 그 답을 내놓는 과정에 대한 생생한 사례도 담았다.
‘단어 임베딩’ 툴을 불러내 아무 단어나 입력하기 시작했어요. 나는 내 랩톱으로 했고, 애덤도 따라 했죠.” 그때 일이 벌어졌다. 그들은 이렇게 입력했다. “의사-남자+여자” 답은 이랬다. “간호사” 칼라이는 말했다. “우리는 충격을 받았고, 문제가 있음을 깨달았어요. 더 깊이 파고들자 문제가 더욱 심각하다는 것이 드러났어요.” 다시 시도해 봤다. “상점 주인-남자+여자” 돌아온 답은 이랬다. “가정주부”(“서문” 중에서)
『인간적 AI를 위하여』는 총 3부로 진행된다. 1부에서는 인간의 의도와 설계를 벗어난 AI의 사례를 들면서, AI 설계의 ‘복잡성’에 얽힌 어려움과 해결 시도를 소개한다. 2부에서는 AI의 학습을 이야기한다. 우리가 익히 아는 ChatGPT 등의 AI가 어떻게 학습하는지, 더욱 효과적인 학습을 위해 인간이 어떠한 시도를 하는지 소개한다. 그 시도는 진화, 인간의 동기까지 고려해야 하는 섬세한 작업이므로, 철학에 대한 논의와 이해가 필요하다. 3부에서는 AI가 낸 결과와 학습이 ‘공정하고 도덕적’이기 위해 노력하는 인간의 이야기를 담는다. 글과 말로 모두 열거할 수 없는, 인간의 온갖 규범과 가치를 AI에 심는 인간의 모든 도전을 담았다.
“AI, 인간보다 똑똑하되 능가하지 않아야 한다!” 지금 우리에게 가장 필요한 AI 전망서
그렇다면 궁금할 수 있다. AI가 가져오는 미래는 유토피아인지, 디스토피아인지 말이다. 미리 공개하자면 “AI를 둘러싼 과학과 철학은 우리 생각보다 더 치열하게 고민하고, 섬세하게 작업한다”는 것이다. AI 개발과 실행에서 생기는 온갖 문제를 돌아보고 저자가 내린 결론이다. “AI가 인간보다 똑똑하되 능가하지 않기” 위한 도전은 진행 중이고, 멈추지만 않는다면 유토피아가 될 것이라는 이야기다.
그럼 우리가 할 일은 무엇일까? 더 높은 인간성과 도덕성을 효과적으로 AI에 학습시키는 능력을 어떻게 키울 것인지를 고민해야 한다. 인간의 가치를 학습하고 구현하는 ‘인간적인 AI’ 개발은 결국 우리에게 달렸기 때문이다. AI가 써 나갈 미래에서 인간의 자리가 어디인지, 어디까지 앉을 수 있는지에 대한 노력을 읽는다면, 인간의 미래는 밝다. 그 노력을 어떻게 해야 하는지가 바로 이 책에 있다.