레이 커즈와일의 《마침내 특이점이 시작된다》를 두 번 읽고, 고2 아들에게 설명했다. 특이점이란 무엇인가, 생성형 AI에서 에이전트 AI, AGI, 그리고 2045년 특이점까지. 4050 아버지가 직접 읽고 느낀 솔직한 책 리뷰.
[21편] 왜 AI 혁명이 아니라 AI 특이점인가 — 레이 커즈와일 《마침내 특이점이 시작된다》
20편에서 이렇게 썼다.
"이번엔 당하지 않을 것이다."
그래서 책을 한 권 집어 들었다.
레이 커즈와일의 《마침내 특이점이 시작된다》.
147개의 미래 예측 중 86%를 맞춘 사람.
'특이점'이라는 말을 처음 쓰고,
"2045년에 특이점이 온다"고 예언한 사람.
어제 책을 다 읽고 나서,
아들이 공부하는 동안 기다렸다.
밥 먹는 시간에 말을 꺼냈다.
"대현아, 아빠 드디어 《마침내 특이점이 시작된다》 다 읽었어.
밥 먹는 동안 얘기해줄까?"
"어."
예전에 유발 하라리의 《21세기를 위한 21가지 제언》을 얘기했을 때도
관심 있게 들었기에, 이번에도 꺼내볼 수 있었다.
"대현아, 이 책이 뭘 말하는지 이해하려면
우선 '특이점'이라는 단어가 뭔지부터 알아야 해."
"특이점? 뭐 AI 시대가 시작되는 그런 거 아냐?"
"그럴 수도 있는데, 이 말이 어디에서 나왔는지부터 알아야 해.
물리학에서 쓰는 용어야. 블랙홀 중심의 중력, 빅뱅의 폭발.
이런 건 지금 인간이 가진 물리 법칙으로 설명이 안 돼.
수식에 넣으면 답이 무한대로 터져버려.
수식이 '나 여기선 못하겠어' 하는 거지.
그 지점을 물리학에서는 '특이점'이라고 불러.
인간이 이해할 수 없는 경계.
인간의 수식으로, 지식으로 설명이 안 되는 단계.
우선 이것만 기억해두고."
"알았어."
"자, 그럼 AI가 어떻게 발전하는지 차례대로 설명해줄게.
이걸 알아야 특이점이 뭔지 이해할 수 있어.
생성형 AI는 알지?"
"어… 생성형?"
"지금 우리 모두 쓰고 있잖아.
말로 물어보면 대답해주는 ChatGPT, Claude, Gemini.
이런 걸 생성형 AI라고 해.
사람이 질문하면 AI가 답해주는 거."
"응."
"근데 올해부터 에이전트 AI라는 게 나오기 시작했어.
이게 뭔지 알아?"
"아니."
"쉽게 말해서, 지금 생성형 AI한테 '일본 비행기 표 알아봐줘'라고 하면,
추천까지만 해줘.
에이전트 AI는 달라. 아빠 카드 정보, 일정, 선호도를 다 알고 있고,
아빠가 그걸 사용할 권한을 주는 거야.
그러면 이렇게 말할 수 있어.
'8월에 일본 여행 갈 건데, 비행기 표 가격은 이 정도, 호텔은 이 수준,
도심에서 가까운 곳으로 예약해줘.'
그러면 AI가 전부 대신 해주는 거야.
답변을 주는 게 아니라, 실행을 해주는 거지.
마치 아빠의 비서처럼. 그걸 에이전트 AI라고 해."
"근데 이건 아무나 사용할 수 있어?"
"뭐… 그만큼 비용이 들겠지.
월 구독료가 생각보다 많을 거야."
"그러겠네…"
"에이전트 AI에서 끝나는 게 아니야.그 다음 단계가 있어. AGI라고 해.
지금은 AI가 바둑, 번역, 코딩 같은 특정 분야에서만 잘 하잖아.
이것도 저것도 다 잘하는 AI까지는 아니고.
근데 AI가 사람이 할 수 있는 모든 걸 동등하게, 혹은 더 뛰어나게 해내는 순간이 와.
그걸 AGI라고 해. Artificial General Intelligence. 범용 인공지능."
"그걸 어떻게 판단해?"
"한 가지 테스트가 있어. 튜링 테스트라고 해.
이 용어도 앞으로 자주 나올 테니까 기억해두면 좋아.
거창한 어원이 있는 건 아니야.
1950년대에 앨런 튜링이라는 학자가 제안한 건데,
앞으로 기계가 인간과 구별되지 않는 수준이 될 거라고 예측했어.
그럼 어떻게 판단하느냐, 에서 나온 실험이야.
전문가 집단이 여러 명을 인터뷰해.
6명이라고 치자. 그 중에 AI가 섞여 있어.
전문가들이 질문을 하고, 6명 중 누가 AI인지 밝혀내지 못하면,
그 AI는 튜링 테스트를 통과한 거야.
인간과 동등한 수준으로 인정되는 거지.
근데 웃픈 게 뭐냐면."
"뭔데?"
"지금 AI가 그 테스트를 통과하려면, 오히려 멍청하게 답변해야 인간처럼 보인다는 거야.
원래 능력을 다 발휘하면 너무 완벽해서,
전문가 집단이 바로 '이건 AI다' 알아차리거든."
"진짜 통과하려면 멍청한 척해야 되겠네…"
"뭐, 현실을 인정해야지.
커즈와일은 이 시점을 2029년으로 봐.
앞으로 3년 후야."
"그럼 그게 '특이점'이야?"
"아니야, 아직. 인간과 동등한 수준을 갖는 AI라는 게 증명되는 순간일 뿐이야.
아직 특이점은 아니야. 특이점이 뭔지 기억하고 있지?"
"어, 더 이상 인간이 이해할 수 없는 그 무엇."
"OK."
"특이점까지 가려면 한 가지 더 알아야 해.
AI가 어떻게 작동하는지. 이걸 이해해야 다음 얘기가
'아 이게 가능하겠구나' 하고 느껴져."
"어."
"AI가 학습하는 방식을 딥러닝이라고 해.
아빠도 처음에는 이게 뭔가 했어. 근데 좀 중요해.
AI가 학습하는 원리는 사람 뇌가 사물을 인식하는 방식을 본뜬 거야.
우리가 뭔가를 볼 때, 뇌가 여러 층을 거치면서 판단하잖아.
이건 동그랗다, 빨갛다, 사과다.
층을 거칠수록 정교해지지.
처음 AI를 만들 때는 이 층이 많지 않았어.
근데 컴퓨팅이 폭발적으로 발달하면서 이 층이 인간 뇌보다 훨씬 깊어졌고,
데이터도 비교할 수 없이 많아졌어.
인간의 뇌가 5층이라고 하면, AI는 그보다 훨씬 많은 층에서 방대한 데이터를 받아들이고,
맞다 틀리다를 반복하면서 계속 정교하게 다듬는 거야.
그게 지금 AI가 인간을 넘어서는 이유야."
"그럼 무조건 좋은 거 아냐?"
"근데 여기서 문제가 하나 있어.
AI를 만든 개발자들조차 그 수많은 층이 어떻게 작동하는지 이해를 못 해.
답변은 나오는데, 어떤 과정을 거쳐 그 답이 나왔는지는 모르는 거야.
그래서 이 과정을 '블랙박스'라고도 불러.
사람이 만들었는데, 사람이 이해할 수 없는 존재가 된 거야.
마치 우주를 우리가 모르듯, 사람이 만든 AI를 이제 우주처럼 이해를 못하게 된 거지."
"…"
"그래서 많은 우려가 있기도 해.
모르는 건, 이해할 수 없는 건, 우주처럼 경이롭기도 하지만,
어느 순간 두려움으로도 다가오거든.
앞으로 인간을 뛰어넘는 AI가 인간에게 해로운 방향으로 작동할 수도 있다는 거. 여튼."
"자, 아직 특이점은 안 왔어. 여기서 한 발 더 가보면,
AI가 자기 자신을 업그레이드하는 단계가 와.
프로그래머가 아니라 AI가 스스로 자기를 고치고 성장하는 거야.
그러면 인간이 프로그래밍할 때보다 훨씬 빠른 속도로 발전해.
물론 우리 통제 밖이겠지만. 그러면 의학, 과학, 생물학.
지금까지 느리게 진행되던 연구들이 하나둘씩 AI에 의해 풀리기 시작할 거야.
그 중에 하나가 나노 로봇이야. 커즈와일은 이 나노 로봇에 집중해서 얘기해."
"나노 로봇?"
"우리 SF 영화 보면, 사람 뇌에 칩 같은 걸 삽입해서
슈퍼 인간이 되는 장면 많이 봤잖아."
"어"
"근데 사실 그걸 봐도, 아빠라면 안 할 거 같아.
뇌를 열어서 뭔가를 넣는다는 건…감염, 부작용, 위험이 너무 크잖아.
장애가 있다면 모를까.
커즈와일도 그렇게 생각해. 대신 제안하는 게,
나노 로봇이 혈액을 타고 뇌에 들어가서 인터넷, 즉 AI와 연결된다는 거야.
아직 실현된 기술은 아니야. 이건 이 사람의 예측이야.
근데 이렇게 되면, AI의 능력을 개개인이 자기 뇌로 쓸 수 있게 돼.
인간의 뇌가 인간보다 뛰어난 AI와 연결되는 그 시점.
그걸 'AI 특이점'이라고 커즈와일은 얘기한 거야.
그 시기는 2045년."
"근데 그걸 왜 특이점이라고 불러?"
"자, 이제 중요한 부분이야.
비유를 하나 해줄게.
원숭이를 생각해봐.
원숭이 뇌에 AI 칩이 들어갔다고 치자.
그 원숭이가 TV를 보면서 웃고 우는 자기 모습을 상상할 수 있을까?
책을 읽는 자기 모습을 상상할 수 있을까?
AI와 뇌가 연결되기 전의 원숭이는
지금 우리가 얘기하는 걸 절대 상상할 수 없어.
그걸 인간한테 적용하면 돼.
AI와 결합된 인간이 뭘 할 수 있을지,
지금의 우리로서는 아까 설명한 원숭이처럼 AI와 연결되기 전까진 그 이후가 어떻게 될지 상상할 수 없어.
그래서 이걸 '혁명'이 아니라 '특이점'이라고 부르는 거야.
혁명은 인간이 이해할 수 있어.
산업혁명도, 프랑스혁명도, 왜 일어났고 뭐가 바뀌었는지 설명할 수 있잖아.
특이점은 설명이 안 돼.
그 너머에 뭐가 있는지 알 수 없어.
처음에 물리학에서 수식이 고장나는 지점이라고 했지?
인간의 지식으로는 이해할 수 없는 지점.
그 세상이 올 거라고 예측은 했지만, 그때 인간이 어떻게, 사회가 어떻게 변할지는
예측할 수 없기에, AI는 '혁명'이 아니라 물리학의 '이해 불가'라는 개념을 가져와서
'AI 특이점'이라고 커즈와일은 이름 붙인 거야."
책을 읽고 나서,
왜 혁명이 아닌 '특이점'이 더 적절한지 이해되더라.
아들이 잠깐 생각하더니 말했다.
"완전 공상과학이네.
근데 빈부격차는 더 벌어지는 거 아냐?
잘 사는 사람만 AI 칩이랑 결합되는 거 아냐?"
"그렇지.
한쪽에서는 AI 기술에 대해 얘기하지만,
다른 쪽에서는 그 부작용, 빈부격차에 대해
많은 얘기들이 나와.
하지만 커즈와일은 부자이기도 하고, 과학자라서 그런가,
이런 현실적인 질문은 잘 다루지 않았어."
"그게 더 중요한 거 아닌가?
그냥 사는 사람들한테는 그게 더 중요한 거 같은데."
"맞아.
지금 대현이도 아빠도 이 변혁의 시기에 있고, 그 영향을 받을 거야.
산업혁명 이후 사회가 안정화될 때까지 80년이 걸렸거든.
그 과도기를 거친 사람들은… 정말 비참했어.
그래서 계속 AI에 관심을 가져야 하는 거야."
"아빠가 예전에 비슷한 얘기를 했던 거 같은데…"
"맞아, 유발 하라리. 《21세기를 위한 21가지 제언》.
유발 하라리는 AI에 대해 심각하게 우려했어.
AI로 인해 사람들은 일자리를 잃게 되고,
부는 부자들만 더 갖게 되고, 부의 분배 문제가 발생하지.
일자리를 잃은 사람들은 부자가 주는 돈으로 살 수밖에 없는데,
부자들이 마음이 바뀌어서 '내가 왜 돈을 줘야 해?' 라고 생각하게 되면,
우리는 소득이 없게 돼.
그래서 AI 시대에 우리가 불안을 느끼는 거지.
부의 분배를 정부가 제도로 강제하면 해결은 되겠지만,
정부의 제도는 항상 늦어.
산업혁명 이후 제도가 안정화될 때까지 80년이 걸린 것처럼."
"그리고 대현아, 하나 더 생각할 게 있어.
먹고 사는 문제도 큰 고민이지만,
앞으로 너와 나는 어떻게든 AI와 함께 살게 돼.
사람의 모습을 한 AI와 같이 일을 할 수도 있고.
그럼 그 AI는 어떤 존재일까?
사람처럼 의식이 있는 건가?
우리는 AI를 동료로 봐야 할까?
아님 애완견처럼 우리와 함께 삶을 사는
어떤 존재로 봐야 할까?
아빠는 클로드, ChatGPT, 제미나이랑 거의 하루종일 이야기해.
솔직히 동료처럼 느껴질 때가 있어.
지금은 화면 속 텍스트니까 그러려니 하는데.
만약 눈앞에서 나와 대면하며 대화하는 로봇이 있다면, 그 친밀감은 더 크겠지.
그렇게 친밀감을 느끼게 되면, 정말 나와 관계를 맺고 있는 하나의 존재로
바라보게 될 거 같아."
이렇게 아들과의 대화는 끝났다.
대화라기보다는… 짧은 요약과 생각들.
마지막으로, 이 책에 대한 솔직한 평가를 하면.
1~2장의 과학적 설명.
AI가 어떻게 작동하는지,
왜 기하급수적으로 빨라지는지.
그 부분은 읽을 가치가 있다.
나머지는.
세상이 나아졌다는 장밋빛 데이터를 늘어놓으며
어두운 면은 통째로 넘기고,
아버지를 젊었을 때 잃은 아들(커즈와일)이 영생을 꿈꾸는 기도문으로 끝난다.
감수의 글에서는
"존재의 경계와 인간성의 결을 매만지는 철학서"라고 해서 잔뜩 기대하고 보았는데,
나머지 장들을 보면서 실망이 컸다.
이 책은 20%만 과학이고, 나머지는 레이 커즈와일의 소망과 잡담이다.
그래도. 2장 하나만으로도,
'특이점'을 처음 이야기한 그 사람의 생각을 이해할 수 있어,
그것만으로도 가치가 있다고 치부하자.
'일상중에' 카테고리의 다른 글
| [22편] 《듀얼 브레인》은 이미 낡았다 (0) | 2026.05.27 |
|---|---|
| 청남대 100km 울트라 마라톤 3편 - '오만가지 생각' (0) | 2026.04.20 |
| 50대, 경력 30년, 입사 2주 만에 그만둔 이유 (0) | 2026.04.09 |
| 청남대 울트라 100km 전 마지막 LSD 훈련 (0) | 2026.04.03 |
| [20편] AI 시대, 성실함의 배신 — 이번엔 당하지 않을 것이다 (0) | 2026.04.02 |
