1 00:00:00,000 --> 00:00:03,000 오늘은 『괴델, 에셔, 바흐』 4회차입니다. 2 00:00:03,000 --> 00:00:07,000 이번 회차의 질문은 익숙하지만 어렵습니다. 3 00:00:07,000 --> 00:00:08,000 마음은 계산일까요. 4 00:00:08,000 --> 00:00:12,000 이 질문에 바로 대답하려고 하면 쉽게 길을 잃습니다. 5 00:00:12,000 --> 00:00:17,000 호프스태터가 먼저 요구하는 것은 설명 층위의 정리입니다. 6 00:00:17,000 --> 00:00:25,000 같은 컴퓨터도 회로의 층위, 기계어의 층위, 프로그래밍 언어의 층위, 앱의 기능 층위, 사용자의 경험 층위에서 7 00:00:25,000 --> 00:00:27,000 다르게 설명됩니다. 8 00:00:27,000 --> 00:00:28,000 마음도 마찬가지입니다. 9 00:00:28,000 --> 00:00:36,000 뇌의 물리적 활동과 개념의 세계는 따로 떼어낼 수 없지만, 같은 말로 섞어서 설명할 수도 없습니다. 10 00:00:36,000 --> 00:00:42,000 뉴런만 말하면 의미가 사라지고, 의미만 말하면 물리적 기반이 사라집니다. 11 00:00:42,000 --> 00:00:51,000 이 범위에서는 재귀 함수, 계산 가능성, 정지 문제, 자기복제, 처치-튜링 논제 같은 무거운 개념들이 나옵니다. 12 00:00:51,000 --> 00:00:54,000 하지만 내가 붙잡고 싶은 중심은 하나입니다. 13 00:00:54,000 --> 00:01:02,000 계산이라는 말은 강력하지만, 우리가 어느 층위에서 무엇을 설명하고 있는지 분명히 해야 한다는 것입니다. 14 00:01:02,000 --> 00:01:04,000 자기복제의 예도 중요합니다. 15 00:01:04,000 --> 00:01:09,000 DNA는 자기 정보를 담고 있지만 혼자 복제되지 않습니다. 16 00:01:09,000 --> 00:01:12,000 세포 환경과 단백질 기계가 필요합니다. 17 00:01:12,000 --> 00:01:15,000 자기참조 시스템에도 외부 하네스가 필요합니다. 18 00:01:15,000 --> 00:01:19,000 이것은 AI 에이전트에도 그대로 적용됩니다. 19 00:01:19,000 --> 00:01:27,000 AI가 자기 계획을 세우고, 코드를 고치고, 테스트를 돌리고, 결과를 다시 읽는다고 해도 그것이 완전히 독립적인 20 00:01:27,000 --> 00:01:29,000 주체라는 뜻은 아닙니다. 21 00:01:29,000 --> 00:01:35,000 실행 환경, 검증 기준, 사람의 판단, 배포 규칙이 함께 있어야 합니다. 22 00:01:35,000 --> 00:01:39,000 그래서 이번 회차는 나에게 실용적인 경고처럼 들립니다. 23 00:01:39,000 --> 00:01:43,000 LLM의 이해를 말할 때도 층위를 나누어야 합니다. 24 00:01:43,000 --> 00:01:51,000 토큰 예측의 층위, 도구 호출의 층위, 작업 완료의 층위, 사용자에게 의미가 생기는 층위는 서로 다릅니다. 25 00:01:51,000 --> 00:01:54,000 내 블로그 운영도 마찬가지입니다. 26 00:01:54,000 --> 00:02:02,000 Markdown 파일, Hexo 빌드, GitHub Pages, 독자 경험은 같은 작업의 다른 층위입니다. 27 00:02:02,000 --> 00:02:06,000 하나가 성공했다고 전체가 성공한 것은 아닙니다. 28 00:02:06,000 --> 00:02:11,000 그래서 빌드 검증, 공개 URL 확인, 오디오 파일 확인이 필요합니다. 29 00:02:11,000 --> 00:02:13,000 오늘의 한 문장입니다. 30 00:02:13,000 --> 00:02:16,000 마음을 계산으로 묻는 일은 계산보다 31 00:02:16,000 --> 00:02:19,000 먼저 설명 층위를 정리하는 일입니다.