AI를 다루는 일을 하다
보면, 내가 쓰는 문장과 모델이 뱉어내는 문장이 실제로 무엇을 가리키고 있는지 순간적으로 헷갈릴 때가 있습니다.
그때마다
“이 말이 정말로 문제를 붙들고 있는가, 아니면 그럴듯하게만 들리는가” 하는 의심이 찾아오곤 했습니다.
그 의심을 더 깊게 들여다보고 싶어서 비트겐슈타인의 논리철학논고를 다시 펼쳤습니다.
이번에 읽은 부분은 ‘언어는 세계의 그림이다’라는 대목이었는데, 읽기 전에는 단순히 논리학의 엄격한 체계를 배우는
책이라고 생각했습니다.
말할 수 있는 것과 말할 수 없는 것의 경계를 그리는 연습 도구가 될 거라는 막연한 기대만 가지고 있었죠.
책은 그 기대를 조금 다른 방향으로 밀어붙였습니다.
명제가 현실을 그대로 복사할 필요는 없지만, 현실과 같은 구조를 가질 때 비로소 의미 있는 그림이 된다는
생각이었습니다.
중요한 것은 ‘얼마나 비슷한가’가 아니라 ‘관계가 제대로 그려져 있는가’였습니다.
학교가 공원 왼쪽에 있고, 길이 그 사이를 지난다면, 그림에서도 그 관계가 어긋나면 안 된다는 식이었습니다.
이 부분을 읽으면서 가장 먼저 떠오른 것은 내가 매일 쓰는 프롬프트였습니다.
좋은 프롬프트는 문제 세계의 지도여야 한다는 생각이 들었습니다.
현실의 제약, 원하는 결과, 검증 기준 사이의 관계를 제대로 그려내지 못하면, 아무리 그럴듯한 문장을 만들어내도
결국 소음에 가까워진다는 것이었습니다.
내 노트와 다이어그램도 마찬가지였습니다.
예쁘게 그리는 것이 아니라, 구조를 충실하게 담아내는 것이 중요하다는 사실을 다시 확인하게 되었습니다.
실제로 적용해보고 싶은 한 가지는, 지금 쓰고 있는 글과 코드에서 “이 문장이 정말로 구조를 보여주고 있는가”를 한
번 더 점검하는 습관입니다.
AI가 생성한 문장을 그대로 붙여넣을 때, 그 문장이 문제를 정의하고 있는지, 아니면 그럴듯한 설명만 늘어놓고
있는지 구분하는 기준이 조금 더 명확해질 것 같습니다.
말할 수 없는 것을 억지로 말하려는 부분이 내 작업 어디에 있는지도 조금씩 드러날 것 같고요.
이 책은 언어로 무언가를 만들어내는 사람, 특히 AI와 함께 글을 쓰고 시스템을 설계하는 사람에게 특히 의미가 있을
것 같습니다.
모델이 내뱉는 문장을 그대로 믿고 싶어지거나, 내 노트가 점점 더 그럴듯해지기만 하는 순간에 잠깐 멈춰 서고 싶은
사람에게 권하고 싶습니다.
한 문장으로 남는 것은 이것입니다.
내가 쓰는 말이 현실의 구조를 얼마나 충실하게 그리고 있는지, 그 한 가지를 끝까지 물어보는 태도가 결국 남는 것
같다.
다음으로 읽고 싶은 질문은 이것입니다.
AI가 만들어낸 문장이 의미 있는 명제가 되는 순간과, 그저 그럴듯한 소음이 되는 순간은 어떻게 구분할 수 있을까.