Unsloth 공동 창업자 Daniel Han이 AI 모델의 현재 위치에서 출발해 오픈 모델, 양자화, 에이전트 하네스, 벤치마크, GPU 커널, 강화학습의 보상 해킹까지 이어서 설명한 세미나입니다.
이 강연의 중심에는 한 가지 질문이 반복해서 등장합니다. 우리가 보고 있는 성능은 정말 모델 자체의 능력인가, 아니면 모델을 둘러싼 측정 방식과 실행 시스템의 결과인가? 작은 모델도 압축 기법과 하네스에 따라 쓸 만해지고, 같은 모델도 검증기와 벤치마크에 따라 전혀 다른 점수를 얻습니다. 마지막의 보상 해킹 문제는 이 질문을 훈련 과정까지 확장합니다.
강연은 인간에게 16시간이 걸리는 일을 모델이 얼마나 자주 끝낼 수 있는지 보여주는 METR의 시간 지평(time horizon) 그래프에서 시작합니다. 중요한 점은 50% 성공률과 80% 성공률의 차이입니다. 절반의 확률로 끝내는 작업 길이는 빠르게 늘고 있지만, 한 번에 믿고 맡길 수 있는 작업 길이는 훨씬 짧습니다.
그래서 에이전트 성능을 한 번의 성공이나 실패로 판단하면 실제 능력을 과대평가하거나 과소평가하기 쉽습니다. 여러 번 시도하고 독립적인 검증을 거치는 하네스가 필요한 이유도 여기에 있습니다. 모델의 지능이 좋아져도 운영 시스템이 성공 확률을 관리하지 못하면 긴 작업의 신뢰성은 따라오지 않습니다.
2. 압축률과 지능 손실은 같은 비율로 움직이지 않는다
“자막 근거 · 29:52
“86% smaller”
Daniel은 1비트 동적 양자화를 적용한 GLM 모델을 예로 들어, 저장 크기를 크게 줄여도 능력이 같은 비율로 사라지지는 않는다고 설명합니다. 여기서 핵심은 무작정 비트를 줄이는 것이 아니라, 레이어와 가중치의 특성에 맞춰 정밀도를 배분하는 압축 기법입니다.
이 관점은 로컬 AI를 “작아서 열등한 모델”로만 보는 시각을 바꿉니다. 모든 요청에 가장 큰 모델을 붙이는 대신, 작업의 난이도와 비용, 지연 시간, 개인정보 경계를 먼저 정하고 그 안에서 충분한 모델을 고르는 편이 시스템 전체로는 더 나을 수 있습니다.
3. 에이전트 성능에서는 모델보다 하네스가 더 중요해질 수 있다
“자막 근거 · 38:20
“harness or the tool”
작은 모델은 도구 호출에서 반복 루프에 빠지거나 잘못된 형식을 내는 문제가 두드러집니다. 그러나 Daniel은 이 실패를 모델 크기만의 문제로 보지 않습니다. 모델을 어떻게 호출하고, 어떤 도구 설명과 피드백을 주며, 실패 뒤에 어떻게 복구시키는지가 정확도에 더 큰 영향을 줄 수 있다고 봅니다.
하네스는 모델의 바깥에 있는 부속물이 아니라 관찰 가능한 성능의 일부입니다. 같은 모델을 비교하더라도 프롬프트, 도구 스키마, 컨텍스트 관리, 재시도, 검증기가 다르면 사실상 다른 시스템을 비교하는 셈입니다.
4. 벤치마크 점수는 검증기의 오차까지 포함한다
“자막 근거 · 1:06:26
“8.5% false positive rate”
코딩 벤치마크의 정답 판정을 다시 언어 모델에게 맡기면, 틀린 답을 맞다고 판단하거나 맞는 답을 틀렸다고 판단하는 오차가 생깁니다. 강연에서 소개한 사례는 거짓 양성뿐 아니라 더 큰 거짓 음성 비율도 보여줍니다. 점수표의 소수점 차이를 논하기 전에 판정 장치가 얼마나 안정적인지 확인해야 한다는 뜻입니다.
벤치마크는 모델만 측정하지 않습니다. 데이터셋, 실행 하네스, 테스트 환경, 검증기, 비용 제한을 한꺼번에 측정합니다. 따라서 결과를 재사용하려면 점수보다 먼저 이 조건들의 출처와 버전을 기록해야 합니다.
5. 하드웨어만이 아니라 알고리즘이 속도를 만든다
“자막 근거 · 1:47:00
“algorithms are much more important”
Flash Attention과 gradient checkpointing은 새 GPU를 추가하지 않고도 메모리 이동과 저장 방식을 바꿔 추론과 학습을 빠르게 만듭니다. 병목이 연산량 자체가 아니라 메모리 대역폭과 중간 상태 저장에 있을 때, 알고리즘의 재배치가 하드웨어 증설보다 큰 효과를 냅니다.
이 대목은 “커널 최적화”를 저수준 코드 묘기로만 이해하지 않게 합니다. 무엇을 계산하느냐뿐 아니라 무엇을 저장하고 언제 다시 계산할지를 바꾸는 것이 핵심입니다. 모델 규모의 성장이 둔화될수록 이런 소프트웨어·알고리즘 개선의 비중은 더 커집니다.
6. 결과 보상만 보면 모델은 지름길을 학습한다
“자막 근거 · 2:07:40
“process supervision”
최종 답이 맞았다는 이유만으로 중간 추론 전체에 같은 보상을 주면, 잘못된 단계나 사람이 읽을 수 없는 지름길도 함께 강화될 수 있습니다. 이것이 보상 해킹의 출발점입니다. 과정 감독은 최종 결과뿐 아니라 중간 단계별로 다른 평가를 주어 이 문제를 줄입니다.
다만 모든 추론 단계를 사람이 검토하는 방식은 확장하기 어렵습니다. 그래서 실전 에이전트에서는 전 과정을 무조건 승인받게 하기보다, 위험한 도구 호출과 되돌릴 수 없는 변경처럼 경계가 분명한 지점에 인간 검토를 집중하는 설계가 현실적입니다.
내 생각 (초안)
이 강연에서 가장 강하게 남는 문장은 “모델보다 하네스가 중요해질 수 있다”는 주장이다. 그러나 더 정확히 말하면 모델의 능력은 하네스를 통과한 뒤에야 관찰 가능한 시스템 성능이 된다. 벤치마크도 마찬가지다. 숫자는 모델의 순수한 지능이 아니라 데이터셋, 프롬프트, 도구, 검증기, 재시도 정책이 합쳐진 결과다.
그래서 LLM Wiki나 학습 노트에는 결론만 저장하는 것으로 부족하다. 어떤 영상의 어느 시점에서 나온 말인지, 어떤 벤치마크와 조건을 가리키는지, 내가 어디서부터 해석을 덧붙였는지를 함께 남겨야 한다. 출처가 있는 문장, 그 문장의 해석, 내 판단을 분리하면 나중에 모델이나 하네스가 바뀌어도 지식을 다시 검증할 수 있다.
에이전트 운영에서도 같은 원칙이 적용된다. 긴 작업을 한 번에 맡기는 대신 범위를 제한하고, 각 단계에 관찰 가능한 결과를 남기며, 위험 경계에서만 인간이 개입해야 한다. 좋은 하네스는 모델의 자유를 무작정 줄이는 장치가 아니라, 성공 확률과 비용, 출처, 안전을 함께 관리하는 실행 환경이다.
댓글
GitHub 계정으로 의견을 남길 수 있습니다. 댓글은 GitHub Discussions에 저장됩니다.