글을 쓰지 않는 AI, 제브(Jev): 문장 대신 판단만 내놓는 모델

시작하며: AI에게 꼭 긴 글을 시켜야 할까요?

AI라고 하면 보통 챗봇 화면에 글이 줄줄 써지는 장면을 떠올립니다. 질문을 하면 긴 문장으로 답하는 언어 모델(LLM)에 익숙해졌기 때문입니다.

그런데 실무에서 업무를 자동화하다 보면 긴 문장이 필요 없는 경우가 많습니다. “이 문의를 환불 부서로 보낼까, 배송 부서로 보낼까?”, “이 거래는 위험한가?” 같은 질문에는 짧고 분명한 답 하나면 충분합니다.

타입세이프 AI(TypeSafe AI)가 내놓은 제브(Jev)는 이 용도만을 위해 만든 모델입니다. 글은 쓰지 않고, 판단 결과만 빠르게 돌려줍니다.

1. 제브란 무엇인가요?

기존 LLM이 단어를 하나씩 골라 긴 글을 완성하는 쪽에 가깝다면, 제브는 상황을 보고 번호·점수·확률 같은 정해진 형태의 값만 돌려주는 쪽에 가깝습니다.

타입세이프 AI는 제브를 ‘시스템 원 모델(System One Model)’이라고 부릅니다. 심리학자 대니얼 카너먼이 빠르고 직관적인 사고를 ‘시스템 1’이라고 부른 데서 가져온 이름입니다.

특징은 세 가지입니다.

• 문장을 만들지 않습니다. 블로그 글도, 대화형 답변도 쓰지 않습니다. 프로그램이 바로 읽을 수 있는 정해진 형태의 값만 돌려줍니다.
• 빠릅니다. 결과가 나오기까지 보통 70~500밀리초(ms)가 걸린다고 안내합니다. 답변 하나에 몇 초씩 걸리는 기존 LLM보다 훨씬 빠를 수 있습니다.
• 입력 단가가 낮다고 안내됩니다. 회사·게이트웨이 쪽에 반복되는 입력 단가는 약 0.042달러 / 100만 입력 토큰 수준입니다. 출력 토큰 무료 주장도 있으나, 실제 청구는 콘솔·게이트웨이 카드가 정본입니다.

2. 어떻게 작동하나요?

프로그램에는 “조건이 이러면 이렇게, 아니면 저렇게”를 정하는 조건문(if-else)이 있습니다. 제브는 그 조건 판단을 AI가 대신 내려 준다고 보면 됩니다. 질문 유형(프리미티브)은 세 가지입니다.

• Choice(선택): 여러 보기 중 가장 알맞은 하나를 고릅니다. 예: 이 고객 문의는 환불, 배송, 기타 중 어디에 속하는가?
• Score(점수): 정해진 기준(루브릭)에 따라 점수나 단계를 매깁니다. 예: 이 문서의 위험도는 1~5 중 몇인가?
• Noul(참·거짓 확률): 어떤 문장이 참일 확률을 0과 1 사이의 값으로 알려 줍니다. 예: 이 문의가 긴급한 상황일 확률은 얼마인가?

모든 판단에는 신뢰도(Confidence) 값이 함께 나옵니다. 신뢰도가 낮다는 것은 모델이 확신하지 못한다는 뜻입니다. 그런 건만 골라 사람에게 넘기거나 더 큰 모델에 다시 묻도록 시스템을 짤 수 있습니다.

3. 왜 중요한가요?

잘 쓰던 챗봇이 있는데 왜 판단 전용 모델이 주목받을까요? 이유는 속도, 안정성, 비용입니다.

실시간 서비스에 쓸 수 있습니다. 대형 LLM은 답 하나에 몇 초가 걸려서 결제 화면이나 고객 문의 분배처럼 즉시 처리해야 하는 곳에는 쓰기 어려웠습니다. 수백 밀리초 안팎에 답이 나오면 실시간 앱, 게임, 로봇 제어, 대량 데이터 분류에도 AI 판단을 넣을 수 있습니다.

출력 형식이 깨지지 않습니다. 개발을 해 본 분이라면 AI에게 JSON 같은 정형 데이터를 요청했다가 형식이 어긋나 에러가 난 경험이 있을 겁니다. 제브는 처음부터 정해진 타입의 값만 내도록 설계되어 있어서 이런 문제가 생기지 않습니다.

비용 구조가 달라집니다. 모든 업무에 비싼 최상위 모델을 쓸 필요는 없습니다. 단순 분류와 조건 분기는 제브처럼 빠르고 싼 모델에 맡기고, 깊은 추론이나 글쓰기가 필요할 때만 상위 모델을 부르면 전체 운영 비용이 줄어들 수 있습니다.

마치며: 대체재가 아니라 부품

제브가 다른 AI를 모두 대체하지는 않습니다. 긴 글을 요약하거나 블로그 글을 쓰거나 창의적인 코드를 짜는 일은 여전히 기존 LLM이 훨씬 잘합니다.

다만 소프트웨어 안에서 수없이 반복되는 분류와 조건 판단은 제브 같은 모델이 맡기에 알맞습니다. AI를 ‘말 잘하는 대화 상대’로만 보지 않고, ‘내 앱 안에서 빠르고 싸게 판단을 내려 주는 부품’으로도 볼 수 있게 되었다는 점이 제브가 보여 주는 변화입니다.

참고

• TypeSafe AI 공식: https://typesafe.ai/
• 관련 moonlang 가이드: https://moonlang.com/how-to-use-jev-typesafe-system-one-guide/