Jev가 던진 질문, 모든 일에 거대한 생성형 AI가 필요한가?
최근 개발자들 사이에서 ‘Jev’라는 인공지능이 큰 화제가 되고 있습니다. Jev는 우리가 익숙하게 사용해 온 생성형 AI와는 조금 다른 방식으로 작동하는데요. 이번 글에서는 Jev가 무엇인지, 왜 만들어졌는지, 그리고 개발자가 아닌 일반 사용자에게도 의미가 있는 기술인지 하나씩 알아보겠습니다.
우리가 사용하는 생성형 AI는 질문에 답할 때 문장을 만들어 냅니다. 그런데 가끔은 긴 설명이 필요하지 않을 때도 있죠. “이 메일이 스팸인가요?”, “이 문의는 환불과 관련이 있나요?”처럼 예·아니요 또는 간단한 선택만 필요한 경우입니다.
직접 AI를 사용하다 보면 이런 순간을 자주 만나게 됩니다. 나는 ‘예’ 또는 ‘아니요’만 알고 싶은데, AI는 판단의 이유와 주의할 점까지 길게 설명합니다. 사람에게는 조금 번거로운 정도지만, 같은 판단을 하루에 수만 번씩 처리하는 서비스라면 이야기가 달라집니다. 답변이 길어질수록 더 많은 토큰을 사용하고, 처리 시간과 비용도 함께 늘어나기 때문입니다.
그렇다면 스팸을 가려내거나 고객 문의를 담당 부서에 보내는 일에도 꼭 크고 비싼 생성형 AI를 사용해야 할까요? 짧은 판단 하나를 얻기 위해 매번 긴 문장을 만들어야 할까요?
Jev는 바로 이 질문에서 출발한 인공지능입니다. 사람과 자연스럽게 대화하거나 멋진 글을 쓰는 대신, 주어진 상황을 보고 선택지와 확률을 빠르게 내놓는 데 집중합니다.
긴 설명이 필요하지 않은 질문들
생성형 AI를 사용하다 보면 긴 설명이 오히려 필요 없을 때가 있습니다. “이 문장에 오타가 있나요?”, “두 제품 중 어느 쪽이 더 저렴한가요?”, “이 메일은 광고인가요?”처럼 간단한 확인이나 선택만 필요한 경우입니다.
그런데 AI는 종종 질문에 대한 답만 주지 않습니다. 왜 그렇게 판단했는지 설명하고, 참고할 점과 예외까지 덧붙입니다. 나는 ‘예’ 또는 ‘아니요’만 알고 싶은데, 예상보다 긴 답변이 돌아오는 것이죠.
물론 자세한 설명이 도움이 될 때도 있습니다. 새로운 개념을 배우거나 중요한 결정을 내릴 때는 판단의 근거를 함께 확인하는 편이 좋습니다. 하지만 모든 질문에 긴 설명이 필요한 것은 아닙니다. 간단한 확인만 필요한 순간에는 이런 설명이 불필요한 사족처럼 느껴지기도 합니다.
일반 사용자가 하루에 몇 번 AI에게 질문하는 정도라면 큰 문제는 아닐 수 있습니다. 조금 더 읽으면 되고, 몇 초 더 기다리면 되니까요. 하지만 같은 일이 서비스 안에서 수천 번, 수만 번 반복된다면 이야기가 달라집니다.
예를 들어 쇼핑몰에는 매일 수많은 고객 문의가 들어옵니다. 개발자들은 이런 문의를 ‘결제’, ‘배송’, ‘환불’, ‘계정’처럼 자동으로 나누기 위해 생성형 AI를 사용해 왔습니다. 초기에는 AI가 작성한 답변에서 필요한 항목을 다시 찾아내야 했고, 최근에는 정해진 형식이나 JSON으로 짧게 답하도록 만드는 방법이 많이 사용됩니다.
하지만 결과가 ‘환불’이라는 단어 하나뿐이어도 일반 생성형 AI는 여전히 토큰을 하나씩 생성해 답을 완성합니다. 다양한 글을 쓰고 대화할 수 있도록 만들어진 큰 모델을 단순한 분류 작업에 사용하는 것이죠. 한두 번은 별문제가 없지만, 같은 판단이 하루에 수십만 번 반복되면 작은 비용과 처리 시간도 계속 쌓이게 됩니다.
그렇다면 애초에 말을 길게 하지 않고, 필요한 판단만 바로 내놓는 AI를 만들 수는 없을까요?
답은 짧게, 판단은 빠르게
Jev가 기존 생성형 AI와 가장 다른 점은 문장을 만들지 않는다는 것입니다. 우리가 ChatGPT 같은 생성형 AI에게 질문하면, 모델은 다음에 올 단어나 글자를 하나씩 이어 붙여 답변을 완성합니다. 반면 Jev는 긴 설명을 작성하는 대신 미리 정해진 선택지 가운데 하나를 고르고, 각 선택지가 맞을 가능성을 숫자로 보여줍니다.
예를 들어 고객이 다음과 같은 문의를 남겼다고 해보겠습니다.
결제 버튼을 한 번만 눌렀는데 카드에서 같은 금액이 두 번 빠져나갔어요.
일반적인 생성형 AI는 이렇게 답할 수 있습니다.
이 문의는 중복 결제와 관련된 내용이므로 결제 또는 환불 담당 부서로 전달하는 것이 적절합니다.
Jev의 답은 훨씬 단순합니다.
- 결제 92%
- 환불 6%
- 기타 2%
개발자가 먼저 ‘결제·배송·환불·계정’과 같은 선택지를 정해두면, Jev는 문의 내용을 읽고 각 항목에 해당할 가능성을 계산합니다. “이 문의가 긴급한가요?”처럼 예·아니요로 답할 수도 있고, 고객의 불만 정도를 일정한 기준에 따라 점수로 나타낼 수도 있습니다.
긴급한 문의인가?
- 예 87%
- 아니요 13%
이 결과는 사람이 읽기 위한 설명문이라기보다 프로그램이 바로 사용하기 위한 값에 가깝습니다. 확률이 충분히 높으면 해당 부서로 자동 전달하고, 판단이 애매하면 직원에게 확인을 요청하는 식으로 활용할 수 있습니다.
말을 하지 않는다는 것은 능력이 부족하다는 뜻이 아닙니다. Jev는 글쓰기와 대화를 포기하는 대신 분류, 선택, 점수 계산처럼 짧은 판단에 집중합니다. 모든 일을 잘하려는 생성형 AI와 달리, 자신이 맡은 역할을 좁혀 속도와 효율을 높인 것입니다.
다만 선택지 안에서만 답한다고 해서 항상 올바른 판단을 내리는 것은 아닙니다. Jev도 입력을 잘못 이해하거나 틀린 항목을 고를 수 있습니다. 차이는 엉뚱한 형식의 문장을 만들어 내는 대신, 정해진 범위 안에서 답과 확률을 반환한다는 데 있습니다.
결국 Jev는 우리와 대화하기 위한 AI라기보다, 프로그램 안에서 수많은 작은 결정을 빠르게 처리하기 위한 AI에 가깝습니다.
그렇다면 Jev는 정말 새로운 AI일까?
Jev는 ‘새로운 종류의 AI’로 소개되고 있습니다. 문장을 만들지 않고 선택과 확률만 내놓는다는 설명을 들으면 이전에는 없던 기술처럼 느껴지기도 합니다. 하지만 정보를 정해진 항목으로 나누는 일 자체는 새로운 것이 아닙니다.
컴퓨터는 오래전부터 이메일을 스팸과 정상으로 구분하고, 상품평을 긍정과 부정으로 나누고, 사진 속 동물이 개인지 고양이인지 판단해 왔습니다.
다만 예전에는 새로운 작업이 생길 때마다 그에 맞는 자료를 모으고 정답을 붙여 다시 학습해야 하는 경우가 많았습니다. 스팸 메일을 구분하도록 만든 모델이 고객 문의를 ‘결제·배송·환불’로 바로 나눌 수 있는 것은 아니었습니다.
생성형 AI가 등장하면서 상황이 달라졌습니다. 대량의 글을 학습한 언어모델은 처음 보는 문장도 어느 정도 이해하고, 개발자가 질문과 선택지를 제시하면 그중 알맞은 답을 고를 수 있게 되었습니다.
Jev는 여기에 빠르고 간결한 판단 방식을 결합했습니다. 다양한 글의 의미를 이해하면서도 긴 문장을 만드는 대신, 선택·점수·확률처럼 프로그램에 필요한 결과만 내놓는 것입니다.
따라서 Jev가 하는 일을 완전히 새로운 발명이라고 보기는 어렵습니다. 새롭게 평가받는 부분은 오래전부터 존재했던 판단 방식을 최신 언어 이해 능력과 결합해, 여러 업무에 바로 활용할 수 있는 하나의 모델로 만들었다는 점입니다.
다만 TypeSafe는 Jev의 세부 구조를 공개하지 않았습니다. 무엇을 기존 기술에서 가져왔고 무엇을 새로 개발했는지는 아직 외부에서 정확히 확인하기 어렵습니다. 현재로서는 완전히 새로운 AI라고 단정하기보다, 익숙한 기술을 새로운 방식으로 발전시킨 모델이라고 이해하는 편이 적절합니다.
같은 일이 반복될수록 비용 차이는 커진다
생성형 AI에게 “한 단어로만 답해줘”라고 요청하면 출력 토큰은 줄일 수 있습니다. 하지만 다양한 글을 쓰고 복잡한 질문에 답하도록 만들어진 큰 모델을 매번 호출해야 한다는 점은 달라지지 않습니다.
Jev는 처음부터 긴 문장을 만들지 않도록 설계되었습니다. 입력된 내용을 읽은 뒤 선택지, 점수, 확률처럼 프로그램에 필요한 값만 반환합니다. TypeSafe가 Jev의 출력 비용을 무료로 책정한 것도 생성할 문장이 거의 없는 이러한 구조와 관련이 있습니다.
Companies are paying LLMs to generate text for decisions that only need a label. Jev offers a cheaper way
한 번의 판단만 놓고 보면 차이가 작아 보일 수 있습니다. 하지만 AI가 서비스 안에서 계속 작동한다면 작은 차이도 무시하기 어려워집니다. 모델이 요청 하나를 처리하는 데 걸리는 시간과 비용이 절반으로 줄어들면, 처리해야 할 요청이 늘어날수록 절약되는 비용도 함께 커지기 때문입니다.
특히 하나의 내용을 보고 여러 가지를 판단해야 할 때 장점이 더 커집니다. 고객 문의 하나를 읽고 담당 부서뿐 아니라 긴급도, 불만 정도, 사람의 확인이 필요한지까지 한꺼번에 판단하는 식입니다.
담당 부서 → 환불 긴급도 → 높음 불만 정도 → 82% 직원 확인 → 필요
그렇다고 모든 작업을 Jev 같은 모델에 맡기는 것이 가장 경제적인 것은 아닙니다. “제목에 ‘광고’라는 표시가 있으면 광고로 분류한다”처럼 조건이 분명한 일은 일반 프로그램 규칙으로 처리하는 편이 더 빠르고 정확합니다. 반대로 문장의 의미를 이해해야 하지만 긴 답변은 필요하지 않은 작업에서 결정 모델의 장점이 살아납니다.
조건이 명확한 일 → 일반 프로그램 규칙 반복적인 짧은 판단 → Jev 같은 결정 모델 글쓰기와 복잡한 추론 → 생성형 AI 중요한 최종 결정 → 사람의 확인
결국 비용을 줄이는 가장 좋은 방법은 무조건 더 저렴한 AI를 찾는 것이 아니라, 필요한 일에 맞는 도구를 선택하는 것입니다. Jev는 지금까지 생성형 AI가 맡아온 수많은 작은 판단을 더 가볍게 처리할 수 있다는 가능성을 보여주었습니다.
일반 사용자는 Jev를 직접 사용하게 될까?
Jev가 빠르고 저렴하다는 이야기를 들으면 자연스럽게 이런 궁금증이 생깁니다. “그렇다면 나도 ChatGPT처럼 Jev를 사용할 수 있을까?”
결론부터 말하면 일반 사용자가 Jev와 직접 대화할 일은 많지 않을 가능성이 큽니다. Jev는 질문에 글로 답하거나 자료를 요약하고, 이미지를 만들어 주는 서비스가 아니기 때문입니다. 정해진 선택지 안에서 판단하는 모델이므로 사용 목적도 생성형 AI와 다릅니다.
물론 Jev를 직접 시험해 보는 것은 가능합니다. 질문과 선택지를 정하고 결과를 확인할 수 있는 도구가 제공되고 있으며, 개발자는 API를 이용해 자신의 앱이나 업무 시스템에 Jev를 연결할 수 있습니다. 다만 일반 사용자가 일상적으로 이용하기에는 ChatGPT 같은 대화형 서비스보다 설정해야 할 것이 많습니다.
TypeSafe는 브라우저에서 Jev를 직접 시험해 볼 수 있는 ‘Playground’를 제공합니다. 사용자는 Jev가 판단할 내용과 질문, 가능한 선택지를 입력한 뒤 어떤 결과와 확률을 내놓는지 확인할 수 있습니다.
겉으로 보면 Jev에게 새로운 규칙을 가르치는 것처럼 보이지만, 모델 자체를 다시 학습시키는 것은 아닙니다. 이미 학습된 Jev에게 “어떤 상황에서 무엇을 판단해야 하는지” 알려주고, 그 결과가 자신의 목적에 맞는지 시험하는 과정에 가깝습니다.
따라서 개발자가 아니더라도 Jev의 판단 방식을 직접 체험해 볼 수는 있습니다. 다만 ChatGPT처럼 자유롭게 대화하는 서비스가 아니라 질문과 선택지를 직접 구성해야 하므로, 일상적인 AI 서비스보다는 업무용 실험 도구에 더 가깝습니다.
대신 우리는 Jev를 직접 호출하기보다, Jev가 들어간 서비스를 이용하게 될 가능성이 높습니다.
온라인 쇼핑몰에 문의했을 때 내용에 맞는 상담 부서로 빠르게 연결되거나, 중요한 메일만 먼저 표시되거나, 검색 결과에서 관련 있는 자료가 먼저 선택되는 식입니다. AI 비서가 여러 도구 가운데 지금 필요한 기능을 고르는 과정에도 결정 모델이 사용될 수 있습니다.
사용자가 고객 문의를 작성한다
↓
Jev가 문의의 종류와 긴급도를 판단한다
↓
서비스가 알맞은 담당자에게 전달한다
이 과정에서 사용자는 Jev라는 이름을 보지 못할 수도 있습니다. 데이터베이스나 검색 알고리즘을 직접 사용하지 않아도 그 결과를 매일 경험하는 것과 비슷합니다.
따라서 Jev의 주요 사용자는 현재로서는 개발자와 기업에 가깝습니다. 하지만 그 판단의 결과를 경험하는 사람은 일반 사용자입니다. Jev가 성공적으로 자리 잡는다면 우리는 새로운 AI 앱 하나를 설치하기보다, 기존 서비스가 더 빠르고 자연스럽게 반응하는 모습으로 그 변화를 만나게 될 가능성이 큽니다.
모든 일을 하나의 AI가 할 필요는 없다
지금까지 우리는 더 크고 똑똑한 AI 하나가 모든 일을 처리하는 모습을 자연스럽게 떠올렸습니다. 질문에 답하고, 글을 쓰고, 자료를 분석하고, 간단한 판단까지 모두 생성형 AI에게 맡기는 방식입니다.
하지만 모든 일에 가장 크고 강력한 AI가 필요한 것은 아닙니다. 정해진 조건을 확인하는 일, 여러 항목 중 하나를 고르는 일, 긴 글을 작성하는 일에는 서로 다른 능력이 필요합니다. 사람도 각자 잘하는 일을 나눠 맡듯이 AI도 역할에 따라 나눠 사용할 수 있습니다.
조건이 분명한 일 → 일반 프로그램 짧고 반복적인 판단 → Jev 같은 결정 모델 글쓰기와 복잡한 추론 → 생성형 AI 결과가 중요한 결정 → 사람의 확인
예를 들어 고객 문의가 들어오면 Jev가 먼저 문의의 종류와 긴급도를 판단할 수 있습니다. 이후 생성형 AI가 상황에 맞는 답변을 작성하고, 환불이나 계정 정지처럼 중요한 조치가 필요할 때는 사람이 마지막으로 확인하는 방식입니다.
이렇게 역할을 나누면 생성형 AI는 긴 문장과 복잡한 사고가 필요한 일에 집중할 수 있습니다. Jev는 반복되는 작은 결정을 빠르게 처리하고, 조건이 명확한 일은 일반 프로그램이 담당합니다. 하나의 거대한 AI가 모든 일을 떠맡는 것이 아니라, 각자 잘하는 일을 맡은 하나의 팀처럼 움직이는 것입니다.
물론 Jev가 앞으로 얼마나 널리 사용될지는 조금 더 지켜봐야 합니다. TypeSafe가 내세우는 속도와 비용이 다양한 실제 업무에서도 그대로 나타나는지, 판단의 정확도와 신뢰도가 충분한지도 계속 검증되어야 합니다.
그럼에도 Jev가 던진 질문은 생각해 볼 만합니다. 우리에게 필요한 답이 ‘예’ 또는 ‘아니요’뿐인데도 꼭 거대한 생성형 AI를 불러야 할까요?
앞으로의 AI 경쟁은 무조건 더 큰 모델을 만드는 방향으로만 흘러가지 않을지도 모릅니다. 필요한 순간에 필요한 만큼만 판단하는 작고 빠른 AI와, 깊은 이해와 표현이 필요한 일을 맡는 생성형 AI가 함께 움직이는 방향으로 발전할 수 있습니다.
결국 중요한 것은 가장 거대한 AI를 사용하는 것이 아니라, 해야 할 일에 가장 알맞은 AI를 선택하는 것입니다.
FAQ
Jev는 생성형 AI인가요?
아닙니다. ChatGPT처럼 문장을 만들어 대화하는 생성형 AI와 달리, Jev는 미리 정해진 선택지 안에서 답을 고르거나 점수와 확률을 반환하는 결정 모델입니다.
Jev는 어떤 일을 할 수 있나요?
고객 문의 분류, 스팸 판별, 문서 관련성 확인, 위험도 평가, AI 에이전트의 도구 선택처럼 짧은 판단을 반복하는 작업에 적합합니다. 글쓰기, 요약, 번역처럼 새로운 문장을 만들어야 하는 작업에는 적합하지 않습니다.
Jev는 왜 빠른가요?
일반 생성형 AI는 답을 한 토큰씩 이어 붙여 문장을 완성합니다. Jev는 긴 문장을 생성하지 않고 선택지와 확률을 한 번에 계산하는 방식에 집중하기 때문에 더 빠르게 결과를 낼 수 있습니다.
출력 토큰을 사용하지 않나요?
Jev도 입력된 내용을 읽기 때문에 입력 토큰은 사용합니다. 다만 긴 문장을 생성하지 않으며, TypeSafe는 Jev의 출력 비용을 무료로 책정하고 있습니다. 실제 비용은 입력의 길이와 사용량에 따라 달라질 수 있습니다.
Jev는 항상 정확한가요?
아닙니다. 출력 형식을 벗어나지는 않더라도 잘못된 선택을 할 수 있습니다. Jev가 제공하는 확률과 신뢰도를 참고하고, 중요한 결정에는 일반 프로그램의 규칙이나 사람의 확인을 함께 두어야 합니다.
Jev는 완전히 새로운 기술인가요?
정보를 정해진 항목으로 나누는 기술은 오래전부터 존재했습니다. Jev가 주목받는 이유는 최신 언어 이해 능력과 빠른 판단 방식을 결합해 여러 종류의 작업에 활용할 수 있는 범용 결정 모델을 내세웠기 때문입니다.
Jev는 오픈소스인가요?
Jev 자체는 오픈소스가 아니며 내부 구조도 자세히 공개되지 않았습니다. 다만 Strands Decider처럼 비슷한 방식으로 작동하는 공개 모델은 등장하고 있습니다.
Jev에 기존 오픈 모델이 사용됐나요?
확인되지 않았습니다. 외부에서는 기존 오픈 웨이트 언어모델을 기반으로 만들었을 가능성을 제기하지만, TypeSafe가 Jev의 기반 모델과 상세 구조를 공개하지 않았기 때문에 사실로 단정할 수 없습니다.
일반 사용자도 Jev를 사용할 수 있나요?
TypeSafe의 웹 기반 Playground에서 질문과 선택지를 입력해 직접 시험해 볼 수 있습니다. 다만 ChatGPT처럼 자유롭게 대화하는 서비스가 아니라 판단할 내용과 답의 형식을 직접 정해야 하므로 개발 및 업무용 도구에 더 가깝습니다.
Jev가 ChatGPT 같은 생성형 AI를 대체하게 될까요?
대체하기보다 역할을 나눌 가능성이 큽니다. Jev는 분류와 점수 계산 같은 짧은 판단을 맡고, 생성형 AI는 글쓰기와 복잡한 추론을 담당하는 방식입니다. 중요한 결과는 사람이 최종 확인할 수 있습니다.
같이 읽으면 좋은 글
GPT-6 아스트라(Astra), 무엇이 달라졌나 — 일상과 업무에서 주목할 변화
