기존 모델보다 10배 빠른 AI, Mercury Coder에 대해 소개합니다.

안녕하세요,

AI 코드 생성 기술은 빠르게 발전해 왔지만, 여전히 속도와 효율성의 한계를 극복하는 것이 중요한 과제였습니다. 그러나 이제, 기존 모델보다 10배 빠른 속도로 코드를 생성하는 AI가 등장했습니다. 최근 등장한 Mercury Coder는 기존 언어 모델과는 완전히 다른 방식으로 학습된 모델로, 기존보다 최대 10배 빠른 속도로 결과물을 생성해줍니다. 이번 포스팅에서는 이 Mercury Coder에 대해 알아보겠습니다.

 

---

반응형

Mercury Coder 란

Mercury Coder는 Inception Labs에서 개발한 최초의 상업적 규모 확산 기반 대형 언어 모델(dLLM, Diffusion Large Language Model)입니다. 이 모델은 기존의 자기회귀 언어 모델보다 빠른 속도를 제공하며, 특히 코드 생성에 특화된 Mercury Coder를 통해 5~10배 빠른 처리 속도를 구현합니다. 확산 모델은 병렬 토큰 업데이트를 가능하게 하여 기존 모델에 비해 더 빠르고 효율적인 언어 처리를 제공합니다.

 

• Mercury 공식페이지 : https://www.inceptionlabs.ai/

Inception Labs

 

dLLM은 기존의 자기회귀(Autoregressive) 방식이 아닌 확산 모델(Diffusion Model)을 기반으로 하는 대형 언어 모델입니다. 기존 언어 모델이 단어(토큰)를 한 번에 하나씩 순차적으로 예측하는 것과 달리, 확산 모델은 병렬로 텍스트를 생성하고 점진적으로 개선하는 방식을 사용합니다. 현재 확산 모델을 기반으로 하는 Mercury AI는 기존의 자기회귀 방식 모델(GPT, Gemini, Claude 등)에 비해 매우 빠른 생성속도를 자랑합니다.

 

 

경쟁 모델 비교

Mercury Coder 시리즈는 출력 속도와 코드 생성 성능에서 경쟁 모델을 압도하는 성과를 보입니다. Mercury Coder Mini는 초당 1109개 토큰을 생성하며, 이는 Claude 3.5 Haiku(61 토큰/초), GPT-4o Mini(59 토큰/초) 대비 18배 이상 빠른 속도입니다. Mercury Coder Small(737 토큰/초)도 경쟁 모델보다 훨씬 빠른 속도를 기록하며, 속도와 성능의 균형이 뛰어난 모델로 평가됩니다.

반면, Claude 3.5 Haiku, GPT-4o Mini, Codestral 등은 코딩 성능은 높지만 출력 속도가 느려 실시간 코드 생성에는 한계가 있습니다. Llama 3.1 8B, Nova Micro, Command-R+ 등은 속도와 성능 모두에서 Mercury Coder 시리즈에 크게 뒤처집니다.

결과적으로, Mercury Coder Mini와 Small은 현존하는 코드 생성 모델 중 가장 빠르면서도 높은 성능을 유지하는 모델로, AI 코드 생성 시장에서 차세대 표준이 될 가능성이 높습니다.

출처: inceptionlabs

 

 

주요 특징

1. 압도적인 속도
   • Mercury는 병렬 토큰 업데이트를 활용해 기존 LLM보다 5~10배 빠른 속도로 텍스트를 생성
   • NVIDIA H100 GPU에서 초당 1,000개 이상의 토큰 생성 가능
   • 기존의 속도 최적화 LLM이 맞출 수 없던 수준의 성능 제공
2. 병렬 처리 방식
   • 전통적인 LLM은 토큰을 순차적으로 예측하지만, Mercury는 확산 모델을 활용하여 초기 잡음에서 점진적으로 텍스트를 개선
   • 이를 통해 더 빠르고 효율적인 텍스트 생성 가능
3. 강력한 코드 생성 성능
   • Mercury Coder는 코드 생성에 특화된 모델로, HumanEval, MBPP 등의 벤치마크에서 우수한 성능을 기록
   • GPT-4o Mini, Claude 3.5 Haiku 등과 비교해도 최대 4배 빠른 코드 생성 속도 제공
4. 다양한 활용 가능성
   • 코드 생성: 빠르고 정확한 코드 생성
   • 문서 요약: 긴 문서를 효과적으로 요약
   • 고객 서비스: 빠른 응답이 필요한 AI 챗봇 등에 활용
   • RAG (Retrieval-Augmented Generation), 도구 통합, 에이전트 기반 워크플로우 지원

 

 

사용 방법

Mercury Coder는 공식 웹사이트에서 회원가입 후 바로 이용할 수 있습니다. ChatGPT와 같이 프롬프트 입력창을 통해 텍스트 및 코드 등을 생성할 수 있습니다.

• Mercury Coder : https://chat.inceptionlabs.ai/

 

 

생성 속도 테스트: Mercury Coder vs. GPT-4o

Mercury Coder와 GPT-4o의 코드 생성 속도를 비교하기 위해 다음과 같은 프롬프트를 입력했습니다.

• 입력 프롬프트 : Create a JavaScript animation of the Earth orbiting the sun and of the moon orbiting the Earth.

 

(결과 비교)

	Mercury Coder	GPT-4o
생성 속도	약 3초 내외로 HTML과 JavaScript 코드를 한 번에 생성	약 10초 이상 소요
결과물	한 번의 요청으로 HTML과 JavaScript 코드 생성	처음 요청 시 JavaScript 코드만 생성되며, HTML 코드는 별도로 요청해야 함.
편의성	생성된 코드 실행 결과를 바로 확인 가능	생성된 코드를 별도로 실행해야 결과 확인 가능

 

결과적으로, 두 모델이 동일한 애니메이션을 생성했음에도 Mercury Coder가 속도와 편의성 면에서 압도적인 우위를 보였습니다. 빠르고 직관적인 코드 생성이 필요한 환경에서는 Mercury Coder가 훨씬 효율적인 선택이 될 것으로 보입니다.

 

프롬프트 작성 화면: (좌) Mercury Coder / (우) GPT-4o

생성 결과물: (좌) Mercury Coder / (우) GPT-4o

 

---

 

Mercury Coder는 기존의 LLM과는 다른 확산 기반 대형 언어 모델을 활용하여, 더 빠르고 효율적인 코드 생성을 가능하게 했습니다. 이번 테스트를 통해, dLLM 방식이 기존 자기회귀 모델의 한계를 뛰어넘으며 AI 코드 생성의 새로운 기준을 제시하고 있음을 확인할 수 있었습니다.

 

AI 기술이 이보다 더 빨라질 수 있을까 싶을 때마다, 우리는 또다시 새로운 혁신을 목격하고 있습니다. 더 빠르고, 더 저렴하며, 더 정확한 AI 모델들이 끊임없이 발전하고 있으며, Mercury Coder는 그 선두에 서 있습니다. 같은 품질의 코드라도 dLLM 기반 모델은 더 직관적이고 빠르게 제공할 수 있으며, 이는 사람들에게 많은 가능성을 열어줍니다.

 

이제 AI는 단순히 인간의 작업을 보조하는 수준을 넘어, 새로운 방식으로 사고하고 더 효율적으로 문제를 해결하는 방향으로 진화하고 있습니다. 앞으로 등장할 더 강력한 dLLM 기반 모델들이 AI 개발의 미래를 어떻게 변화시킬지 기대됩니다.

 

 

감사합니다. 😊