모델, 연산자, 응용, 런타임을 분리해 부르기
LFM은 Liquid AI의 foundation model 제품군이다. Mamba는 입력에 따라 상태 갱신과 읽기를 조절하는 selective state-space architecture다. Mamba‑QE는 Mamba를 양자회로 연산자 토큰 생성의 고전적 신경망 backbone으로 사용한 응용 연구이며, 그 자체가 양자 컴퓨터나 양자 신경망이라는 뜻은 아니다. RIPL은 Liquid 모델을 낮은 꼬리 지연으로 제공하기 위한 inference engine이다.
논문 근거
Mamba‑QE, arXiv v1, 최초 공개 2026‑10‑21. 현재 학회 발표 기록 없음.
기업 근거
Liquid RIPL 공식 발표, 2026‑10‑22. 제품·벤더 벤치마크이며 동료평가 논문이 아님.
속도가 아니라 제약 안의 유효 결과를 최적화한다
공통 문제는 긴 이력과 낮은 추론비용, 높은 정확도를 동시에 만족하는 것이다. 그러나 실제 시스템은 평균 처리량이 아니라 마감시간을 넘기는 꼬리 요청, 피크 메모리, 에너지, 물리·안전 제약까지 받는다. 따라서 목적은 다음과 같은 다목적 설계 문제로 보는 편이 정확하다.
양자화학에서는 낮은 에너지 하나를 찾는 것만으로 충분하지 않다. 기준 상태보다 낮아지는 variational violation이 없어야 하고 여러 결합거리에서 일관돼야 한다. 실시간 서빙에서는 빠른 단일 요청보다 혼잡 시 p95와 오류 회복이 중요하다. 복잡도 표기만으로 이 목적함수를 달성했다고 말할 수 없다.
선택적 상태, 유효성, 꼬리 지연
3.1 Selective state space
선택성은 입력마다 무엇을 기억하고, 잊고, 읽을지를 조절한다. 이는 추론 중 모델 가중치를 새로 학습하는 것이 아니다. 고정 크기 순환 상태는 길이에 독립적인 메모리로 토큰을 처리할 수 있지만, 무한한 과거 정보를 손실 없이 보존한다는 뜻은 아니다.
3.2 Complexity boundary
표준 full attention의 prefill 연산은 길이 L에 대해 대체로 이차이고, KV cache는 선형으로 증가하며, decode의 한 토큰 attention은 이력 길이에 선형이다. 고정 상태의 순수 SSM은 전체 연산을 길이에 선형으로, 순환 상태를 길이와 독립적으로 만들 수 있다. 그러나 LFM2처럼 attention을 섞은 전체 모델을 완전한 O(1) 메모리라고 부를 수 없다. GQA는 KV 계수를 줄이지만 길이 의존을 제거하지 않는다.
3.3 Validity and p95
Mamba‑QE의 핵심 산출물은 토큰 정확도가 아니라 생성 회로의 양자 에너지와 variational validity다. RIPL의 핵심 산출물은 평균 token/s가 아니라 요청의 95%가 그 안에 끝나는 end-to-end latency다. 둘은 서로 다른 층을 측정하지만, 모두 “유용한 결과까지 걸린 실제 비용”을 보려는 지표다.
효율적 연산자 다음의 질문
Mamba 연구의 첫 질문은 attention 없이 긴 시퀀스를 효율적으로 모델링할 수 있는가였다. 2025년 이후에는 정확 회수, 상태 추적, 음의 고유값과 복소 상태의 표현력, hybrid의 최소 attention 비율, 저정밀 안정성, 커널 최적화로 초점이 이동했다. 이번 두 자료는 그 흐름을 응용과 시스템의 끝단까지 밀어낸다.
Mamba‑QE는 연산자 문자열을 생성한 뒤 실제 quantum evaluator의 에너지를 이용해 후보를 선별한다. RIPL은 모델을 배치한 뒤 실시간 부하의 end-to-end p95로 서빙을 평가한다. 즉 신경망 내부의 proxy loss가 아니라 외부 세계의 판정기에 닿는다.
왜 양자회로와 실시간 서빙을 함께 읽는가
Variational quantum eigensolver 계열은 회로 선택과 파라미터 최적화의 탐색 비용이 크다. Generative Quantum Eigensolver는 양자 연산자 문자열을 언어처럼 생성하지만, 긴 회로가 되면 Transformer의 비용과 생성 안정성이 문제가 된다. Mamba‑QE는 결합거리 R를 조건으로 넣고 하나의 모델이 potential-energy surface 전반에서 회로 후보를 생성하도록 설계했다.
반면 기업의 실시간 검색·추천·사기탐지는 작은 평균 지연보다 혼잡 시 꼬리 지연에 민감하다. Liquid AI는 RIPL이 모델 실행, 메모리, 요청 스케줄링을 함께 최적화한다고 설명하며 p95 중심 수치를 제시했다. 이 주장은 LFM 계열의 실사용 가능성과 직결되지만, 아키텍처 자체의 효과와 엔진 효과를 분리한 학술적 검증은 아니다.
두 자료가 남긴 서로 다른 공백
작은 과학 과제
H₂, STO‑3G, CAS(2,2), 생성 길이 4는 개념검증에는 유용하지만 긴 시퀀스 scaling이나 복잡한 상관을 시험하기엔 작다.
통제되지 않은 비교
Mamba‑QE와 GPT‑QE는 길이, 조건부 입력, 목적함수, 학습 일정이 달라 backbone 효과만 분리할 수 없다.
런타임 공백
Mamba‑QE는 하드웨어, latency, peak memory, energy를 보고하지 않았다. 저자도 H₂가 runtime 차이를 드러내기엔 작다고 밝힌다.
벤더·엔진 혼합
RIPL 결과는 다른 모델과 다른 엔진을 동시에 비교한다. 모델, kernel, scheduler, GPU 기여가 섞인다.
재현 조건 부족
그림에서 정확한 precision, batch, concurrency, 요청·출력 길이, software version, quality matching을 완전히 복원하기 어렵다.
상태와 유효성
양자화·긴 생성에서 상태 오차가 누적되면 문법적으로 맞아도 물리적으로 나쁜 회로가 될 수 있다. 사후 판정 비용도 포함해야 한다.
공통 난제는 효율적인 내부 표현이 외부 성공으로 바뀌는 과정의 병목을 분리하는 것이다. 데이터, 증류, 구조, kernel, scheduler, 하드웨어, evaluator가 동시에 바뀌면 어느 개선이 실제 원인인지 알 수 없다.
다음 연구가 답해야 할 질문
- 기억 예산: 동일 메모리에서 양자 연산자 시퀀스와 실시간 요청 이력 중 어떤 정보를 상태에 남겨야 유효 결과가 유지되는가?
- 공정한 backbone 비교: 같은 토큰화, 길이, 데이터, 목적함수, optimizer, 하드웨어에서 Mamba와 Transformer의 품질–비용 차이는 얼마인가?
- 최소 attention: 정확 회수나 회로의 장거리 상호작용에 필요한 최소 attention 비율과 배치는 무엇인가?
- state 표현력: 음의·복소 고유값, MIMO, 구조화 전이가 물리 제약과 병렬 학습의 균형에 어떤 영향을 주는가?
- 저정밀 안정성: int8/4-bit recurrent state가 길어질 때 에너지 오차, variational violation, 세션 drift는 어떻게 누적되는가?
- tail attribution: RIPL의 p95 개선 중 모델 구조, kernel, batching, scheduling, GPU가 각각 기여한 비율은 얼마인가?
- 실세계 지표: 합성 state-tracking 점수는 실제 agent·과학 워크플로 성공률과 상관하며, 성공 작업당 Joule은 얼마인가?
새 결과와 그 제한을 같은 표에 놓기
8.1 Mamba Quantum Eigensolver
거리 조건 φ(R)를 operator-token embedding과 결합하고, dmodel=128인 6개 residual Mamba block을 쓴다. state 16, expansion 2, convolution kernel 4, chunk 64, gradient checkpointing 설정이다. 무작위 offline warm-up 뒤 모델이 만든 후보를 양자 평가하고 통과 후보를 replay buffer에 추가하는 self-training을 수행한다. refinement batch의 30%는 buffer에서 가져온다.
품질 문턱은 50 mHa에서 5 mHa로 강화된다. 두 평가 구간 연속으로 수락률이 5% 미만이면 10 mHa를 더 허용한 뒤 완화량을 줄이는 self-healing threshold를 둔다. 이는 온라인 policy-gradient라기보다 외부 evaluator가 만든 선택적 supervised replay에 가깝다.
| 항목 | 저자 보고 | 해석 경계 |
|---|---|---|
| 분자·기저 | H₂, STO‑3G, CAS(2,2) | 가장 작은 분자 수준의 proof of concept |
| geometry | 학습 10, 평가 16 | potential-energy surface 일반화의 작은 표본 |
| 생성 길이 | Mamba‑QE 4, 표의 GPT‑QE 10 | 동일 길이에서의 controlled comparison 아님 |
| 최소 예측 에너지 | −1.136186 Ha | FCI −1.136189 Ha 대비 약 3×10⁻⁶ Ha |
| chemical accuracy | 16/16 geometry | 저자 보고; 독립 재현 아님 |
| variational violation | 0 | H₂ 설정 내부의 결과 |
| runtime·memory·energy | 미보고 | O(L) 주장은 연산자 점근성이지 실측 speedup이 아님 |
8.2 Liquid RIPL
Liquid AI는 RIPL에서 완전한 end-to-end 생성 응답을 50 ms 미만으로 제공하고, 두 workload에서 LFM2.5‑1.2B가 vLLM의 Qwen3.5‑0.8B보다 p95가 14.4–28.4배 낮으며 LFM2.5‑2.6B가 Qwen3.5‑2B보다 5.6–7.7배 낮다고 보고한다. Shopify 사례에는 sub‑20 ms inference와 약 50% 적은 파라미터, 2–10배 속도 개선 주장이 포함된다.
| 증거 | 직접 보여주는 것 | 보여주지 못하는 것 | 증거 수준 |
|---|---|---|---|
| Mamba‑QE | H₂ 16 geometry에서 높은 에너지 정확도와 0 violation | 큰 분자·긴 회로·실측 latency/energy·공정 backbone 우위 | 신규 arXiv v1 프리프린트 |
| RIPL | 공식적으로 보고된 end-to-end p95 및 production 사례 | 독립 재현, 동일 모델/품질 통제, 상세 부하·정밀도 설정 | 기업 기술·제품 발표 |
| LFM2 report | hardware-in-the-loop 모델 설계와 hybrid 구조 | RIPL 수치의 독립 검증 | 공식 기술보고서 v1 |
| Mamba‑3 | 이산화·복소 상태·MIMO를 통한 SSM 표현력 확장 | Mamba‑QE 또는 RIPL의 직접 구현 근거 | ICLR 2026 논문 |
어느 모델이나 엔진이 모든 조건에서 우월하다는 결론은 낼 수 없다. RIPL 수치는 서로 다른 모델과 runtime의 묶음 비교이며, 공개 페이지에서 exact GPU per result, precision, concurrency, batching, 요청·출력 분포, 품질 동등성을 충분히 확인하기 어렵다.
과학 탐색과 deadline-aware intelligence
Quantum chemistry
분자 geometry에 조건화된 회로 후보 생성과 quantum evaluator 기반 선별. 현재 근거는 H₂에 한정된다.
실시간 검색·추천
평균 처리량보다 p95가 중요한 commerce, ranking, fraud triage. 엔진 효과의 독립 검증이 필요하다.
온디바이스·로컬 RAG
작은 LFM·SSM으로 긴 이력을 압축하고 불확실할 때만 근거 저장소를 재조회하는 latency-aware assistant.
스트리밍 분석
센서·음성·비전 흐름에서 상태를 연속 갱신하고 마감시간을 넘기기 전에 경보를 생성하는 edge pipeline.
연구 제안 ETRI/Physical AI에서는 센서 상태 추적, 로봇의 고수준 계획, 엣지 운영지능을 “기한 내 유효 행동”으로 평가할 수 있다. 그러나 언어·과학 생성의 성공은 저수준 제어 안정성이나 안전성을 입증하지 않는다. 제어기는 별도의 worst-case 보장과 장애 안전장치를 가져야 한다.
결과 중심 평가가 풀어야 할 것
- 유한 상태의 기억 한계: 분자·과제별로 어떤 장거리 상호작용이 고정 상태에 들어가지 않는가?
- 망각 탐지: 모델이 결정적 과거를 잃었음을 감지하고 attention, replay, 외부 근거를 호출할 수 있는가?
- 후보 분포 안정성: best-of-N 결과뿐 아니라 평균·분산·실패율과 evaluator 호출 비용을 함께 보고할 수 있는가?
- 장기 세션 drift/reset: 연속 서비스에서 상태 오염을 감지하고 사용자·작업·장비별로 격리하는 규칙은 무엇인가?
- 공정한 system ablation: 같은 모델을 vLLM/RIPL에, 같은 엔진을 서로 다른 모델에 올려 효과를 교차 분해할 수 있는가?
- 양자화 누적 오차: recurrent state와 evaluator pipeline의 저정밀화가 물리·업무 제약 위반에 미치는 영향은 무엇인가?
- 한국어 전문업무: 한국어 긴 문맥, 과학·산업 문서, 로컬 RAG에서 quality-matched p95와 오류 복구를 재현할 benchmark가 부족하다.
“빠른 토큰”과 “빠른 정답” 사이의 간극이 핵심 미해결 문제다. 외부 verifier가 비싸거나 실패 후 재생성이 필요하면, 모델 내부에서 아낀 시간이 end-to-end 비용에서 사라질 수 있다.
Outcome-level efficiency를 공동 설계 목표로
제안 다음 세대 시스템은 세 층의 기억을 결합할 수 있다. ① SSM의 압축 상태는 지속적 맥락을 저비용으로 운반한다. ② 불확실성·충돌 구간에는 제한된 attention을 배정한다. ③ 과학적 사실, 원문, 과거 사건은 주소 가능한 외부 증거 메모리에서 다시 읽는다. 상태가 포화되거나 verifier 실패가 늘면 state rank, attention window, 후보 수를 늘리는 adaptive budget을 적용한다.
제안 벤치마크: Valid Outcome Under Deadline
| 축 | 필수 지표 | 왜 필요한가 |
|---|---|---|
| 결과 | task success, validity violation, 근거 회수율 | proxy accuracy와 실제 성공 분리 |
| 시간 | TTFT, p50/p95/p99 end-to-end, timeout rate | 평균에 가려진 꼬리 실패 탐지 |
| 자원 | peak memory, 평균/성공 작업당 Joule | 상태·KV·재시도 비용 통합 |
| 회복 | 오류 복구율, reset cost, overload degradation | 장기 운영에서 drift와 장애 측정 |
| 공정성 | 동일 데이터·정밀도·batch·hardware·quality | 모델과 엔진 효과의 인과적 분리 |
종합 해석 Mamba‑QE와 RIPL이 함께 주는 가장 생산적인 교훈은 “Mamba가 Transformer보다 빠르다”가 아니다. 연산자, 모델, 학습, verifier, runtime, 하드웨어를 하나의 결과 경로로 보고 병목을 측정하라는 것이다. 선형시간은 그 경로의 한 성질이지 최종 판정이 아니다.
References & provenance
- Petronilo et al., “Mamba Quantum Eigensolver (MQE): A Selective State Space Model for Scalable Ground State Simulations in Quantum Chemistry”. arXiv:2610.29779, 최초 공개 2026‑10‑21, v1; 현재 학회 발표 기록 없음. HTML full text.
- Liquid AI, “RIPL: Real-time Intelligence When Every Millisecond Counts”. 공식 기업 기술·제품 발표, 2026‑10‑22; 논문 아님.
- Liquid AI, “LFM2 Technical Report”. 최초 공개 2025‑11‑28, v1. LFM2 구조와 hardware-in-the-loop 설계 배경.
- Dao et al., “Mamba‑3”. 최초 공개 2026‑03‑16, ICLR 2026; exponential–trapezoidal discretization, complex state, MIMO 배경.
- Ren et al., “Samba”. 최초 공개 2024, ICLR 2025. SSM과 sliding-window attention hybrid 배경.
- Chen et al., “The Computational Limits of State-Space Models and Mamba”. 2025. 유한 상태와 계산 표현력의 이론적 경계.
- Sarrof et al., “Unlocking State-Tracking in Linear RNNs Through Negative Eigenvalues”. 최초 공개 2024, ICLR 2025.
- Gu & Dao, “Mamba: Linear-Time Sequence Modeling with Selective State Spaces”. 최초 공개 2023‑12‑01; 2025년 이전 배경 연구.