- 읽은 자료 4건(모두 레이더 후보)
- 정본 반영 0
- 레이더 신규 2건, 오픈 스레드 갱신 2건
오늘 함께 본 다른 변화는 다음과 같다.
- Taobao의 MetaStrategy는 LLM에게 점수 대신 랭킹 전략을 쓰게 하고, 그 추론을 서빙 경로 밖에서 돌린다.
- Kuaishou의 PushDualGen은 SID(semantic ID, 아이템의 의미 임베딩을 이산 토큰 열로 바꾼 ID)를 먼저 만들고 설명 문구는 필요할 때만 붙인다.
- Taobao의 DREAM에서는 기존 추천 파이프라인은 그대로 두고, 그 위의 agentic 레이어가 파라미터를 조정한다.
1LLM이 점수 대신 실행 가능한 랭킹 전략을 쓴다 — Taobao
자료 MetaStrategy: Generative Ranking with Executable LLM Strategies — arXiv 2608.09440, 2026-08-10, 논문(Alibaba/Taobao, 저자 15인)
배경 이 저장소가 추적해 온 "LLM을 서빙 경로에 넣는 방법"의 프로덕션 진술은 두 계열로 나뉜다. Netflix GenRec에서는 LLM 자체가 채점 함수가 되어 아이템에 점수를 매긴다(services/netflix.md GenRec 절). Yandex Music Gryphon-v2에서는 LLM이 Semantic-ID 시퀀스를 생성해 retrieval과 ranking을 한 번에 대체한다(radar.md 이번 달 신규). 두 계열 모두 LLM이 온라인 서빙 경로에서 실시간으로 도는 함수다. 요청이 들어올 때마다 LLM을 실행해야 한다는 뜻이다. 이번 논문의 MetaStrategy는 세 번째 접근으로, LLM은 서빙 경로 안에 있지 않고 랭킹 전략 자체를 작성해서 배포한다.
새로 알게 된 것A. LLM은 점수가 아니라 실행 가능한 정책 번들을 출력한다
LLM이 출력하는 것은 스코어가 아니라 실행 가능한 정책 번들이다 확인.
- LLM은 요청 컨텍스트를 받아 typed JSON 번들을 내놓는다. 번들에는 objective weights, content/category preferences, experience constraints, position policies가 담긴다.
- 번들의 내용을 풀어 쓰면 "이번 슬롯에서는 목적 함수 가중치를 이렇게, 카테고리 선호를 이렇게, 위치 정책은 이렇게 정한다"는 식이다.
- 결정론적 validator와 compiler가 이 번들을 격리된 Generator로 인스턴스화한다. 이 Generator는 Generator-Evaluator(GE) 아키텍처의 Generator 자리에 결정론적으로 컴파일되어 들어간다.
- GE 아키텍처는 Generator가 후보 리스트를 만들고 Evaluator가 리스트를 채점하는 재순위 구조다. 여기서는 list-level Evaluator가 새 Generator를 인컴번트(기존 전략)와 원자적으로 경쟁시킨다.
"a large language model (LLM) policy emits a typed JSON bundle controlling objective weights, content and category preferences, experience constraints, and position policies. A deterministic validator and compiler instantiate an isolated Generator that competes atomically with incumbents under the list-level Evaluator of the Generator-Evaluator (GE) architecture." — MetaStrategy 초록, 2026-08-10
새로 알게 된 것B. LLM 추론은 nearline에서 이루어지고, 동기 랭킹의 응답 시간에는 관측되는 증가가 없다
LLM 추론은 nearline(요청 처리와 분리해 실시간에 가깝게 미리 계산하는 방식)에서 이루어진다 확인. 동기 랭킹의 응답 시간(RT)에는 관측되는 증가가 없다 확인.
- Taobao 홈페이지 "Guess You Like" 지면에 diff-triggered nearline generation 방식으로 배포했다.
- LLM 추론은 요청과 동기적으로 실행되지 않는다. LLM은 서빙 요청 밖에서 실행되고, 컴파일된 전략만 온라인에 반영된다.
"We deploy MetaStrategy in Taobao Homepage Guess You Like through diff-triggered nearline generation; LLM inference remains outside synchronous ranking, with no observable increase in response time (RT)." — 같은 초록, 2026-08-10
새로 알게 된 것C. 유저 단위 A/B에서 클릭, 상품 상세 조회, 거래액이 모두 개선됐다
- 7일 동안 유저 단위로 무작위 배정한 A/B에서 click PV, item-detail PV, 거래액이 모두 개선되었다 확인. 프로덕션 환경에서 얻은 진술이다.
- 처리군 GE 호출 가운데 27.93%에서 MetaStrategy가 인컴번트를 이겼다.
- click PV는 +2.11%, item-detail PV는 +3.12%, 거래액은 +2.83% 개선되었다.
새로 알게 된 것D. 정책은 실제 요청을 다시 돌리는 환경에서 학습하고, 작은 student 모델로 압축한다
정책은 production-path replay 환경에서 학습한다 확인. 실제로 로그에 남은 요청을 유저에게 노출하지 않고 현재 re-ranking 스택으로 재실행하는 환경이다.
- reward는 selection, relative-rank, baseline-lift 세 종류를 조합해 구성한다.
- 자주 나온 전략을 다시 경쟁자로 투입하는 self-competitive curriculum과 Evaluator-routed on-policy distillation을 함께 적용해서, 4B teacher 두 개를 0.8B student 하나로 압축했다.
"self-competitive curriculum that feeds frequent strategies back as competitors, and Evaluator-routed reward-augmented on-policy distillation that transfers complementary 4B-parameter Teachers into a compact 0.8B-parameter Student." — 같은 초록, 2026-08-10
정본 반영 없음. radar.md의 "이번 달 신규"에 새 엔트리로 추가했다. LLM-native 랭킹 오픈 스레드에는 "GenRec/Gryphon과 다른 세 번째 각도"라는 한 줄을 덧붙였다.
의미 MetaStrategy는 LLM을 오프라인 정책 컴파일러로 두는 세 번째 방식을 프로덕션 진술과 함께 제시한다. 이 저장소의 LLM-in-recsys topic은 지금까지 LLM을 서빙 경로에 넣는 두 가지 방식(채점 함수와 생성기)을 다뤘다.
- 이 접근의 장점은 두 가지다. LLM 지연이 사용자에게 노출되지 않으므로 크고 느린 모델을 써도 된다. 또 출력이 typed JSON이라 기존 랭킹 스택의 결정론적 가드레일과 자연스럽게 결합된다.
- 대신 LLM이 요청별 세부 맥락에 반응할 수 없다는 대가를 치른다. 세션 안에서 실시간 인텐트를 읽어 내는 능력은 GenRec/Gryphon 쪽이 앞설 수밖에 없다.
- 같은 사흘 안에 Taobao에서 공개된 DREAM은 바로 그 대가로 남은 문제인 실시간 인텐트를 다른 방식으로 푼다. 그래서 두 접근의 대칭이 흥미롭다.
2SID를 먼저 생성하고 설명 문구는 필요할 때만 붙인다 — Kuaishou
자료 PushDualGen: Enabling LLMs to Generate Semantic IDs with Interpretable Copy for Industrial Push Recommendation — arXiv 2608.07989, 2026-08-08, 논문(Kuaishou, 저자 12인)
배경 Kuaishou는 프로덕션 환경의 LLM-native 추천을 공개적으로 추진하는 몇 안 되는 플랫폼이다. 첫 세대인 OneRec은 SID로 end-to-end 유저 개인화를 수행하고, 두 번째 세대인 OneRec-Thinking은 SID를 생성하기 전에 CoT를 덧붙여 추론 흔적을 남긴다. OneRec-Thinking의 문제는 분명하다. CoT는 토큰을 많이 생성하기 때문에 추론 비용이 크고, 그래서 대규모 푸시 추천처럼 요청량이 많은 지면에서는 부담이 커진다. 이번 논문의 PushDualGen은 그 자리를 채우는 세 번째 세대다.
새로 알게 된 것A. SID를 먼저 만들고, 설명 텍스트는 서빙에서 필요할 때만 생성한다
PushDualGen은 SID를 먼저 만들고 설명 텍스트를 나중에 만드는 duo 생성 구조다 확인.
- 설명 텍스트(copy)는 서빙 시점에 건너뛸 수 있는 부가 출력이라서, 서빙에서 필요할 때만 생성한다. 그래서 전체 모델을 lightweight generator로 유지할 수 있다.
- 이 구조 덕분에 CoT처럼 매 요청마다 비용을 지불하지 않으면서도 "왜 이 아이템이 추천되었는가"를 추적할 수 있다.
"PushDualGen, a lightweight generator, which first generates the SID and then produces a copy as a skippable explanation." — PushDualGen 초록, 2026-08-08
새로 알게 된 것B. Kuaishou 푸시 추천에 배포됐고, 온라인 A/B에서 유효 재생률은 오르고 불만족률은 내렸다
Kuaishou 푸시 추천 지면에 프로덕션 배포했다고 밝혔다 확인.
- 온라인 A/B에서 effective play rate가 상대적으로 +8.50% 올랐고, 불만족률(dissatisfaction rate)은 상대적으로 37.70% 낮아졌다.
- 장기적으로는 롱테일 비디오의 노출도 개선되었다.
"The effective play rate for videos recommended to users has relatively increased by 8.50%, while the dissatisfaction rate has relatively fallen by 37.70%. In the long term, PushDualGen optimises the content ecosystem, providing more exposure for long-tail videos." — 같은 초록, 2026-08-08
새로 알게 된 것C. 전날의 HD-Rec은 벤치마크 결과만 냈고, PushDualGen은 프로덕션에 배포됐다
- 전날 통과한 HD-Rec에 이어 Kuaishou의 SID 확장 계열이 이틀 연속으로 수용 기준(플랫폼 기업 저자나 프로덕션 배포·A/B 주장, 메커니즘의 신규성, 대규모 스케일 결과를 보는 레이더 기준)을 통과했다.
- HD-Rec은 계층 코드북과 domain sparse MoE(mixture of experts, 입력마다 일부 전문가 네트워크만 쓰는 구조)를 쓰는 cross-domain SID 연구이고, 벤치마크 결과만 제시한다. 반면 PushDualGen은 프로덕션에 배포되었다.
- 두 편은 같은 계열에서 갈라져 나온 서로 다른 발전 방향이다.
정본 반영 없음. radar.md 생성형 retrieval / semantic ID 오픈 스레드에 "2026-08-12 추가 근거"라는 한 줄을 덧붙였다.
의미 Kuaishou가 SID 계열(OneRec → OneRec-Thinking → PushDualGen)을 세대별로 계속 공개한다는 신호가 강해진다. 이 계열이 계속 이어진다면, Netflix GenRec만 대규모 A/B로 검증되었다는 LLM-native 스레드의 초기 판단은 머지않아 바뀌게 된다.
- HD-Rec의 저자진(Ruiming Tang, Guorui Zhou, Han Li)과 PushDualGen의 저자진이 겹치는지는 아직 확인하지 않았다.
- 겹친다면 하나의 팀이 SID를 추진하는 것이고, 겹치지 않는다면 회사 차원에서 두 갈래로 SID를 추진하는 것이 된다.
3파이프라인은 그대로 두고 그 위의 agentic 레이어가 파라미터를 조정한다 — Taobao
자료 DREAM Technical Report — arXiv 2608.09408, 2026-08-10, 논문(Alibaba/Taobao, 저자 75인)
배경 기존 산업 추천 파이프라인에는 고전적인 병목이 있다. retrieval → ranking → re-ranking이 모듈로 나뉘어 있어서 정보와 목적이 파편화되고, 규칙이 경직되어 있으며, 실시간 인텐트에 반응하지 못한다. 이번 논문의 DREAM은 이 문제를 파이프라인을 바꾸지 않고 그 위에 추가하는 정책 레이어로 해결한다. 세 층(L0/L1/L2)으로 이루어진 인텐트 엔진이 온디바이스 신호를 구조화된 인텐트로 압축해 클라우드로 보내면, MetaModel이 그 인텐트를 요약, 전략 계획, 파라미터 번역의 M1-M2-M3 단계로 추론한 뒤 파이프라인 파라미터를 조정한다.
새로 알게 된 것A. 단말 신호를 트리거 조건으로 걸러 클라우드로 보내는 양을 크게 줄인다
- 엣지-클라우드 트리거 체인이 리포팅 볼륨을 약 8.7% 수준으로 압축한다 확인.
- 온디바이스 신호를 모두 전송하지 않고 트리거 조건으로 걸러 낸다.
- 클라우드 쪽 부담을 크게 줄인 것이 배포 가능성의 전제가 되었다.
새로 알게 된 것B. 파이프라인 모델을 바꾸지 않고도 A/B에서 IPV와 GMV가 올랐다
A/B에서 re-ranking만 제어해도 지표가 개선되었고, fine ranking까지 제어를 확장하면 개선 폭이 커졌다 확인.
- re-ranking 제어만 적용했을 때 IPV가 +2.06%, Core IPV가 +2.39%, GMV가 +0.88% 개선되었다.
- fine ranking까지 제어를 확장하면 각각 +2.71%, +3.06%, +1.31%로 올라가고, PV도 +1% 이상 일관되게 개선되었다.
- 이 결과는 모델을 교체하지 않고, 서빙 안정성도 훼손하지 않은 채로 얻은 것이다.
"Large-scale A/B tests on Taobao's homepage feed show that re-ranking control alone improves IPV by 2.06%, Core IPV by 2.39%, and GMV by 0.88%. Extending control to fine ranking raises these gains to 2.71%, 3.06%, and 1.31%, respectively... These gains require neither replacement of pipeline models nor compromise of serving stability, supporting agentic meta-control as a viable paradigm for industrial recommendation." — DREAM 초록, 2026-08-10
새로 알게 된 것C. 오프라인 시뮬레이션과 온라인 피드백의 이중 루프로 두 모듈을 함께 최적화한다
- Reward Dual Loop라는 이중 루프로 인텐트 엔진과 MetaModel을 동시에 최적화한다 확인.
- 한 루프는 전략 공간을 탐색하는 오프라인 시뮬레이션이고, 다른 루프는 결과를 보정하는 온라인 피드백이다.
정본 반영 없음. radar.md의 "이번 달 신규"에 새 엔트리로 추가했다.
의미 DREAM과 MetaStrategy는 같은 회사(Taobao)에서 같은 지면(홈페이지 피드) 부근을 대상으로 나온 두 접근이라 대칭이 뚜렷하다. MetaStrategy는 정책 컴파일러이고, DREAM은 실시간 조정기다.
- MetaStrategy는 LLM이 정책 JSON을 nearline으로 컴파일해서 랭킹 스택 안에 주입하는 방식이다. DREAM은 agentic MetaModel이 온디바이스 인텐트를 받아 파이프라인 파라미터를 조정하는 방식이다.
- 저자 명단이 상당 부분 겹치는 것으로 보아 같은 조직이 두 갈래로 실험하고 있을 가능성이 크다. 예를 들어 Chengyu Lai, Jiuning Lin, Bin Zhang, Han Zhu 등이 두 논문에 공통으로 이름을 올렸다.
- 앞으로 두 접근이 하나로 수렴할지, 아니면 각각 병렬로 배포될지 지켜볼 만하다.
검증에서 뒤집힌 것
없음.
레이더
오늘 훑은 신규 논문 30건 가운데 4건이 수용 기준을 통과했다(Alibaba 3건, Kuaishou 1건). 대상은 arXiv cs.IR 신규 제출물이고, 제목과 초록만 보고 거르는 triage 단계를 거쳤다. 같은 회사(Alibaba)에서 사흘 사이에 세 편이 나온 것은 흔치 않은 묶음이라 따로 기록해 둔다. 중국 대형 플랫폼이 서로 다른 각도에서 LLM·SID 계열을 서빙하는 방식이 한 묶음으로 공개된 셈이다.
- MetaStrategy(위의 1번 절)를 radar.md 이번 달 신규에 새 엔트리로 넣고, LLM-native 스레드에 한 줄을 추가했다.
- PushDualGen(위의 2번 절)에 대해서는 SID 스레드에 "2026-08-12 추가 근거" 한 줄을 추가했다.
- DREAM(위의 3번 절)을 radar.md 이번 달 신규에 새 엔트리로 넣었다.
- IntHQ(arXiv 2608.09634, 2026-08-10)는 radar 엔트리를 만들지 않고 daily에 기록만 남긴다.
- Amap(Alibaba 지도, 여행 추천)에서 나온 논문이다.
- 생성형 추천에 multi-task를 융합하는 세 갈래 방법을 제시한다. Dual-Stream Decoupling, Task-Interactive Modeling, Hierarchical Querying이다.
- 프로덕션 A/B에서 UVCTR이 +1.60% 개선되었다고 보고한다.
- 다만 메커니즘의 신규성은 상대적으로 낮은 편이라, 이미 존재하는 generative와 multi-task의 조합을 정돈한 쪽에 가깝다. radar 엔트리를 만들지 않은 이유다.
- 같은 계열의 논문이 더 쌓이면 그때 승격 여부를 판단하겠다.
- 나머지 26건은 순수 학술 증분(RAG 최적화, 학술 retrieval, medical/legal/edu 도메인, POI, RISC-V ANNS 등)이라 수용 기준에서 탈락했다.
- 산업 블로그 스윕은 월요일에 하는 작업이라, 수요일인 오늘은 하지 않았다. 다음 스윕은 2026-08-17(월)에 진행한다.
다음에 볼 것
- MetaStrategy 본문을 정독한다 — 본문에서 아래 세 가지를 확인해야 한다. nearline에서 LLM 지연이 얼마나 되는지도 초록에는 나오지 않는다. 심층 분석 필요 (사람이 트리거한다).
- 4B teacher를 두 개 쓰는 이유(서로 다른 강점을 결합한다고 서술한다)
- production-path replay 환경의 구현 방식
- self-competitive curriculum의 세부 내용
- DREAM 본문을 정독한다 — 아래 세부 내용을 확인해야 한다. 저자가 75인 규모라서 팀 구조도 파악할 필요가 있다. 심층 분석 필요.
- 인텐트 L0/L1/L2 스키마
- MetaModel M1-M2-M3 단계별 프롬프트와 출력
- 온디바이스 트리거 체인의 세부 내용
- Kuaishou OneRec/OneRec-Thinking/PushDualGen 계보를 정리한다 — HD-Rec까지 포함하면 SID 계열이 두 편 연속으로 통과했다.
topics/llm-in-recsys.md에 Netflix GenRec과 나란히 놓을 절이 필요해지고 있다. 다음 산업 블로그 스윕(2026-08-17) 때 Kuaishou의 엔지니어링 자료도 함께 살펴본다. - Taobao 홈피드의 두 접근(MetaStrategy vs DREAM) 관계를 다시 정리한다 — 두 논문이 같은 지면을 겨냥하는데, 별개의 팀에서 나온 것인지 같은 팀의 두 실험인지를 저자 목록으로 다시 확인해야 한다. 저자가 겹치는 것이 확인되면 topic 후보로 올린다(정책 컴파일 vs 실시간 튜닝).