0x00

리서치 / 일일 리포트

  • 읽은 자료 1건
  • 정본 반영 0개 파일
  • 레이더 1건
한 줄 요약Huawei가 100M+ DAU 앱 배포 플랫폼의 랭킹 모델을 MMoE에서 PTDG로 교체한 CIKM 2026 논문을 냈다. PTDG는 아이템마다 task 간 의존 그래프를 따로 만든다.

1아이템마다 task 간 연결 강도를 바꾸는 랭커로 MMoE를 교체했다 — Huawei

자료 Personalized Task Dependency Graphs for Mitigating Signal Erosion in Multi-Task Recommendation — arXiv 2609.04862 v1, 2026-09-04 제출, 논문(CIKM 2026 accepted). 저자 11인은 전원 Huawei Technologies(Shanghai / Nanjing / Dongguan / Beijing) 소속이다. HTML 판의 affiliation 표기와 @huawei.com 도메인으로 확인했다.

배경 산업 규모 추천 시스템의 랭킹 모델은 여러 목적을 함께 예측하는 multi-task learning(이하 MTL) 구조를 쓴다. Click → Add-to-Cart → Purchase처럼 얕은 상호작용에서 깊은 전환으로 이어지는 conversion funnel을 모델 하나가 계층적으로 학습하는 방식이다. 흔히 쓰는 MMoE(Multi-gate Mixture-of-Experts)와 그 후속 계열은 이 funnel의 task 간 dependency 구조를 모델 구조로 고정한다. expert가 여러 task 사이에서 gating으로 정보를 공유하고, task별 head가 각 목적을 예측하는 구조다.

이 논문이 지적하는 문제는 rigid inductive bias다. 트래픽 전반에서 task 간 dependency 강도가 같다고 가정한다는 뜻이다. task 간 상관은 아이템 특성에 따라 크게 다르다. 광고 아이템은 즉시 클릭 목적이 강하고, 게임 아이템은 다운로드→활성 사용까지 이어지는 conversion 경로가 길다. 정적 funnel은 이 heterogeneity를 반영하지 못한다. 그 결과 conversion funnel의 하위(sparse, deep-funnel objective)로 갈수록 signal erosion이 관찰된다. hierarchical message passing이 누적되면서 신호가 약해지는(attenuate) 현상이다. 이번 논문은 conversion funnel의 연결을 아이템별로 다시 짜는(rewiring) MTL 랭커 PTDG를 MMoE 대체용으로 제안한다.

정본에 이미 등장한 여러 스레드와의 관계를 짚어 두면 이해가 빠르다.

  • 스케일링 법칙 스레드의 Meta HSTU(추천 특화 시퀀스 트랜스포머)와 Wukong, Netflix Foundation Model, Alibaba TransRetrieval은 파라미터·시퀀스 축을 확장해서 랭킹 품질을 끌어올리는 접근이었다. PTDG는 그와 다르게 MTL 아키텍처 안의 dependency 구조 자체를 학습 대상으로 삼는다.
  • Meta GEM 같은 광고 domain foundation model은 시퀀스 인코더를 공유해 여러 지면을 커버한다. PTDG는 단일 지면 안에서 task 간 신호 라우팅을 personalize한다.

새로 알게 된 것A. PTDG는 아이템마다 task 간 의존 그래프를 따로 만들고, 인과 순서는 마스크로 지킨다

  • PTDG(Personalized Task Dependency Graphs)는 아이템마다 다른 dependency graph를 low-rank approximation으로 생성한다. 이 그래프로 dependency pathway의 강도를 다시 짠다 확인.
    • 각 task를 node로, dependency를 edge로 두는 T×T dependency matrix I ∈ ℝ^(T×T)를 아이템 feature에서 예측한다.
    • 이때 low-rank 분해로 파라미터를 압축한다.
  • 물리적 causal constraint는 hard causal masking으로 지킨다. Click → Pay 같은 제약(구매 없이 결제가 있을 수 없다)이 절대 뒤집히지 않도록 dependency graph에 hard mask를 씌운다 확인.
    • GCN(그래프에서 이웃 노드의 정보를 모아 전파하는 신경망) 기반 propagation이 이 mask 아래에서 아이템별 적응적 shortcut을 만든다.

새로 알게 된 것B. 희소한 전환 task는 파라미터 경로를 따로 둬서 dense task의 gradient에 묻히지 않게 한다

  • Adaptive Progressive Masking(APM)은 task sparsity에 따라 sparse task와 dense task의 shared parameter를 분리(decouple)해 최적화를 안정시킨다. 결제 같은 sparse conversion task가 클릭 같은 dense task의 gradient에 압도되지 않도록 파라미터 경로를 나눈다 확인.

새로 알게 된 것C. 오프라인에서는 희소한 전환 task의 AUC가 baseline보다 최대 +1.45% 올랐다

  • KuaiRand1K 공개 데이터셋과 자체 industrial dataset에서 sparse conversion task의 AUC가 baseline 대비 최대 +1.45% 올랐고, dense task는 비슷한 수준(comparable)을 유지했다 확인.

새로 알게 된 것D. 앱 배포 플랫폼의 2주 A/B에서 CVR이 +1.2%, eCPM이 +1.9% 올랐다

  • PTDG는 주류 앱 배포 플랫폼에 배포됐다. 논문은 이 지면을 이렇게 썼다: "a mainstream app distribution platform, serving over 100 million daily active users".

    • 이 지면은 Huawei AppGallery로 추정한다 추정. 논문은 회사명은 밝히지만 구체 지면은 익명화했다.

  • A/B는 2주 동안 돌렸다. 10% base bucket과 10% experimental bucket을 두고, 나머지 80%에는 original production model을 유지했다.

    • 유의성은 일별 aggregate metric에 대한 two-sample t-test(p<0.05)로 봤다.

  • 논문은 CVR이 +1.2%, eCPM이 +1.9% 올랐고 이 개선이 통계적으로 유의하다고 썼다.

    • CVR은 전환율(conversion rate)이고, eCPM은 노출 대비 광고 수익을 나타내는 지표다.
    • baseline은 현재 배포된 MMoE다. §4.2 Table 2의 offline 비교에 쓴 것과 같은 아키텍처다.

    "Results show that PTDG achieved statistically significant improvements on core business metrics, with a +1.2% lift in CVR and +1.9% lift in eCPM." — arXiv 2609.04862 v1 §4.5, 2026-09-04

새로 알게 된 것그 밖의 사항

  • 저자 전원의 이메일이 Huawei 도메인이다.

    • 공동 1저자는 Fuyuan Liu, 교신저자는 Tiandeng Wu다. 나머지 저자는 Yaqun Fang, Wei Zhou, Zehao Zhou, Wenping Chen, Qishun Mei, Jiaxin Zhou, Heng Chang, Yi Cao, Jiandong Ding이다.
    • 이들의 이메일이 모두 @huawei.com이다.

  • 논문 말미에 생성형 AI 사용 고지(GenAI Usage Disclosure)를 명시했다. 이런 표기는 CIKM/ACM 규정에 맞춘 것으로, 최근 산업 논문에서 흔해지고 있다.

    "Generative AI tools assisted with language editing and code debugging. All experimental results were produced by author-written scripts and verified against saved artifacts." — 논문 말미의 GenAI Usage Disclosure

정본 반영 radar.md의 이번 달 신규 절 맨 위에 PTDG 엔트리를 추가했다. Huawei는 정본(이 저장소의 서비스·주제별 노트)이 추적하는 서비스가 아니라서 services 정본은 만들지 않는다. 두 번째 회사가 비슷한 personalized task dependency 진술(GCN, causal masking, APM의 조합)을 내면 topics/multi-task-ranking.md에 절을 새로 만들 후보가 된다.

의미 MTL의 아키텍처 축인 dependency 구조 자체를 학습 대상으로 삼는 접근은 정본에서 자주 다뤄 온 스케일링 축(파라미터·시퀀스·데이터)이나 loss 축과 다른 자리다. 여기서 loss 축은 pxtr(멀티태스크 모델이 행동별로 낸 예측 확률) 노이즈 보정과 다목적 디코딩을 말한다. 특히 Xiaohongshu GateDiffInt가 CVR head의 입력 시퀀스를 diffusion과 LLM intent 증류로 재설계했다면, PTDG는 CVR head 사이의 dependency 구조를 재설계한 셈이다. CVR head 자체를 재정의하는 진술이 최근 두 회사에서 겹쳐 나온 것이 관찰되는 패턴이다.

다만 논문에는 CVR/eCPM lift만 있고, dense task(예: click)의 개별 지표나 baseline MMoE의 구체 버전, industrial dataset의 sample 수는 공개하지 않았다. CIKM 2026 발표 슬라이드(2026-11-07~11, Rome)에서 이 세부가 나오는지 지켜본다.

arXiv cs.IR에서 함께 검토한 후보

논문 30건을 파싱했고, 통과한 것은 PTDG 1건이다. 아래 세 건은 산업 프로덕션 진술이 있어서 검토했지만, 정본 관심사(피드 랭킹/retrieval)와 도메인이 어긋나 스레드에 붙이지 않았다.

  • AlleCompanion(arXiv 2609.05063, RecSys 2026 OARS workshop)은 폴란드 최대 e-commerce인 Allegro가 프로덕션에 배포한 complementary product recommendation이다.
    • two-tower(두 입력을 따로 임베딩하는 두 인코더 구조)와 Category Adapter로 co-purchase 노이즈를 걸러 내고, ComCat이 category-level 제약을 만든다.
    • ComCat은 expert rule, human-in-the-loop, LLM reasoning, statistical mining을 조합한다.
    • 유효 지표는 abstract 마지막에서 잘려서 확인하지 못했다.
    • complementary recommendation은 basket-building 지면(장바구니 아래 carousel 등)의 카테고리 검색 문제라서, 유기 피드·홈 지면 랭킹 스레드와 도메인이 다르다.
    • 두 번째 회사(Amazon "Frequently bought together"의 프로덕션 진술 등)가 비슷한 category-constrained two-tower 진술을 내면, 그때 도메인 스레드를 새로 만드는 것을 검토한다.
  • IGPO(arXiv 2609.04813, EMNLP 2026 Industry Track)는 익명 commercial smart-assistant의 AI search에서 나온 training-free 접근이다.
    • 프로덕션 배포된 AI search pipeline에서 fine-tuning이나 RL 대신 inventory-grounded policy guideline을 학습하고, 서빙할 때 이 guideline을 프롬프트에 넣는다.
    • 2026년 5월부터 배포했고, 14일 A/B에서 CTR +3.17%, audited bad cases −38.9%를 얻었다 확인.
    • AI search(대화형 검색)에 초점이 맞춰져 있고, recsys 피드 랭킹과 도메인이 다르다.
    • 다만 "카탈로그가 자주 갱신되는 조기 배포 단계에서 fine-tuning/RL이 잘 안 된다"는 문제 진술은 recsys 콜드스타트와 부분적으로 겹친다.
    • 두 번째 회사에서 비슷한 policy-guideline 진술이 나오면 검토 대상에 다시 올린다.
  • SAM-D2Q(arXiv 2609.04961, CIKM 2026 Oral Full Paper)는 Alibaba가 AliExpress 프로덕션 검색에 배포한 multimodal Doc2Query다.
    • Doc2Query는 문서마다 그 문서를 찾을 만한 pseudo-query를 생성해 붙이는 document expansion 기법이다.
    • SAM-D2Q는 Product title에 시각 신호를 붙여 pseudo-query를 생성하고, RL-based preference alignment로 search business objective(전환)에 정렬한다.
    • e-commerce search의 document expansion 문제라서 피드 랭킹 스레드와 도메인이 다르다.
    • Alibaba 검색 라인의 최신 진술로만 기록한다.

프로덕션 배포·A/B 진술이 있는 후보는 위 4건이 전부다. 나머지 26건의 주제는 다음과 같다.

  • 도메인 제한: 의료·법률·야구·music finance QA·essay grading·programming tutor·multi-omic 시각화·web curation·phonetic encoding
  • agentic memory 벤치마크
  • RAG 개선: CAGE·tree-based framework
  • 학술 SID(semantic ID, 아이템을 계층 코드로 표현한 토큰 열)·multimodal recsys: EPIC diffusion 후속·MURAL uncertainty edge learning·Latent-Aligned VLM 등
  • embedding surgery
  • 프로그래밍 튜터 audit
  • 브랜드 추천 LLM audit

다음에 볼 것