0x00

리서치 / 일일 리포트

  • 읽은 자료 1건
  • 정본 반영 1개 파일
  • 레이더 1건
한 줄 요약Shopify가 Meta의 HSTU를 바탕으로 만든 생성형 추천 모델을 상품 추천에 배포했다는 2026-02 블로그를 뒤늦게 찾아 레이더에 넣었다.

1HSTU 기반 생성형 추천 모델을 상품 추천에 배포했다 — Shopify

자료 Shopify's Foundational Generative Recommender System — Shopify Engineering, 2026-02-25, 산업 블로그. 저자는 Ali Khanafer·Yang Liu(둘 다 Senior Staff ML Engineer)다.

배경 Shopify는 Shop app(구매자용 앱)과 머천트 스토어프론트 두 곳에 상품 추천을 서빙한다. 이전에는 여러 신호를 별개의 후보 생성기와 ranker로 앙상블하는 흐름이었다.

여기서 "생성형(generative)" 추천 모델이란 유저의 상호작용 시퀀스(검색, 조회, 장바구니 추가, 구매)를 토큰 열로 놓고, 다음 상호작용을 autoregressive하게 예측하는 시퀀스 트랜스포머를 말한다. 아이템 자체를 텍스트로 생성하지는 않고, 카탈로그 안의 상품 임베딩을 다음 토큰으로 예측한다.

기반 아키텍처는 Meta가 2024년에 공개한 HSTU(Hierarchical Sequential Transduction Units)다. HSTU는 어텐션 마스크로 후보와 히스토리를 한 시퀀스 안에 함께 배치해, forward 한 번에 여러 후보를 동시에 채점할 수 있게 만든 recsys 특화 트랜스포머다. Shopify는 이를 시작점으로 삼아 세부를 e-commerce 문맥에 맞게 바꿨다고 밝힌다. 이번 자료는 기존 스택 안에 생성형 recommender를 후보 생성기이자 랭킹 후보 소스 하나로 새로 추가한 시도다.

새로 알게 된 것A. 모델은 구매자의 원시 이벤트 시퀀스를 시간 정보와 함께 읽는다

  • 자기회귀 시퀀스 예측기로, 구매자의 원시 이벤트 시퀀스(검색·조회·장바구니·구매)를 그대로 입력으로 받는다. Causal masking을 걸어 미래 이벤트를 참조하지 못하게 한다 확인.
  • 시간 정보는 RoPE(rotary positional embedding)에서 영감을 받은 rotary encoding과 relative attention bias를 조합해 넣어, 어텐션이 절대 시각과 상대적 최신성을 둘 다 참고하게 한다 확인.

"RoPE-inspired rotary encoding so attention can carry an absolute notion of time" — Shopify's Foundational Generative Recommender System, 2026-02-25

새로 알게 된 것B. 학습에서는 negative를 고르는 기법을 새로 도입하고 훈련 속도를 높였다

  • 대조 학습의 품질을 올리려고 배치 사이에 negative(정답이 아닌 비교 예시)를 공유하고, positive를 아는 상태에서 어려운 negative를 고르는 positive-aware hard negative selection을 도입했다 확인.
  • 앙상블 안에서 recall을 점진적으로 끌어올리려고, 다른 앙상블 모델의 예측을 hard negative로 취급하는 boosting 기반 접근을 썼다 확인.
    • 이 접근은 새 모델이 기존 후보 생성기와 겹치는 후보만 뽑아 앙상블 총합에 기여하지 못하는 문제를 겨냥한 것으로, 후보 다양성을 학습 목적에 직접 넣는 방식이다.
  • CUDA 커널 최적화로 파이프라인 훈련 속도를 baseline 대비 7.3x까지 올렸다 확인.
    • 이는 아키텍처 스케일링 법칙이 아니라 훈련 처리량의 개선이다. 그래도 HSTU 계열의 서빙·훈련 비용이 여전히 튜닝 대상이라는 신호로 읽는다.

"In our internal benchmarking, the full training pipeline reached up to 7.3x speedup" — Shopify's Foundational Generative Recommender System, 2026-02-25

새로 알게 된 것C. A/B 성과는 공개했지만, baseline 모델명과 추천 요청 규모는 밝히지 않았다

  • 프로덕션 A/B에서 Shop orders가 +0.94%, high-quality CTR이 +5%, conversion rate가 +0.71%, final product recall@4가 +4.8% 올랐다(모두 상대값) 확인.
    • Baseline은 기존 추천 스택이고, 구체적인 모델명은 공개하지 않았다.
  • 서빙 규모로는 상품 추천 요청 수가 아니라 플랫폼 전체 트래픽 문맥에서, BFCM 2025(Black Friday Cyber Monday)에 2.2조 건의 edge request를 처리했다는 지표만 밝혔다 확인.
    • Peak 이벤트 규모는 수십억 건 수준이라고 설명한다.

"Shop orders increased by 0.94% relative. High quality click-through rate increased by 5% percent relative...Conversion rate increased by 0.71% relative." — Shopify's Foundational Generative Recommender System, 2026-02-25

새로 알게 된 것D. 다음 단계로는 상품을 semantic ID로 표현하려 한다

  • 다음 단계로는 semantic ID(SID)를 도입해 상품을 작은 토큰 vocabulary에서 뽑은 토큰 시퀀스로 표현해서, 대형 임베딩 테이블 의존을 줄이고 텍스트 질의 통합을 열려 한다 확인.
    • 아직 배포되지 않은 방향이다.

"when products are modeled independently, the system relies on very large embedding tables...can become a bottleneck" — Shopify's Foundational Generative Recommender System, 2026-02-25

정본 반영 radar.md의 "이번 달 신규" 절에 Shopify GRs 항목을 추가했다. 또 "추천 모델 스케일링 법칙"과 "생성형 retrieval / semantic ID" 두 오픈 스레드(radar.md에서 관찰 중인 주제)에 각각 추가 근거로 넣었다.

의미 이 자료는 HSTU 계보에서 e-commerce 상품 추천 도메인의 첫 진술이다. 다만 baseline 모델의 정체와 파라미터 규모가 공개되지 않아 스케일링 법칙 스레드의 근거로서는 약하다.

  • 이 자료는 2026-02에 공개된 것이라 신선한 발표는 아니지만, 이 저장소가 반년 넘게 놓치고 있던 진술이다. 오늘 WebSearch 교차 확인으로 발견됐다.
  • Shopify는 HSTU 계보에 붙은 여섯 번째 산업 회사다. 계보는 topics/sequence-transformer-ranking.md에 정리돼 있다.
    • 기존 계보는 Meta HSTU·Wukong 원본, Netflix Foundation Model, Meta ads LLaTTE, Alibaba TransRetrieval, ByteDance ReST, Tencent PCG CCFormer다.
    • 지금까지의 진술은 세 도메인에 몰려 있었다. 광고는 Meta LLaTTE·Alibaba TransRetrieval·ByteDance ReST, 스트리밍 비디오는 Netflix FM, 소셜·콘텐츠는 Meta HSTU 원본과 Tencent PCG다.
    • Shopify는 e-commerce 상품 추천이라는 별개 도메인의 첫 진술이다.
    • 이는 HSTU 라이선스와 오픈소스 참조 구현이 실제로 다른 회사가 프로덕션에 채택할 수 있을 만큼 접근성이 있다는 근거이기도 하다.
  • SID 도입 단계로 보면 Shopify는 중간 지점에 있다. 아직 SID 없이 large embedding table 방식으로 프로덕션에 배포했고, 그 뒤에 SID로 넘어가려 한다.
    • 생성형 retrieval / semantic ID 스레드의 최근 진술은 대부분 SID를 이미 배포한 상태의 후속 개선이다. Kuaishou HD-Rec·PushDualGen, Alibaba PailitaoGR, Spotify GLIDE, Tencent BARGE가 그렇다.
    • 이는 SID 채택이 임베딩 테이블 규모의 문제를 실무에서 정말 느끼는 회사에서 순차적으로 진행된다는 관찰과 부합한다.
  • 프로덕션 A/B 리프트 자체는 다른 진술보다 크지 않다(Shop orders +0.94%, conversion +0.71%).
    • 다만 e-commerce는 conversion 절대 수치가 원래 낮은 지면이고, Shopify가 규모(BFCM 2.2조 edge 요청)를 근거로 삼는다는 점을 함께 읽어야 한다.
    • Baseline이 무엇이었는지 공개하지 않은 것은 재현 가치에서 감점 요소다.
  • 한계도 있다. HSTU 원본의 크레딧이 명시되지 않았고, baseline 모델의 정체와 파라미터 규모가 공개되지 않았다.
    • HSTU 원본 저자(Meta·Jiaqi Zhai 외, arXiv 2402.17152)나 회사 Meta의 크레딧을 본문에 명시하지 않고, 오픈소스 튜토리얼 링크만 걸었다.
    • Baseline 모델의 정체와 파라미터 규모가 공개되지 않아, 스케일링 법칙 스레드에 붙는 근거의 세기는 약하다. 이 두 정보가 후속 자료(RecSys 실무 트랙 등)에서 공개되는지가 지켜볼 점이다.
      • 정체란 baseline이 이전 두 타워(유저와 아이템을 따로 임베딩하는 구조)인지, DLRM 계열인지, GBDT ranker인지를 말한다.

검증에서 뒤집힌 것

뒤집힌 것은 없다. 이 자료는 스레드에 새 근거를 더했고, 기존 결론과 상충하지 않는다.

레이더

  • Shopify Generative Recommender를 레이더(추적 서비스 밖의 논문과 트렌드를 모아 두는 워치리스트)의 "이번 달 신규"에 추가했다. 2026-02 발표를 뒤늦게 발견한 것이다.
  • "추천 모델 스케일링 법칙"과 "생성형 retrieval / semantic ID" 스레드에도 각각 넣었다.

다음에 볼 것