- 읽은 자료 1건
- 정본 반영 0개 파일
- 레이더 1건
1TransX는 행동 시퀀스 랭킹 모델을 부품별로 키우고 서빙을 세 단계로 나눈다 — LinkedIn (레이더)
자료 TransX Technical Report: Scaling Sequence Transduction for Recommendation — arXiv 2610.20913, 2026-10-14 v1, 논문(technical report). 저자는 8인이고, 교신 저자를 뺀 저자의 이메일 도메인이 @linkedin.com이다(HTML 판에서 확인).
배경 유저 행동 시퀀스를 Transformer로 읽는 랭킹 모델(Meta HSTU 계열)은 모델을 키울수록 품질이 오른다. 하지만 후보마다 시퀀스 전체를 다시 계산하면 서빙 비용이 모델 크기에 비례해 늘어난다. 이번 논문(TransX)은 이 문제를 두 방향에서 다룬다.
- 모델을 시퀀스 인코더, behavior memory, 후보 조건부 fusion으로 나눠 각각의 크기를 따로 정한다.
- behavior memory는 유저 이력을 후보와 무관하게 고정 길이로 압축한 상태다.
- 후보 조건부 fusion은 후보를 질의로 삼아 memory를 cross-attention으로 읽는 부분이다.
- 비싼 계산을 요청 시점 밖으로 옮기는 서빙 분리(disaggregation)를 한다.
- 서빙 분리는 한 서버에서 하던 계산을 성격별로 다른 단계와 자원에 나눠 맡기는 구성이다.
새로 알게 된 것A. 대규모 소셜 추천 지면에서 세 변형을 따로 A/B했고, 모두 기준 모델보다 지표가 올랐다
평가 지면은 초당 약 20K 요청, 요청당 후보 0.5K–1.2K인 "social recommendation application"이다 확인.
- 논문은 이것이 LinkedIn의 어느 제품인지 밝히지 않는다.
- LinkedIn 피드일 가능성이 높다고 본다 추정. 근거는 저자 소속과 "social recommendation"이라는 표현뿐이다.
"We evaluate TransX in a large-scale social recommendation application serving approximately 20K requests per second with roughly 0.5K–1.2K candidates per request." — arXiv 2610.20913 §1 (논문), 2026-10-14
프로덕션 A/B는 변형마다 따로 돌렸고, baseline도 변형마다 다르다 확인.
- 핵심 모델(TransX-Base)은 기존 프로덕션 시퀀스 모델 대비 CTR +6.02%, conversion +4.45%다.
- retrieval용으로 post-training한 변형은 two-tower(유저와 후보를 각각 다른 타워로 임베딩해 내적으로 점수를 매기는 구조) 시퀀스 모델 대비 CTR +2.96%다.
- ranking 변형은 DLRM(희소 피처 임베딩과 MLP를 결합한 딥러닝 추천 모델 구조) learning-to-rank 대비 conversion +1.33%다.
"In separate production A/B experiments, TransX-Base improves click-through rate (CTR) by 6.02% and conversion by 4.45% over the production sequential model baseline; TransX-Retrieval improves CTR by 2.96% over the sequential two-tower production model baseline; and TransX-Ranking improves conversion by 1.33% over a DLRM learning-to-rank baseline." — 같은 자료 §1
새로 알게 된 것B. 서빙을 세 단계로 나눠, 같은 비용으로 요청마다 HSTU 계열 baseline의 약 5배 FLOPs를 쓸 수 있다
behavior memory는 후보와 무관하고 크기가 유한하며, 최근 행동은 높은 해상도로, 오래된 행동은 낮은 해상도의 요약으로 담는다 확인 (§3.2).
- 후보와 무관하기 때문에 한 번 계산한 memory를 요청 안의 모든 후보가 공유할 수 있다.
서빙은 offline bulk 상태 구축, nearline 증분 갱신, online 예측의 세 단계로 나뉜다 확인 (§5.3).
- 초록은 이 분리로 같은 트래픽과 SLO에서 colocated 서빙(모든 계산을 한 서버에서 하는 구성) 대비 총 서빙 비용이 80% 가까이 줄었다고 쓴다.
"TransX therefore disaggregates serving into three stages: bulk state construction, nearline incremental maintenance, and online prediction." — 같은 자료 §5.3
그 결과 같은 총 서빙 비용에서 HSTU 계열 프로덕션 baseline의 약 5배 FLOPs를 요청마다 쓸 수 있다 확인.
- 요청당 FLOPs를 맞추면 H200 한 장당 요청 처리량이 약 4배라고 초록에 적었다. 학습 인프라는 같은 조건에서 supervised target 처리량을 84% 높였다 확인(초록).
새로 알게 된 것C. 모델을 키워 얻는 품질 향상은 부품마다 다르다
스케일링 수익은 부품마다 다르다(anisotropic) 확인.
- memory 해상도와 fusion 용량을 고정하면 인코더 깊이 확장은 중간 깊이를 넘어 포화할 수 있다.
- supervision을 늘리면 최적 배분이 fusion 쪽으로 옮겨 간다.
- 품질 유지에 필요한 memory 해상도는 모델이 커져도 대체로 일정하다.
"encoder scaling may saturate beyond moderate depth at fixed memory resolution and fusion capacity; increasing supervision shifts the allocation frontier toward candidate-conditioned fusion; and the memory resolution needed to preserve quality remains roughly stable as model capacity grows." — 같은 자료 §1
정본 반영 없음. LinkedIn은 추적 서비스가 아니다. radar.md의 "이번 달 신규"에 항목을 추가했고, "추천 모델 스케일링 법칙" 스레드에 근거 한 줄을 더했다.
의미 스케일링 법칙 스레드의 질문이 "키우면 좋아지는가"에서 "어디를 키우고 비용을 어떻게 감당하는가"로 옮겨 가는 흐름이 이어진다 추정. 근거는 Meta가 2026-10-13 블로그(2026-10-14 daily)에서 광고 foundation model GEM의 같은 연산량 기준 아키텍처 비교를 내놓았고, 오늘 TransX가 부품별 배분과 서빙 분리를 내놓았다는 점이다. 레이더에 먼저 올라 있는 HELIX가 "feature interaction과 시퀀스 두 축을 함께 키워야 한다"고 했다면, TransX는 시퀀스 모델 내부를 인코더·memory·fusion으로 나눠 같은 종류의 주장을 한다. 다만 A/B 기간과 전면 롤아웃 여부는 이번에 확인하지 못했다.
검증에서 뒤집힌 것
- "2026-10-15에 Threads가 팔로우한 계정의 글을 우선하도록 랭킹을 바꿨다"고 쓴 2차 기사는 새 발표가 아니라 날짜를 잘못 단 재보도로 판단하고, 정본은 고치지 않았다 추정.
- 근거는 기사가 인용한 문구가 2024-11-21 게시물과 한 글자도 다르지 않고, 2026-10에 같은 문구의 새 게시물을 찾지 못했다는 점이다. 기사 원문은 이 세션에서 열 수 없었다.
- 이 기사는 WebSearch("Facebook Instagram Threads feed recommendation algorithm update October 2026") 결과에서 나왔다.
- 기사가 인용한 Mosseri 문구("We are rebalancing ranking to prioritize content from people you follow…")는 2024-11-21 Mosseri 게시물과 같다.
- 이 변경은 이미 services/threads.md 콜드스타트 절에 2024-11-21로 기록돼 있다.
레이더
- TransX(LinkedIn)는 부품별 스케일링과 3단계 서빙 분리를 다루고, A/B에서 CTR +6.02%를 보고했다. radar.md "이번 달 신규"에 추가했다.
다음에 볼 것
- TransX 심층 분석 — 본문에서 A/B 기간, 전면 롤아웃 여부, memory KV 크기와 nearline 갱신 주기, 실제 지면(LinkedIn 피드인지)을 확인해야 한다. 지면은 추정 상태다.
- Threads 팔로우 우선 재보도 — 2026-10에 Mosseri의 새 게시물이 실제로 있는지 threads.com에서 직접 확인하면 위 추정을 정리할 수 있다.
조회 기록
추적 서비스(X·Meta·Netflix)에는 새 1차 자료가 없었다.
- X: 공개 저장소
xai-org/x-algorithm의 최신 커밋은 2026-10-15의92f0918이고, 2026-10-16 daily에서 이미 다뤘다. 릴리스는 없고, WebSearch 교차 확인은 하지 않았다. - Meta: engineering.fb.com의 새 글은 2026-10-15자 3건이고, 모두 랭킹·추천과 무관하다.
- 세 글은 Forum 앱의 AI 기반 개발 과정, 월드컵 트래픽 대응, Sapienz 수상을 다룬다. Forum 글은 본문을 열어 랭킹 서술이 없음을 확인했다.
- ai.meta.com/blog 목록의 최신 글은 2026-07이다. transparency.meta.com은 이번에 확인하지 않았다.
- Netflix: RSS의 10건은 2026-10-16 daily에서 본 것과 같고, 모두 2026-10-14에 다시 게시된 글이다. WebSearch 교차 확인에서 1차 출처가 있는 새 발표는 없었다.
- arXiv cs.IR: 30건을 파싱했고, 그중 1건(TransX)이 통과했다.
- 아깝게 탈락한 것은 RecSoup이다. 제어 가능한 다목적 추천을 모델 병합으로 푸는 CIKM 2026 논문이지만, 공개 벤치마크만 있다.
- 토요일이라 산업 블로그 훑기는 하지 않았다.