메타 안드로메다 광고 처리량 100배 확대

ai.euno.news 자동 뉴스 요약

메타가 개인화 광고 검색 엔진 안드로메다(Andromeda)의 차세대 버전을 실제 서비스에 투입했다. 모델과 검색 시스템, GPU 하드웨어를 따로 최적화하지 않고 공동 설계해, 검색 단계에서 초당 10억 개가 넘는 광고를 평가한다. 2024년 안드로메다보다 처리량이 100배 늘어난 수치다.¹

광고 추천은 먼저 방대한 광고 풀에서 후보를 수 밀리초 안에 추리는 ‘검색’을 거친 뒤, 계산량이 큰 ‘랭킹’ 단계에서 살아남은 후보를 정밀 평가하는 구조다. 기존에는 랭킹 모델 수준의 정교한 평가를 모든 광고 후보에 적용하기에는 비용이 너무 컸다. 메타는 새 안드로메다가 검색 규모를 유지하면서도 랭킹에 가까운 모델 성능으로 모든 적격 광고를 평가하고, 그중 상위 후보를 골라낸다고 설명했다.

이번 변화의 배경에는 광고 후보 급증이 있다. 생성형 AI 광고 제작 도구가 확산되면서 광고주가 새로 만든 광고가 수억 개 늘었다. 2024년 버전은 엔비디아 GH200 그레이스 호퍼 슈퍼칩(NVIDIA GH200 Grace Hopper Superchip)을 기반으로 계층형 인덱싱과 GPU 전용 연산자, 전용 머신러닝 모델을 결합해 모델 용량을 네 자릿수 배로 키웠다. 당시 GPU 한 장당 처리량은 초당 수천만 개였지만, 새 수요를 감당하려면 장당 수십억 개 수준이 필요해졌다.

처리량이 커지자 병목도 계산 자체에서 데이터 이동으로 옮겨갔다. GPU 커널 사이의 중간 텐서가 초당 테라바이트 규모의 메모리 트래픽을 만들었고, CPU 호스트와 원격 가속기 사이에서 광고 데이터를 보내는 과정은 네트워크 링크를 포화시켰다. 메타는 분산돼 있던 작업을 하나의 GPU 파이프라인으로 통합해 이 문제를 줄였다.

메타 발표에 따르면 안드로메다는 2025년부터 페이스북 광고 전환을 2.4% 높였다. 같은 지연시간 안에서 더 큰 후보 풀을 탐색한 결과라는 설명이다. 다만 처리량과 전환 개선치는 메타가 자사 운영 환경에서 공개한 수치이며, 구체적인 비용 변화나 외부 검증 결과는 자료에 제시되지 않았다.

읽기 목록은 이 브라우저에 저장됩니다.