LY, 사내 AI 연결 플랫폼 구축

ai.euno.news 자동 뉴스 요약

LY Corporation이 사내 운영 데이터와 AI 에이전트를 연결하는 전사 공통 플랫폼 ‘Flava MCP Hub’를 구축한 과정을 공개했다. MCP(Model Context Protocol)는 대규모 언어 모델(LLM)이 외부 도구와 데이터에서 필요한 정보를 가져오게 하는 규격이다. 그러나 실제 사내 적용에서는 MCP 서버 자체보다 인증과 접근 제어, 운영 현황 관리에 더 많은 작업이 필요했다. LY는 이를 팀별로 반복하지 않도록 공통 프라이빗 클라우드 Flava 위에 허브를 만들었다.¹

출발점은 분산 운영의 한계였다. 팀마다 MCP 서버를 따로 만들면서 전체 서버 목록을 알기 어려웠고, 이미 있는 기능을 중복 개발하는 사례도 생겼다. 인증 구현도 클라이언트와 서버마다 달랐다. 브라우저 콜백 처리부터 토큰 저장·갱신까지 각 팀이 맡아야 했으며, MCP 표준과 기존 사내 인증 체계 사이에도 간극이 있었다. 누가 어떤 도구를 얼마나 쓰는지 파악할 통합 데이터도 없었다.

Flava MCP Hub는 이 문제를 카탈로그, 런타임, 게이트웨이(Gateway)라는 세 역할로 묶었다. 카탈로그에서 사용 가능한 MCP 서버를 찾고, 런타임에서 생성과 배포를 처리하며, 게이트웨이가 권한과 접근 제어를 맡는다. LY 발표에 따르면 사용자는 서버를 선택해 1분 안에 연결할 수 있고, 개발자는 인증이 적용된 새 서버를 5분 안에 배포할 수 있다. 현재 200개가 넘는 팀이 650개 이상의 MCP 서버를 운영하며, 누적 도구 호출은 1,150만 건을 넘어섰다.¹

내부 구조는 요청 경로를 나눈 ‘4층 배관 모델’이다. 1층 Connection의 MCP Connector는 stdio 방식으로 클라이언트와 연결되고, OIDC(OpenID Connect) 인증과 토큰 캐시·자동 갱신, Bearer 헤더 삽입을 대신한다. 2층 Proxy의 MCP Gateway는 요청을 알맞은 서버로 전달하면서 CORS, 헤더 변환, 전송 프로토콜을 표준화한다. 3층 Authorization에서는 OAuth/OIDC 미들웨어가 토큰을 검증해 인증된 요청만 서버로 보낸다. 마지막 Monitoring 층은 도구 호출, 인증 결과, 지연 시간을 전 구간에서 수집한다.

핵심은 AI 모델의 성능 개선이 아니라 사내 데이터를 안전하게 꺼내 쓰는 공통 경로를 만든 데 있다. MCP 서버 개발팀은 인증과 프로토콜 처리 대신 업무 로직에 집중할 수 있고, 플랫폼 운영자는 사용량을 바탕으로 지원 우선순위를 정할 수 있다. 다만 공개 자료의 수치는 LY가 자체 운영 결과로 제시한 것이며, 외부 조직에서도 같은 구축 시간과 규모를 재현할 수 있는지는 확인되지 않았다.

읽기 목록은 이 브라우저에 저장됩니다.