🎯 1억 명이 사용하는 서비스, 어떻게 만들어질까요?

 

안녕하세요! 여러분은 혹시 트위터나 페이스북 같은 서비스를 사용하면서 '이렇게 많은 사람들이 동시에 쓰는데 어떻게 안 멈추지?'라는 생각을 해보신 적 있으신가요? 오늘은 그 비밀을 함께 파헤쳐보려고 해요.

2025년 현재, 전 세계 소프트웨어 시장 규모는 약 2조 4,000억 달러에 달하고 있어요. 특히 클라우드 컴퓨팅 시장은 2024년 약 4,300억 달러에서 2032년까지 약 1조 5,650억 달러 규모로 성장할 것으로 전망되고 있답니다. 이런 거대한 시장 속에서 살아남으려면 탄탄한 시스템 설계가 필수라는 거, 아시죠?

시스템 설계의 기초, 사용자 경험부터 시작하기

시스템 설계는 건물을 짓기 전에 설계도를 그리는 것과 똑같아요. 아무리 좋은 재료가 있어도 설계도가 엉망이면 건물이 무너지잖아요? 소프트웨어도 마찬가지예요. 특히 대규모 서비스를 만들 때는 처음부터 확장 가능한 구조를 생각해야 해요.

실제로 트위터는 초창기에 시스템 설계 문제로 큰 어려움을 겪었어요. 하루 평균 1억 명이 넘는 사용자가 접속하고, 트윗 조회 요청이 트윗 작성보다 무려 25배나 많았거든요. 이런 트래픽 특성을 고려하지 않았다면 서비스가 마비됐을 거예요.

시스템을 설계할 때 가장 먼저 해야 할 일은 사용자 경험을 생각하는 거예요. 트위터를 만든다고 가정해볼까요? 트윗을 작성하는 컴포넌트, 사용자 프로필, 팔로워 관리, 개인정보 설정 등이 필요하겠죠. 우버를 만든다면 지도 연동이 필수일 거예요.

여기서 중요한 건 비슷한 서비스들을 카테고리화해서 생각하는 거예요. SNS는 SNS끼리, 동영상 스트리밍은 스트리밍끼리 비슷한 패턴이 있거든요. 넷플릭스나 유튜브 같은 OTT 플랫폼들, 영화 예매 서비스들도 각각의 공통 패턴이 있어요.

디자인이 끝났다면 이제 클래스를 정의할 차례예요. 트위터 예시로 보면 '사용자(User)' 클래스가 있을 거고, 여기에 이름, 위치, 이메일 같은 속성들이 들어가겠죠. 그리고 트윗을 작성하는 post() 메서드, 다른 사람을 팔로우하는 follow() 메서드도 필요하고요. 여기서 더 나아가면 프리미엄 사용자와 일반 사용자를 구분하는 서브클래스도 만들 수 있어요. 이렇게 처음부터 확장 가능한 구조를 만들어두면 나중에 기능을 추가할 때 훨씬 수월해져요.

시스템 설계에서 디자인 패턴은 정말 중요해요. 뉴스피드 같은 기능을 만든다면 발행자-구독자(Publisher-Subscriber) 패턴을 사용하면 좋아요. 한 사람이 글을 올리면 그 사람을 팔로우하는 모든 사람에게 알림이 가는 구조죠. 실제로 페이스북은 머신러닝과 알고리즘 연구에 과감하게 투자해서 사용자에게 필요한 정보만 선별해서 보여주는 추천 시스템을 만들었어요. 덕분에 친구가 많아지고 구독하는 페이지가 늘어나도 사용자 경험이 좋아졌죠.

인프라와 데이터 관리의 핵심 전략

여기서부터는 조금 더 기술적인 이야기인데요, 천천히 설명해드릴게요.

CDN(콘텐츠 전송 네트워크)은 정적인 HTML 파일이나 이미지를 빠르게 전달하기 위한 거예요. 서울에서 미국 서버에 있는 데이터를 가져오면 느리잖아요? 그래서 전 세계 여러 곳에 데이터를 복사해두고 가까운 곳에서 가져오는 거죠.

서버리스 아키텍처는 비용을 줄이는 데 효과적이에요. 간단한 작업이나 자동화된 일, 주기적으로 실행되는 작업에 딱이에요. 2025년 현재 AWS, 마이크로소프트 애저, 구글 클라우드가 전체 클라우드 시장의 약 64%를 차지하고 있어요. AWS가 약 33%로 1위, 애저가 20%, 구글이 11% 정도예요. API는 서로 다른 시스템을 연결해주는 다리 같은 거예요. 캐시는 자주 쓰는 데이터를 빠르게 꺼낼 수 있도록 임시 저장하는 공간이고요. 다만 캐시 메모리는 가장 비싸서 최적화된 전략이 필요해요.

데이터베이스를 선택할 때는 일관성(Consistency) 전략을 잘 고려해야 해요. SQL 데이터베이스는 트랜잭션 일관성이 강해서 은행 시스템처럼 정확성이 중요한 곳에 적합하고, NoSQL은 최종 일관성을 허용해서 SNS처럼 빠른 속도가 중요한 곳에 좋아요.

실제로 2024년 전 세계 데이터베이스 시장에서 클라우드 데이터베이스 시장이 온프레미스 시장보다 더 커졌어요. 이제는 한 가지 데이터베이스만 쓰는 게 아니라, 목적에 따라 여러 종류를 섞어 쓰는 '폴리글랏 퍼시스턴스' 전략이 대세예요.

서비스가 성장하면서 가장 큰 고민이 바로 확장성이에요. 두 가지 방법이 있어요. 수직 확장은 서버의 CPU와 RAM을 업그레이드하는 거예요. 쉽지만 한계가 있죠. 수평 확장은 서버를 여러 대 추가하는 거예요. 로드 밸런서로 트래픽을 분산시키면 거의 무한대로 확장할 수 있어요.

트위터가 오바마 대통령(팔로워 1억 3천만 명)의 트윗을 처리할 때 겪었던 문제가 바로 이거였어요. 오바마가 트윗 하나를 올리면 1억 3천만 개의 캐시를 업데이트해야 했거든요. 이 작업이 5분 이상 걸렸대요. 그래서 트위터는 인플루언서와 일반 사용자를 다르게 처리하는 하이브리드 시스템을 만들었어요.

보안, 비용, 그리고 성장 전략

시스템 설계할 때 보안은 선택이 아니라 필수예요. DDoS 공격 방어, 2단계 인증, 강력한 비밀번호 정책, 스팸 필터링 등이 기본이고요. 특히 의료 서비스라면 HIPAA, 유럽 사용자를 대상으로 한다면 GDPR 같은 규정을 반드시 준수해야 해요. 2025년에는 생성형 AI 보안, 제로 트러스트, 망분리 완화 등이 정보보안의 핵심 트렌드로 떠오르고 있어요. AI가 상용화되면서 보안도 더 중요해졌거든요.

시스템을 설계할 때 비용도 무시할 수 없어요. 오픈소스 프레임워크를 활용하고, 서버리스 옵션을 적절히 사용하면 비용을 크게 줄일 수 있어요. 하지만 무조건 저렴한 게 좋은 건 아니에요. 성능과 비용의 균형을 맞추는 게 핵심이죠. 2024년 4분기 기준으로 AWS는 약 350억 달러, 마이크로소프트는 약 300억 달러를 클라우드 인프라에 투자했어요. 2025년 전체로 보면 AWS가 약 1,340억 달러, 구글 클라우드가 약 1,000억 달러를 투자할 것으로 예상되고 있어요. 이런 어마어마한 투자가 바로 우리가 빠르고 안정적인 서비스를 사용할 수 있는 이유예요.

아무리 좋은 시스템을 만들어도 사용자가 없으면 무용지물이에요. 그래서 퍼널 분석과 A/B 테스트가 중요해요. 1,000명이 방문했는데 500명이 가입하고, 200명이 활동하고, 100명이 유료 전환했다면 각 단계마다 개선할 점을 찾을 수 있어요.

페이스북이 트위터를 앞서게 된 결정적 이유도 여기에 있어요. 페이스북은 사용자가 많아질수록 경험이 좋아지도록 추천 알고리즘에 투자했지만, 트위터는 팔로우가 많아질수록 피드가 복잡해져서 사용자 경험이 나빠졌거든요.

트위터는 시스템 설계의 교과서 같은 사례예요. 초기에는 단순하게 설계했어요. 사용자가 피드를 요청하면 그때그때 데이터베이스에서 팔로우하는 사람들의 트윗을 가져와서 보여줬죠. 간단하지만 느렸어요. 그래서 두 번째 방법을 시도했어요. 누군가 트윗을 작성하면 그 사람을 팔로우하는 모든 사람의 캐시에 미리 저장해두는 거예요. 피드를 볼 때는 그냥 캐시에서 꺼내기만 하면 되니까 엄청 빨라졌죠. 트윗 작성이 복잡해지는 대신 조회가 25배 많은 특성을 활용한 똑똑한 전략이었어요.

하지만 여기서 문제가 생겼어요. 오바마처럼 팔로워가 1억 명 넘는 인플루언서가 트윗하면 1억 개의 캐시를 업데이트해야 했거든요. 그래서 최종적으로는 두 방법을 섞었어요. 일반 사용자는 미리 캐시에 저장하고, 인플루언서는 실시간으로 조회하는 하이브리드 방식이요. 완벽한 해결책이죠?

시스템 설계는 단순히 코딩 실력만으로는 부족해요. 전체적인 그림을 그릴 수 있는 능력, 트레이드오프를 이해하는 지혜, 그리고 사용자 경험에 대한 깊은 고민이 필요해요. 글로벌 소프트웨어 시장은 2023년 기준 약 2조 4,000억 달러 규모이고, 매년 12% 이상 성장하고 있어요. 국내 시장도 2023년 약 260억 달러 규모로 꾸준히 성장 중이고요. 이런 거대한 시장에서 경쟁력을 갖추려면 체계적인 시스템 설계 능력이 필수예요.

여러분도 무언가를 만들 때 한 번쯤 '이걸 1억 명이 사용한다면?' 하고 상상해보세요. 그 상상이 여러분을 더 나은 개발자로 만들어줄 거예요. 시스템 설계는 정답이 없어요. 상황에 따라, 서비스 특성에 따라 최선의 선택이 달라지거든요. 중요한 건 끊임없이 고민하고, 실험하고, 개선하는 거예요. 여러분도 언젠가 1억 명이 사용하는 서비스를 만드실 수 있을 거예요. 화이팅!