대용량 트래픽 개념 및 처리 방법

✅ 1. 대용량 트래픽 이란?

[ 예시 상황 ]
대용량 요청 상황: 콘서트 티켓팅 오픈 -> 수십만명이 동시에 티켓을 사려고 요청(request)을 함.
대용량 접속 상황: 인기 쇼핑몰 할인 -> 매우 많은 사람들이 한꺼번에 접속을 시도함.

병목 현상: 전체 시스템의 성능을 제한하는 가장 느린 지점 때문에 처리속도가 떨어지는 현상을 의미한다.
예를 들어 서버(컴퓨터) 의 DB, CPU, 네트워크 중 하나라도 처리 속도가 느리면, 그 지점이 전체 시스템의 성능을 제한하게 되는데 이러한 현상이 병목 현상이다.

대용량 트래픽 처리: 대용량 트래픽으로 인해 서버에서 발생할 수 있는 문제인 병목 현상을 예측해서 요청을 분산하거나 완화하는 구조를 설계하는 것으로 볼 수 있다.
핵심: 트래픽(요청)에 대한 부하를 분산하거나 완화하는 것이 핵심이다.

서버 확장 방식은 크게 수평적 확장, 수직적 확장 으로 나뉜다.
수평적 확장( scale-out ): 서버의 수(컴퓨터 자체)를 늘리는 개념임.
수평적 확장의 경우 서버의 수가 여러대인 경우 요청을 여러 서버에 분산을 해줘야하기 때문에 결국 로드밸런싱을 이용함.
수직적 확장( scale-up ): 서버의 성능을 올려주는 개념이고 주로 CPU, 메모리 등 하드웨어 부품의 교체로 성능을 올리는 것을 의미한다.

   [사용자 요청]
         ↓
    [로드밸런서]
    ↙    ↓    ↘
[서버1][서버2][서버3]

쉽게 말해, 논리적인 서버나 물리적인 서버가 여러개 존재할 때 해당 서버에 효율적으로 요청을 분산 시켜주는 기술임.
정리: 로드밸런싱은 트래픽을 여러 서버에 효율적으로 분산시킨다는 기술 자체를 의미하고, 결국 이러한 기술을 통해 만들어진 실제로 분산 처리를 해주는 매개체는 로드밸런서이다.

- 주로 대용량 트래픽을 처리하는 방법은 로드밸런싱을 활용하여 이뤄지지만 이 밖에도 다양한 방식으로 대용량 트래픽을 처리 할 수 있다.

로드 밸런서: 로드밸런싱을 해주는 하드웨어 및 소프트웨어를 로드밸런서라고 한다.
하드웨어 로드밸런서: 물리적인 로드밸런싱 전용 장비로, 내부적으로 로드밸런서 소프트웨어가 탑재가 되어있으며, 요청을 여러 서버 컴퓨터로 분산을 해주는 역할을 함.
소프트웨어 로드밸런서: 일반 서버(컴퓨터)에 설치해서 로드 밸런서 역할을 수행하게 도와주는 로드밸런서임.
클라우드 로드밸런서: 클라우드 환경에서 트래픽을 여러 서버로 분산해주는 관리형 서비스를 의미한다.

(1) 로드 밸런싱 순서

1. 요청 수신

클라이언트의 요청이 로드 밸런서에 도착 한다.

2. 서버 선택

로드 밸런서는 사전에 정의된 알고리즘인 라운드 로빈, 최소 연결 수,IP 해싱 등에 따라 요청을 보낼 서버를 선택한다.

3. 요청 전달

선택된 서버로 요청을 전달한다.

4. 응답 수신

서버에서 응답이 오면 로드 밸런서는 클라이언트에게 응답을 전달한다.