로드 밸런싱이란?

로드 밸런싱 (Load Balancing)

 

로드 밸런싱이란?

인프라를 운영한다면 쏟아지는 트래픽을 고려하지 않을 수가 없습니다. 아무리 성능이 뛰어난 서버라도 한 대의 서버로는 모든 트래픽을 감당하기 어렵기 때문에 다수의 서버를 구축하게 됩니다. 하지만 단순히 여러 대의 서버를 운영한다고 해서 모든 클라이언트의 요청에 일관성 있게 응답할 수 있을까요? 

 

로드 밸런싱이란 말 그대로 서버가 처리해야 할 업무 혹은 요청(Load)를 여러 대의 서버로 나누어(Balanding) 처리하는 것을 의미합니다. 한 대의 서버로 부하가 집중되지 않도록 트래픽을 관리해 각각의 서버가 최적의 성능을 보일 수 있게 하는 것이 목적입니다.

 

서비스의 규모가 커지고, 사용자 수가 늘어나게 되면 기존의 서버만으로는 요청 처리가 어려워지기 때문에 다음과 같이 크게 두 가지 방법으로 대처할 수 있습니다.

1. 기존의 서버 성능을 확장하는 Scale-up 방식
2. 기존의 서버와 동일하거나 낮은 성능의 서버를 증설하는 Scale-out 방식

이 때 Scale-out 방식을 통해 증가한 트래픽에 대처하기로 했다면, 여러 대의 서버로 트래픽을 균등하게 분산해주는 로드 밸런싱이 필요합니다.

 

 

로드 밸런싱 기법

서버의 성능을 고려하여 분배해야 하기 때문에 서버의 상황에 맞춰 적절한 방법을 선택해야 합니다.

• 라운드 로빈 방식(Round Robin Method)
  • 서버에 들어온 요청을 순서대로 돌아가며 배정하는 방식
  • 클라이언트의 요청을 순서대로 분배하기 때문에 여러 대의 서버가 동일한 스펙을 갖고 있고, 서버와의 연결(세션)이 오래 지속되지 않는 경우에 활용하기 적합
• 가중 라운드 로빈 방식(Weighted Round Robin Method)
  • 서버마다 가중치를 매기고 가중치를 매기고 가중치가 높은 서버에 클라이언트 요청을 우선적으로 배분
  • 주로 서버의 트래픽 처리 능력이 상이한 경우 사용되는 부하 분산 방식
  • 예를 들어 A라는 서버가 5라는 가중치를 갖고, B라는 서버가 2라는 가중치를 갖는다면, 로드 밸런서는 라운드로빈 방식으로 A 서버에 5개 B 서버에 2개의 요청을 전달
• IP 해시 방식(IP Hash Method)
  • 클라이언트의 IP 주소를 특정 서버로 매핑하여 요청을 처리하는 방식
  • 사용자의 IP를 해싱해 로드를 분배하기 때문에 사용자가 항상 동일한 서버로 연결되는 것을 보장
• 최소 연결 방식(Least Connection Method)
  • 요청이 들어온 시점에 가장 적은 연결상태를 보이는 서버에 우선적으로 트래픽 배분
  • 자주 세션이 길어지거나, 서버에 분배된 트래픽들이 일정하지 않은 경우에 적합
• 최소 응답 시간 방식(Least Response Time Method)
  • 서버의 현재 연결 상태와 응답 시간을 모두 고려하여 트래픽 배분
  • 가장 적은 연결 상태와 가장 짧은 응답 시간을 보이는 서버에 우선적으로 로드를 배분하는 방식

 

L4 로드 밸런싱과 L7 로드 밸런싱

로드 밸런싱에는 L4 로드 밸런싱과 L7 로드 밸런싱이 가장 많이 활용됩니다.

먼저 L4와 L7이 무엇을 의미하는 지부터 알아봅시다.

 

L4는 Layer 4(전송 계층) 프로토콜과 Layer 7(응용 계층) 프로토콜의 헤더를 부하 분산에 이용하기 때문에 붙은 접두사입니다. 모든 요청을 L4 또는 L7 로드 밸런서가 받아 서버들에게 적절히 나누어 줍니다.

 

L4 로드 밸런서

• 네트워크 계층(IP, IPX)이나 전송 계층(TCP, UDP)의 정보(IP주소, 포트번호, MAC주소, 전송 프로토콜)를 바탕으로 로드 분산

 

L7 로드 밸런서

• 애플리케이션 계층(HTTP, FTP, SMTP)에서 로드를 분산하므로 HTTP 헤더, 쿠키 등과 같은 사용자의 요청을 기준으로 특정 서버에 트래픽 분산
• 패킷의 내용을 확인하고 그 내용에 따라 로드를 특정 서버에 분배하는 것
• URL에 따라 로드를 분산시키거나 HTTP 헤더의 쿠키 값에 따라 부하는 분산하는 등 클라이언트의 요청을 세분화해 서버에 전달
• 특정한 패턴을 지닌 바이러스를 감지해 네트워크를 보호할 수 있음
• DoS/DDoS와 같은 비정상적인 트래픽을 필터링 할 수 있어 네트워크 보안 분야에서 활용

 

 

 

 

 

 

 

참고링크

• https://velog.io/@yanghl98/OS운영체제-로드밸런싱-Load-Balancing-정의-종류-알고리즘
• https://tecoble.techcourse.co.kr/post/2021-11-07-load-balancing/