로드밸런싱 알고리즘 종류와 선택 기준은?

로드밸런서는 클라이언트와 서버 풀 사이에서 트래픽을 중재하며 시스템의 고가용성과 확장성을 보장하는 핵심 컴포넌트입니다. 단순히 서버를 늘리는 것(Scale-out)만으로는 충분하지 않으며, 특정 서버에 부하가 집중되지 않도록 효율적인 알고리즘을 적용하는 것이 필수적입니다.

가장 기본적인 방식인 라운드 로빈은 각 서버에 순차적으로 요청을 전달합니다. 이는 구현이 매우 간단하고 오버헤드가 적어 서버들의 스펙이 동일하고 요청의 성격이 비슷할 때 매우 효율적입니다. 하지만 실무에서는 서버의 CPU/Memory 사양이 다르거나, 어떤 요청은 10ms가 걸리고 어떤 요청은 2s가 걸리는 등 비대칭적인 상황이 자주 발생합니다.

이런 문제를 해결하기 위해 현재 연결 수가 가장 적은 서버로 트래픽을 보내는 '최소 연결(Least Connection)' 방식이나 서버의 가중치를 고려하는 '가중치 라운드 로빈' 등이 사용됩니다. 특히 세션 상태를 유지해야 하는 서비스에서는 클라이언트의 IP를 해싱하여 특정 서버로 고정시키는 'IP 해시' 방식이 유용하지만, 서버 추가/삭제 시 해시 재계산으로 인한 캐시 미스 문제를 고려해야 합니다.

마지막으로 로드밸런싱은 네트워크 계층에 따라 L4와 L7로 나뉩니다. L4는 IP와 포트 번호를 기준으로 전송하며 속도가 빠르고 오버헤드가 적은 반면, L7은 HTTP 헤더나 쿠키 등 애플리케이션 데이터를 분석하여 세밀한 라우팅이 가능합니다. 면접에서는 이러한 계층별 특징과 알고리즘의 장단점을 비즈니스 요구사항에 연결해 설명하는 역량이 중요하게 평가됩니다.