Node.js 싱글 스레드 모델 탐구

Node.js는 이벤트 기반 및 비동기 I/O 방식을 채택하여 단일 스레드, 고도의 동시성 JavaScript 런타임 환경을 구현합니다. 단일 스레드는 한 번에 하나의 작업만 수행할 수 있다는 의미이므로, Node.js는 어떻게 단 하나의 스레드로 높은 동시성과 비동기 I/O를 달성할까요? 이 기사에서는 이 질문을 중심으로 Node.js의 싱글 스레드 모델을 탐구합니다.

높은 동시성 전략

일반적으로 높은 동시성에 대한 해결책은 다중 스레드 모델을 제공하는 것입니다. 서버는 각 클라이언트 요청에 하나의 스레드를 할당하고 동기 I/O를 사용합니다. 시스템은 스레드 전환을 통해 동기 I/O 호출의 시간 비용을 보상합니다. 예를 들어, Apache는 이 전략을 사용합니다. I/O 작업은 일반적으로 시간이 많이 걸리므로 이 접근 방식으로 높은 성능을 달성하기는 어렵습니다. 그러나 매우 간단하고 복잡한 상호 작용 로직을 구현할 수 있습니다.

사실, 대부분의 웹 서버 측은 많은 계산을 수행하지 않습니다. 요청을 받으면 요청을 다른 서비스(예: 데이터베이스 읽기)로 전달한 다음 결과가 반환될 때까지 기다렸다가 최종적으로 결과를 클라이언트에 보냅니다. 따라서 Node.js는 단일 스레드 모델을 사용하여 이 상황을 처리합니다. 각 들어오는 요청에 스레드를 할당하는 대신, 주 스레드를 사용하여 모든 요청을 처리하고 I/O 작업을 비동기적으로 처리하여 스레드 생성, 소멸 및 스레드 간 전환의 오버헤드와 복잡성을 피합니다.

이벤트 루프

Node.js는 주 스레드에서 이벤트 큐를 유지 관리합니다. 요청이 수신되면 이벤트로 이 큐에 추가되고 다른 요청을 계속 수신합니다. 주 스레드가 유휴 상태일 때(들어오는 요청이 없을 때) 이벤트 큐를 반복하여 처리할 이벤트가 있는지 확인합니다. 두 가지 경우가 있습니다. 비 I/O 작업의 경우 주 스레드가 직접 처리하고 콜백 함수를 통해 상위 레이어로 반환합니다. I/O 작업의 경우 스레드 풀에서 스레드를 가져와 이벤트를 처리하고 콜백 함수를 지정한 다음 큐의 다른 이벤트를 계속 반복합니다.

스레드의 I/O 작업이 완료되면 지정된 콜백 함수가 실행되고 완료된 이벤트가 이벤트 큐의 맨 끝에 배치되어 이벤트 루프를 기다립니다. 주 스레드가 이 이벤트를 다시 루프하면 직접 처리하고 상위 레이어로 반환합니다. 이 프로세스를 이벤트 루프라고 하며 작동 원리는 아래 그림에 나와 있습니다.

이 그림은 Node.js의 전체 작동 원리를 보여줍니다. 왼쪽에서 오른쪽으로, 위에서 아래로 Node.js는 애플리케이션 레이어, V8 엔진 레이어, Node API 레이어 및 LIBUV 레이어의 네 개 레이어로 나뉩니다.

애플리케이션 레이어: JavaScript 상호 작용 레이어입니다. 일반적인 예는 http 및 fs와 같은 Node.js 모듈입니다.
V8 엔진 레이어: V8 엔진을 사용하여 JavaScript 구문을 파싱한 다음 하위 레이어 API와 상호 작용합니다.
Node API 레이어: 상위 레이어 모듈에 대한 시스템 호출을 제공하며 일반적으로 C로 구현되며 운영 체제와 상호 작용합니다.
LIBUV 레이어: 이벤트 루프, 파일 작업 등을 실현하는 크로스 플랫폼 기본 캡슐화이며 Node.js가 비동기성을 달성하는 데 핵심입니다.

Linux 플랫폼이든 Windows 플랫폼이든 Node.js는 내부적으로 스레드 풀을 사용하여 비동기 I/O 작업을 완료하고 LIBUV는 서로 다른 플랫폼 차이에 대한 호출을 통합합니다. 따라서 Node.js의 단일 스레드는 JavaScript가 단일 스레드에서 실행된다는 의미일 뿐 Node.js 전체가 단일 스레드라는 의미는 아닙니다.

작동 원리

Node.js가 비동기성을 달성하는 핵심은 이벤트에 있습니다. 즉, 모든 작업을 이벤트로 취급한 다음 이벤트 루프를 통해 비동기 효과를 시뮬레이션합니다. 이 사실을 보다 구체적이고 명확하게 이해하고 받아들이기 위해 의사 코드를 사용하여 작동 원리를 아래에 설명합니다.

1. 이벤트 큐 정의

큐이므로 선입선출(FIFO) 데이터 구조입니다. JS 배열을 사용하여 다음과 같이 설명합니다.

/**
 * 이벤트 큐 정의
 * Enqueue: push()
 * Dequeue: shift()
 * 빈 큐: length === 0
 */
let globalEventQueue = [];

배열을 사용하여 큐 구조를 시뮬레이션합니다. 배열의 첫 번째 요소는 큐의 헤드이고 마지막 요소는 꼬리입니다. push()는 큐의 끝에 요소를 삽입하고 shift()는 큐의 헤드에서 요소를 제거합니다. 따라서 간단한 이벤트 큐가 달성됩니다.

2. 요청 수신 입구 정의

모든 요청은 가로채서 처리 기능에 들어가며 아래와 같이 표시됩니다.

/**
 * 사용자 요청을 받기
 * 모든 요청이 이 함수에 들어갑니다
 * 매개 변수 요청 및 응답 전달
 */
function processHttpRequest(request, response) {
    // 이벤트 객체 정의
    let event = createEvent({
        params: request.params, // 요청 매개 변수 전달
        result: null, // 요청 결과 저장
        callback: function() {} // 콜백 함수 지정
    });

    // 이벤트 큐의 끝에 이벤트를 추가합니다
    globalEventQueue.push(event);
}

이 함수는 단순히 사용자의 요청을 이벤트로 패키징하고 큐에 넣은 다음 다른 요청을 계속 수신합니다.

3. 이벤트 루프 정의

주 스레드가 유휴 상태일 때 이벤트 큐를 반복하기 시작합니다. 따라서 이벤트 큐를 반복하는 함수를 정의해야 합니다.

/**
 * 이벤트 루프의 본체, 주 스레드에서 적절하게 실행됨
 * 이벤트 큐 반복
 * 비 IO 작업 처리
 * IO 작업 처리
 * 콜백을 실행하고 상위 레이어로 반환합니다
 */
function eventLoop() {
    // 큐가 비어 있지 않으면 계속 루프
    while (this.globalEventQueue.length > 0) {
        // 큐의 헤드에서 이벤트 하나 가져오기
        let event = this.globalEventQueue.shift();

        // 시간이 많이 걸리는 작업인 경우
        if (isIOTask(event)) {
            // 스레드 풀에서 스레드 가져오기
            let thread = getThreadFromThreadPool();
            // 스레드에 넘겨서 처리
            thread.handleIOTask(event);
        } else {
            // 시간이 오래 걸리지 않는 작업 처리 후 결과를 직접 반환
            let result = handleEvent(event);
            // 마지막으로 콜백 함수를 통해 V8로 반환한 다음 V8은 애플리케이션으로 반환
            event.callback.call(null, result);
        }
    }
}

주 스레드는 이벤트 큐를 지속적으로 모니터링합니다. I/O 작업의 경우 스레드 풀에 넘겨서 처리하고, 비 I/O 작업의 경우 직접 처리하고 반환합니다.

4. I/O 작업 처리

스레드 풀이 작업을 받으면 데이터베이스 읽기와 같은 I/O 작업을 직접 처리합니다.

/**
 * IO 작업 핸들링
 * 완료 후 큐 끝에 이벤트 추가
 * 스레드 해제
 */
function handleIOTask(event) {
    // 현재 스레드
    let curThread = this;

    // 데이터베이스 작동
    let optDatabase = function (params, callback) {
        let result = readDataFromDb(params);
        callback.call(null, result);
    };

    // IO 작업 실행
    optDatabase(event.params, function (result) {
        // 이벤트 객체에 반환 결과 저장
        event.result = result;

        // IO가 완료되면 더 이상 시간이 오래 걸리는 작업이 아닙니다
        event.isIOTask = false;

        // 이 이벤트를 큐 끝에 다시 추가합니다
        this.globalEventQueue.push(event);

        // 현재 스레드 해제
        releaseThread(curThread);
    });
}

I/O 작업이 완료되면 콜백이 실행되고 요청 결과가 이벤트에 저장되고 이벤트가 루프를 기다리는 큐에 다시 배치됩니다. 마지막으로 현재 스레드가 해제됩니다. 주 스레드가 이 이벤트를 다시 루프하면 직접 처리합니다.

위의 프로세스를 요약하면 Node.js는 하나의 주 스레드만 사용하여 요청을 수신합니다. 요청을 수신한 후 직접 처리하지 않고 이벤트 큐에 넣은 다음 다른 요청을 계속 수신합니다. 유휴 상태일 때 이벤트 루프를 통해 이러한 이벤트를 처리하여 비동기 효과를 달성합니다. 물론 I/O 작업의 경우 시스템 수준에서 스레드 풀에 의존하여 처리해야 합니다.

따라서 Node.js 자체는 다중 스레드 플랫폼이지만 JavaScript 수준에서 작업을 단일 스레드로 처리한다고 간단하게 이해할 수 있습니다.

CPU 집약적인 작업은 단점입니다

지금쯤이면 Node.js의 단일 스레드 모델에 대한 간단하고 명확한 이해가 있어야 합니다. 이벤트 기반 모델을 통해 높은 동시성과 비동기 I/O를 달성합니다. 그러나 Node.js가 잘하지 못하는 것도 있습니다.

위에서 언급했듯이 I/O 작업의 경우 Node.js는 스레드 풀에 넘겨서 비동기 처리를 수행하므로 효율적이고 간단합니다. 따라서 Node.js는 I/O 집약적인 작업을 처리하는 데 적합합니다. 그러나 모든 작업이 I/O 집약적인 것은 아닙니다. CPU 계산에만 의존하는 작업, 즉 데이터 암호화 및 해독(node.bcrypt.js), 데이터 압축 및 압축 해제(node-tar)와 같은 CPU 집약적인 작업을 만나면 Node.js는 하나씩 처리합니다. 이전 작업이 완료되지 않으면 후속 작업은 기다릴 수밖에 없습니다. 아래 그림과 같이 표시됩니다.

이벤트 큐에서 이전 CPU 계산 작업이 완료되지 않으면 후속 작업이 차단되어 응답 속도가 느려집니다. 운영 체제가 단일 코어인 경우 용납할 수 있습니다. 그러나 현재 대부분의 서버는 다중 CPU 또는 다중 코어이며 Node.js에는 하나의 EventLoop만 있으므로 하나의 CPU 코어만 차지합니다. Node.js가 CPU 집약적인 작업에 의해 점유되어 다른 작업이 차단되면 여전히 유휴 상태로 남아 있는 CPU 코어가 있어 리소스 낭비가 발생합니다.

따라서 Node.js는 CPU 집약적인 작업에 적합하지 않습니다.

애플리케이션 시나리오

RESTful API: 요청 및 응답에는 소량의 텍스트만 필요하고 많은 논리적 처리가 필요하지 않습니다. 따라서 수만 개의 연결을 동시에 처리할 수 있습니다.
채팅 서비스: 가볍고 트래픽이 높으며 복잡한 계산 논리가 없습니다.

Leapcell: 웹 호스팅, 비동기 작업 및 Redis를 위한 차세대 서버리스 플랫폼

마지막으로 Node.js 서비스를 배포하는 데 가장 적합한 플랫폼인 Leapcell을 소개하겠습니다.

1. 다국어 지원

JavaScript, Python, Go 또는 Rust로 개발합니다.

2. 무제한 프로젝트를 무료로 배포하세요

요청이 없으면 요금이 부과되지 않고 사용량에 대해서만 지불합니다.

3. 탁월한 비용 효율성

유휴 요금 없이 사용한 만큼 지불합니다.
예: 25달러로 평균 응답 시간 60ms에서 694만 건의 요청을 지원합니다.

4. 간소화된 개발자 경험

간편한 설정을 위한 직관적인 UI.
완전 자동화된 CI/CD 파이프라인 및 GitOps 통합.
실행 가능한 통찰력을 위한 실시간 지표 및 로깅.

5. 간편한 확장성 및 고성능

고도의 동시성을 쉽게 처리할 수 있도록 자동 확장됩니다.
운영 오버헤드가 제로이므로 빌드에만 집중하십시오.

문서에서 자세히 알아보세요!

Leapcell 트위터: https://x.com/LeapcellHQ

Node.js 이벤트 루프: 깊숙하게 빠져들다