기술 블로그

앞선 글에서 저희는 '시간 상한 게이트'를 지연이 생기는 마지막 지점 뒤에 두었습니다. 그렇게 해서 '밖으로 나간 요청은 무조건 체류 시간 상한 이하'라는 구조적 보장을 얻어냈죠.

실시간 입찰(RTB) 환경에서 응답 기한을 넘긴 입찰은 가치가 0입니다. 아무리 정교한 비더를 만들었더라도, 마감이 지난 뒤에 도착한 응답은 그대로 버려지기 때문입니다. 그래서 제가 추적해야 했던 숫자는 평균 지연 시간이 아니라 '꼬리 지연'이었습니다. 이 글은 그 꼬리 지연 하나를 집요하게 추적하고 해결한 기록입니다.

지난 글에서는 체류 시간이 길어진 요청을 차단하는 '시간 상한 게이트'를 지연이 발생하는 최종 지점 뒤로 옮긴 과정을 다루었습니다. 이번 글에서는 이 게이트가 제공하는 '보장'이 과연 어떤 성격인지 이야기해 보려 합니다.

앞선 두 글에서는 체류 시간이 길어진 요청을 차단하는 '시간 상한 게이트'에 대해 이야기했습니다. 이제 남은 질문은 하나입니다. "그 게이트를 거치는 데 드는 연산 비용은 얼마인가?"