vmagent

vmagent는 VictoriaMetrics에서 만든 메트릭 수집기 입니다.

vmagent를 알려면 VictoriaMetrics에 대해 먼저 알아야 합니다.

VictoriaMetrics

VictoriaMetrics는 시계열 DB 중 하나입니다.

대표적인 시계열 DB로 모두가 아는 prometheus가 있는데, VictoriaMetrics는 prometheus와의 호환을 중요하게 생각합니다.

PromQL을 지원함과 동시에 MetricsQL 이라는 자체 쿼리 언어도 만들어 조금 더 나은 성능을 보여주기도 합니다.

가장 큰 차이 2가지는 HA와 장기 보관 입니다.

Prometheus는 scale-out이 어려워 단일 실패 지점이 되는 반면 VictoriaMetrics는 Cluster 버전을 제공해 각각의 요소를 scale-out 할 수도 있습니다.
Prometheus는 설계상 장기 스토리지용이 아닙니다. 하지만 VictoriaMetrics는 장기 데이터를 저장하기 적합하고 심지어 공식 docs에서 prometheus의 장기 저장소로 사용해도 좋다고 가이드하고 있습니다. https://docs.victoriametrics.com/single-server-victoriametrics/#prometheus-setup

naver D2의 최신 발표로도 VictoriaMetrics가 등장했었습니다.

https://d2.naver.com/helloworld/6867189

VictoriaMetrics는 대용량 메트릭 수집을 위해 클러스터 버전을 제공합니다.

초당 100만개 이하의 데이터는 단일 노드 버전이 좋지만, 그 이상이 되면 클러스터 버전을 사용하길 권장하는데요, 클러스터 버전의 가장 큰 특징은 성능과 용량을 수평적으로 확장할 수 있다는 점입니다.

아래는 가장 대표적으로 VM Cluster를 표현하는 그림입니다.

크게 storage 역할을 하는 VMStorage, storage에 저장된 시계열 데이터를 가져오는 VMSelect, 그리고 데이터를 넣는 VMInsert로 구분됩니다.

이 중에 이번에 관심있는 파트는 VMInsert와 그 아래 Writers입니다.

VMInsert는 그림에서 알 수 있다시피 push 방식으로 메트릭을 집어넣어야 합니다.

single node 버전에선 push 방식과 pull 방식을 모두 지원한다고 합니다.

https://docs.victoriametrics.com/quick-start/#write-data

위에서 push 방식으로 데이터를 VMInsert에 넣어야 한다는 것을 알았습니다.

예상하셨다시피 vmagent의 역할은 데이터를 가져와 VMInsert에 데이터를 밀어넣어주는 역할을 합니다.

이 때 push는 prometheus의 remote WRITE API와 같은 스펙으로 값이 들어갑니다.

사실 데이터를 scraping 하고 저장하는 기능은 prometheus에도 있습니다.

그럼 왜 굳이 vmagent를 사용해야 할까요?

기본적으로 vmagent는 경량화 수집기로써 만들어졌기 때문에 prometheus에 비해 적은 CPU, RAM, 디스크 IO를 필요로 합니다.
또 vmagent는 구성되어 있는 각 원격 스토리지에 대해 독립적인 디스크 지원 버퍼를 제공합니다.

즉, 속도가 느리거나 일시적으로 사용할 수 없는 스토리지가 있어도 정상 스토리지로 데이터를 병렬로 전송하는 데 지장이 없는 반면 Prometheus는 구성된 모든 원격 스토리지 시스템에 대해 단일 공유 버퍼를 사용하기 때문에 한 곳에서 병목이 생기면 느려질 수 밖에 없습니다.
무엇보다 vmagent는 많은 수의 대상을 스크래핑 하기 위해 scale-out을 지원합니다.

아래와 같이 -promscrape.cluster.membersCount 옵션으로 vmagent의 수를 정해주고, 각 vmagent에 0~N-1 에 해당하는 고유 번호를 -promscrape.cluster.memberNum 옵션으로 주기만 하면 됩니다.
```
/path/to/vmagent -promscrape.cluster.membersCount=2 -promscrape.cluster.memberNum=0 -promscrape.config=/path/to/config.yml ...
/path/to/vmagent -promscrape.cluster.membersCount=2 -promscrape.cluster.memberNum=1 -promscrape.config=/path/to/config.yml ...
```