#devspace

2023.05.16 - [🌏 인프라/모니터링] - Prometheus + Grafana로 Redis 모니터링 구축하기

위의 과제를 진행하면서 한 인스턴스에 각각 다른 버전의 Redis를 설치해주어야 했습니다.

Redis의 기본 포트는 6379이기 때문에, 두 Redis의 포트가 겹치지 않도록 포트 번호를 변경해 설치되도록 진행해보겠습니다!

아래 과정대로 진행해줍니다.

# Redis 소스 코드 다운로드 및 압축 해제
$ wget http://download.redis.io/releases/redis-x.x.x.tar.gz
$ tar xzf redis-x.x.x.tar.gz
$ cd redis-x.x.x

# redis.conf 파일 열고 포트 번호 변경
$ vi redis.conf
# port 6379 -> port 6378

# Redis 서버 컴파일 및 설치
$ make
$ make install

# 변경된 포트 번호로 Redis 서버 실행
$ src/redis-server redis.conf

Redis를 실행했을 때 Port가 6378로 잘 변경된 것을 확인할 수 있습니다.

2023.01.25 - [🌏 인프라/NHN Cloud] - NHN Cloud 인스턴스에 Redis 설치하기 (1) - 압축파일 이용

2023.02.08 - [💻 프로그래밍/Shell] - Redis 설치 자동화 스크립트 (1) - binary 방식

위의 포스팅을 이용해서 Redis를 설치했을 때 초기 실행 화면입니다.

하지만 뭔가 깔끔하지 않고 다음과 같은 메시지들이 떠있는 것을 볼 수 있습니다.

Warning: no config file specified, using the default config. In order to specify a config file use src/redis-server /path/to/redis.conf

WARNING: The TCP backlog setting of 511 cannot be enforced because /proc/sys/net/core/somaxconn is set to the lower value of 128.

WARNING Memory overcommit must be enabled! Without it, a background save or replication may fail under low memory condition. Being disabled, it can can also cause failures without low memory condition, see https://github.com/jemalloc/jemalloc/issues/1328. To fix this issue add 'vm.overcommit_memory = 1' to /etc/sysctl.conf and then reboot or run the command 'sysctl vm.overcommit_memory=1' for this to take effect.

구글링을 하면 금방 해결할 수 있지만 어떤 의미를 가지는지 한번 자세히 알아보겠습니다.

메시지를 읽어보면 어떤 내용인지, 어떻게 해야 되는지 친절하게 적혀 있기 때문에 하나씩 진행해보겠습니다!

설치 환경

• NHN Cloud
• CentOS 7.9
• Redis 7.0.11

1. config 파일 지정

• 문제

Warning: no config file specified, using the default config. In order to specify a config file use src/redis-server /path/to/redis.conf

warning 메시지 그대로 config 파일이 세부적으로 지정되어 있지 않아서 default config를 사용하고 있음을 알 수 있습니다.

• 해결 방법

메시지에서 알려주는대로 아래처럼 config 파일을 지정해서 실행합니다.

src/redis-server redis.conf

2. TCP backlog 설정값 오류

• 문제

WARNING: The TCP backlog setting of 511 cannot be enforced because /proc/sys/net/core/somaxconn is set to the lower value of 128.

리눅스 설정(/proc/sys/net/core/somaxconn)은 128로 되어 있는데 redis.conf의 TCP backlog는 511로 설정되어 있기 때문에 리눅스 설정 값을 증가하라는 메시지입니다.

• backlog란? 물리적 네트워크 포트에서 패킷을 쌓아두는 커널의 큐 크기
• TCP backlog란? Redis 서버의 초당 클라이언트 연결 수
• somaxconn이란? socket max connection의 약자로 네트워크 연결 최대 수
• somaxconn 값 확인하기

$ sysctl -a | grep somaxconn
net.core.somaxconn = 128

• 해결 방법

sysctl.conf 파일의 somaxconn 값을 변경해줍니다.

$ sudo vi /etc/sysctl.conf
net.core.somaxconn = 4096

설정이 영구적으로 적용되게 하기 위해서 인스턴스를 재부팅하거나 아래 명령어를 실행해줍니다.

$ sudo sysctl net.core.somaxconn=4096

3. Memory overcommit 미설정

• 문제

WARNING Memory overcommit must be enabled! Without it, a background save or replication may fail under low memory condition. Being disabled, it can can also cause failures without low memory condition, see https://github.com/jemalloc/jemalloc/issues/1328. To fix this issue add 'vm.overcommit_memory = 1' to /etc/sysctl.conf and then reboot or run the command 'sysctl vm.overcommit_memory=1' for this to take effect.

Memory overcommit이 반드시 실행되어야 한다고 적혀있습니다. 

메모리가 부족하면 백그라운드 저장이나 복제가 실패할 수 있고, 장애가 발생할 수 있습니다.

• 해결 방법

sysctl.conf 파일의 vm.overcommit_memory 값을 1로 변경해줍니다.

$ sudo vi /etc/sysctl.conf
vm.overcommit_memory = 1

설정이 영구적으로 적용되게 하기 위해서 인스턴스를 재부팅하거나 아래 명령어를 실행해줍니다.

$ sudo sysctl vm.overcommit_memory=1

결과

warning 메시지 없이 깔끔하게 실행되었습니다!

ACL

Access Control List의 줄임말로 redis 6부터 도입된 기능입니다.

다른 RDBMS(MySQL, Oracle 등)에는 유저별로 접근 가능한 범위를 정할 수 있지만

redis에는 유저라는 개념이 없었습니다.

ACL은 유저를 설정하고 실행 가능한 커맨드와 접근할 수 있는 키 측면에서 특정 연결을 가능하게 해줍니다.

# 1
ACL SETUSER alice on >p1pp0 ~cached:* +get

# 2
AUTH alice p1pp0

• #1 : alice 라는 user를 생성한다.
  • 이름 
  • 패스워드 : p1pp0
  • 접근 가능한 키 패턴 : cached 로 시작하는 key들에 접근할 수 있다. (allkeys : 모든 키에 접근 가능)
  • 실행 가능한 커맨드 : 접근할 때는 get 만 사용할 수 있다. (allcommands : 모든 명령어 사용 가능)
• #2 : alice 계정으로 redis를 사용하도록 한다.

비밀번호만 설정한다는 것은 "default" user를 사용한다는 의미입니다.

ACL feature를 사용하여 user를 생성하고, user가 접근할 수 있는 key와 command를 지정해놓는다면, redis를 조금 더 안전하게 사용할 수 있을 것입니다.

사용자 등록

> ACL SETUSER user on/off >password keys commands

• user: user-id를 설정한다.
• on/off: 사용 여부를 정한다. on이면 사용 가능하고, off이면 사용할 수 없다.
  
  • Off는 사용자는 등록하지만 일단 사용하지 못하게 할 경우 또는 기존 사용자를 사용하지 못하게 할 경우 사용한다.
  • 이 경우 새로 로그인(auth)은 할 수 없지만, 이미 로그인한 사용자의 사용을 막지는 못한다.
• >password: '>' 구분자 다음에 지정한다. 자유롭게 지정할 수 있다.
  
  • 패스워드 없이 사용하려면 nopass를 지정한다. 로그인 시 어떤 문자열이든 입력해도 된다.
  • 패스워드를 지정했을 경우: auth user password 로 로그인
• keys:
  • 모든 키 : allkeys 또는 ~*
  • 특정 패턴 : 예) ~user*, ~key* 이렇게 지정하면 user 또는 key로 시작하는 키에 대해서만 사용할 수 있다.
    
  • 키 X : Resetkeys
  • 키 패턴을 지정하면 매 명령마다 비교하므로 성능이 떨어질 수 있다. 성능이 우선일 경우 사용에 주의
• commands:
  • 모든 명령 : allcommands 또는 +@all
    
  • 명령 X : Nocommands 또는 -@all
  • 명령은 그룹 또는 명령으로 추가 또는 뺄 수 있다.
    • 명령 그룹 : +@group/-@group, 명령 : +command/-command

사용자 조회

ACL GETUSER user

사용자 삭제

ACL DELUSER user

본인 확인

ACL WHOAMI

사용자 리스트 조회

ACL USERS

사용자 정보 리스트 조회

ACL LIST

사용자 정보 저장

ACL SAVE

사용자 정보 로드

ACL LOAD

명령 그룹 조회

127.0.0.1:6379> ACL CAT
1) "keyspace"
2) "read"
3) "write"
4) "set"
5) "sortedset"
6) "list"
7) "hash"
8) "string"
9) "bitmap"
10) "hyperloglog"
11) "geo"
12) "stream"
13) "pubsub"
14) "admin"
15) "fast"
16) "slow"
17) "blocking"
18) "dangerous"
19) "connection"
20) "transaction"
21) "scripting"

• keyspace: del, expire, flushdb, keys, ttl, scan 등
• read: get, lrange, smembers, zrange, hget, xrange 등
• write: set, lpush, sadd, zadd, hset, xadd 등
• set: sadd, scard, srem, spop 등
• sortedset: zadd, zcard, srem, zpopmin 등
• list: lpush, llen, lrem, lpop 등
• hash: hset, hlen, ldel, hget 등
• string: set, get, incr 등
• bitmap: setbit, bitop, getbit 등
• hyperloglog: pfadd, pfmerge, pfcount, pfselftest
• geo: geoadd, geodist, georadius 등
• stream: xadd, xlen, xrange, xdel 등
• pubsub: publish, subscribe, pubsub 등
• admin: bgsave, config, debug, shutdown 등
  Admin 명령은 dangerous 그룹에 포함된다.
• fast: get, lpush, hget 등
• slow: lrem, mset, save 등
• blocking: blpop, brpop, brpoplpush, bzpopmin, bzpopmax, xread, xreadgroup
• dangerous: flushdb, keys, shutdown, info, client 등
• connection: hello, client, auth, echo, ping, command
• transaction: watch, multi, unwatch, discard, exec
• scripting: evalsha, eval, script

각 명령이 어느 그룹에 속하는지는 "command info 명령"을 사용해서 확인할 수 있다.

예를 들면, SET 명령은 write, string, slow이고, GET 명령은 read, string, fast이다.

패스워드 생성

ACL GENPASS [<bits>]

• 디폴트로 64바이트 문자열로 패스워드를 생성한다.
• 암호화 알고리즘으로 SHA-256을 사용한다.

ACL(Auth) 로그

ACL LOG [<count> | RESET]

✅ 공식문서

https://redis.io/topics/acl

목차

• ACL이 유용한 경우
• ACL 명령으로 ACL 구성
• ACL 규칙
• ACL SETUSER 명령으로 사용자 ACL 생성 및 편집
• ACL SETUSER에 대한 다중 호출
• 명령어 카테고리
• 하위 명령 허용/차단
• 차단된 명령의 첫 번째 인수 허용
• +@a,ll VS -@all
• 선택자
• 주요 권한
• 암호가 내부적으로 저장되는 방식
• 외부 ACL 파일 사용
• 센티널 및 리플리카에 대한 ACL 규칙

참고

http://redisgate.kr/redis/server/acl.php

https://sungbin.dev/post/Redis%20%ED%95%B4%ED%82%B9%EB%8B%B9%ED%95%9C%20%EC%9D%B4%EC%95%BC%EA%B8%B0

Pub/Sub - 메시지 브로커

Pub/Sub은 Publish/Subscribe의 줄임말입니다.

단어 자체에 구독/게시라는 뜻이 있듯이 Redis에서 Pub/Sub 기능을 사용하면

클라이언트가 채널을 통해 메시지를 주고받음으로써 서로 통신할 수 있습니다.

구조

클라이언트는 하나의 Topic을 "Sub"하고,

해당 토픽을 "Sub"한 다른 모든 클라이언트는 해당 Topic에서 "Pub"되는 메시지를 수신합니다.

Topic이라는 매개체를 통해서 메시지를 전달하므로

수신자와 발신자가 서로를 알지 못하더라도 메시지를 송수신할 수 있습니다.

특징

메시지는 Redis에 저장되지 않고 채널을 구독하는 클라이언트에 실시간으로 전송된다는 점에 유의해야 합니다.

클라이언트에게 전달되면 이를 바로 삭제합니다.

예시

이를 통해 Redis 지원 애플리케이션에서 실시간 메시징 및 알림을 구현할 수 있습니다.

예를 들어 채팅 애플리케이션은 pub/sub를 사용하여 한 사용자에서 다른 사용자에게 실시간으로 메시지를 보낼 수 있습니다.

1. 애플리케이션에는 각 대화에 대한 채널이 있고
2. 대화에 참여하는 클라이언트는 해당 채널을 구독합니다.
3. 사용자가 메시지를 보내면 애플리케이션은 해당 채널에 메시지를 게시하고
4. 해당 채널을 구독하는 다른 모든 클라이언트는 실시간으로 메시지를 수신합니다.

👎 따라서 메시지를 저장하여 관리해야 되는 경우, Redis의 Pub/Sub은 적합하지 않을 수 있습니다.

👍 예를 들어 PUSH 메시지처럼 실시간으로 로그인된 사용자에게 메시지를 전달하는 기능을 구현할 경우, 유용하게 사용될 것입니다.

명령어

subscribe 명령어

파라미터로 명시한 채널을 구독합니다. 여러 개의 채널을 동시에 구독할 수 있습니다.

결과값 : 구독한 채널명, integer값 반환

> subscribe <채널명>

> subscribe <채널명1> <채널명2> ... # 여러 개의 채널을 등록하면, 각각의 채널로 메시지가 발행되면 모두 수신한다.

✔️ redis에서 channel을 생성하는 명령어는 없고, subscribe로 채널을 생성하고 구독하는 것으로 보면 됩니다.

publish 명령어

이제 ch1을 구독하는 subscriber가 생겼으므로,

publisher client에서 publish 명령어를 사용해 메시지를 발행하면

subscriber client에서 해당 메시지를 전달받게 됩니다.

> publish <채널> <내용>
(integer) 2 # 채널에 메시지를 발행했고, 2개의 클라이언트에게 전달되었음

pubsub 명령어

administrator가 효율적으로 subscriber를 관리할 수 있도록 하는 명령어입니다.

• channels : 활성화 된 채널
• numsub : 특정 채널을 구독하고 있는 subscriber의 개수 확인
  • pattern subscription으로 구독하고 있는 subscriber는 count에 포함되지 않음
• numpat : pattern subscription의 subscriber 개수 확인
  • 특정 채널의 subscriber가 아닌, 전체 subscriber 개수 return

# 활성화된 채널이 없을 때
> pubsub channels
(empty array)

# 아래의 SUBSCRIBE 명령어로 채널을 한 개 활성화 시켰을 때
> pubsub channels
1) "c1"

# 채널을 구독중인 클라이언트 수 확인
> pubsub numsub ch1
1) "ch1"
2) (integer) 1

# 패턴형으로 등록된 클라이언트 수 확인
> pubsub numpat
(integer) 0

psubscribe 명령어

수신할 채널 이름의 패턴을 등록하는 명령어입니다.

패턴은 아래와 같은 glob-style을 지원합니다.

• '?' : 한 글자 대치
• '*' : 공백이나 여러 글자 대치

# 패턴을 등록하여 수신시작
> psubscribe c*
Reading messages... (press Ctrl-C to quit)
1) "psubscribe"
2) "c*"
3) (integer) 1

# 패턴 채널을 등록된 채널에는 포함되지 않음
127.0.0.1:6379> pubsub channels
1) "c1"

# 패턴 조회 : 1개 확인
127.0.0.1:6379> pubsub numpat
(integer) 1

# 등록하지 않았던 채널 ch2로 메시지 보냄
> publish ch2 "test 2"
(integer) 1

# 패턴으로 구독 신청한 채널에 메시지가 추가됨
> psubscribe c*
Reading messages... (press Ctrl-C to quit)
1) "psubscribe"
2) "c*"
3) (integer) 1
1) "pmessage"
2) "c*"
3) "c2"
4) "test 2"

unsubscribe / punsubscribe 명령어

• 기본 : redis-cli에서 ctrl+c로 구독 종료
• 별도 클라이언트 : unsubscribe 명령어로 수신 중단
• 패턴 채널 : punsubscribe 명령어로 수신 중단
• 채널명 입력하지 않으면 : 해당 클라이언트에 등록된 모든 채널 삭제

> unsubscribe ch1*
1) "unsubscribe"
2) "ch*"
3) (integer) 1

> punsubscribe ch1*
1) "punsubscribe"
2) "ch*"
3) (integer) 1

참고

https://inpa.tistory.com/entry/REDIS-%F0%9F%93%9A-PUBSUB-%EA%B8%B0%EB%8A%A5-%EC%86%8C%EA%B0%9C-%EC%B1%84%ED%8C%85-%EA%B5%AC%EB%8F%85-%EC%95%8C%EB%A6%BC

https://velog.io/@tilsong/Redis%EC%9D%98-%EC%A3%BC%EC%9A%94-%EA%B8%B0%EB%8A%A5-2-PubSub

활용 예제

Counting

Strings

• 단순 증감 연산
• INCR / INCRBY / INCRBYFLOAT / HINCRBY / HINCRBYFLOAT / ZINCRBY

Bits

• 데이터 저장공간 절약
• 정수로 된 데이터만 카운팅 가능
  • userid 값이 0 이상의 정수값일 때만 카운팅이 가능
  • 시퀀셜한 값이 없을 때에는 사용 불가
• SETBIT / BITCOUNT

HyperLogLogs

• 대량의 유니크한 데이터를 카운팅할 때 적절
• set과 비슷하지만 저장되는 용량이 매우 작음
• 웹사이트에 방문한 유니크한 IP 수 / 하루 종일 크롤링한 URL 수 / 검색엔진에서 검색된 유니크한 단어 수
• PFADD / PFCOUNT / PFMERGE

Messaging

Lists

• 자체적으로 blocking 기능을 제공해서 Event Queue로 사용 → 불필요한 polling을 막을 수 있음
• 키가 있을 때만 저장 가능 - LPUSHX / RPUSHX

Streams

• 로그 저장
• append-only
• 시간 범위 검색 / 신규 추가 데이터 수신 / 소비자별 다른 데이터 수신(소비자 그룹) - kafka에서 차용
• 메시징 브로커 역할
• XADD : hash처럼 key-value 쌍으로 저장

장애 포인트

Redis는 Single Thread 라는 점을 잊지 말자!

• keys * → scan으로 대체
• 오래 걸리는 커맨드는 사용하지 말자
• hash, sorted set 쓸 때 하나의 키에 100만개 이하로만 담자
• Flush All : 키 다 날려버리기 → 이거 하는 동안 다른거 못함