겪은 일: 워드프레스 로그인 감옥을 5월에 걸었는데 10월까지 실패 0, 차단 0 이었습니다. 같은 날 접속 기록에는 로그인 POST 가 400줄 넘게 있었습니다.
원인: 감옥이 기록 파일을 읽지 않았습니다. 저널을 읽는 기본값, 켜질 때만 만드는 파일 목록, 날짜를 넣은 정규식이 저마다 0 을 만듭니다.
이렇게 확인한다: fail2ban-client status 감옥이름 에 File list 가 나오는지, Total failed 가 0 에서 움직이는지부터 봅니다.
fail2ban 은 걸어 둔 순간부터 조용합니다. 막을 것이 없어서 조용한 것인지, 아무것도 읽지 않아서 조용한 것인지 겉으로는 구별되지 않습니다. 제가 운영하던 서버에서는 뒤쪽이었고, 다섯 달 동안 그 사실을 몰랐습니다.
클라우드플레어 뒤에서 진짜 방문자 주소를 찍는 설정과 처음 건 필터는 클라우드플레어 뒤 nginx 에 방문자 IP 가 안 찍힐 때에 적었습니다. 이 글은 그 뒤에 "감옥이 아무것도 안 읽는" 문제만 따로 판 기록입니다.
상태 화면 한 장으로 가르기
숫자가 0 이면 먼저 상태 화면을 엽니다. 여기서 감옥이 무엇을 보고 있는지가 드러납니다.
fail2ban-client status wordpress-login
그날 화면에는 File list 대신 Journal matches: 줄이 있었습니다. 파일이 아니라 systemd 저널을 읽고 있다는 뜻입니다. 같은 날 기록을 fail2ban-regex 에 직접 넣으면 65줄이 걸렸으니 필터는 멀쩡했습니다.
| 상태 화면에서 본 것 | 뜻 | 할 일 |
|---|---|---|
Journal matches: |
저널을 읽는 중, logpath 무시 | 감옥에 backend = auto |
File list 에 빈 파일 하나 |
켜질 때 목록이 비었거나 낡음 | 사이트를 만든 뒤 fail2ban 을 다시 읽힘 |
| 파일은 맞는데 실패 0 | 정규식이 줄을 못 잡음 | fail2ban-regex 로 한 줄씩 대조 |
| fail2ban 명령이 없음 | 그 서버에는 설치 자체가 안 됨 | 설치부터 |
마지막 줄도 실제로 있었습니다. 다른 서버 한 대는 모두 같은 장치를 갖춘 줄 알았는데 fail2ban 이 아예 깔려 있지 않았습니다.
첫째, 우분투 기본값이 저널을 고른다
최근 우분투와 데비안 패키지에는 /etc/fail2ban/jail.d/defaults-debian.conf 가 들어 있고, 그 안에 backend = systemd 가 있습니다. 판에 따라 이 줄이 없는 패키지도 있으니 자기 서버에서 grep -r backend /etc/fail2ban/jail.d/ 로 먼저 봅니다. 이 값이 살아 있으면 감옥에 logpath 를 적어도 그 파일은 보지 않습니다. 그래서 감옥 쪽에 backend 를 따로 적어 덮습니다.
[wordpress-login]
enabled = true
backend = auto
port = http,https
filter = wordpress-login
logpath = /var/log/nginx/*.access.log
findtime = 300
maxretry = 5
bantime = 3600
bantime.increment = true
bantime.factor = 24
bantime.maxtime = 604800
action = %(action_)s
nginx-deny
ignoreip = 127.0.0.1/8 ::1 서버주소
bantime.increment 부터 ignoreip 까지의 줄은 읽기 문제를 푼 뒤에 붙인 것입니다. 다시 걸릴수록 차단 시간이 길어지고, nginx-deny 는 뒤에서 설명할 동작입니다.
둘째, 와일드카드는 켜질 때 한 번만 펼쳐진다
*.access.log 처럼 적으면 fail2ban 은 켜지는 순간 그 이름에 맞는 파일 목록을 만듭니다. 그 뒤에 새로 만든 사이트의 기록 파일은 fail2ban 을 다시 읽히기 전까지 목록에 없습니다.
10월 14일 사이트 여러 곳을 새로 연 서버가 이 경우였습니다. 새 사이트의 기록 파일이 있는데도 감옥은 빈 _placeholder.access.log 하나만 보고 있었습니다. 감옥이 켜질 때 이름에 맞는 파일이 그것뿐이었던 것입니다. 사이트를 만드는 절차 끝에 fail2ban 을 다시 읽히는 줄을 넣어 풀었습니다.
fail2ban-client reload
fail2ban-client status wordpress-login | grep -A3 'File list'
셋째, 정규식에 날짜를 넣으면 한 줄도 안 잡힌다
nginx 기록 줄에는 [15/Oct/2026:...] 같은 날짜 칸이 있어서 정규식에 그 모양을 넣고 싶어집니다. 그런데 fail2ban 은 날짜를 먼저 찾아 떼어 낸 뒤 나머지에 정규식을 댑니다. 날짜 칸 \[...\] 을 넣은 필터는 그래서 아무것도 잡지 못했습니다. ^<HOST> -.*"GET ..." 처럼 주소 다음을 넓게 건너뛰는 모양으로 씁니다.
읽기 시작한 뒤에 손본 두 가지
파일을 읽게 되면 무엇을 실패로 세는지가 중요해집니다. 처음 필터는 301, 302 까지 셌는데, 302 는 로그인 성공이고 301 은 http 에서 https 로 넘기는 응답입니다. 실패한 로그인은 같은 화면을 200 으로 다시 주므로 그 뒤 이렇게 바꿨습니다.
[Definition]
failregex = ^<HOST> -.*"POST /wp-login\.php HTTP[^"]*" (200|401|403)
ignoreregex =
둘째는 막는 방법입니다. 클라우드플레어 프록시 뒤에서는 서버에 연결하는 상대가 늘 클라우드플레어 주소라 방화벽 차단이 듣지 않습니다. 그래서 차단할 주소를 nginx 의 deny 줄로 쓰는 동작을 따로 만들어 감옥에 붙였습니다. nginx 가 진짜 방문자 주소를 알고 있으니 그 주소에 403 을 냅니다.
[Definition]
actionstart = touch /etc/nginx/conf.d/zz-f2b-deny.conf
actionban = grep -qx "deny <ip>;" /etc/nginx/conf.d/zz-f2b-deny.conf || echo "deny <ip>;" >> /etc/nginx/conf.d/zz-f2b-deny.conf; nginx -t -q && systemctl reload nginx
풀 때는 같은 줄을 지우고 다시 읽힙니다. 자기 서버 주소와 사무실 주소는 ignoreip 로 빼 두어야 점검 도구가 스스로 막히지 않습니다. 위 감옥 설정처럼 action = %(action_)s 다음 줄에 이 동작 이름을 이어 적습니다.
고친 뒤 볼 숫자
고친 날에 File list 에 실제 사이트 기록이 나오는지 보고, 하루쯤 지나 Total failed 가 0 에서 움직였는지 다시 봅니다. 고친 뒤 실패 숫자가 얼마까지 올랐는지는 기록해 두지 못했습니다. 기록 줄과 숫자를 맞춰 볼 때의 함정은 로그로 상태를 판정하다 틀리는 실수에 모았습니다.
| 확인한 환경 | 값 |
|---|---|
| 서버 | 우분투 계열, nginx, 워드프레스, 클라우드플레어 프록시 |
| 실패 0 이 이어진 기간 | 2026년 5월 9일 설치에서 10월 5일 발견까지 |
| 빈 파일만 보던 감옥 | 2026년 10월 14일, 사이트를 새로 연 서버 |
이 글의 내용은 2026년 10월 18일에 마지막으로 확인했습니다. 틀린 곳을 발견하시면 연락처로 알려 주세요.