sshd_config.d 로 비밀번호 로그인을 껐는데 계속 켜져 있을 때

먼저 결론

겪은 일: sshd_config.d 에 99 번 파일로 PasswordAuthentication no 를 넣었는데 sshd -T 는 passwordauthentication yes 였습니다. 한 번도 꺼진 적이 없었습니다.

원인: sshd 는 같은 낱말이 여러 번 나오면 처음 읽은 값을 씁니다. 폴더는 이름 순서로 읽히니 50 번 파일의 yes 가 99 번의 no 를 이깁니다.

이렇게 고쳤다: 덮을 설정을 00- 으로 시작하는 이름에 넣고, 파일이 아니라 sshd -T 의 적용값으로 확인합니다.

설정 파일을 덮어쓸 때 흔히 "뒤에 읽힌 것이 이긴다"고 생각합니다. systemd 의 덮어쓰기 파일(drop-in)이나 php.ini 에 덧붙이는 설정 파일처럼 실제로 뒤 파일이 이기는 프로그램이 많아서 생긴 감각입니다. sshd 는 반대라서, 이 감각대로 99 번 파일을 만들면 아무 일도 일어나지 않습니다.

폴더에 있던 파일 셋

클라우드 서버를 처음 받으면 이미지가 미리 넣어 둔 파일이 이 폴더에 있습니다. 그날 서버 A 의 /etc/ssh/sshd_config.d/ 는 이랬습니다.

파일 PasswordAuthentication 누가 넣었나
50-cloud-init.conf yes 서버 이미지
60-cloudimg-settings.conf no 서버 이미지
99-hardening.conf(예시 이름) no 보안을 손보면서 추가
실제 적용값 (sshd -T) yes

파일 셋 중 둘이 no 이니 꺼져 있다고 믿기 쉽습니다. 누군가 99 번을 넣은 뒤 꺼 두었다고 생각했지만, 적용값을 본 사람이 없었습니다.

sshd 는 처음 값을 지킨다

OpenSSH 의 sshd_config(5) 설명서에는 각 낱말에 대해 처음 얻은 값을 쓴다는 문장이 있습니다. 뒤에 같은 낱말이 다시 나와도 무시합니다.

우분투 기본 /etc/ssh/sshd_config 는 맨 위에서 Include /etc/ssh/sshd_config.d/*.conf 로 이 폴더를 먼저 읽습니다. 폴더 안은 이름 순서라 00 번이 가장 먼저, 99 번이 가장 나중입니다. 그래서 이 폴더에서는 앞 번호가 이깁니다.

넣은 자리 결과
99 번 파일 50 번에 짐, 적용 안 됨
00 번 파일 가장 먼저 읽혀 이김
본 파일 sshd_config 아래쪽 Include 보다 뒤라서 폴더 값에 짐

00 번 파일로 앞에 세우기

비밀번호 로그인을 끄고 루트는 열쇠로만 받는 두 줄을 앞 이름 파일에 넣습니다. 바꾸기 전에 지금 들어가 있는 열쇠 접속 창 하나를 열어 둡니다. 잘못되면 그 창에서 되돌립니다.

cat > /etc/ssh/sshd_config.d/00-local-secure.conf <<'EOF'
PasswordAuthentication no
PermitRootLogin prohibit-password
EOF

sshd -t && systemctl reload ssh

sshd -t 는 문법만 봅니다. 문법이 맞아도 값은 질 수 있으니 다음 단계가 꼭 필요합니다. 50 번 파일을 직접 고치는 방법도 있지만, 서버 이미지가 나중에 그 파일을 다시 쓸 수 있어 앞 번호 파일을 더하는 쪽을 골랐습니다.

파일 말고 적용값을 본다

sshd -T | grep -i passwordauthentication
sshd -T | grep -i permitrootlogin

sshd -T 는 모든 파일을 읽어 합친 최종값을 찍습니다. 여기 passwordauthentication no 가 나와야 끝입니다. 파일 내용이 아니라 이 출력이 사실입니다.

밖에서도 한 번 봅니다. 열쇠 없이 비밀번호로만 붙어 보면 거절되어야 합니다.

ssh -o PubkeyAuthentication=no -o PreferredAuthentications=password [email protected]

이 방식으로 바꾼 뒤 10월 14일 서버 전체를 점검했을 때, 들어가 본 서버 일곱 대 모두 비밀번호 로그인이 꺼져 있었습니다.

다른 낱말도 같은 규칙을 따른다

이 규칙은 비밀번호 로그인에만 해당하지 않습니다. 루트 로그인, 열쇠 인증 같은 다른 낱말도 똑같이 처음 값을 지킵니다. 예외는 Port, ListenAddress 처럼 여러 번 적을 수 있는 낱말입니다(OpenSSH sshd_config 설명서). 이런 낱말은 처음 것만 쓰지 않고 모두 합쳐지므로, 앞 번호 파일에 Port 2222 를 넣어도 22 번은 계속 열려 있습니다. 서버 이미지가 넣어 둔 파일이 어떤 낱말을 이미 정해 두었다면, 그 뒤 번호 파일에 같은 낱말을 적어도 소용이 없습니다.

그래서 보안 설정을 바꾸는 순서를 이렇게 정했습니다. 먼저 폴더 안 파일을 모두 열어 같은 낱말이 어디에 있는지 찾고, 덮을 값은 앞 번호 파일에 두고, 마지막에 sshd -T 로 확인합니다. 이 셋 중 마지막을 빼먹은 것이 이번 일의 진짜 원인이었습니다.

grep -ri passwordauthentication /etc/ssh/sshd_config /etc/ssh/sshd_config.d/

비슷하게 헷갈리는 자리

윈도우에서 열쇠로 붙을 때 권한 오류가 나는 문제는 윈도우 SSH 키 권한 오류에, ssh 너머로 정규식을 보낼 때 따옴표가 깨지는 문제는 ssh 따옴표와 정규식 역슬래시에 따로 적었습니다.

확인한 환경 값
서버 클라우드 이미지로 만든 우분투 계열 서버, OpenSSH
발견한 날 2026년 10월 5일
고친 뒤 점검 2026년 10월 14일, 들어가 본 일곱 대 모두 꺼짐

이 글의 내용은 2026년 10월 19일에 마지막으로 확인했습니다. 틀린 곳을 발견하시면 연락처로 알려 주세요.