겪은 일: sshd_config.d 에 99 번 파일로 PasswordAuthentication no 를 넣었는데 sshd -T 는 passwordauthentication yes 였습니다. 한 번도 꺼진 적이 없었습니다.
원인: sshd 는 같은 낱말이 여러 번 나오면 처음 읽은 값을 씁니다. 폴더는 이름 순서로 읽히니 50 번 파일의 yes 가 99 번의 no 를 이깁니다.
이렇게 고쳤다: 덮을 설정을 00- 으로 시작하는 이름에 넣고, 파일이 아니라 sshd -T 의 적용값으로 확인합니다.
설정 파일을 덮어쓸 때 흔히 "뒤에 읽힌 것이 이긴다"고 생각합니다. systemd 의 덮어쓰기 파일(drop-in)이나 php.ini 에 덧붙이는 설정 파일처럼 실제로 뒤 파일이 이기는 프로그램이 많아서 생긴 감각입니다. sshd 는 반대라서, 이 감각대로 99 번 파일을 만들면 아무 일도 일어나지 않습니다.
폴더에 있던 파일 셋
클라우드 서버를 처음 받으면 이미지가 미리 넣어 둔 파일이 이 폴더에 있습니다. 그날 서버 A 의 /etc/ssh/sshd_config.d/ 는 이랬습니다.
| 파일 | PasswordAuthentication | 누가 넣었나 |
|---|---|---|
50-cloud-init.conf |
yes | 서버 이미지 |
60-cloudimg-settings.conf |
no | 서버 이미지 |
99-hardening.conf(예시 이름) |
no | 보안을 손보면서 추가 |
실제 적용값 (sshd -T) |
yes |
파일 셋 중 둘이 no 이니 꺼져 있다고 믿기 쉽습니다. 누군가 99 번을 넣은 뒤 꺼 두었다고 생각했지만, 적용값을 본 사람이 없었습니다.
sshd 는 처음 값을 지킨다
OpenSSH 의 sshd_config(5) 설명서에는 각 낱말에 대해 처음 얻은 값을 쓴다는 문장이 있습니다. 뒤에 같은 낱말이 다시 나와도 무시합니다.
우분투 기본 /etc/ssh/sshd_config 는 맨 위에서 Include /etc/ssh/sshd_config.d/*.conf 로 이 폴더를 먼저 읽습니다. 폴더 안은 이름 순서라 00 번이 가장 먼저, 99 번이 가장 나중입니다. 그래서 이 폴더에서는 앞 번호가 이깁니다.
| 넣은 자리 | 결과 |
|---|---|
| 99 번 파일 | 50 번에 짐, 적용 안 됨 |
| 00 번 파일 | 가장 먼저 읽혀 이김 |
| 본 파일 sshd_config 아래쪽 | Include 보다 뒤라서 폴더 값에 짐 |
00 번 파일로 앞에 세우기
비밀번호 로그인을 끄고 루트는 열쇠로만 받는 두 줄을 앞 이름 파일에 넣습니다. 바꾸기 전에 지금 들어가 있는 열쇠 접속 창 하나를 열어 둡니다. 잘못되면 그 창에서 되돌립니다.
cat > /etc/ssh/sshd_config.d/00-local-secure.conf <<'EOF'
PasswordAuthentication no
PermitRootLogin prohibit-password
EOF
sshd -t && systemctl reload ssh
sshd -t 는 문법만 봅니다. 문법이 맞아도 값은 질 수 있으니 다음 단계가 꼭 필요합니다. 50 번 파일을 직접 고치는 방법도 있지만, 서버 이미지가 나중에 그 파일을 다시 쓸 수 있어 앞 번호 파일을 더하는 쪽을 골랐습니다.
파일 말고 적용값을 본다
sshd -T | grep -i passwordauthentication
sshd -T | grep -i permitrootlogin
sshd -T 는 모든 파일을 읽어 합친 최종값을 찍습니다. 여기 passwordauthentication no 가 나와야 끝입니다. 파일 내용이 아니라 이 출력이 사실입니다.
밖에서도 한 번 봅니다. 열쇠 없이 비밀번호로만 붙어 보면 거절되어야 합니다.
ssh -o PubkeyAuthentication=no -o PreferredAuthentications=password [email protected]
이 방식으로 바꾼 뒤 10월 14일 서버 전체를 점검했을 때, 들어가 본 서버 일곱 대 모두 비밀번호 로그인이 꺼져 있었습니다.
다른 낱말도 같은 규칙을 따른다
이 규칙은 비밀번호 로그인에만 해당하지 않습니다. 루트 로그인, 열쇠 인증 같은 다른 낱말도 똑같이 처음 값을 지킵니다. 예외는 Port, ListenAddress 처럼 여러 번 적을 수 있는 낱말입니다(OpenSSH sshd_config 설명서). 이런 낱말은 처음 것만 쓰지 않고 모두 합쳐지므로, 앞 번호 파일에 Port 2222 를 넣어도 22 번은 계속 열려 있습니다. 서버 이미지가 넣어 둔 파일이 어떤 낱말을 이미 정해 두었다면, 그 뒤 번호 파일에 같은 낱말을 적어도 소용이 없습니다.
그래서 보안 설정을 바꾸는 순서를 이렇게 정했습니다. 먼저 폴더 안 파일을 모두 열어 같은 낱말이 어디에 있는지 찾고, 덮을 값은 앞 번호 파일에 두고, 마지막에 sshd -T 로 확인합니다. 이 셋 중 마지막을 빼먹은 것이 이번 일의 진짜 원인이었습니다.
grep -ri passwordauthentication /etc/ssh/sshd_config /etc/ssh/sshd_config.d/
비슷하게 헷갈리는 자리
윈도우에서 열쇠로 붙을 때 권한 오류가 나는 문제는 윈도우 SSH 키 권한 오류에, ssh 너머로 정규식을 보낼 때 따옴표가 깨지는 문제는 ssh 따옴표와 정규식 역슬래시에 따로 적었습니다.
| 확인한 환경 | 값 |
|---|---|
| 서버 | 클라우드 이미지로 만든 우분투 계열 서버, OpenSSH |
| 발견한 날 | 2026년 10월 5일 |
| 고친 뒤 점검 | 2026년 10월 14일, 들어가 본 일곱 대 모두 꺼짐 |
이 글의 내용은 2026년 10월 19일에 마지막으로 확인했습니다. 틀린 곳을 발견하시면 연락처로 알려 주세요.