초보자를 위한 단계별 가이드: Ubuntu Server 설치 중 GRUB 오류 원인과 해결

파이썬 으로 자동화 프로그램을 만들다 서버 연동이 필요한 모듈이 필요해 리눅스 서버를 설치하려고 컴퓨터 앞에서 한참을 머뭇거리던 어느 날, 저는 새롭게 Ubuntu Server를 설치하려다 GRUB 설치 오류로 망설였던 적이 있습니다. 시작은 간단해 보였지만, 실제로는 드라이브 구성과 부팅 로더의 상호 작용에서 작은 차이가 큰 문제로 번진 경우가 많더군요. 혹시 이런 고민 해보신 적 있으신가요?

이 글은 그런 상황에서 벗어나도록 제가 직접 겪고 해결한 과정을 초보자도 따라 할 수 있도록 단계별로 정리한 가이드입니다. GRUB 설치 실패 원인을 파악하고 USB 부팅만 되는 현상을 해결하는 데 초점을 맞췄어요. UEFI/GPT 파티션 설정부터 부팅 디바이스 인식까지, 차근차근 따라 하다 보면 왜 문제가 생겼는지, 어떻게 고칠 수 있는지 감이 잡히실 겁니다. 이 글을 끝까지 따라가면 설치 실패를 마주했을 때 빠르게 원인을 진단하고 안정적으로 부트 로더를 재설정하는 루트를 얻을 수 있을 거예요.

요즘 서버 운영 환경은 가상화와 컨테이너 기술의 확대로 변화하고 있습니다. 하지만 여전히 물리적인 USB나 ISO를 이용한 설치는 많은 현장에서 기본적인 작업 흐름으로 남아 있습니다. 특히 하드웨어가 오래되었거나, 예전 BIOS에서 UEFI로의 이행이 매끄럽지 않은 경우 GRUB 설치가 실패하기 쉽죠. 이 글은 그런 상황에서도 침착하게 원인을 좁혀 나가는 방법에 초점을 맞추었습니다.

저는 실제로 과거에 USB로 설치하던 중 부팅 디바이스를 잘못 인식하는 문제를 겪었습니다. 그때는 파티션 표가 GPT인지, MBR인지 헷갈려 부팅 엔트리를 하나씩 점검하던 경험이 있습니다. 독자 여러분도 이 글을 읽고 나면, 같은 문제를 더 빠르게 확인하고 해결할 수 있을 거라 생각합니다.

이 글의 흐름은 준비 단계에서 환경 점검으로 시작해, 원인 분석과 해결책을 구체적으로 다루고, 실전 실행 가이드와 점검 체크리스트를 제공합니다. 또 마지막으로 자주 묻는 질문과 마무리 인사를 통해 실제 적용을 돕습니다.

이 글에서 다룰 내용

  1. 문제 정의와 목표: GRUB 설치 실패와 USB 부팅 문제의 의의
  2. 준비 단계: BIOS/UEFI 설정 확인과 GPT 파티션 점검
  3. 구체적 원인 분석과 해결책: grub install failed의 흔한 원인과 부팅 디바이스 인식 문제 해결
  4. 실전 실행 가이드: USB 드라이브를 이용한 설치 순서와 부트로더 재설정 체크리스트
  5. 사후 점검 및 팁: 부팅 테스트와 로그 확인 방법, 추가 안정화 조치

GRUB 오류와 USB 부팅 이슈, 왜 이렇게 자주 벌어지나요?

많은 분들이 “GRUB 설치 실패(grub install failed)”를 만났을 때, 단순히 설치 프로그램의 버그로 치부합니다. 하지만 실제로는 파티션 스킔, 부트 디바이스 인식 문제, BIOS/UEFI 설정 차이, 그리고 파티션 포맷(GPT vs MBR) 같은 하드웨어/펌웨어 층의 차이에서 온 경우가 많습니다. 이 글은 그런 여러 층의 이슈를 단계적으로 좁혀 나가도록 구성했습니다.

먼저 큰 그림을 보면서, 왜 이 문제가 생기는지, 그리고 어떻게 체계적으로 해결할지에 대한 로드맵을 제시하겠습니다. 기본 개념이 확실히 다져져야 이후 단계에서 혼란이 줄어듭니다.

아래 예시처럼 설명하죠. 예를 들어, GPT 파티션이 잘못된 상태에서 GRUB를 설치하려고 하면 부트로더가 부팅 디바이스를 찾지 못해 설치 실패로 끝납니다. 또 USB 부팅만 되는 현상은 BIOS/UEFI가 USB를 주 부트 디바이스로 인식하고 고정해 버리는 경우가 있어, 다른 디스크로의 부팅 구성을 바꿔주어야 해결되는 경우도 있습니다.

문제 정의와 목표

GRUB 오류의 일반적인 징후

설치 중 “grub install failed”와 함께 구체적인 에러 메시지가 나타납니다. 예를 들어, “Error: cannot find EFI directory”나 “No such file or directory” 같은 메시지가 보일 수 있습니다. 또 부트로더가 설치되더라도 부팅 시 커널 로딩이 멈추거나, 부트 메뉴가 전혀 나타나지 않는 경우도 있습니다.

이 글은 이런 징후를 통해 원인을 좁혀 나가는 실전 방식으로 구성했습니다. 각 징후를 만났을 때 어떤 체크리스트를 따라야 하는지 단계별로 안내합니다.

USB 부팅만 되는 현상의 의심 원인

이 현상은 보통 부트 디바이스 인식 문제, 파티션 포맷 문제, 또는 부팅 순서가 바뀌는 이슈에서 비롯됩니다. 예를 들어 BIOS/UEFI에서 1차 부트 디바이스를 USB로 고정해 놓고, 설치 중에 디스크를 읽지 못하는 상황이 생길 수 있습니다. 또한, GPT 파티션이 잘못된 방식으로 구성되면 GRUB가 EFI 시스템 파티션(EFI System Partition, ESP)을 찾지 못하는 일이 생깁니다.

준비 단계: 환경 점검

BIOS/UEFI 설정 확인

설치를 시작하기 전에 가장 먼저 체크할 곳은 BIOS나 UEFI 설정입니다. Secure Boot를 비활성화하고, CSM(Compatiblity Support Module) 상태나 부팅 모드를 UEFI로 고정하는 게 일반적으로 안정적입니다. Quick Boot도 비활성화하면 부트 디바이스 목록이 정확히 갱신됩니다. 또, USB 부트와 NVMe/SSD 드라이브 사이의 차이를 의도적으로 구분하기 위해 부팅 우선순위를 명확히 설정해 두는 습관이 필요합니다.

제 경험상, Secure Boot를 끄지 않으면 ESP에 쓰기 권한이 제한되어 GRUB 설치가 실패하는 경우가 잦았습니다. 설정 변경 후에는 저장하고 재시작하기 이전에 설정 표기를 다시 한 번 확인하는 습관이 필요합니다.

GPT 파티션 여부 및 파티션 구성 점검

설치 디스크가 GPT냐 MBR이냐에 따라 GRUB 설치 방법과 ESP 위치가 달라집니다. GPT를 사용하는 경우 ESP가 보통 100~550MB 정도의 FAT32 파티션으로 구성되어 있으며, 이 디스크에는 부트로더 파일이 저장됩니다. 반면 MBR은 ESP를 별도로 두지 않고, 부트 로더를 MBR에 직접 기록합니다. 이 차이를 이해하는 것이 첫걸음입니다.

만약 기존 디스크에 Windows가 설치되어 있다면, GPT 파티션 여부를 확인하고, ESP가 존재하는지 확인하는 것이 특히 중요합니다. ESP가 비어 있거나 손상된 경우 GRUB 설치 시 실패가 발생할 수 있습니다.

구체적 원인 분석과 해결책

grub install failed의 흔한 원인

원인은 다양합니다. 가장 흔한 사례로는 ESP의 경로가 잘못되었거나, ESP의 파일 시스템 손상, 또는 GRUB 바이너리와 모듈 파일의 불일치가 있습니다. 또 하나 흔한 원인은 설치 중에 선택한 루트 파티션이 잘못되어 GRUB가 설치 대상 디스크를 찾지 못하는 경우입니다.

해결책은 보통 다음 순서로 진행합니다. ESP 위치 확인 → ESP를 FAT32로 포맷하고 마운트 → grub-install 명령에서 올바른 디바이스를 지정 → 업데이트 후 재부팅 확인. 이 과정에서 필요한 경우 부트 매니저의 설정 파일도 재생성합니다.

부팅 디바이스 인식 문제 해결 방법

부팅 디바이스 인식 문제는 대개 BIOS/UEFI 설정과 파티션 구성의 불일치에서 발생합니다. 해결 포인트는 다음과 같습니다:

  • ESP 위치 재확인: ESP가 GPT에서 올바른 파티션으로 마운트되어 있는지 확인합니다.
  • grub-install 대상 디바이스 확인: 설치 명령에서 --target, --boot-directory, --efi-directory를 명확히 지정합니다.
  • 부팅 로더 재생성: grub-mkconfig -o /boot/grub/grub.cfg 로 로더 구성을 재생성합니다.
  • BIOS/UEFI 초기화: 필요 시 CMOS 리셋으로 모든 설정을 초기화하고 재설치를 시도합니다.

실전 실행 가이드

USB 드라이브를 이용한 설치 순서

실제 설치를 시작하기 전, USB 드라이브의 파티션 구조를 확인합니다. 보통 GPT로 구성하고 ESP를 FAT32로 만들어 부트로더를 저장합니다. ISO 이미지는 USB에 굽고 부팅 가능하도록 설정합니다. 설치 도중에는 디스크 선택 화면에서 루트 파티션과 스왑 공간의 구성을 명확히 구분합니다.

설치를 시작하고 나면 GRUB 설치 단계에서 오류가 나면 즉시 로그를 확인합니다. 실패 시에는 USB를 재삽입하고, BIOS의 부팅 우선순위를 재설정한 뒤 재시도합니다.

설치 후 부트로더 재설정 체크리스트

  • ESP가 정상적으로 마운트 되었는지 확인하고, grub-install을 다시 실행한다.
  • grub-mkconfig -o /boot/grub/grub.cfg로 구성 파일 재생성.
  • 부팅 시 BIOS/UEFI에서 부트 순서를 다시 확인하고, 설치한 디스크를 1순위로 설정한다.
  • 필요 시 다른 디스크에도 GRUB를 설치해 부트 로더 다중 경로를 확보한다.

사후 점검 및 팁

부팅 테스트 및 로그 확인 방법

설치가 끝난 뒤에는 즉시 재부팅해서 부트 프로세스를 관찰합니다. 여러 번 부팅 시도해 보고, /var/log/dailog나 dmesg를 통해 부트 과정에서 발생한 메시지를 확인합니다. EFI 로그를 보는 법이나 journald를 활용하는 방법도 유용합니다.

안정성 확보를 위한 추가 조치

가능하면 초기 설치 후 몇 번의 재부팅 테스트를 거치고, 디스크 SMART 확인이나 파일 시스템 점검도 함께 수행합니다. 보안 업데이트와 커널 버전 관리도 중요합니다. 또한, 나중에 다른 운영 체제나 여러 부트 엔트리가 필요한 경우 부트로더 구성을 백업해 두면 비상시에 큰 도움이 됩니다.

지금까지 다룬 내용은 GRUB 설치 실패와 USB 부팅 이슈를 해결하는 데 실전적으로 적용할 수 있는 단계별 가이드였습니다. 핵심을 한 줄로 정리하자면, ESP의 위치와 구성 여부를 먼저 확인하고, 필요한 경우 grub 설치 대상 디바이스를 명확히 지정한 뒤, 부트 로더를 재생성하는 것이 핵심입니다.

  • 핵심 포인트 1: ESP와 파티션 구성의 정확성이 GRUB 설치의 기본 조건이다.
  • 핵심 포인트 2: BIOS/UEFI 설정에서 USB 부팅과 부트 모드가 일치해야 한다.
  • 핵심 포인트 3: grub-install과 grub-mkconfig를 올바른 대상에 실행해 부트로더를 재생성한다.
  • 핵심 포인트 4: 설치 후 부트로더 재설정 체크리스트로 안정성을 확보한다.

오늘의 가이드를 따라 했으면, 부팅 문제를 겪는 일이 현저히 줄어들 거예요. 만약 여전히 어려움이 남아 있다면, 구체적인 증상과 함께 댓글이나 피드백으로 남겨 주세요. 함께 해결 방향을 더 좁혀 보죠.

자주 묻는 질문

GRUB 설치 실패가 계속 나오면 어떻게 하나요?

우선 ESP의 상태를 확인하고, FAT32로 포맷된 ESP가 존재하는지 확인합니다. 그다음 grub-install에서 --efi-directory를 ESP로 정확히 지정하고, /boot/나 /boot/efi가 올바르게 마운트되었는지 점검합니다. 로그에 구체적인 오류 메시지가 남는 경우 그 메시지를 기준으로 문제 지점을 좁혀 갑니다.

USB 부팅만 되는 문제가 계속 남아 있어요

BIOS/UEFI에서 부트 우선순위가 USB로 고정되어 있거나, Windows가 설치된 디스크의 부트 구성이 변경되지 않도록 주의해야 합니다. 이 경우 USB를 제거한 뒤 재부팅하고, ESP가 RTC와 함께 인식되는지 확인합니다. 필요 시 BIOS를 기본값으로 리셋한 뒤 재설치를 시도합니다.

GPT 파티션이 없어 보일 때의 처리법

GPT 파티션이 없어 보일 때는 설치 디스크를 GPT로 변환하거나 새로 파티션을 구성해야 합니다. 이때 ESP를 별도의 FAT32 파티션으로 만들고, EFI 시스템 파티션이 존재하는지 재확인합니다. 변환은 데이터 손실 위험이 있으니 중요한 데이터는 백업해 두는 것이 좋습니다.

설치 중 잘못된 파티션 선택의 피해는?

루트 파티션과 부트 파티션의 위치가 엉키면 GRUB가 디스크를 올바르게 찾지 못합니다. 이 경우 부팅 가능한 라이브 USB로 부팅한 뒤, 파티션 마운트를 정리하고 GRUB를 재설치합니다. 차근차근 따라 하면 예상보다 쉽게 해결될 때가 많습니다.

추가 참고 자료나 도구는?

공식 Ubuntu 커뮤니티 문서, GRUB 프로젝트의 매뉴얼, 그리고 각 제조사 BIOS/UEFI 가이드가 큰 도움이 됩니다. 또한, 부트 로더 관련 로그를 남길 수 있는 journald나 dmesg를 활용하면 문제 원인 파악이 빨라집니다.

이 글을 끝까지 읽어 주셔서 감사합니다. 여러분의 서버가 안정적으로 부팅되도록 돕는 것이 제 목표였어요.

이제 여러분도 차근차근 따라가며 문제를 해결해 보세요. 어려움이 있더라도 포기하지 말고, 각 단계에서 로그와 상태를 기록해 두면 다음에는 더 빨리 풀릴 거예요. 필요한 경우 제게 상황을 알려 주시면 함께 진단해 볼게요.

앞으로의 글에서도 비슷한 설치 이슈를 다룰 예정이니, 관심 있으면 더 많은 팁을 기대해 주세요.