딱 5단계! 2026년 우분투 24.04 LTS 서버 구축 완벽 가이드

딱 5단계! 2026년 우분투 24.04 LTS 서버 구축 완벽 가이드

아, 정말 정신없는 한 주였네요. 지난주에 한참 서버 구축 이야기를 하던 친구가 갑자기 전화해서 묻더라고요. “야, 우분투 서버 설치 그거… 요즘도 그렇게 복잡하냐? 나도 하나 만들어보고 싶은데 엄두가 안 난다.” 그 말을 듣고 가만히 생각해봤죠. 솔직히 저도 처음 서버 세팅할 땐 밤샘 작업하고 그랬는데, 요즘은 정말 간편해졌거든요. 특히 우분투 24.04 LTS 버전이 나오면서 안정성이나 사용자 편의성이 훨씬 좋아졌습니다. 그래서 오늘은 제가 직접 서버 세팅하면서 느낀 노하우들을 꾹꾹 눌러 담아, 딱 5단계 만에 우분투 서버를 뚝딱 만드는 방법을 알려드리려고 해요. 겁먹지 마세요, 생각보다 훨씬 쉽습니다!


1단계: 우분투 24.04 LTS, 왜 이 버전을 선택해야 할까?

서버용 운영체제는 종류가 많지만, 개인적으로 저는 우분투 24.04 LTS를 강력 추천합니다. 왜냐고요? 일단 ‘LTS’가 Long Term Support의 약자인데, 2029년까지 안정적인 업데이트를 보장해주거든요. 한 번 깔아두면 한동안 신경 쓸 일이 없다는 거죠. 게다가 올해 2026년 기준으로, 최신 하드웨어와의 호환성도 뛰어나고 커뮤니티 지원도 압도적이라 문제가 생겨도 해결책을 찾기 정말 쉬워요. 예전에 다른 OS를 쓰다가 드라이버 문제로 며칠을 고생했던 기억이 있는데, 우분투는 그런 일이 거의 없더라고요.

블로거의 팁: 초보자라면 무조건 LTS 버전을 선택하세요. 잦은 버전 업그레이드에 따른 불안정성이나 의존성 문제에서 자유로울 수 있습니다. 저는 안정성이 최우선이라고 생각해요.

서버용 하드웨어 & 가상 환경 준비: 뭘 고를까?

서버를 돌릴 하드웨어는 크게 실제 물리 서버 아니면 가상 머신(VM)이 있는데요. 물리 서버는 말 그대로 컴퓨터 한 대를 서버로 쓰는 거고, 가상 머신은 기존 컴퓨터 안에 또 다른 가상의 컴퓨터를 만드는 거예요. 요즘은 클라우드 서비스(AWS, GCP, Azure 등)를 이용하는 경우도 많죠. 여러분의 목적에 따라 선택이 달라질 수 있습니다.

구분 장점 단점 추천 용도
물리 서버 최고의 성능, 직접적인 제어, 초기 비용 외 추가 비용 없음 초기 비용 높음, 관리 어려움, 전력 소모 고성능 웹 서버, 데이터베이스 서버 (전문가)
가상 머신 (VM) 쉬운 관리, 유연한 자원 할당, 저렴한 테스트 환경 물리 서버 대비 성능 제약, 호스트 OS 의존성 개발/테스트, 소규모 서비스, 홈 서버 (초보자)
클라우드 (AWS 등) 확장성, 고가용성, 전문적인 인프라 지속적인 비용 발생, 벤더 종속성 상용 서비스, 트래픽 유동적인 서비스 (중급 이상)

저는 이번 가이드에서는 가상 머신 환경(VirtualBox나 VMware)을 기준으로 설명할게요. 집에서 간단하게 구축하거나 테스트하기에 이만한 게 없거든요.


2단계: 우분투 24.04 LTS 서버 이미지 다운로드 & 부팅 디스크 만들기

이제 본격적으로 설치 준비를 해봅시다. 제일 먼저 할 일은 우분투 24.04 LTS 서버 이미지를 구하는 거예요. 저는 항상 우분투 공식 홈페이지에서 직접 다운로드합니다. 혹시 다른 곳에서 받으시더라도 꼭 해시값을 확인해서 파일이 변조되지 않았는지 확인하는 습관을 들이세요. 보안은 아무리 강조해도 지나치지 않으니까요.

  1. 우분투 공식 홈페이지 접속: ubuntu.com/download/server
  2. 24.04 LTS 버전 선택 및 다운로드: ‘Ubuntu Server 24.04 LTS’ 섹션에서 ISO 파일을 다운로드합니다. 보통 ‘Download’ 버튼을 누르면 바로 시작돼요.

파일을 다 받았으면 이제 이 ISO 파일을 이용해서 부팅 디스크를 만들어야 합니다. 물리 서버에 설치할 거라면 USB에 굽는 작업을 해야 하고, 가상 머신에 설치할 거라면 이 ISO 파일을 가상 머신 생성 시에 불러오기만 하면 됩니다.

가상 머신 생성 (VirtualBox 기준)

VirtualBox 기준으로 빠르게 생성 과정을 설명해 드릴게요. VMware나 다른 가상화 솔루션도 기본 원리는 비슷합니다.

  • VirtualBox 실행 후 ‘새로 만들기’ 클릭
  • 이름: Ubuntu Server 24.04 (원하는 이름)
  • 종류: Linux, 버전: Ubuntu (64-bit)
  • 메모리 크기: 최소 2GB (저는 4GB 정도 할당하는 걸 선호해요.)
  • 하드 디스크: ‘지금 새 가상 하드 디스크 만들기’ 선택 후 ‘만들기’
  • 하드 디스크 파일 종류: VDI (VirtualBox Disk Image)
  • 저장 방식: 동적 할당 (용량 효율적)
  • 파일 크기: 최소 20GB (저는 40GB 이상 추천합니다. 나중에 후회할 일 없게!)

이렇게 가상 머신을 만들고 나면, ‘설정’에 들어가서 ‘저장소’ → ‘컨트롤러: IDE’ 아래 비어있는 CD 모양 아이콘을 클릭한 다음, 방금 다운로드한 우분투 24.04 LTS ISO 파일을 선택해주세요. 이제 가상 머신을 시작하면 설치 화면으로 부팅될 겁니다!

개인적으로 VirtualBox는 처음 사용하시는 분들도 직관적으로 설정하기 좋아서 자주 애용합니다.


3단계: 우분투 24.04 LTS 서버 설치 진행 (텍스트 기반)

자, 이제 가장 중요한 설치 단계입니다. 우분투 서버는 GUI 없이 텍스트 기반으로 설치가 진행돼요. 처음엔 좀 낯설 수 있지만, 몇 번 해보면 정말 빠르고 효율적이라는 걸 느끼실 거예요. 혹시나 헤매실까 봐 제가 자세히 설명해 드릴게요.

  1. 언어 선택: 첫 화면에서 언어를 선택합니다. 한국어를 선택해도 되지만, 저는 오류 메시지 등을 검색하기 편하게 English를 선택하는 편입니다.
  2. 키보드 레이아웃: ‘Identify Keyboard’를 클릭해서 진행하거나, 직접 ‘Korean’을 찾아서 선택하면 됩니다.
  3. 네트워크 설정: DHCP로 자동 설정되는 경우가 대부분입니다. 만약 고정 IP를 사용해야 한다면 여기서 수동으로 설정해야 해요. 저는 대부분 DHCP로 설정하고 나중에 필요할 때 바꿔줍니다.
  4. 프록시 설정 (선택): 프록시 서버를 사용하지 않는다면 그냥 넘어가세요.
  5. 미러 주소 설정: 기본 미러 주소를 그대로 사용해도 무방합니다.
  6. 저장소 레이아웃: 여기가 중요한데요!
    • ‘Use An Entire Disk’: 디스크 전체를 우분투 서버로 사용하겠다는 의미입니다. 대부분의 경우 이걸 선택합니다.
    • ‘Custom storage layout’: 파티션을 직접 나누고 싶을 때 선택합니다. 저는 특별한 경우가 아니면 기본을 따릅니다.

    선택 후 ‘Done’을 누르면 요약 화면이 나오고, ‘Continue’를 눌러 확정합니다.

  7. 프로필 설정:
    • Your name: 사용자 이름 (예: 홍길동)
    • Your server’s name: 서버 이름 (예: my-ubuntu-server)
    • Pick a username: 로그인할 때 사용할 사용자 ID (예: hong.gildong)
    • Choose a password: 비밀번호 (복잡하게 설정하세요!)
  8. SSH 설정 (매우 중요!): ‘Install OpenSSH server’에 체크하세요. 이걸 설치해야 나중에 외부에서 SSH로 접속해서 서버를 관리할 수 있습니다. 저는 항상 이걸 최우선으로 체크해요.
  9. 스냅 (Snap) 패키지 선택: Docker, Nextcloud 등 자주 사용하는 서버용 스냅 패키지를 여기서 미리 설치할 수 있습니다. 필요하다면 체크하고, 아니면 나중에 설치해도 됩니다. 저는 일단 아무것도 체크하지 않고 넘어가는 편이에요.

이제 설치가 시작됩니다! 설치가 완료되면 ‘Reboot Now’ 버튼이 나오는데, 클릭해서 재부팅하면 됩니다. 재부팅하기 전에 가상 머신이라면 아까 넣었던 ISO 파일을 빼는 걸 잊지 마세요. (VirtualBox 가상 광학 드라이브에서 제거)


4단계: 초기 설정 및 필수 패키지 설치

서버가 부팅되고 나면 이제 본격적으로 서버를 사용할 준비를 해야 합니다. 가장 먼저 할 일은 업데이트! 이건 제가 어떤 OS를 설치하든 가장 먼저 하는 일입니다. 보안과 안정성을 위해 필수적이에요.


  sudo apt update
  sudo apt upgrade -y

sudo는 관리자 권한으로 실행하라는 명령이고, apt update는 패키지 목록을 최신화하고, apt upgrade -y는 실제로 설치된 패키지들을 최신 버전으로 업그레이드합니다. -y 옵션은 모든 질문에 ‘예’로 대답하겠다는 뜻이에요. 가끔 업데이트가 끝나고 재부팅이 필요한 경우도 있으니 sudo reboot 한 번 해주면 좋습니다.

네트워크 설정 확인 및 SSH 접속

설치 중에 DHCP로 설정했다면, 서버가 자동으로 IP 주소를 받아왔을 겁니다. 서버의 IP 주소를 확인해야 외부에서 SSH로 접속할 수 있어요.


  ip a

이 명령어를 입력하면 네트워크 인터페이스 목록과 각 IP 주소가 나옵니다. enp0s3 (VirtualBox 기준) 같은 이름 아래 inet으로 시작하는 주소가 바로 서버의 IP 주소입니다. 이 IP 주소를 메모해 두세요.

이제 여러분의 로컬 PC에서 터미널(Windows는 PuTTY나 WSL, macOS/Linux는 기본 터미널)을 열고 SSH로 접속해봅니다.


  ssh [사용자ID]@[서버IP주소]
  (예: ssh hong.gildong@192.168.1.100)

비밀번호를 입력하고 접속에 성공했다면, 이제 가상 머신 창을 닫고 로컬 PC에서 편하게 서버를 관리할 수 있게 된 겁니다. 개인적으로 이 SSH 접속이 성공했을 때가 제일 기분 좋더라고요. 진짜 서버 관리자 된 느낌이랄까?


5단계: 보안 강화 및 필수 도구 설치

서버를 만들었으니, 이제 안전하게 사용할 수 있도록 보안을 강화해야 합니다. 그리고 편리한 관리를 위한 몇 가지 도구도 설치할 거예요.

방화벽 설정 (UFW)

기본적으로 우분투는 UFW(Uncomplicated Firewall)라는 방화벽을 제공합니다. 사용하기 아주 쉽고 강력해요. 외부 공격으로부터 서버를 보호하는 가장 기본적인 장치입니다.


  sudo ufw enable          # 방화벽 활성화
  sudo ufw allow ssh       # SSH (22번 포트) 접속 허용
  sudo ufw allow http      # HTTP (80번 포트) 접속 허용 (웹 서버 돌릴 경우)
  sudo ufw allow https     # HTTPS (443번 포트) 접속 허용 (보안 웹 서버)
  sudo ufw status          # 방화벽 상태 확인

꼭 필요한 포트만 열어두는 것이 핵심입니다. 예를 들어 웹 서버를 운영할 예정이 아니라면 httphttps는 열지 않아도 되겠죠.

Fail2ban 설치 (선택 사항이지만 강력 추천)

Fail2ban은 무작위 대입 공격(Brute-force attack)으로부터 서버를 보호해주는 아주 유용한 도구입니다. 특정 횟수 이상 로그인 실패 시 해당 IP를 잠시 차단해버리죠. 저는 처음 서버 세팅할 때부터 항상 설치합니다.


  sudo apt install fail2ban -y
  sudo systemctl enable fail2ban
  sudo systemctl start fail2ban

설치 후에는 자동으로 시작되도록 설정하고, 바로 서비스도 시작해줍니다. 기본적인 설정으로도 충분히 효과를 볼 수 있어요.

자주 쓰는 도구 설치 (htop, net-tools 등)

서버 관리에 유용한 몇 가지 도구도 설치해두면 좋습니다.

  • htop: 리소스 사용량을 실시간으로 보여주는 강력한 모니터링 도구. top보다 훨씬 직관적입니다.
  • net-tools: ifconfig 같은 구식(?) 명령어들이 포함된 패키지입니다. ip a 명령어가 있지만, 익숙한 분들을 위해.
  • vim/nano: 텍스트 에디터. 우분투 서버에는 nano가 기본으로 설치되어 있지만, vim을 선호하는 분들도 많죠.

  sudo apt install htop net-tools vim -y

이렇게 설치하면 이제 여러분의 우분투 24.04 LTS 서버는 기본적인 준비를 마친 겁니다! 이제 이 서버 위에 웹 서버(Nginx, Apache), 데이터베이스(MySQL, PostgreSQL), Docker 등을 설치하며 여러분이 원하는 서비스를 구축할 수 있습니다.


마무리하며: 이제 당신도 서버 관리자!

어떠셨나요? 처음엔 복잡해 보였던 우분투 서버 설치, 막상 해보니 그렇게 어렵지 않죠? 제가 위에 적은 5단계만 따라오셨다면, 여러분은 이미 견고한 우분투 24.04 LTS 서버를 구축하신 겁니다. 물론 여기서 끝이 아니라, 이제부터 이 서버를 어떻게 활용할지 고민하는 재미가 시작될 거예요. 개인 프로젝트 서버로 활용하거나, 친구들과 작은 게임 서버를 만들어도 좋고요. 정말 뭐든지 할 수 있습니다!

궁금한 점이 있다면 언제든지 댓글로 물어보세요. 제가 아는 선에서 최대한 도와드릴게요. 저도 아직 배우는 입장이라 함께 성장하는 기분으로 소통하면 좋겠습니다. 다음번엔 이 서버에 웹 서버를 설치하는 방법에 대해 다뤄볼까 합니다. 기대해주세요! 그럼 오늘도 즐거운 개발 생활 되세요!