프로그램 설치

VMware에 UTM9 설치하기

JustSangRok 2026. 6. 11. 16:41

SOPHOS UTM 9 설치하기 

오늘은 UTM에 대해 알아보겠다


1. UTM이란?

UTM(Unified Threat Management System, 통합위협관리시스템)하나의 장비에서 여러 보안 기능을 통합적으로 제공하는 어플라이언스이다. 다양하고 복잡한 보안 위협에 한 박스로 대응할 수 있게 묶어둔 종합 보안 장비라고 보면 된다.

비유하자면 회사 정문의 종합 경비실이다. 출입 통제(방화벽), 가방 검사(IDS/IPS), 외부 통신 도청 방지(VPN), 바이러스 소독(안티바이러스), 광고지 거름(안티스팸)을 따로따로 부서에 맡기는 대신, 한 자리에서 다 처리하는 셈이다.

UTM이 등장한 배경

다양하고 복잡해지는 보안 위협 — DDOS, Botnet, Zombie PC를 이용한 공격

각종 바이러스 공격의 일상화

정보 유출 사고의 증가

각 위협에 별개의 장비로 대응하면 비용도 비용이고 운영도 복잡해지니, 한 곳에 다 모아두자는 흐름에서 UTM이 자리 잡았다.

UTM의 특징

● 보안 위협을 효과적·신속히 대응 가능

● 보안 전문가나 IT 전문가가 아니어도 쉽게 관리 가능

● 보안 위협을 방어하면서도 네트워크 성능 저하가 거의 없음

관리의 편의성과 비용 절감

UTM에 포함된 보안 기능

방화벽 (Firewall)

침입탐지/방지 시스템 (IDS / IPS)

가상사설망 (VPN)

안티바이러스 (Antivirus)

안티스파이웨어 (Antispyware)

안티스팸 (Antispam)

실무에서는 UTM을 그냥 "방화벽" 이라고만 부르는 경우가 많다고 들었다. 엄청 큰 기업이라 구역을 잘게 나눠서 관리해야 하는 게 아니라면 대부분의 중소·중견 환경에서는 UTM 한 대로 충분하다고 한다. 


2. 사용할 UTM — SOPHOS UTM 9

이번에 설치할 제품은 SOPHOS UTM 9이다.

기반 OS — SUSE Linux Enterprise Server (그래서 VMware에서 설치할 때 게스트 OS를 SUSE Linux 64-bit로 선택한다)

라이센스 — 상업용이지만 Home Use License로 가정용 학습 환경에서는 50 IP까지 무료로 사용 가능

배포 방식 — ISO 이미지를 받아 VMware/VirtualBox에 직접 설치


3. 네트워크 구조

본격적인 설치 전에 어떤 네트워크 위에서 UTM이 동작하게 할 것인지 먼저 그려두자. UTM은 외부망과 내부망 사이에 들어가는 게이트웨이 역할을 하므로, 네트워크 카드를 두 개 가지게 된다.

토폴로지

                ┌────────────────────────┐
                │   Internet / VM NAT    │
                │      (192.168.10.2)    │
                └───────────┬────────────┘
                            │
   ─────────────────────────┴───────────────────────  외부망 (WAN)
                                                       192.168.10.0/24
                                                       VMnet8 / NAT
            │                                  │
            │                                  │
   ┌────────┴────────┐               ┌─────────┴────────┐
   │  Rocky Linux 1  │               │   SOPHOS UTM 9   │
   │  외부 클라이언트 │               │  WAN 192.168.10.100
   │  192.168.10.200 │               │        ↕         │
   │  G/W .100 (UTM) │               │  LAN 172.16.10.100
   └─────────────────┘               └─────────┬────────┘
                                               │
   ────────────────────────────────────────────┴───────  내부망 (LAN)
                                                       172.16.10.0/24
                                                       VMnet1 / Host-only
                       │                                  │
              ┌────────┴────────┐               ┌─────────┴────────┐
              │  Rocky Linux 2  │               │    Windows 10    │
              │   내부 서버      │               │   내부 클라이언트 │
              │  172.16.10.200  │               │  172.16.10.202   │
              │  G/W: .100      │               │  G/W: .100       │
              └─────────────────┘               └──────────────────┘

기기별 설정 한눈에 보기

기기 역할 IP Gateway VMware 네트워크 모드

SOPHOS UTM (WAN) 외부 인터페이스 192.168.10.100 NAT (VMnet8)
SOPHOS UTM (LAN) 내부 인터페이스 172.16.10.100 Host-only (VMnet1)
Rocky Linux 1 외부 클라이언트 192.168.10.200 192.168.10.100 (UTM) NAT (VMnet8)
Rocky Linux 2 내부 서버 172.16.10.200 172.16.10.100 (UTM) Host-only (VMnet1)
Windows 10 내부 클라이언트 172.16.10.202 172.16.10.100 (UTM) Host-only (VMnet1)

핵심은 단순하다. UTM은 두 망(외부 192.168.10.0/24 / 내부 172.16.10.0/24) 사이에 끼어 있는 게이트웨이이고, 내부망의 모든 트래픽은 반드시 UTM을 거쳐야 외부로 나갈 수 있는 구조이다. 이렇게 길목을 한 곳으로 모아두는 것이 UTM이 보안을 강제할 수 있는 근본 메커니즘이다.


4. VMware 네트워크 설정

위 구조를 VMware에서 만들어보자.

내부망용 Host-only 서브넷 설정

외부망은 기본 VMnet8(NAT, 192.168.10.0/24) 을 그대로 쓰고, 내부망은 VMnet1(Host-only) 의 서브넷을 172.16.10.0/24로 바꿔 사용한다.

VMware → Edit → Virtual Network Editor → Change Settings
         → VMnet1 (Host-only) 선택
         → Subnet IP: 172.16.10.0 / Subnet mask: 255.255.255.0
         → DHCP Settings도 172.16.10.x 대역으로 변경

각 VM의 네트워크 어댑터 모드 변경

내부망에 들어갈 VM들(Rocky Linux 2, Windows 10)은 어댑터 모드를 Host-only로 바꿔준다.

VM 설정 → Network Adapter → Network Connection → Host-only

 

UTM에 LAN 카드 추가

UTM 가상머신을 만들 때 NIC가 두 개 있어야 한다. 기본 한 개에 더해 하나를 더 추가한다.

VM 설정 → Hardware → Add → Network Adapter
        → 추가된 어댑터를 Host-only로 변경

이로써 UTM 한 대가 외부 NAT 망과 내부 Host-only 망에 동시에 발을 걸치게 된다. 게스트 OS는 SOPHOS UTM이 SUSE 기반이므로 SUSE Linux 64-bit로 선택한다.


UTM 설치 과정

로키리눅스, 윈도우 Host-Only로 바꾸기
VMware 네트워크 수정
VMware네트워크 수정2

 

UTM설치시 네트워크 하나 추가
설정이 끝난 UTM

- 설치할 때 디스크는 40GB 메모리는 4GB, Process는 2개 정도는 주는게 좋다 UTM이 무거운 편이기 때문이다.

UTM 설치 화면1
UTM 설치 화면2
UTM 설치 화면 3

키보드는 그냥 English밖에 선택지가 없다

UTM 설치 화면 4
UTM 설치 화면 5

다행이 지역은 Asia -> Seoul이 있다.

UTM 설치 화면 6

방향키로 조작해서 Host Clock is UTC에 있는 별표를 스페이스바로 없애면 된다. 그래야 한국시간으로 된다.

UTM 설치 화면 7

먼저 내부 네트워크부터 정하고 나중에 설치 끝나고 외부 네트워크를 정의할 것이다.

UTM 설치 화면 8
UTM 설치 화면 9
UTM 설치 화면 10
UTM 설치 화면 11
UTM 설치 화면 12
UTM 설치 화면 13

이제 리부트만 하면 된다.

보이는 주소는 내부 네트워크에서 사이트로 접속해서 관리할 수 있다는 것이다.

UTM 설치 화면 14

리부트가 끝나고 UTM이 시작되면 이렇게 뜬다. 

일단 여기서는 건드리지 말고 윈도우를 키면 된다.

윈도우에서 브라우저를 키고 http://172.16.10.100:4444를 입력하면 안전하지 않은 페이지라고 뜨는데 고급에서 그냥 연결 누르면 된다.

UTM1

이런 페이지에서 Hostname, 지역, 비밀번호 등을 설정해주면 된다.

UTM2
UTM3

아까 하지 못한 외부 네트워크 설정을 여기서 해주면 된다.

UTM4

일단 간단하게 실습만 할 것이기에 Ping Test에 필요한 것들만 켜 주겠다.

UTM5
UTM6

이것 또한 실습을 위해 키지 않겠다.

UTM7

일련번호 입력하는 곳이 나온는데 우리는 30일간 무료체험만 할 것이기 때문에 무료체험 누르면 된다.

UTM9

이런 페이지가 뜨면 드디어 설정까지 완료된 것이다.

UTM10

Management 에 WebAdmin Settings에 들어가면 Webadmin Language가 있는데 찾아보면 한국어가 있다.

UTM11

바꾸고 다시 로그인하면 한국어도 되어있는것을 볼 수 있다.