대칭 시리즈 합성곱 신경망 기반 초해상도 모델을 이용한 영상 처리 방법 및 시스템
IMAGE PROCESSING METHOD AND SYSTEM USING SUPER-RESOLUTION MODEL BASED ON SYMMETRIC SERIES CONVOLUTIONAL NEURAL NETWORK
특허 요약
대칭 시리즈 합성곱 신경망 기반 초해상도 모델을 이용한 영상 처리 방법 및 시스템이 개시된다. 일 실시예에 따른 영상 처리 시스템에 의해 수행되는 영상 처리 방법은, 저해상도 이미지를 영상의 재구성을 위한 초해상도(super-resolution) 모델에 입력하는 단계; 및 상기 초해상도 모델을 이용하여 상기 저해상도 이미지로부터 고해상도 이미지를 획득하는 단계를 포함하고, 상기 초해상도 모델은, 대칭 시리즈 구조 기반의 컨볼루션 신경망(CNN)으로 구성된 특징 추출 네트워크(Feature Extraction Network)와 업샘플링 레이어(Upsampling Layer)가 구축되어 상기 저해상도 이미지가 상기 고해상도 이미지로 재구성되도록 학습된 것일 수 있다.
청구항
번호청구항
1

영상 처리 시스템에 의해 수행되는 영상 처리 방법에 있어서, 저해상도 이미지를 영상의 재구성을 위한 초해상도(super-resolution) 모델에 입력하는 단계; 및 상기 초해상도 모델을 이용하여 상기 저해상도 이미지로부터 고해상도 이미지를 획득하는 단계 를 포함하고,상기 초해상도 모델은, 대칭 구조 기반의 컨볼루션 신경망(CNN)으로 구성된 특징 추출 네트워크(Feature Extraction Network)와 업샘플링 레이어(Upsampling Layer)가 구축되고, 상기 특징 추출 네트워크에서 상기 저해상도 이미지로부터 특징을 추출하고, 상기 특징 추출 네트워크에서 추출된 특징이 상기 업샘플링 레이어로 전달되고, 상기 업샘플링 레이어에서 상기 추출된 특징을 이용하여 업스케일링을 통해 상기 고해상도 이미지로 재구성되도록 학습된 것이고,상기 특징 추출 네트워크는,상기 특징 추출 네트워크에 설정된 깊이에 기초하여 대칭 구조 기반의 제1 컨볼루션 레이어 및 제2 컨볼루션 레이어로 구성되고, 상기 대칭 구조 기반의 제1 컨볼루션 레이어 및 제2 컨볼루션 레이어에 이어서 비선형 활성화 함수로 정류된 선형 단위(ReLU)가 구성되고, 상기 저해상도 이미지가 입력 데이터로 입력됨에 따라 상기 저해상도 이미지가 상기 대칭 구조 기반의 제1 컨볼루션 컨볼루션 레이어 및 제2 컨볼루션 레이어에 각각 전달되고, 상기 저해상도 이미지가 상기 제1 컨볼루션 레이어 및 제2 컨볼루션 레이어에 각각 통과됨에 따라 생성된 각 특징맵이 연결되고, 상기 저해상도 이미지와 상기 특징 추출 네트워크에 설정된 깊이에 기초하여 상기 특징 추출 네트워크의 마지막 컨볼루션 레이어 사이, 상기 저해상도 이미지와 상기 마지막 컨볼루션 레이어를 기준으로 이전의 컨볼루션 레이어 사이에 스킵 연결(skip connection)을 통해 연결되는 영상 처리 방법.

2

삭제

3

삭제

4

삭제

5

삭제

6

제1항에 있어서, 상기 업샘플링 레이어는, 상기 특징 추출 네트워크를 통해 추출된 각 특징맵에 대한 단일 업스케일링을 통해 복수 개(k2, k는 업스케일링 계수)의 채널 생성이 가능하고, 상기 채널 생성이 가능한 채널 범위에 기초하여 선택된 값에 따라 상기 저해상도 이미지를 고해상도 공간에 매핑하는것을 특징으로 하는 영상 처리 방법.

7

제6항에 있어서, 상기 업샘플링 레이어는, 주기적 셔플링 작업을 수행하여 출력 채널을 고해상도 이미지로 재구성하는 것을 특징으로 하는 영상 처리 방법.

8

제1항, 제6항 내지 제7항 중 어느 한 항의 영상 처리 방법을 상기 영상 처리 시스템에 실행시키기 위해 비-일시적인 컴퓨터 판독가능한 기록 매체에 저장되는 컴퓨터 프로그램.

9

영상 처리 시스템에 있어서,저해상도 이미지를 영상의 재구성을 위한 초해상도(super-resolution) 모델에 입력하는 입력부; 및 상기 초해상도 모델을 이용하여 상기 저해상도 이미지로부터 고해상도 이미지를 획득하는 획득부 를 포함하고,상기 초해상도 모델은, 대칭 구조 기반의 컨볼루션 신경망(CNN)으로 구성된 특징 추출 네트워크(Feature Extraction Network)와 업샘플링 레이어(Upsampling Layer)가 구축되고, 상기 특징 추출 네트워크에서 상기 저해상도 이미지로부터 특징을 추출하고, 상기 특징 추출 네트워크에서 추출된 특징이 상기 업샘플링 레이어로 전달되고, 상기 업샘플링 레이어에서 상기 추출된 특징을 이용하여 업스케일링을 통해 상기 고해상도 이미지로 재구성되도록 학습된 것이고, 상기 특징 추출 네트워크는,상기 특징 추출 네트워크에 설정된 깊이에 기초하여 대칭 구조 기반의 제1 컨볼루션 레이어 및 제2 컨볼루션 레이어로 구성되고, 상기 대칭 구조 기반의 제1 컨볼루션 레이어 및 제2 컨볼루션 레이어에 이어서 비선형 활성화 함수로 정류된 선형 단위(ReLU)가 구성되고, 상기 저해상도 이미지가 입력 데이터로 입력됨에 따라 상기 저해상도 이미지가 상기 대칭 구조 기반의 제1 컨볼루션 컨볼루션 레이어 및 제2 컨볼루션 레이어에 각각 전달되고, 상기 저해상도 이미지가 상기 제1 컨볼루션 레이어 및 제2 컨볼루션 레이어에 각각 통과됨에 따라 생성된 각 특징맵이 연결되고, 상기 저해상도 이미지와 상기 특징 추출 네트워크에 설정된 깊이에 기초하여 상기 특징 추출 네트워크의 마지막 컨볼루션 레이어 사이, 상기 저해상도 이미지와 상기 마지막 컨볼루션 레이어를 기준으로 이전의 컨볼루션 레이어 사이에 스킵 연결(skip connection)을 통해 연결되는 영상 처리 시스템.

10

삭제

11

삭제

12

삭제

13

삭제

14

제9항에 있어서, 상기 업샘플링 레이어는, 상기 특징 추출 네트워크를 통해 추출된 각 특징맵에 대한 단일 업스케일링을 통해 복수 개(k2, k는 업스케일링 계수)의 채널 생성이 가능하고, 상기 채널 생성이 가능한 채널 범위에 기초하여 선택된 값에 따라 상기 저해상도 이미지를 고해상도 공간에 매핑하는것을 특징으로 하는 영상 처리 시스템.

15

제14항에 있어서, 상기 업샘플링 레이어는, 주기적 셔플링 작업을 수행하여 출력 채널을 고해상도 이미지로 재구성하는 것을 특징으로 하는 영상 처리 시스템.