하나의 네트워크 자원을 관리하는 글로벌 서버와, 상기 네트워크 자원을 분할한 복수 개의 하위 네트워크 영역을 관리하는 복수의 로컬 서버와, 상기 하위 네트워크 영역에 접속한 복수의 단말기로 구성되는 계층적 네트워크 구조의 연합 학습 시스템으로서,기설정된 학습 모델에 따라 학습이 가능한 상기 복수의 단말기;상기 복수의 단말기에 대한 제1 데이터셋에 기초하여 연합 학습을 위한 로컬 교사 모델의 로컬 파라미터를 업데이트하는 상기 복수의 로컬 서버; 및상기 복수의 로컬 서버가 출력하는 제2 데이터셋에 기초하여 기설정된 LKD 기법으로 연합 학습을 위한 글로벌 학생 모델의 글로벌 파라미터를 업데이트하는 상기 글로벌 서버;를 포함하되,상기 로컬 서버는, 상기 글로벌 서버에서 업데이트된 글로벌 파라미터를 상기 로컬 교사 모델의 초기 파라미터로 갱신하고 갱신된 초기 파라미터를 이용하여 로컬 학습을 재수행 가능한 것이고,상기 단말기는, 상기 로컬 서버에 업데이트된 로컬 파라미터를 상기 단말기의 학습 모델의 학습 수행 시 초기 파라미터로 갱신하고 갱신된 초기 파라미터를 이용하여 학습을 재수행 가능한 것을 특징으로 하는 라벨 기반의 연합 학습 시스템.

제1항에 있어서,상기 로컬 서버는,상기 복수의 단말기로부터 출력된 파라미터들을 집계하여 FedAvg 알고리즘을 통해 상기 로컬 교사 모델에 대한 파라미터를 업데이트함에 따라 로컬 학습을 수행하는 것이고,상기 글로벌 서버는,상기 로컬 교사 모델의 파라미터와 상기 제2 데이터셋에 기초하여 상기 LKD 기법에 따른 가중치 평가 및 손실 계산을 수행한 결과를 바탕으로 상기 글로벌 학생 모델의 파라미터를 업데이트함에 따라 글로벌 학습을 수행하는 것을 특징으로 하는 라벨 기반의 연합 학습 시스템.

제2항에 있어서,상기 글로벌 서버는,상기 LKD 기법에 따라 상기 로컬 교사 모델과 상기 글로벌 학생 모델 각각의 확률 분포 간의 교차 엔트로피 손실을 최소화하여 KL 발산 목적함수에 수렴하도록 상기 글로벌 학생 모델의 파라미터를 업데이트하는 것을 특징으로 하는 라벨 기반의 연합 학습 시스템.

제3항에 있어서,상기 글로벌 서버는,상기 LKD 기법에 따라 상기 로컬 교사 모델의 지역적 특성에 기반한 라벨 기반 성능에 따른 클래스 신뢰도를 산출한 후 이를 상기 로컬 교사 모델의 중요도에 따른 가중치로 고려하여 상기 교차 엔트로피 손실을 산출하는 것을 특징으로 하는 라벨 기반의 연합 학습 시스템.

하나의 네트워크 자원을 관리하는 글로벌 서버와, 상기 네트워크 자원을 분할한 복수 개의 하위 네트워크 영역을 관리하는 복수의 로컬 서버와, 상기 하위 네트워크 영역에 접속한 복수의 단말기를 포함하는 계층적 네트워크 구조의 연합 학습 시스템을 이용한 라벨 기반의 연합 학습 방법에 있어서,상기 단말기에서 보유한 제1 데이터셋을 통해 기설정된 학습 모델을 훈련하여 학습된 파라미터를 상기 로컬 서버로 출력하는 단계;상기 로컬 서버에서 상기 제1 데이터셋에 기초하여 연합 학습을 위한 로컬 교사 모델의 로컬 파라미터를 업데이트하는 단계;상기 단말기가 상기 로컬 서버에 업데이트된 로컬 파라미터를 상기 단말기의 학습 모델의 학습 수행 시 초기 파라미터로 갱신하고 갱신된 초기 파라미터를 이용하여 학습을 재수행하는 단계;상기 글로벌 서버에서 상기 복수의 로컬 서버가 출력하는 제2 데이터셋에 기초하여 기설정된 LKD 기법으로 연합 학습을 위한 글로벌 학생 모델의 글로벌 파라미터를 업데이트하는 단계; 및상기 로컬 서버가 상기 글로벌 서버에서 업데이트된 글로벌 파라미터를 상기 로컬 교사 모델의 초기 파라미터로 갱신하고 갱신된 초기 파라미터를 이용하여 로컬 학습을 재수행하는 단계;를 포함하는 것을 특징으로 하는 라벨 기반의 연합 학습 방법.

제5항에 있어서,상기 로컬 파라미터를 업데이트하는 단계는,상기 로컬 서버에서 상기 복수의 단말기로부터 출력된 파라미터들을 집계하여 FedAvg 알고리즘을 통해 상기 로컬 교사 모델에 대한 파라미터를 업데이트함에 따라 로컬 학습을 수행하는 것이고,상기 글로벌 파라미터를 업데이트하는 단계는,상기 글로벌 서버에서 상기 로컬 교사 모델의 파라미터와 상기 제2 데이터셋에 기초하여 상기 LKD 기법에 따른 가중치 평가 및 손실 계산을 수행한 결과를 바탕으로 상기 글로벌 학생 모델의 파라미터를 업데이트함에 따라 글로벌 학습을 수행하는 것을 특징으로 하는 라벨 기반의 연합 학습 방법.

제6항에 있어서,상기 글로벌 파라미터를 업데이트하는 단계는,상기 글로벌 서버에서 상기 LKD 기법에 따라 상기 로컬 교사 모델과 상기 글로벌 학생 모델 각각의 확률 분포 간의 교차 엔트로피 손실을 최소화하여 KL 발산 목적함수에 수렴하도록 상기 글로벌 학생 모델의 파라미터를 업데이트하는 것을 특징으로 하는 라벨 기반의 연합 학습 방법.

제7항에 있어서,상기 글로벌 파라미터를 업데이트하는 단계는,상기 글로벌 서버에서 상기 LKD 기법에 따라 상기 로컬 교사 모델의 지역적 특성에 기반한 라벨 기반 성능에 따른 클래스 신뢰도를 산출한 후 이를 상기 로컬 교사 모델의 중요도에 따른 가중치로 고려하여 상기 교차 엔트로피 손실을 산출하는 것을 특징으로 하는 라벨 기반의 연합 학습 방법.