딥러닝(DL)은 질병 예측을 포함한 많은 응용 분야에서 광범위하게 채택되어 왔다. 대부분의 DL 기반 응용은 DL 모델이 너무 크고 복잡하여 클라이언트 측에서 실행하기 어렵기 때문에 클라우드 서버에서 수행된다. 실질적으로 클라우드에 호스팅된 추론은 개인 의료 데이터를 사용하는 서비스와 관련하여 개인정보 보호에 대한 우려를 초래한다. 그럼에도 불구하고 최근 건강 진단 서비스용 DL 기반 응용의 발전을 고려하면, 이러한 응용은 일상생활에서 의료 지원을 제공하는 지배적인 수단이 되었다. 개인 의료 데이터의 오용을 방지하기 위해 민감한 정보를 보존하는 여러 기법이 개발되었으며, 이는 개인정보 보호와 유용성 간의 상충관계(trade-off)를 수반한다. 개인정보 보존과 양호한 예측 성능을 모두 제공하는 간단한 방법은 진단 방법을 클라이언트 측에 배치하는 것이다. 그러나 이를 수행하면 DL 모델이 공격자에 대해 더 취약해진다. 이를 위해 본 연구에서는 사용자 데이터의 프라이버시를 보장하면서 원래의 클래스 정보를 유지하고 모델을 역공학(reverse engineering)으로부터 보호하는 딥 프라이빗 생성 프레임워크를 제안한다. 벤치마크 질병 데이터셋에 대한 실제 딥 신경망을 대상으로 한 실험 결과, 제안된 방법은 원래 데이터와 합성 데이터 간의 상호정보량(mutual information)을 거의 80% 감소시키면서도 원래 예측 정확도에 거의 95%에 해당하는 예측 정확도를 보존함을 보여주었다.

군집화 연합 학습(Clustered federated learning, CFL)은 비독립적이며 동일한 분포(non-independent and identically distributed, non-IID)인 데이터셋으로 인해 발생하는 치명적 망각(catastrophic forgetting)의 문제를 해결하는 연합 학습(Federated learning, FL) 분야의 고급 기법이다. CFL은 클라이언트의 데이터셋이 유사한 정도에 따라 이를 군집화하고, 각 군집에 대해 전역 모델을 학습함으로써 이를 달성한다. 비록 CFL이 non-IID 데이터셋으로부터 야기되는 성능 저하를 완화하는 데 효과적이긴 하나, CFL에서의 잠재적 개인정보 유출 위험은 충분히 연구되지 않았다. 선행 연구에서는 연합 학습(FL)에서의 개인정보 유출 위험을 속성 추론 공격(property inference attack, PIA)을 이용해 평가했는데, 이는 전역 모델의 주요 과제에서 목표 속성과 다른 의도치 않은 속성(즉, 속성)을 추출한다. 본 논문에서는 CFL에 대해 수동 및 능동 PIAs를 모두 적용함으로써 의도치 않은 속성 누출의 잠재적 위험을 탐구한다. 실증 분석 결과, CFL에서의 수동 PIA 성능은 공격 AUC 점수 측면에서 FL에 비해 상당히 우수한 것으로 나타났다. 또한 CFL에 맞춤화된 향상된 능동 PIA 방법을 제안하여 공격 성능을 개선한다. 우리의 방법은 악의적인 로컬 업데이트의 영향을 증폭하는 스케일업 파라미터를 도입하며, 그 결과 이전 기법보다 더 나은 성능을 보인다. 더 나아가, 클라이언트 수준에서 차등 프라이버시(differential privacy, DP) 메커니즘을 적용함으로써 CFL의 취약성이 완화될 수 있음을 보여준다. FL에 DP를 적용하면 높은 유틸리티 손실이 유발될 수 있음을 보여준 선행 연구와 달리, 본 실증 결과는 DP가 CFL에서 방어 메커니즘으로 활용될 수 있으며, 프라이버시와 유틸리티 간 더 나은 절충(trade-off)을 이끌 수 있음을 시사한다.