RnDCircle Logo
석흥일 연구실
고려대학교 인공지능학과 석흥일 교수
Transformer
Domain Generalization
Explainable AI
홈
연구 영역
기본 정보
논문·특허
과제
구성원
홈

석흥일 연구실

고려대학교 인공지능학과 석흥일 교수

석흥일 연구실은 인공지능학과를 기반으로 뇌영상과 생체 신호에서 신호 표현을 학습하는 딥러닝 모델을 연구합니다. 특히 Transformer 기반 전이학습과 자기지도 학습을 통해 3D MRI 및 rs-fMRI의 공간·주파수 정보를 효율적으로 인코딩합니다. 또한 도메인 일반화 관점에서 다기관 분포 차이를 완화하고, 반사실 맵 및 규범 모델링으로 설명 가능성을 포함한 진단 프레임을 구축합니다. 수면 단계 분류와 EEG 분석에서는 주의 기반 멀티스케일 특징과 삼중 정보 경로 자기지도 학습, 특징 정규화 전략을 결합하여 변동성에 강한 표현을 확보합니다.

TransformerDomain GeneralizationExplainable AICounterfactual ReasoningNormative Modeling
대표 연구 분야
연구 영역 전체보기
트랜스포머 기반 3D 뇌 MRI 및 rs-fMRI 표현학습·진단 연구 thumbnail
트랜스포머 기반 3D 뇌 MRI 및 rs-fMRI 표현학습·진단 연구
Transformer-based Representation Learning for 3D Brain MRI and Resting-state fMRI Diagnosis
연구 분야 상세보기
뇌질환 진단을 위한 도메인 일반화·설명가능 추론 연구 thumbnail
뇌질환 진단을 위한 도메인 일반화·설명가능 추론 연구
Domain Generalization and Explainable Reasoning for Brain Disorder Diagnosis
연구 분야 상세보기
수면·EEG 시계열 표현학습과 연속 매니폴드 기반 진단 연구 thumbnail
수면·EEG 시계열 표현학습과 연속 매니폴드 기반 진단 연구
Representation Learning for Sleep and EEG Time Series with Continuous Manifold Modeling
연구 분야 상세보기
연구 성과 추이
표시된 성과는 수집된 데이터 기준으로 산출되며, 일부 차이가 있을 수 있습니다.
주요 논문
5
논문 전체보기
1
Article
|
인용수 0
·
2025
Complex wavelet-based Transformer for neurodevelopmental disorder diagnosis via direct modeling of real and imaginary components
Ah-Yeong Jeong, Da-Woon Heo, Heung‐Il Suk
IF 14 (2025)
Medical Image Analysis
휴지상태 기능적 자기공명영상(rs-fMRI)은 내재적 신경 활동을 측정하며, 그 주파수 영역 특성을 분석하면 뇌 역학에 대한 통찰을 제공한다. 이러한 특성들로 인해 rs-fMRI는 자폐 스펙트럼 장애(ASD)와 주의력결핍 과잉행동장애(ADHD)와 같은 뇌 질환을 규명하기 위해 널리 사용된다. 전통적인 주파수 영역 분석은 대체로 푸리에 변환에 의존하는데, 이는 고정된 해상도로 인해 비정상(non-stationary) 신경 신호를 포착하는 데 유연성이 부족하다. 또한 이러한 방법들은 복소수 스펙트럼 표현으로부터 도출되는 크기나 위상과 같은 실수값 특징만을 주로 활용한다. 그 결과, 특히 fMRI 분석에서 실수부와 허수부를 직접 모델링하는 작업은 여전히 충분히 탐구되지 않았으며, 이들 성분에 부호화된 구별되면서도 상보적인 스펙트럴 정보를 간과하고 있다. 이러한 한계를 해결하기 위해, 우리는 rs-fMRI 신호로부터 연속 웨이블릿 변환(CWT) 계수의 실수부와 허수부를 명시적으로 모델링하는 새로운 Transformer 기반 프레임워크를 제안한다. 우리의 아키텍처는 자기- 및 교차-어텐션 메커니즘을 사용하여 구성요소 간의 관계뿐 아니라 구성요소 내부(intra-component)의 관계까지 함께 포착하도록, 스펙트럴, 시간적, 공간적 주의(attention) 모듈을 통합한다. Autism Brain Imaging Data Exchange(ABIDE)-I 및 ADHD-200 데이터셋에 적용한 결과, 본 접근은 기존 기준 방법(baselines) 대비 최첨단 분류 성능을 달성하였다. 포괄적인 절제(ablation) 연구는 기존 주파수 영역 특징에 비해 실수부와 허수부를 직접 활용하는 이점을 보여주었으며, 각 모듈의 기여도를 검증하였다. 또한 어텐션 기반 분석은 ASD와 ADHD에서 알려진 신경생물학적 변화와 일치하는 주파수- 및 영역-특이적 패턴을 드러냈다. 이러한 결과는 CWT 기반 표현에서 실수부와 허수부를 보존하고 이를 함께 활용하는 것이 진단 성능을 향상시킬 뿐 아니라 신경발달성 장애에 대한 해석 가능한 통찰을 제공함을 시사한다.
https://doi.org/10.1016/j.media.2025.103914
Autism spectrum disorder
Functional magnetic resonance imaging
Flexibility (engineering)
The Imaginary
Artificial neural network
Pattern recognition (psychology)
Modularity (biology)
2
Review
|
·
인용수 54
·
2024
Domain Generalization for Medical Image Analysis: A Review
Jee Seok Yoon, Kwanseok Oh, Yooseung Shin, Maciej A. Mazurowski, Heung‐Il Suk
IF 25.9 (2024)
Proceedings of the IEEE
의료 영상 분석(Medical image analysis, MedIA)은 의학 및 보건의 필수 도구가 되었으며, 질병 진단, 예후, 치료 계획에 도움을 주고, 최근 심층학습(Deep learning, DL)의 성과는 이러한 발전에 상당한 기여를 해 왔다. 그러나 실제 상황에서 MedIA를 위해 DL 모델을 배치하는 일은 훈련 샘플과 테스트 샘플 간의 분포적 불일치로 인해 일반화에 실패하는 문제, 즉 도메인 시프트(domain shift) 때문에 여전히 어렵다. 연구자들은 알려지지 않았거나 분포 밖(out-of-distribution, OOD) 데이터 분포에서도 적응하고 견고하게 수행하기 위한 다양한 DL 방법을 개발하는 데 노력을 기울여 왔다. 본 글은 MedIA에 특화된 도메인 일반화(domain generalization, DG) 연구를 종합적으로 검토한다. 우리는 DG 기법들이 더 넓은 MedIA 시스템 안에서 어떻게 상호작용하는지를 전체적으로 조망하며, 방법론을 넘어 MedIA 워크플로 전반에 대한 운영적 함의까지 고려한다. 구체적으로, 우리는 DG 방법을 데이터 수준, 특징 수준, 모델 수준, 분석 수준 방법으로 분류한다. 또한 이러한 방법들이 데이터 획득부터 모델 예측 및 분석에 이르기까지, MedIA 워크플로의 다양한 단계에서 어떻게 활용될 수 있는지를 보여준다. 아울러 여러 방법의 강점과 약점을 비판적으로 분석하여 향후 연구의 기회를 드러낸다.
https://doi.org/10.1109/jproc.2024.3507831
Generalization
Domain (mathematical analysis)
Image (mathematics)
Computer science
Artificial intelligence
Natural language processing
Psychology
Mathematics
Mathematical analysis
3
Article
|
·
인용수 15
·
2023
Deep Efficient Continuous Manifold Learning for Time Series Modeling
Seungwoo Jeong, Wonjun Ko, Ahmad Wisnu Mulyadi, Heung‐Il Suk
IF 20.8 (2023)
IEEE Transactions on Pattern Analysis and Machine Intelligence
비유클리드(non-euclidean) 데이터를 모델링하는 일은 다양한 분야에서 딥 뉴럴 네트워크의 전례 없는 성공과 함께 광범위한 주목을 받고 있다. 특히, 대칭 양의 정부호(symmetric positive definite) 행렬은 유익한 통계적 표현을 학습할 수 있다는 점 때문에 컴퓨터 비전, 신호 처리, 의학 영상 분석 분야에서 활발히 연구되고 있다. 그러나 그와 같은 강성 제약(rigid constraints)으로 인해 최적화 문제를 해결하기 어렵고 계산 비용이 비효율적인 상태로 남아 있으며, 특히 이를 딥러닝 프레임워크와 결합할 때 이러한 문제가 더욱 두드러진다. 본 논문에서는 리만 다양체(Riemannian manifolds) 사이의 미분동형사상(diffeomorphism) 매핑을 촐레스키(Cholesky) 공간에 활용하는 프레임워크를 제안한다. 이를 통해 최적화 문제를 효율적으로 해결할 수 있을 뿐 아니라 계산 비용을 크게 절감할 수 있게 된다. 나아가 시계열 데이터의 동적(dynamic) 모델링을 위해, 다양체 보통미분방정식(manifold ordinary differential equation)과 게이티드 순환 신경망(gated recurrent neural network)을 체계적으로 통합하여 연속적 연속체 학습(continuous manifold learning) 방법을 고안한다. 촐레스키 공간에서 행렬의 매개변수화(parameterization)가 우수하기 때문에, 리만 기하학적(rieamnnian geometric) 메트릭을 장착한 본 제안 네트워크의 학습은 손쉽게 수행될 수 있음을 주목할 만하다. 우리는 규칙적 및 비규칙적 시계열 데이터셋에 대한 실험을 통해, 본 모델이 다양한 시계열 과제에서 기존의 다양체 방법 및 최신(state-of-the-art) 방법을 능가하면서 효율적이고 신뢰성 있게 학습될 수 있음을 보여준다.
https://doi.org/10.1109/tpami.2023.3320125
Computer science
Artificial intelligence
Manifold (fluid mechanics)
Deep learning
Euclidean space
Artificial neural network
Cholesky decomposition
Statistical manifold
Manifold alignment
Machine learning
최신 정부 과제
31
과제 전체보기
1
주관|
2022년 3월-2026년 12월
|1,500,000,000원
(2세부) 의사결정 지원을 위한 퓨샷 학습 기반 시각 및 언어에 대한 인과관계 추론기술개발
● Core 연구 그룹 - 관련 연구 자료 조사 - 사각지대 네트워크 기반의 인과관계 설명 모델 개발 - 퓨샷 전이학습을 위한 효율적 모델 파라미터 사용 및 학습기법 개발 - 인과관계 추론 모델 구현 및 평가 ● Vision 연구 그룹 - 관련 연구 자료 조사 - 임의의 채널 개수를 다룰 수 있는 다형 메타 신경망 개발 - 퓨샷 영상 분류 및 분할 모델 구현 및 평가 - 새로운 증가 학습 평가 지표 제시 - 모델의 유연성, 안정성 개별 및 동시 평가 지표 제시 ● NLP + Multi-modal 연구 그룹 - 관련 연구 자료 조사 - 독립적으로 기 학습된 시각 및 언어 모델을 퓨샷 데이터만 이용하여 공동 공간 임베딩 하는 연구 - PLM 종류에 따른 추론 성능 비교 분석 - 미세조정 학습 방법론 개발 및 설명가능성 평가 ● Medical 연구 그룹 - 관련 연구 자료 조사 - 기능적 기저 분해 신경망 개발 - 비정상도를 활용한 알츠하이머병 진단모델 개발 - 데이터 수량에 따른 영상 복원 성능 분석 및 데이터 의존도가 낮은 영상 복원 방법 개발
다중모달 의미 임베딩
설명가능성
의료 영상 기술
인과관계 추론
퓨샷 학습
2
주관|
2022년 3월-2026년 12월
|2,000,000,000원
(2세부) 의사결정 지원을 위한 퓨샷 학습 기반 시각 및 언어에 대한 인과관계 추론기술개발
● Core 연구 그룹 - 손실함수 도출을 통한 인과관계 기반 설명모델 구현 - 정보흐름 손실 함수를 통한 인과관계 기반 설명 모델 개발 및 평가 - 퓨샷 전이학습을 위한 효율적 모델 파라미터 사용 및 학습기법 개발 - 사전학습 대용량 모델의 전이학습 연구 - 인과관계를 위한 통합적 모델의 일반화 및 도메인 전이 모델 개발 ● Vision 연구 그룹 - 트랜스포머 기반 다형 메타 신경망 고도화 - 다형 메타 신경망 출력구조 일반화와 다중 태스크 메타학습 및 최적화 연구 진행 - 통합적 퓨샷 영상인식 및 개체 탐지 모델 구현 및 고도화 - 학습 중 과거 데이터를 이용한 지식 망각 방지 연구 - 현재 태스크 및 과거 학습된 지식 기반의 인과 관계 설명 연구 ● NLP + Multi-modal 연구 그룹 - 인과관계 설명을 위한 멀티모달 퓨샷 학습 알고리즘 개발 - 기 학습된 모델의 퓨샷 기반 데이터 편향성 및 표현 얽힘 현상 제거를 수행하는 방법론 연구 - 퓨샷 언어 추론 모델 방법론 개발 및 언레이블 데이터를 활용하는 퓨샷 언어 모델 개발 ● Medical 연구 그룹 - 구조적 베이즈 인과모델 개발 및 퓨샷 학습에의 적용 - 생성 모델의 성능을 유지하면서 크기를 줄이는 경량화 기술 개발 - 퓨샷 생성 기반 영상 복원 모델의 성능 향상 및 보조 기술 개발
다중모달 의미 임베딩
설명가능성
의료 영상 기술
인과관계 추론
퓨샷 학습
3
2022년 3월-2026년 12월
|1,742,000,000원
(2세부) 의사결정 지원을 위한 퓨샷 학습 기반 시각 및 언어에 대한 인과관계 추론기술개발
● 퓨샷 기반 시각 및 언어 도메인에서의 인과관계 학습·추론 프레임워크 개발 및 심층 학습 모델의 설명가능성 향상을 위한 통합적인 방법론 연구. o 심층학습 모델의 해석가능성을 향상시키는 효율적인 기계학습 알고리즘의 이론적 기반, 설명 표현 방법, 학습 기술 등의 원천 기술 확보. o 설명가능한 통합 퓨샷 딥 러닝 모델 학습을 멀티모달 데이터와 멀티태스...
퓨샷 학습
설명가능성
인과관계 추론
다중모달 의미 임베딩
의료 영상 기술
최신 특허
특허 전체보기
상태출원연도과제명출원번호상세정보
공개2023수면 단계 변화 패턴을 이용한 수면 평가 방법 및 수면 평가 장치1020257030667
등록2021딥러닝 기반 뇌전증 발작 진단 방법 및 장치1020210123997
등록2021위치 기반 뇌 질환 판별 가능 영역 지역화 및 설명력 있는 뇌 질환 진단 방법 및 장치1020210123998
전체 특허

수면 단계 변화 패턴을 이용한 수면 평가 방법 및 수면 평가 장치

상태
공개
출원연도
2023
출원번호
1020257030667

딥러닝 기반 뇌전증 발작 진단 방법 및 장치

상태
등록
출원연도
2021
출원번호
1020210123997

위치 기반 뇌 질환 판별 가능 영역 지역화 및 설명력 있는 뇌 질환 진단 방법 및 장치

상태
등록
출원연도
2021
출원번호
1020210123998