서강대학교 컴퓨터공학과 문의현 교수
문의현 연구실은 컴퓨터공학 기반의 고성능 머신러닝 연구를 수행합니다. 분산/병렬 컴퓨팅과 분산 딥러닝을 위한 시스템 최적화에 초점을 두고, GPU 커널 최적화 및 공간 가속기 데이터플로 매핑을 분석·설계합니다. Tensor Cores를 활용한 희소 행렬 연산(SpMM)에서 데이터 국소성 확보와 부하 불균형 완화를 위한 커널 변환 기법을 개발합니다. 또한 Transformer 학습에서 어텐션 희소화로 연산과 메모리 요구를 줄이는 알고리즘과, 하이퍼그래프의 중요 관계를 동적으로 샘플링하는 표현 학습 프레임워크를 병행합니다.
컨볼루션 필터를 이용한 트랜스포머 모델의 어텐션 연산 희소화 방법 및 장치
사용자 소셜 정보를 이용한 트랜스포머 모델 기반의 추천 시스템
Non-IID 데이터를 갖는 클라이언트의 이질성을 교정하는 연합 학습 시스템