대규모 언어 모델(LLMs)에 대한 연합 미세조정(federated fine-tuning)은 큰 모델 업데이트를 전송하는 데 따른 막대한 통신 오버헤드로 인해 중대한 어려움에 직면한다. Low Rank Adaptation(LoRA)이 해결책으로 제안되었음에도 불구하고, 연합 학습에서의 적용은 집계(aggregation) 과정에서의 불일치(discordance)로 인해 복잡해진다. 기존의 불일치 문제를 다루는 방법들은 종종 이질적인 데이터 설정에서 저랭크(low ranks)에 대한 성능 저하를 겪는다. 이에 대응하여 우리는 교대 동결(Alternating freeze)과 적응적 랭크 선택(Adaptive rank selection)을 이용한 저랭크 적응(LoRA)인 LoRA-A 2(교대 동결 및 적응적 랭크 선택을 포함한 저랭크 적응)를 제안하며, 이는 저랭크 및 높은 데이터 이질성이 존재하는 어려운 환경에서 견고함을 보인다. 실험 결과에 따르면, LoRA-A 2는 극단적인 이질성과 저랭크 조건에서도 성능을 유지하여, 성능 저하 없이 완전 미세조정(full fine-tuning)과 비교했을 때 업로드되는 파라미터를 최대 유의미한 수준까지 감소시킨다. 이러한 적응 메커니즘은 연합 미세조정에서의 견고성과 통신 효율을 향상시키며, 자원이 제한된 환경에서 LLM을 실제로 배치할 수 있게 한다.

*본 초록은 AI를 통해 원문을 번역한 내용입니다. 정확한 내용은 하기 원문에서 확인해주세요.