대규모 언어 모델(LLMs)에 대한 연합 미세조정(federated fine-tuning)은 큰 모델 업데이트를 전송하는 데 따른 막대한 통신 오버헤드로 인해 중대한 어려움에 직면한다. Low Rank Adaptation(LoRA)이 해결책으로 제안되었음에도 불구하고, 연합 학습에서의 적용은 집계(aggregation) 과정에서의 불일치(discordance)로 인해 복잡해진다. 기존의 불일치 문제를 다루는 방법들은 종종 이질적인 데이터 설정에서 저랭크(low ranks)에 대한 성능 저하를 겪는다. 이에 대응하여 우리는 교대 동결(Alternating freeze)과 적응적 랭크 선택(Adaptive rank selection)을 이용한 저랭크 적응(LoRA)인 LoRA-A 2(교대 동결 및 적응적 랭크 선택을 포함한 저랭크 적응)를 제안하며, 이는 저랭크 및 높은 데이터 이질성이 존재하는 어려운 환경에서 견고함을 보인다. 실험 결과에 따르면, LoRA-A 2는 극단적인 이질성과 저랭크 조건에서도 성능을 유지하여, 성능 저하 없이 완전 미세조정(full fine-tuning)과 비교했을 때 업로드되는 파라미터를 최대 유의미한 수준까지 감소시킨다. 이러한 적응 메커니즘은 연합 미세조정에서의 견고성과 통신 효율을 향상시키며, 자원이 제한된 환경에서 LLM을 실제로 배치할 수 있게 한다.

검색 증강 생성(Retrieval-Augmented Generation, RAG)은 외부 데이터베이스에서 정보를 검색하여 대규모 언어 모델(LLM)의 제한된 내부 지식을 보완함으로써, 사실적 정확도를 향상하는 데 효과적인 접근법이다. 그러나 표준 RAG은 질의와 문서 간의 관련성에만 의존하여 정보를 검색하는 경우가 많아, 이러한 자료원의 이질적인 신뢰도를 간과함으로써 부정확한 정보를 검색할 위험이 있다. 이 문제를 해결하기 위해 본 연구에서는 자료원 신뢰도 인지 RAG(Reliability-Aware RAG, RA-RAG)라는 새로운 다중 자료원 RAG 프레임워크를 제안한다. RA-RAG는 자료원의 신뢰도를 추정하고 이를 활용하여 높은 신뢰도이면서도 관련성이 높은 문서를 우선적으로 선택함으로써, 보다 견고하고 정확한 응답 생성이 가능하도록 설계되었다. 구체적으로 RA-RAG는 먼저 여러 자료원에 걸쳐 정보를 교차 대조하여 자료원의 신뢰도를 추정한다. 그 다음 신뢰도와 관련성 기준 상위 자료원에서 문서를 검색하고, 가중 다수결(weighted majority voting, WMV)로 이들의 정보를 집계한다. 이때 선택적 검색은 성능을 저하시키지 않으면서도 확장성을 보장한다. 종합적인 실험 결과, RA-RAG는 이질적인 자료원 신뢰도가 존재하는 시나리오에서 기존 기준 방법들을 일관되게 능가하며, 자료원 수가 증가함에 따라 효율적으로 확장됨을 보였다. 또한 RA-RAG가 실제 환경의 자료원에 대해 신뢰도를 추정할 수 있음을 시연함으로써, 실용적 적용 가능성을 강조한다.

대규모 언어 모델(LLM)의 최근 발전은, 트리 탐색(tree search)과 같은 다단계 추론 방법을 통해 다양한 추론 경로를 탐색해야 하는 여러 복잡한 과제에서 주목할 만한 잠재력을 보여주었다. 그러나 기존 방법들은 대개 계산 효율성의 비효율성과 중복 탐색 문제를 겪는다. 첫째, 과제 난이도의 다양성을 간과하여 쉬운 과제에 대해서도 불필요하게 지나치게 광범위한 탐색을 수행하는 경우가 많다. 둘째, 추론 경로의 의미(semantic)를 무시함으로써 의미적으로 동일한 경로에 대한 중복 탐색이 발생한다. 이러한 한계를 해결하기 위해, 우리는 계산적으로 효율적인 방법인 의미 기반 탐색과 적응적 게이팅(Semantic Exploration with Adaptive Gating, SEAG)을 제안한다. SEAG는 선행의 간단한 추론 방법으로부터 얻어진 답변의 신뢰도(confidence level)에 따라 트리 탐색을 수행할지 여부를 동적으로 결정하는 적응적 게이팅 메커니즘을 사용한다. 또한, 트리 기반 탐색은 의미적으로 동일한 추론 단계를 통합하여, 중복 탐색을 줄이면서도 정확도는 유지하거나 오히려 향상시킨다. 광범위한 실험 결과, SEAG는 GSM8K와 ARC를 포함한 복잡한 추론 벤치마크에서, Llama2, Llama3, Mistral과 같은 다양한 언어 모델을 대상으로 기존 트리 탐색 기반 방법과 비교했을 때 평균적으로 정확도를 4.3% 유의하게 개선하면서도 계산 비용은 31%만을 요구함을 보여주었다. 코드는 https://github.com/ml-postech/SEAGsemantic-exploration-with-adaptive-gating 에서 제공된다.

최근 대규모 언어 모델(LLM)은 트리 탐색과 같은 다단계 추론 방법을 활용하여 다양한 추론 경로를 탐색해야 하는 여러 복잡한 과제에서 주목할 만한 잠재력을 보여주고 있다. 그러나 기존 방법은 대체로 계산적 비효율성과 중복의 문제를 겪는다. 첫째, 과제의 난이도 다양성을 간과하여 쉬운 과제에서도 불필요하게 과도한 탐색을 수행한다. 둘째, 추론 경로의 의미론을 무시하여 의미적으로 동일한 경로를 중복해서 탐색하게 된다. 이러한 한계를 해결하기 위해, 우리는 계산 효율적인 방법인 의미론적 탐색과 적응적 게이팅(Semantic Exploration with Adaptive Gating, SEAG)을 제안한다. SEAG는 앞선 단순 추론 방법의 답변에 대한 신뢰 수준에 기반하여 트리 탐색을 수행할지 여부를 동적으로 결정하는 적응적 게이팅 메커니즘을 사용한다. 또한 트리 기반 탐색은 의미론적으로 동일한 추론 단계를 통합함으로써 중복 탐색을 줄이면서도 정확도를 유지하거나 오히려 향상시킨다. 광범위한 실험 결과, SEAG는 GSM8K 및 ARC를 포함한 복잡 추론 벤치마크에서 Llama2, Llama3, Mistral과 같은 다양한 언어 모델을 사용했을 때, 기존 트리 탐색 기반 방법 대비 계산 비용의 31%만으로도 평균 4.3%의 정확도 향상을 유의미하게 달성함을 보여준다. 우리의 코드는 https://github.com/ml-postech/SEAG-semantic-exploration-with-adaptive-gating 에서 제공된다.

Jaechang Kim, Jinmin Goh, Inseok Hwang, Jaewoong Cho, Jungseul Ok. 국제연맹(Association for Computational Linguistics) 북미 국가 회의(2025) 인문 언어 기술(제1권: 장편 논문) 회의록. 2025.

우리는 자동 음성 인식(ASR) 시스템에서 명사구 개체명(Named Entity, NE) 교정을 개선하기 위한 방법인 DeRAGEC를 제시한다. 검색-증강 생성 오류 교정(Retrieval-Augmented Generative Error Correction, RAGEC) 프레임워크를 확장함으로써, DeRAGEC는 교정에 앞서 합성된 노이즈 제거 추론을 활용하여 노이즈가 포함된 NE 후보를 걸러낸다. 음성적 유사성과 증강된 정의를 활용하여 문맥 내 학습(in-context learning)으로 노이즈가 포함된 검색 NE를 정교화하며, 추가적인 학습이 필요하지 않다. CommonVoice 및 STOP 데이터셋에 대한 실험 결과는 단어 오류율(Word Error Rate, WER)과 NE 히트 비율에서 유의미한 개선을 보여주며, 기본 ASR 및 RAGEC 방법을 능가한다. 구체적으로, 우리는 후처리 없이 ASR에 비해 WER을 상대적으로 28% 감소시키는 성과를 달성했다. 우리의 소스 코드는 다음에서 공개되어 있다:

단일 입력에 대해 여러 개 또는 순차적인 출력을 생성하고 분석하는 테스트 시점 연산(Scaling test-time computation)은 불확실성 정량화 및 다단계 추론의 발전을 통해 입증된 바와 같이 대규모 언어 모델(LLM)의 신뢰성과 품질을 향상시키는 유망한 전략으로 자리 잡았다. 핵심적으로 공유되는 구성 요소는 의미 군집화(semantic clustering)로, 형식은 다르지만 동일한 의미를 전달하는 출력들을 묶는다. 의미 군집화는 출력 의미(semantics)에 대한 분포를 추정할 수 있게 하며, 추론 경로를 반복적으로 탐색하는 것을 방지하는 데 도움이 된다. 그러나 기존 접근법은 대체로 외부 모델에 의존하여 상당한 계산 오버헤드를 유발하며, 맥락을 인지하는 의미를 포착하는 데에도 종종 실패한다. 본 연구는 생성기 LLM의 내부 은닉 상태(hidden states)를 군집화에 활용함으로써 외부 모델의 필요성을 제거하는, 경량이면서도 맥락에 민감한 방법인 잠재 의미 군집화(Latent Semantic Clustering, LSC)를 제안한다. 다양한 LLM과 데이터셋에 걸친 광범위한 실험 결과, LSC는 기존 방법의 성능을 유지하거나 능가하면서 테스트 시점 연산 확장의 계산 효율을 유의미하게 향상시킴을 확인하였다.

이중언어 화자들이 웹 검색에서 혼합 언어 쿼리를 빈번히 사용하는에도 불구하고, 이들을 대상으로 한 정보검색(Information Retrieval, IR) 연구는 여전히 드문 실정이다. 이를 해결하기 위해 MiLQ, Mixed-Language Query 테스트 세트를 제안한다. 이는 혼합 언어 쿼리에 대한 최초의 공개 벤치마크로서, 현실적이며 상대적으로 선호되는 것으로 자격을 갖추었다. 실험 결과, 다국어 IR 모델은 MiLQ에서 중간 정도의 성능을 보였으며, 모국어·영어·혼합언어 쿼리 간에는 일관되지 않은 성능 차이를 보였다. 또한 이는 코드 스위칭(code-switched) 훈련 데이터가 이러한 쿼리를 처리하는 강건한 IR 모델을 위한 잠재력을 지님을 시사한다. 한편, 쿼리에서 의도적으로 영어를 혼합하는 것은 이중언어 화자들이 영어 문서를 검색할 때 효과적인 전략임이 입증되었으며, 본 분석은 이를 모국어 쿼리에 비해 향상된 토큰 매칭(token matching)으로 설명한다.

이중언어 사용자는 웹 검색에서 혼합 언어 쿼리를 자주 사용하지만, 이들을 대상으로 한 정보 검색(Information Retrieval, IR) 연구는 여전히 드문 실정이다. 이를 해결하기 위해 우리는 MiLQ(Mixed-Language Query test set)를 소개한다. MiLQ는 혼합 언어 쿼리에 대한 최초의 공개 벤치마크로, 현실적이며 상대적으로 선호되는 것으로 자격을 갖추었다. 실험 결과, 다국어 IR 모델은 MiLQ에서 중간 정도의 성능을 보이며, 모국어, 영어, 혼합 언어 쿼리 전반에서 일관적이지 않은 결과를 나타냈다. 이는 또한 코드 스위칭(code-switched) 훈련 데이터가 이러한 쿼리를 처리하는 강건한 IR 모델의 잠재력을 시사한다. 한편, 쿼리에서 의도적으로 영어를 혼합하는 것은 이중언어 사용자가 영어 문서를 검색할 때 효과적인 전략임이 입증되었으며, 우리의 분석은 이러한 효과가 모국어 쿼리와 비교하여 향상된 토큰 매칭(token matching) 때문이라고 설명한다.1* 본 연구는 저자가 aiXplain에 재직 중이던 시기에 수행되었다.1 이 연구의 코드와 데이터는 다음에서 제공된다: https://github.com/jonghwi-kim/milq.2 본 연구에서 코드스위칭, 혼합 언어, 코덤믹싱(codemixing)은 동의어로 사용된다.Was sind die Vorteile und Nachteile einer einheitlichen europaischen Whrung?Was sind die Advantages und Disadvantages einer single European Currency?What are the advantages and disadvantages of a single European currency?

대규모 언어 모델(LLMs)에 대한 연합 미세조정(federated fine-tuning)은 큰 모델 업데이트를 전송하는 데 따른 막대한 통신 오버헤드로 인해 중대한 어려움에 직면한다. Low Rank Adaptation(LoRA)이 해결책으로 제안되었음에도 불구하고, 연합 학습에서의 적용은 집계(aggregation) 과정에서의 불일치(discordance)로 인해 복잡해진다. 기존의 불일치 문제를 다루는 방법들은 종종 이질적인 데이터 설정에서 저랭크(low ranks)에 대한 성능 저하를 겪는다. 이에 대응하여 우리는 교대 동결(Alternating freeze)과 적응적 랭크 선택(Adaptive rank selection)을 이용한 저랭크 적응(LoRA)인 LoRA-A 2(교대 동결 및 적응적 랭크 선택을 포함한 저랭크 적응)를 제안하며, 이는 저랭크 및 높은 데이터 이질성이 존재하는 어려운 환경에서 견고함을 보인다. 실험 결과에 따르면, LoRA-A 2는 극단적인 이질성과 저랭크 조건에서도 성능을 유지하여, 성능 저하 없이 완전 미세조정(full fine-tuning)과 비교했을 때 업로드되는 파라미터를 최대 유의미한 수준까지 감소시킨다. 이러한 적응 메커니즘은 연합 미세조정에서의 견고성과 통신 효율을 향상시키며, 자원이 제한된 환경에서 LLM을 실제로 배치할 수 있게 한다.

검색 증강 생성(Retrieval-Augmented Generation, RAG)은 외부 데이터베이스에서 정보를 검색하여 대규모 언어 모델(LLM)의 제한된 내부 지식을 보완함으로써, 사실적 정확도를 향상하는 데 효과적인 접근법이다. 그러나 표준 RAG은 질의와 문서 간의 관련성에만 의존하여 정보를 검색하는 경우가 많아, 이러한 자료원의 이질적인 신뢰도를 간과함으로써 부정확한 정보를 검색할 위험이 있다. 이 문제를 해결하기 위해 본 연구에서는 자료원 신뢰도 인지 RAG(Reliability-Aware RAG, RA-RAG)라는 새로운 다중 자료원 RAG 프레임워크를 제안한다. RA-RAG는 자료원의 신뢰도를 추정하고 이를 활용하여 높은 신뢰도이면서도 관련성이 높은 문서를 우선적으로 선택함으로써, 보다 견고하고 정확한 응답 생성이 가능하도록 설계되었다. 구체적으로 RA-RAG는 먼저 여러 자료원에 걸쳐 정보를 교차 대조하여 자료원의 신뢰도를 추정한다. 그 다음 신뢰도와 관련성 기준 상위 자료원에서 문서를 검색하고, 가중 다수결(weighted majority voting, WMV)로 이들의 정보를 집계한다. 이때 선택적 검색은 성능을 저하시키지 않으면서도 확장성을 보장한다. 종합적인 실험 결과, RA-RAG는 이질적인 자료원 신뢰도가 존재하는 시나리오에서 기존 기준 방법들을 일관되게 능가하며, 자료원 수가 증가함에 따라 효율적으로 확장됨을 보였다. 또한 RA-RAG가 실제 환경의 자료원에 대해 신뢰도를 추정할 수 있음을 시연함으로써, 실용적 적용 가능성을 강조한다.

대규모 언어 모델(LLM)의 최근 발전은, 트리 탐색(tree search)과 같은 다단계 추론 방법을 통해 다양한 추론 경로를 탐색해야 하는 여러 복잡한 과제에서 주목할 만한 잠재력을 보여주었다. 그러나 기존 방법들은 대개 계산 효율성의 비효율성과 중복 탐색 문제를 겪는다. 첫째, 과제 난이도의 다양성을 간과하여 쉬운 과제에 대해서도 불필요하게 지나치게 광범위한 탐색을 수행하는 경우가 많다. 둘째, 추론 경로의 의미(semantic)를 무시함으로써 의미적으로 동일한 경로에 대한 중복 탐색이 발생한다. 이러한 한계를 해결하기 위해, 우리는 계산적으로 효율적인 방법인 의미 기반 탐색과 적응적 게이팅(Semantic Exploration with Adaptive Gating, SEAG)을 제안한다. SEAG는 선행의 간단한 추론 방법으로부터 얻어진 답변의 신뢰도(confidence level)에 따라 트리 탐색을 수행할지 여부를 동적으로 결정하는 적응적 게이팅 메커니즘을 사용한다. 또한, 트리 기반 탐색은 의미적으로 동일한 추론 단계를 통합하여, 중복 탐색을 줄이면서도 정확도는 유지하거나 오히려 향상시킨다. 광범위한 실험 결과, SEAG는 GSM8K와 ARC를 포함한 복잡한 추론 벤치마크에서, Llama2, Llama3, Mistral과 같은 다양한 언어 모델을 대상으로 기존 트리 탐색 기반 방법과 비교했을 때 평균적으로 정확도를 4.3% 유의하게 개선하면서도 계산 비용은 31%만을 요구함을 보여주었다. 코드는 https://github.com/ml-postech/SEAGsemantic-exploration-with-adaptive-gating 에서 제공된다.

최근 대규모 언어 모델(LLM)은 트리 탐색과 같은 다단계 추론 방법을 활용하여 다양한 추론 경로를 탐색해야 하는 여러 복잡한 과제에서 주목할 만한 잠재력을 보여주고 있다. 그러나 기존 방법은 대체로 계산적 비효율성과 중복의 문제를 겪는다. 첫째, 과제의 난이도 다양성을 간과하여 쉬운 과제에서도 불필요하게 과도한 탐색을 수행한다. 둘째, 추론 경로의 의미론을 무시하여 의미적으로 동일한 경로를 중복해서 탐색하게 된다. 이러한 한계를 해결하기 위해, 우리는 계산 효율적인 방법인 의미론적 탐색과 적응적 게이팅(Semantic Exploration with Adaptive Gating, SEAG)을 제안한다. SEAG는 앞선 단순 추론 방법의 답변에 대한 신뢰 수준에 기반하여 트리 탐색을 수행할지 여부를 동적으로 결정하는 적응적 게이팅 메커니즘을 사용한다. 또한 트리 기반 탐색은 의미론적으로 동일한 추론 단계를 통합함으로써 중복 탐색을 줄이면서도 정확도를 유지하거나 오히려 향상시킨다. 광범위한 실험 결과, SEAG는 GSM8K 및 ARC를 포함한 복잡 추론 벤치마크에서 Llama2, Llama3, Mistral과 같은 다양한 언어 모델을 사용했을 때, 기존 트리 탐색 기반 방법 대비 계산 비용의 31%만으로도 평균 4.3%의 정확도 향상을 유의미하게 달성함을 보여준다. 우리의 코드는 https://github.com/ml-postech/SEAG-semantic-exploration-with-adaptive-gating 에서 제공된다.