LLM의 구조화 이해 및 고속 생성: Scene Graph와 Diffusion Language Model 연구

Structured Understanding and Efficient Generation with Scene Graphs and Diffusion LMs

연구 내용

Scene graph의 이해·생성 성능을 벤치마크로 검증하고, diffusion 기반 언어 모델의 디코딩 병목을 줄여 빠르고 자연스러운 생성을 구현하는 연구

본 연구는 거대 언어 모델이 구조화 표현을 정확히 다루는지와 생성 효율을 동시에 향상시키는 데 목적이 있습니다. Scene graph 이해·생성을 대상으로 벤치마크와 실증 연구를 수행하여 그래프 기반 의미 표현의 처리 한계를 점검하고, 생성 시 구조 보존의 요구를 평가합니다. 또한 diffusion language model의 long decoding-window 병목을 분석하고, 하드 분할 없이 디코딩 창을 축소하는 convolutional decoding과 context 원거리 위치 정렬을 위한 rejective rule-based fine-tuning을 제안합니다. 더불어 텍스트 마이닝과 추론을 통해 도메인 문제의 상충 관계를 다루는 방향으로 확장합니다.

관련 프로젝트

2건

연구 흐름

초기에는 구조적 출력에 대한 검증 기반을 마련하기 위해 scene graph를 대상으로 이해와 생성의 성능을 정량화하는 벤치마크 연구를 수행했습니다. 이후 생성 모델의 효율 문제로 연구 범위를 확장하여 diffusion 기반 언어 모델에서 긴 디코딩 윈도우가 유발하는 비관련·반복 토큰 문제를 핵심 병목으로 정의하고, convolutional decoding으로 창을 줄이면서도 윈도우 분할이 초래하는 손실을 완화하는 접근을 구성했습니다. 마지막으로 context로부터 멀어진 위치의 토큰 정렬을 개선하는 R2FT를 결합해 생성 품질과 속도 균형을 강화하며, 텍스트 기반 추론 응용으로 확장했습니다.

활용 가능성

활용 가능성은 알앤디써클 특화 AI 에이전트가 생성한 내용으로, 실제 연구 가능 여부는 연구실과의 논의가 필요합니다.

Scene graph 이해 평가 도구
Scene graph 생성 모듈
구조화 지식 추출 파이프라인
저지연 텍스트 생성 모델
디코딩 병목 완화 기법
비관련 토큰 억제 전략
원거리 컨텍스트 정렬 튜닝
도메인 추론용 LLM 엔진
텍스트 마이닝 기반 의사결정 지원
반도체·재료 상충 관계 분석 워크플로