특허 개요
본 특허는 자연어로 설명한 장면이 영상의 어느 시간 구간에 있는지 찾는 시계열 문장 그라운딩 기술입니다. 비디오 인코더와 쿼리 인코더가 생성한 특징을 양방향 어텐션으로 결합하고, 각 시점이 장면의 시작과 끝일 확률을 예측합니다. 학습 시에는 중요한 품사 중심으로 가린 단어를 영상 특징으로 복원하는 쿼리-중심 마스킹 단어 복원과, 편향 생성기·판별기를 이용하는 적대적 편향 제거를 결합해 영상과 문장의 실제 의미 관계를 학습하도록 합니다. 추론 시에는 학습용 보조 모듈을 제외하고 비디오 인코더·쿼리 인코더·그라운딩 모듈로 시간 구간을 예측합니다.
- 핵심 기능
비디오와 자연어 쿼리를 각각 인코딩한 뒤, 쿼리-투-비디오 및 비디오-투-쿼리 어텐션으로 특징을 융합하여 시작·종료 시점 확률과 해당 시간 구간을 산출합니다. 학습 과정에서는 정답 및 주변 영상 구간을 활용한 마스킹 단어 복원과 인위적 편향 벡터 기반 적대적 학습으로 의미 정렬 강화와 편향 완화를 수행합니다.
- 차별 강점
기존 시계열 문장 그라운딩 모델은 특정 단어의 빈도나 정답 시간 구간의 집중 같은 어노테이션 편향에 의존해, 학습 데이터와 분포가 다른 환경에서 성능이 저하될 수 있습니다. 본 기술은 쿼리-중심 단어 복원과 적대적 편향 제거를 함께 적용하는 구성이며, 제시된 쿼리 복원 모듈 적용 실험에서는 BSSARD 대비 분포 외 환경의 성능 개선을 확인했습니다.
- 활용 범위
기술·연구 측면에서는 비디오-자연어 의미 정렬, 자연어 기반 비디오 검색, 분포 변화에 강건한 멀티모달 학습 분야에 활용 가능합니다. 사업 측면에서는 영상 아카이브의 장면 탐색, 지능형 영상 분석, 영상 모니터링 및 콘텐츠 검색을 제공하는 기업·기관의 멀티모달 AI 서비스로 확장할 수 있습니다.
연구 개발 단계
Charades-CD와 ActivityNet-CD의 test-ood 스플릿에서 쿼리 복원 모듈을 적용한 실시예를 BSSARD 및 마스킹·특징 융합·영상 구간 활용 방식을 바꾼 변형 모델과 비교하여 성능 개선을 확인했습니다. 실제 기업 영상의 도메인 변화, 대규모·장시간 영상 처리, 운영 지연시간과 재현성은 아직 추가 검증이 필요합니다.
- 데이터셋: Charades-CD 및 ActivityNet-CD의 test-ood 스플릿
- 비교 모델: BSSARD, VSLNet, 2D-TAN 및 랜덤 마스킹·Video-centric·Full Video 변형
- 학습 환경: NVIDIA RTX 3090, Adam, 배치 크기 16, 학습률 0.001
현재 성과
BSSARD 기반에 쿼리 복원 모듈을 적용한 실시예의 Charades-CD test-ood 결과로, 비교 대상 BSSARD는 같은 지표에서 45.90%를 기록했습니다. 이는 쿼리 복원 학습을 통한 시간 구간 검색 성능 개선을 보여주며, 적대적 편향 제거까지 결합한 전체 구성의 성능 수치로 확대 해석하지 않아야 합니다.
쿼리 복원 모듈 적용 실시예를 ActivityNet-CD test-ood에서도 평가했으며, 비교 대상 BSSARD는 같은 지표에서 23.65%를 기록했습니다. 중요 품사 마스킹, 쿼리-중심 융합, 정답 및 주변 구간 활용의 영향을 변형 모델 비교로 확인했으나, 기업 데이터에서의 성능과 운영 재현성은 별도 PoC가 필요합니다.
시간 구간 예측 모델에 쿼리-중심 마스킹 단어 복원과 인위적 비디오·쿼리 편향 벡터 기반 적대적 학습을 함께 적용하는 점이 차별점입니다. 추론 단계에서는 쿼리 복원 모듈과 편향 생성기를 제외할 수 있도록 학습 구성과 추론 구성을 구분합니다.
상용화까지 남은 부분
실제 기업 영상 데이터와 도메인별 분포 변화 환경에서의 시간 구간 검색 성능 검증
대규모·장시간 영상에 대한 처리 성능 검증
운영 환경의 추론 지연시간 측정 및 결과 재현성 검증
기술 이전 형태·도입 과정
도입은 이렇게 진행됩니다.
검토 미팅
귀사 상황·데이터 구조 기준으로 적합성을 논의합니다. 자료 검토만으로 끝나도 됩니다.
PoC 공동 검증
연구팀 동행 하에 귀사 데이터 기준 재학습·성능을 확인합니다.
라이센싱 계약
PoC 결과를 기반으로 희망 형태(실시권·공동연구 등)를 협의합니다.
기술지도·후속
도입 초기 기술지도, 필요 시 후속 공동연구·정부과제 연계까지 진행합니다.
특허 정보
시계열 문장 그라운딩 방법 및 장치
PCT/KR2025/022384
미등록 (심사 중)
최상일, 김선오, 태민우
단국대학교 산학협력단