시계열 문장 그라운딩 방법 및 장치

TRL 4
출원, 등록 심사 중

자연어로 찾고 싶은 장면을 입력하면 영상과 문장의 의미를 연결해 해당 장면의 시작과 끝을 찾아주는 기술입니다. 학습할 때 가린 단어를 영상으로 복원하고 데이터의 치우친 패턴에 대한 의존을 줄여, 학습 때와 다른 영상에서도 원하는 구간을 더 정확하게 찾도록 하는 특허입니다.

특허 개요

본 특허는 자연어로 설명한 장면이 영상의 어느 시간 구간에 있는지 찾는 시계열 문장 그라운딩 기술입니다. 비디오 인코더와 쿼리 인코더가 생성한 특징을 양방향 어텐션으로 결합하고, 각 시점이 장면의 시작과 끝일 확률을 예측합니다. 학습 시에는 중요한 품사 중심으로 가린 단어를 영상 특징으로 복원하는 쿼리-중심 마스킹 단어 복원과, 편향 생성기·판별기를 이용하는 적대적 편향 제거를 결합해 영상과 문장의 실제 의미 관계를 학습하도록 합니다. 추론 시에는 학습용 보조 모듈을 제외하고 비디오 인코더·쿼리 인코더·그라운딩 모듈로 시간 구간을 예측합니다.

  • 핵심 기능

비디오와 자연어 쿼리를 각각 인코딩한 뒤, 쿼리-투-비디오 및 비디오-투-쿼리 어텐션으로 특징을 융합하여 시작·종료 시점 확률과 해당 시간 구간을 산출합니다. 학습 과정에서는 정답 및 주변 영상 구간을 활용한 마스킹 단어 복원과 인위적 편향 벡터 기반 적대적 학습으로 의미 정렬 강화와 편향 완화를 수행합니다.

  • 차별 강점

기존 시계열 문장 그라운딩 모델은 특정 단어의 빈도나 정답 시간 구간의 집중 같은 어노테이션 편향에 의존해, 학습 데이터와 분포가 다른 환경에서 성능이 저하될 수 있습니다. 본 기술은 쿼리-중심 단어 복원과 적대적 편향 제거를 함께 적용하는 구성이며, 제시된 쿼리 복원 모듈 적용 실험에서는 BSSARD 대비 분포 외 환경의 성능 개선을 확인했습니다.

  • 활용 범위

기술·연구 측면에서는 비디오-자연어 의미 정렬, 자연어 기반 비디오 검색, 분포 변화에 강건한 멀티모달 학습 분야에 활용 가능합니다. 사업 측면에서는 영상 아카이브의 장면 탐색, 지능형 영상 분석, 영상 모니터링 및 콘텐츠 검색을 제공하는 기업·기관의 멀티모달 AI 서비스로 확장할 수 있습니다.

연구 개발 단계

TRL 1
기초 원리
TRL 2
개념 정립
TRL 3
개념 검증
TRL 4
실험실 검증
TRL 5
유사 환경
TRL 6
시제품
TRL 7
실증
TRL 8
인증완료
TRL 9
사업화
TRL4Charades-CD 및 ActivityNet-CD 벤치마크의 학습 분포와 다른 평가 데이터에서 시간 구간 검색 성능을 비교 실험으로 검증한 단계입니다.
현재 검증 내용

Charades-CD와 ActivityNet-CD의 test-ood 스플릿에서 쿼리 복원 모듈을 적용한 실시예를 BSSARD 및 마스킹·특징 융합·영상 구간 활용 방식을 바꾼 변형 모델과 비교하여 성능 개선을 확인했습니다. 실제 기업 영상의 도메인 변화, 대규모·장시간 영상 처리, 운영 지연시간과 재현성은 아직 추가 검증이 필요합니다.

검증 환경

- 데이터셋: Charades-CD 및 ActivityNet-CD의 test-ood 스플릿
- 비교 모델: BSSARD, VSLNet, 2D-TAN 및 랜덤 마스킹·Video-centric·Full Video 변형

- 학습 환경: NVIDIA RTX 3090, Adam, 배치 크기 16, 학습률 0.001

현재 성과

성능·효과
Charades-CD 분포 외 평가 R@1, IoU@0.547.44%

BSSARD 기반에 쿼리 복원 모듈을 적용한 실시예의 Charades-CD test-ood 결과로, 비교 대상 BSSARD는 같은 지표에서 45.90%를 기록했습니다. 이는 쿼리 복원 학습을 통한 시간 구간 검색 성능 개선을 보여주며, 적대적 편향 제거까지 결합한 전체 구성의 성능 수치로 확대 해석하지 않아야 합니다.

검증·신뢰
ActivityNet-CD 분포 외 평가 R@1, IoU@0.524.58%

쿼리 복원 모듈 적용 실시예를 ActivityNet-CD test-ood에서도 평가했으며, 비교 대상 BSSARD는 같은 지표에서 23.65%를 기록했습니다. 중요 품사 마스킹, 쿼리-중심 융합, 정답 및 주변 구간 활용의 영향을 변형 모델 비교로 확인했으나, 기업 데이터에서의 성능과 운영 재현성은 별도 PoC가 필요합니다.

차별성·독창성
의미 정렬 강화와 적대적 편향 제거를 결합한 학습 구조

시간 구간 예측 모델에 쿼리-중심 마스킹 단어 복원과 인위적 비디오·쿼리 편향 벡터 기반 적대적 학습을 함께 적용하는 점이 차별점입니다. 추론 단계에서는 쿼리 복원 모듈과 편향 생성기를 제외할 수 있도록 학습 구성과 추론 구성을 구분합니다.

상용화까지 남은 부분

1

실제 기업 영상 데이터와 도메인별 분포 변화 환경에서의 시간 구간 검색 성능 검증

2

대규모·장시간 영상에 대한 처리 성능 검증

3

운영 환경의 추론 지연시간 측정 및 결과 재현성 검증

기술 이전 형태·도입 과정

기술양도
전용실시권
통상실시권
공동 과제 수행
기술지도·자문

도입은 이렇게 진행됩니다.

1

검토 미팅

귀사 상황·데이터 구조 기준으로 적합성을 논의합니다. 자료 검토만으로 끝나도 됩니다.

2

PoC 공동 검증

연구팀 동행 하에 귀사 데이터 기준 재학습·성능을 확인합니다.

3

라이센싱 계약

PoC 결과를 기반으로 희망 형태(실시권·공동연구 등)를 협의합니다.

4

기술지도·후속

도입 초기 기술지도, 필요 시 후속 공동연구·정부과제 연계까지 진행합니다.

특허 정보

발명의 명칭(KR)

시계열 문장 그라운딩 방법 및 장치

출원번호

PCT/KR2025/022384

등록번호

미등록 (심사 중)

발명자

최상일, 김선오, 태민우

출원인

단국대학교 산학협력단

문의

담당자송재민
이메일jm.song@rndcircle.io
연락처010-7174-5496