소셜네트워크에서의 온라인그루밍 위험성 자가탐지 기술 개발

2024과학기술정보통신부디지털역기능대응기술개발
프로젝트 소개
본 과제는 SNS와 채팅앱에서 이루어지는 대화, 이미지, 동영상 등을 분석해 온라인그루밍 위험성을 스스로 알아차릴 수 있도록 돕는 인공지능 기술을 개발하는 연구임. 온라인그루밍은 가해자가 친밀감을 쌓은 뒤 아동·청소년에게 접근하는 과정으로, 초기 단계에서 발견하는 것이 중요한 디지털 성범죄 위험 요소임. 연구 목표는 SNS·채팅앱의 미디어서비스 시멘틱을 이해하고 온라인그루밍을 96% 이상의 성능으로 탐지하는 지능 개발임. 핵심 연구 내용은 퍼스널 미디어 지식베이스 구축, 온라인그루밍 특화형 자연어 처리, 텍스트·이미지·동영상의 의미 복합 분석, 단계별 조기 탐지 및 경량화 AI 엔진 개발임. 이를 위해 PC와 모바일 디바이스에서 작동하는 진단 SW와 모바일 앱을 개발하고, 한국어·영어 대화 분석 및 온디바이스 AI 기술을 적용함. 기대 효과는 SNS와 온라인 대화에서의 자가진단, 아동·청소년 유해 미디어 노출 차단, 디지털 성범죄 예방 및 수사·검거 비용 감소임.
온라인그루밍자연어 처리유해 미디어시맨틱 분석소셜미디어 관제Online GroomingNatural Language ProcessingObscenity of MediaSemantic AnalysisSocial Media Surveillance
참여형태
주관
사업명
디지털역기능대응기술개발
부처명
과학기술정보통신부
주관기관명
한국전자통신연구원
공동/위탁수행기관명
서강대학, (주)엔에이치엔다이퀘스트, (주)플랜티넷
과제 수행연도
2024
과제 수행기간
2022.04.01 ~ 2024.12.31
과제 고유번호
2710008515
연구 개발단계
응용연구
연구비
총연구비
893,400,000 원
정부지원연구개발비
808,000,000 원
위탁연구비
0 원
민간연구비
85,400,000 원
주관/협동기관 정보
주관/협동수행기관명연구수행주체지역
주관한국전자통신연구원출연연구소기타
공동/위탁기관 정보3건
공동/위탁수행기관명연구수행주체참여형태공동연구비 수입금액 (원)공동연구비 지출금액 (원)
공동서강대학대학연구·기술개발-114,500,000
공동(주)엔에이치엔다이퀘스트중소기업연구·기술개발62,900,000188,500,000
공동(주)플랜티넷중소기업연구·기술개발22,500,00067,300,000
사업화 정보1건
성과발생년도사업화내용사업화형태기술이전유형업체명당해년도매출액
2024자사 AICC 상담 챗봇 플랫폼인 Infochatter에 유해대화 분석 및 모니터링 기술을 적용해 부분 상품화기술보유자의 직접사업화_기존업체-상품화-비비디글로벌50,000,000
기술료1건
성과발생년도기술실시계약명연구성과 소유 기관명당해연도 기술료정부납부 기술료기술료 실시 대상 국가
2024미디어 유해성 및 SNS대화 분석 기술비영리법인(대학/출연연)44,000,000-대한민국
과제 기반 국내외 특허0건
출원/등록 기관발명의 명칭출원일자출원국가출원번호등록일자등록번호
과제 기반 SCI(E) 논문0건
논문명학술지명DOI/URL