주요 논문
5
*2026년 기준 최근 7년 이내 논문에 한해 Impact Factor가 표기됩니다.
1
Article
|
·
인용수 3
·
2023A Pooled RNN-based Deep Learning Model based on Data Augmentation for Clickbait Detection
Jeong-Jae Kim, Sang-Min Park, Byung-Won On
The Journal of Korean Institute of Information Technology
최근 가짜 뉴스 탐지 문제는 데이터 공학에서 가장 시급한 문제 중 하나이다. 본 논문에서는 가짜 뉴스 탐지 문제 중 가장 본질적인 문제인 낚시성 기사 탐지 문제를 해결하기 위해 두 가지의 새로운 접근 방법을 제안한다. 먼저, RNN 기반의 Bi-LSTM 다중 계층들, max-pooling 계층들, 그리고 fully-connected 계층들로 구성된 딥러닝 모델을 제안한다. 또한, 딥러닝 모델의 정확도를 향상하기 위해 대용량, 고품질의 학습 데이터를 자동으로 생성하는 데이터 증강 알고리즘을 제안한다. 제안된 알고리즘으로 생성된 학습 데이터가 인간 평가자가 만든 데이터와 거의 일치함을 보인다. 제안된 딥러닝 모델은 기존 주요 방안에 비해 36% 정확도 향상시키며, 학습 데이터를 자동으로 생성하는 새로운 접근 방식은 딥러닝 모델의 정확도를 크게 높인다. 이러한 제안방안은 낚시성 기사 감지를 위해 현재까지 시도되지 않은 새로운 연구이다.
https://doi.org/10.14801/jkiit.2023.21.4.45
Recurrent neural network
Pooling
Artificial intelligence
Computer science
Deep learning
Machine learning
Artificial neural network
2
Article
|
인용수 7
·
2023Learning Cluster Patterns for Abstractive Summarization
Sung-Guk Jo, Seunghyuk Park, Jeong-Jae Kim, Byung-Won On
IF 3.4 (2023)
IEEE Access
최근 PEGASUS 및 BART와 같은 사전학습된 시퀀스-투-시퀀스 모델이 추상적 요약에서 최첨단 성능을 보이고 있다. 이러한 모델에서 파인튜닝 동안 인코더는 문장을 잠재 공간의 문맥 벡터로 변환하고, 디코더는 문맥 벡터에 근거하여 요약 생성 과제를 학습한다. 본 접근법에서는 중요한(context salient) 문맥 벡터와 중요하지 않은(context non-salient) 문맥 벡터의 두 군집을 고려하며, 이를 통해 디코더가 요약 생성 시 중요한 문맥 벡터에 더 집중(attend)할 수 있도록 한다. 이를 위해 인코더와 디코더 사이에 새로운 군집 생성기 레이어(cluster generator layer)를 제안하는데, 이 레이어는 먼저 중요한 및 중요하지 않은 벡터의 두 군집을 생성한 뒤, 잠재 공간에서 군집들이 서로 분리되도록 정규화(normalizes)하고 군집의 규모를 축소(shrinks)한다. 실험 결과, 제안된 모델은 이러한 구별되는 군집 패턴을 학습함으로써 CNN/DailyMail 및 XSUM 데이터셋에서 BART와 PEGASUS와 같은 최첨단 모델보다 성능이 우수했으며, ROUGE는 최대 2~30%, BERTScore는 0.1~0.8%까지 향상되었다.
https://doi.org/10.1109/access.2023.3346911
Automatic summarization
Salient
Computer science
Context (archaeology)
Generator (circuit theory)
Artificial intelligence
Sequence (biology)
Encoder
Cluster (spacecraft)
Context model
3
Article
|
·
인용수 0
·
2023Training Set Creation Method for Essay Creativity Score Prediction Models
Deokgi Kim, Sangwoo Han, S.-H. Park, Yougyeon Kim, Sanghyun Park, Junyoung Jo, Seoin Choi, Youbin Lee, Daegon Yu, Byung-Won On
The Journal of Korean Institute of Information Technology
학생들은 에세이를 작성해보면서, 제4차 산업혁명에 꼭 필요한 창의성을 키울 수 있다. 그러나 현재 수작업에 의존하는 창의성 평가방식은 주관적이며, 많은 예산과 시간이 소요된다. 따라서 대량의 에세이에서 창의성을 정량적으로 평가할 수 있도록 인공지능 모델을 개발하는 것이 중요하다. 본 논문에서 에세이 창의성 점수 예측모델에 필요한 학습데이터를 구축하는 방안을 제안하고, 대용량 학습데이터를 효과적으로 구축할 수 있도록 웹기반 레이블링 시스템을 개발한다. 제안 시스템을 통해, 약 3,766개의 에세이에 대한 학습데이터를 구축하였고 심도 있는 분석을 통해, 3명의 평가자 간 Kendall 점수는 평균 82.7%로 평가자 간 강한 상관관계를 보였고, 가설검정을 통해 제안 시스템을 사용하는 것이 기존 수작업 방식보다 통계적으로 유의미한 것을 보였다.
https://doi.org/10.14801/jkiit.2023.21.10.69
Creativity
Set (abstract data type)
Training set
Computer science
Artificial intelligence
Psychology
Social psychology
Programming language
4
Article
|
·
인용수 1
·
2023CLES-BERT: Contrastive Learning-based BERT Model for Automated Essay Scoring
Daegon Yu, Yongyeon Kim, Sangwoo Han, Byung-Won On
The Journal of Korean Institute of Information Technology
4차 산업 혁명 시대에서 창의력은 중요하며, 글쓰기는 창의력 기르는 교육 방법 중 하나이다. 그러나 현재 학교에서 시행하는 글쓰기 평가 방식은 주관적으로 평가한다는 문제점이 있다. 에세이 자동 평가(AES)는 객관성을 확보할 수 있을 뿐만 아니라 평가자의 시간과 노력을 줄여주는 역할을 한다. 본 논문은 효과적인 AES작업을 위해 BERT 모델에 대조 학습을 활용한 모델을 제안한다. 제안 모델은 대조 학습 손실 함수를 추가하여 효과적인 에세이 임베딩 표현을 구현한다. 또한, 점수별 에세이의 평균 임베딩을 대조 학습에서의 샘플로 사용하는 방식으로 양성과 음성 샘플을 선택한다. ASAP 에세이 데이터셋을 사용하여 실험한 결과, 제안 모델인 CLES-BERT 모델이 기존 BERT 모델보다 최대 3% 정확도 향상을 보였다.
https://doi.org/10.14801/jkiit.2023.21.4.31
Computer science
Artificial intelligence
Natural language processing
5
Article
|
인용수 0
·
2023A Comparative Analysis of the Effectiveness of Rare Tokens on Creative Expression using ramBERT
Youbin Lee, Deokgi Kim, Byung-Won On, Ingyu Lee
지금까지 자동화된 창의적 에세이 채점(Automated Creative Essay Scoring, ACES)에 관해 탐구한 연구는 많지 않다. ACES에서는 사전 학습된 모델이 에세이를 창의적 또는 비(非)창의적으로 자동 라벨링한다. 에세이의 창의성 평가는 매우 주관적이기 때문에, 각 평가자는 창의성에 대한 자기만의 기준을 갖는 경우가 흔하다. 이와 같은 이유로 에세이에서 창의성을 정량화하는 일은 매우 어렵다. 본 연구는 ACES를 위한 새로운 모델 개발을 위한 예비 연구의 하나로서, 창의적 에세이와 표현성(expressiveness) 간의 상관관계를 심층적으로 조사한다. 구체적으로, 드문(dra re) 토큰이 에세이의 창의성 평가에 어떤 영향을 미치는지 탐색한다. 이를 위해 드문 토큰을 추출하기 위한 다섯 가지의 서로 다른 방법을 제시하고, BERT를 사용하여 드문 토큰과 창의적 에세이 평가 결과 간의 상관관계에 대한 비교 연구를 수행한다. 실험 결과, 드문 토큰과 창의적 에세이 간에 뚜렷한 상관관계가 있음을 확인하였다. 모든 테스트 세트에서, 드문 토큰 마스킹 기반 BERT(rare token masking-based BERT, ramBERT) 모델의 정확도는 기존 BERT 모델에 비해 최대 14%까지 향상되었다.
http://dx.doi.org/10.18653/v1/2023.findings-acl.639
Creativity
Security token
Computer science
Computational creativity
Expression (computer science)
Masking (illustration)
Creative work
Artificial intelligence
Natural language processing
Psychology