연구 영역
기본 정보
논문·특허
과제
구성원
Article|
인용수 2
·2019
Selectively Connected Self-Attentions for Semantic Role Labeling
Jaehui Park
IF 2.474 (2019) Applied Sciences
초록

의미 역할 라벨링(Semantic role labeling)은 자연어 문장에서 단어 관계와 관련된 내재적 의미를 이해하기 위한 효과적인 접근법이다. 특히 최근의 연구들은 심층 신경망, 그중에서도 순환 신경망(recurrent neural networks)을 사용하여 기존의 얕은 모델을 크게 향상시켰다. 그러나 순환적 업데이트의 한계로 인해 대규모 데이터 집합에 대해 긴 학습 시간이 필요하다. 또한 이들은 언어의 계층적 구조를 포착하지 못한다. 본 연구에서는 의미 역할 라벨링을 위해 주의(attentive) 표현들 사이의 선택적 연결(selective connections)을 제공하는 새로운 심층 신경 모델을 제안하며, 이를 통해 순환 업데이트를 제거한다. 실험 결과, 본 모델은 최신 연구들(state-of-the-art)에 비해 정확도가 더 우수함을 보였다. 본 모델은 각각 CoNLL 2005 및 CoNLL 2012 공유 과제에서 86.6 F1 점수와 83.6 F1 점수를 달성하였다. 연결 모듈(connection module)을 통해 계층 정보를 포착함으로써 정확도 향상이 향상되었다. 또한 본 모델은 반복적 업데이트를 회피하도록 병렬화될 수 있음을 보인다. 그 결과, 본 모델은 기준선 대비 학습 시간을 62%p(퍼센트 포인트) 감소시켰다.

*본 초록은 AI를 통해 원문을 번역한 내용입니다. 정확한 내용은 하기 원문에서 확인해주세요.

키워드
Computer scienceArtificial intelligenceBaseline (sea)Natural language processingRecurrent neural networkSemantic role labelingDeep neural networksWord (group theory)Training setSet (abstract data type)
타입
Article
IF / 인용수
2.474 / 2
게재 연도
2019