본 논문은 다중 라벨 이진 분류 프레임워크 내에서 미세조정된 트랜스포머 기반 언어 모델을 활용하여 SQL Injection(SQLi), Command Injection, Cross-Site Scripting(XSS) 취약성을 탐지하는 방법을 제안한다. 우리의 접근은 세 가지 사전학습된 경량 모델인 DistilBERT, ALBERT, ArmoRM-Llama3-8B를 활용한다. 각 모델은 SQLi XSS 데이터셋에서 텍스트 분류 과제를 수행하도록 미세조정되었다. 미세조정 과정에서는 사전학습된 트랜스포머 층을 고정하고 완전연결 출력 계층을 업데이트하였다. 주요 과제는 네 가지 취약성 클래스(SQL Injection, Command Injection, XSS, Normal traffic)에 대해 이진 지표로 정상(0) 또는 공격(1) 상태를 생성하여 다중 라벨 출력을 산출하는 데 있다. 혼동 행렬을 포함한 평가 지표에 따르면, ArmoRM-Llama3-8B의 미세조정 결과는 DistilBERT 및 ALBERT보다 정확도와 탐지율이 약간 더 높으며, 특히 복잡한 주입 공격을 식별하는 데에서 두드러진다. 또한 ArmoRM-Llama3-8B는 훈련 기간이 다소 더 길었음에도 불구하고 가장 빠른 테스트 평가 시간을 보였다. 이러한 결과는 취약성 탐지의 향상을 통해 웹 보안을 강화하는 데 트랜스포머 기반 언어 모델의 가능성과 효과가 있음을 보여준다.

*본 초록은 AI를 통해 원문을 번역한 내용입니다. 정확한 내용은 하기 원문에서 확인해주세요.