유사도 검색 기반 쿼리 효율적인 코드 모델 공격 방법 및 유사도 검색 기반 쿼리 효율적인 코드 모델 공격 장치
Similarity search-based query efficient code model attack method and similarity search-based query efficient code model attack device
특허 요약
본 명세서는 소스 코드 변경 장치에 관한 것으로서 일 실시예에 따른 소스 코드 변경 장치는 소스 코드의 변수 명을 변경하여 인공지능 모델에 적대적 공격을 수행하는 소스 코드 변경 장치에 있어서, 변경하려는 소스 코드의 후보군으로 사용되는 대체 리스트를 생성하고, 상기 대체 리스트의 변수 명 길이에 기반하여 공격 대상 변수 명을 선정하고, 코사인 유사도 및 편집거리를 이용하여 상기 대체 리스트와 상기 공격 대상 변수 명의 유사도를 측정하고, 상기 유사도가 높은 순서로 일정 개수 후보군을 검색하고, 상기 일정 개수 후보군의 변수 명을 일괄적으로 변경하도록 설정될 수 있다.
청구항
번호청구항
1

소스코드의 변수 명을 변경하여 인공지능 모델에 적대적 공격을 수행하는 소스 코드 변경 장치에 있어서,변경하려는 소스 코드의 후보군으로 사용되는 대체 리스트를 생성하고,상기 대체 리스트의 변수 명 길이에 기반하여 공격 대상 변수 명을 선정하고,코사인 유사도 및 편집거리를 이용하여 상기 대체 리스트와 상기 공격 대상 변수 명의 유사도를 측정하고,상기 유사도가 높은 순서로 일정 개수 후보군을 검색하고, 상기 일정 개수 후보군의 변수 명을 일괄적으로 변경하도록 설정된 유사도 기반 소스 코드 변경 장치.

2

제1항에 있어서,상기 대체 리스트는 유효한(valid) 데이터 셋에서 선정되는 유사도 기반 소스 코드 변경 장치.

3

제1항에 있어서,상기 공격 대상 변수 명을 선정은 그룹핑(grouping) 함수를 이용하고,상기 변수 명 길이에 기반하여 변수 명을 두 그룹으로 나누고,상기 두 그룹 중에서 상기 공격 대상 변수 명을 선정하는 유사도 기반 소스 코드 변경 장치.

4

제1항에 있어서,상기 유사도 측정은 하기의 수학식에 의해 수행되는 유사도 기반 소스 코드 변경 장치.[수학식](여기서, i는 대체 리스트를 의미하고, j는 공격 대상 변수 명을 의미하며, α는 0에서 1사이의 수를 의미한다)

5

프로세서 및 메모리를 포함하는 인공지능 모델 공격 장치에 있어서,상기 프로세서는,변경하려는 소스 코드의 후보군으로 사용되는 대체 리스트를 생성하고,상기 대체 리스트의 변수 명 길이에 기반하여 공격 대상 변수 명을 선정하고,코사인 유사도 및 편집거리를 이용하여 상기 대체 리스트와 상기 공격 대상 변수 명의 유사도를 측정하고,상기 유사도가 높은 순서로 일정 개수 후보군을 검색하고, 상기 일정 개수 후보군의 변수 명을 일괄적으로 변경하고,상기 변수 명이 변경된 소스 코드를 이용하여 인공지능 모델에 적대적 공격을 수행하도록 설정된 인공지능 모델 공격 장치.

6

제5항에 있어서,상기 대체 리스트는 유효한(valid) 데이터 셋에서 선정되는 인공지능 모델 공격 장치.

7

제5항에 있어서,상기 공격 대상 변수 명을 선정은 그룹핑(grouping) 함수를 이용하고,상기 변수 명 길이에 기반하여 변수 명을 두 그룹으로 나누고,상기 두 그룹 중에서 상기 공격 대상 변수 명을 선정하는 인공지능 모델 공격 장치.

8

제5항에 있어서,상기 유사도 측정은 하기의 수학식에 의해 수행되는 인공지능 모델 공격 장치.[수학식](여기서, i는 대체 리스트를 의미하고, j는 공격 대상 변수 명을 의미하며, α는 0에서 1사이의 수를 의미한다)

9

유사도 기반 소스 코드 변경 장치가 변경하려는 코드 모델의 후보군으로 사용되는 대체 리스트를 생성하는 단계;상기 소스 코드 변경 장치가 상기 대체 리스트의 변수 명 길이에 기반하여 공격 대상 변수 명을 선정하는 단계;상기 소스 코드 변경 장치가 코사인 유사도 및 편집거리를 이용하여 상기 대체 리스트와 상기 공격 대상 변수 명의 유사도를 측정하는 단계; 및상기 소스 코드 변경 장치가 상기 유사도가 높은 순서로 일정 개수 후보군을 검색하고, 상기 일정 개수 후보군의 변수 명을 일괄적으로 변경하는 단계를 포함하는 유사도 기반 소스 코드 변경 방법.

10

제9항에 있어서,상기 대체 리스트는 유효한(valid) 데이터 셋에서 선정되는 유사도 기반 소스 코드 변경 방법.

11

제9항에 있어서,상기 공격 대상 변수 명을 선정하는 단계는 그룹핑(grouping) 함수를 이용하고,상기 변수 명 길이에 기반하여 변수 명을 두 그룹으로 나누고,상기 두 그룹 중에서 상기 공격 대상 변수 명을 선정하는 단계인 유사도 기반 소스 코드 변경 방법.

12

제9항에 있어서,상기 유사도 측정은 하기의 수학식에 의해 수행되는 유사도 기반 소스 코드 변경 방법.[수학식](여기서, i는 대체 리스트를 의미하고, j는 공격 대상 변수 명을 의미하며, α는 0에서 1사이의 수를 의미한다)

13

디지털 처리 장치를 이용하여 소스코드의 변수 명을 변경하고, 인공지능 모델에 적대적 공격을 수행하기 위해 디지털 처리 장치에 의해 실행될 수 있는 명령어들의 프로그램이 유형적으로 구현되어 있으며, 디지털 처리 장치에 의해 판독될 수 있는 기록매체로서,제9항의 방법을 컴퓨터에서 실행시키기 위한 프로그램이 기록된 컴퓨터 판독 가능한 기록매체.