현대적 언어 모델은 풍부한 내부 구조를 보이지만, 개인정보 식별 정보(personally identifiable information, PII) 유출과 같은 개인정보 보호에 민감한 행동이 은닉 상태(hidden states) 내에서 어떻게 표현되고 조절되는지에 대해서는 거의 알려져 있지 않다. 본 연구에서는 보편적 활성 방향(universal activation directions)을 식별하는 기전-해석가능성(mechanistic-interpretability) 프레임워크인 UniLeak을 제시한다. 이는 모델의 잔차 스트림(residual stream)에 존재하는 잠재 방향(latent directions)으로, 추론(inference) 시 해당 방향을 선형적으로 더하면 프롬프트 전반에 걸쳐 PII를 생성할 가능성이 일관되게 증가하는 방향을 의미한다. 이러한 모델-특정 방향은 다양한 맥락에 대해 일반화되며, 생성 품질에 미치는 영향은 최소화하면서 PII 생성 확률을 증폭한다. UniLeak은 학습 데이터나 PII에 대한 정답(groundtruth)에 접근하지 않고도, 자기 생성 텍스트(self-generated text)에만 의존하여 이러한 방향을 복원한다. 여러 모델과 데이터셋에 걸친 실험에서, 이 보편적 방향을 따라 조종(steering)하면 기존의 프롬프트 기반 추출 방법에 비해 PII 유출이 실질적으로 증가한다. 본 결과는 PII 유출에 대한 새로운 관점을 제공한다. 즉, 모델 표현 내에 잠재 신호(latent signal)가 중첩(superposition)되어 있으며, 이를 통해 위험의 증폭과 완화가 모두 가능하다는 것이다.

*본 초록은 AI를 통해 원문을 번역한 내용입니다. 정확한 내용은 하기 원문에서 확인해주세요.