본 연구진은 본 연구과제를 통해 기존의 중견 과제에서 개발한 적대적 공격에 대한 연구를 바탕으로 안전하고, 신뢰 가능한 인공지능 시스템을 구축하고자 함. 기존의 연구 성과인 적대적 공격에 대한 노이즈, 매니폴드 기술, 도메인 적응 기술 등을 통해 모델의 안전성, 신뢰성을 높일 수 있는 노이즈 기반 차분 프라이버시 모델을 개발하고, 분산장부 기술을 온라인 ...

플러그앤플레이 방식의 설명가능 인공지능 기술 개발을 위해 정의한 세 가지 구성요소에 대해 다음과 같은 연구 진행 [플랫폼] - 플러그앤플레이 XAI 매니저 개발 - 커널-모드 플러그앤플레이 매니저 시제품 개발 - 유저-모드 플러그앤플레이 매니저 시제품 개발 - 플러그앤플레이에 이용될 XAI 기법 기술 조사 - 플러그앤플레이 매니저 확장 방안 설계 [알고리즘] - 시계열 생성, 예측, 분류 모델에서 센서의 결함으로 인해 발생한 시계열 잡음을 표현하는 모델 내부 유닛을 확인하고 수정하는 방법 개발 - 언어 생성모델에서 생성 결과에 결함을 유발하거나 특정 지식을 내포한 내부 유닛을 확인하고 수정하는 방법 개발 - 음성 생성모델에서 생성 결과에 결함을 유발하는 내부 유닛을 확인하고 수정하는 방법 개발 - 이론적으로 엄밀한 경사 집적 기반 입력 기여도 알고리즘 개발 - 섭동 기반의 알고리즘으로 인과해석에 대한 설명가능성을 제공하는 기술개발 - 네트워크 예측과정에 대한 간섭 및 개입으로 의사 결정과 의미론적 정보를 해석할 수 있는 기술개발 - 모델 매개변수 공간 정보를 사용한 의사결정 설명 기술 개발 - 설명 가능한 신경망의 플러그앤플레이 기술 개발 - 의료영상 진단 인공지능 모델에 범용적으로 적용 가능한 신경망 해석 플러그앤플레이 모듈 개발 - 해석 가능한 시계열 데이터의 이산화 연구 - 설명가능한 행동 표현 및 이를 토대로 한 계획적(programmatic) 강화학습 기법 연구 - 입력 내 목표 객체에 따라 적절한 설명을 제공할 수 있는 복합 설명 기술 및 인터페이스 개발 - 다양한 도메인 및 용도에 따라 달라지는 사용자 맞춤형 복합 설명 기술 개발 - 다양한 종류의 고차원 데이터를 판단하는 인공지능을 직관적으로 설명할 수 있는 복합 설명 기술 개발 - 재학습이 불필요한 설명가능한 모델 성능평가 기술 개발 [인터페이스/표준화] - XAI 사용자경험 평가 체계 개발 - 시각 인식 지능 특성을 고려한 XAI 기술 설계 및 개발/적용 - 플러그앤플레이 XAI 적용 서비스 요구사항 분석

플러그앤플레이 방식의 설명가능 인공지능 기술 개발을 위해 정의한 세 가지 구성요소에 대해 다음과 같은 연구 진행 [플랫폼] - 플러그앤플레이 모델 설계 - XAI 플랫폼의 관련 자료 및 문헌 조사 - 코난 테크놀로지 프레임워크와 XAI플랫폼 연동 설계 - XAI 지원을 위한 프레임워크 확장 요구분석 [알고리즘] - 설명성을 고려하지 않고 이미 학습된 임의의 XGBoost 모델의 의사결정 과정을 설명하는 기술 개발 - 경사 집적 기반 입력 기여도 알고리즘 개발 - 생성모델의 내부 유닛 중 결함이 있는 이미지를 생성하는 유닛을 확인하는 기술 개발 - 생성모델 내부 유닛 중 창의적인 이미지 결과를 생성하는 유닛을 확인하는 기술 개발 - 섭동 기반 설명가능성을 제공하기 위한 실험환경 설정 및 구축 - 섭동 기반 플러그앤플레이 방식으로 설명가능성을 제공하기 위한 해석기법 분석 개발 - 추상적 개념을 사용한 트랜스포머 모델 설명 연구 - 심층학습 알고리즘의 내재적 편향 연구 및 설명 가능한 신경망 설계 - 훈련된 의료영상 진단 네트워크 모델의 설명가능성 연구 - 시계열 데이터의 이산화 연구 - 설명 가능한 환경 상태(state) 표현 및 역학(dynamics) 모델링 기법 연구 - 플러그앤플레이를 지원가능한 설명가능 인공지능 핵심 연구 동향 조사 - 다양한 모델 및 데이터에 범용적으로 적용 가능한 입력 기여도 기반 의사결정에 대한 시각적 이유 설명 기술 개발 - 금융 도메인에서 인공지능 모델의 의사결정을 변경할 수 있는 반사실 설명 기술 개발 - 고차원 데이터를 분류 및 분석할 수 있는 설명 가능한 인공지능 모델 개발 - 학습된 모델, 데이터, 개발 환경 등에 독립적인 설명가능성 제공 모델 개발 [인터페이스/표준화] - XAI 사용자경험 개념 프레임워크 개발 - 입력 섭동 기반의 P&P 구조의 시각 XAI 기술 설계 및 개발 - 플러그앤플레이 XAI 적용 시나리오 분석 - 플러그앤플레이 XAI 적용 시나리오 기반 유즈케이스 분석

설명 가능성을 고려하지 않은 AI 시스템에 플러그앤플레이 형태로 결합하여 재학습 없이 설명을 제공하는 범용적인 설명가능 기술 개발플러그앤플레이 방식의 설명가능 인공지능 기술 개발을 위해 다음의 세 가지 구성요소를 정의 및 개발- (플랫폼) 플러그앤플레이 방식으로 인공지능 모델과 결합하여 모델의 세부 구조를 자동으로 파악하고 적합한 설명가능 기술을 자동으로 ...