클라이언트, AI 모델의 개발자, 감독자, 데이터 제공자를 위한 응용 프로그래밍 인터페이스(API, Application Programming Interface)를 구비하고, 프로세서가 상기 API를 통해 입출력되는 프로그램에 기반하여 상기 클라이언트, AI 모델의 개발자, 감독자 및 데이터 제공자 중 적어도 하나 이상의 사용자와의 상호 작용을 통해 신뢰 환경을 구축하는 프레임워크를 이용하여 AI 모델의 공정성을 검증하는 방법에 있어서, 상기 AI 모델의 개발자가 상기 API를 통해 AI 모델의 공정성 검증을 요청하는 단계;상기 감독자가 상기 API를 통해 상기 공정성 검증이 요청된 AI 모델에 대한 원격 검증을 수행하는 단계; 및 상기 원격 검증 결과에 따라 상기 AI 모델의 공정성에 대한 인증서를 발급하는 단계;를 포함하고,상기 원격 검증을 수행하는 단계는, 상기 AI 모델을 구성하는 베이스 코드 중 공개 조사 영역과 비공개 조사 영역을 구분하는 단계; 및상기 공개 조사 영역에 대해서만 공정성 지표를 산출하는 단계;를 포함하는 방법.

제1항에 있어서, 상기 원격 검증을 수행하는 단계는,상기 AI 모델에 대한 검증 데이터 및 추론 결과에 대한 격리 실행을 통해 소정의 공정성 지표(fairness metric)를 산출하고, 상기 산출한 공정성 지표가 소정의 기준 이상인지를 검증하는 것인, 방법.

삭제

제1항에 있어서, 상기 AI 모델의 검증을 위한 검증 데이터를 수집하는 단계; 및상기 검증 데이터를 암호화하여 저장하는 단계;를 더 포함하고, 상기 프로세서는 상기 원격 검증을 수행하는 단계에 앞서 상기 암호화된 검증 데이터를 신뢰 컴퓨팅 베이스(TCB) 하에서 복호화함으로써 상기 검증 데이터에 포함된 민감 정보를 상기 원격 검증에 필요한 범위에서만 사용하는 것을 포함하는, 방법.

제4항에 있어서,상기 검증 데이터를 수집하는 단계는,상기 AI 모델의 공정성 검증을 위한 검증 데이터를 소정의 취합 엔클레이브(aggregation enclave)에 수집하는 단계;를 포함하고,상기 원격 검증을 수행하는 단계는, 상기 AI 모델의 개발자로부터 획득한 예측된 추론 결과와, 상기 소정의 취합 엔클레이브 내 수집된 검증 데이터를 이용하여 상기 AI 모델로부터 추론되는 추론 결과를 비교하는 단계; 상기 비교 결과로부터 상기 AI 모델에 대한 공정성 지표를 산출하는 단계; 및상기 산출한 공정성 지표에 기초하여 상기 AI 모델의 공정성 검증을 수행하는 단계;를 포함하는, 방법.

삭제