신뢰가능 AI 소프트웨어 개발 성숙도 및 거버넌스 연구

Trustworthy AI Software Development Maturity and Governance

연구 내용

AI-MM 성숙도 모델을 기반으로 편향·안전성 요구를 반영한 신뢰가능 AI 소프트웨어 개발 프로세스를 설계하고 평가하는 연구

AI 소프트웨어는 데이터에 의해 기능이 학습되므로 학습 데이터 편향이 공정성 및 안전성 문제로 이어질 수 있습니다. 본 연구는 SPICE(ISO/IEC 15504) 계열 성숙도 틀에 AI 고유 프로세스와 공정성 중심 프로세스를 결합한 AI-MM을 제안하고, 실제 AI 프로젝트에 적용해 성숙도 수준을 측정합니다. 이후 개인정보 컴플라이언스와 Open-ended Alignment 요구를 하이브리드 인공지능 관점에서 연계하여, 규칙기반 전문가 시스템과 sLLM을 포함한 개발·검증 워크플로우를 구체화합니다.

관련 프로젝트

4건

연구 흐름

초기에는 AI 소프트웨어 개발에서 필요한 공정성 및 신뢰성 요소를 기존 성숙도 모델에 정합적으로 반영하는 방향으로 AI-MM을 구성하고, 실제 프로젝트에 적용해 성숙도 측정 가능성과 개선 지침을 도출했습니다. 이후에는 개인정보 컴플라이언스 문제를 규칙기반 전문가 시스템과 오픈웨이트 기반 sLLM의 결합으로 다루며, 실시간 적응형 절차를 목표로 연구를 확장했습니다. 동시에 Open-ended Alignment 연구를 통해 변화하는 환경과 가치에 대한 지속부합 요구를 평가·개선 관점에서 정리하는 흐름을 유지했습니다.

활용 가능성

활용 가능성은 알앤디써클 특화 AI 에이전트가 생성한 내용으로, 실제 연구 가능 여부는 연구실과의 논의가 필요합니다.

AI 소프트웨어 성숙도 평가
데이터 편향 점검 체계
공정성·안전성 요구 검증
개인정보 컴플라이언스 자동화
하이브리드 법률 추론 파이프라인
규정 기반 sLLM 적용 프레임워크
AI 거버넌스 문서화 도구
안전 프로세스 감사 체크리스트
책임있는 개발 워크플로우
Open-ended alignment 검증 절차