본 과제는 ReLU(Rectified Linear Units) 등 미분불능함수를 포함한 제약조건부 볼록 최적화에서, 기울기 경사방법과 일차근사 최적화의 적용 가능성을 탐구하는 연구임.
연구 목표는 미분불능점을 포함한 제약 최적화의 수렴 조건과 효율적 알고리즘을 밝히는 데 있음. 핵심 연구 내용은 볼록 다면체 경계에서 Gradient 방향과 함수 특성 분석, Barrier function 기반 Interior point method에서의 일차근사 알고리즘 제안, 제약조건 내 미분불능점이 수렴성에 미치는 영향 조사, Structured Random Perturbation을 이용한 근사이론 및 기존 일차근사방법의 이론적 성질 검토임. 기대 효과는 신경망 모형의 실행가능영역 내 미분불능점 계산을 효율화하고, 제약조건이 있는 신경망 최적화 구현과 함수공간 복잡도 연구에 기여하는 데 있음.