우리는 고차원 정칙화된 Huber 회귀를 위한 정확한 좌표 하강(코디네이트 디센트) 알고리즘을 개발한다. 복합 그래디언트 하강(composite gradient descent) 방법과 달리, 본 알고리즘은 기본 모형이 희소(sparse)할 때 좌표 하강이 갖는 장점을 충분히 활용한다. 또한 기존 문헌에서 제안된 기존의 2차 근사 기법과 달리, 공변량이 중거포(heavy-tailed) 분포에서 추출되어 상관관계가 높아짐으로써 Hessian이 조건수(ill-conditioned)를 악화시키더라도 그 효과는 유지된다. 핵심 아이디어는 각 좌표에 대해 한계 증분(marginal increments)이 오직 이상치가 아닌(inlier) 관측에서만 발생하는 반면, 도함수는 부분 잔차(partial residuals)로부터 구성된 격자(grid) 위에서 단조 증가한다는 점에 있다. 통상적인 좌표 하강 전략을 바탕으로, 우리는 각 반복에서 어떤 변수를 업데이트할지를 선택적으로 결정하는 변수 선별(variable screening) 규칙을 추가로 제안하여 수렴을 가속한다. 우리가 아는 한, 이는 벌점화된 Huber 손실 최적화를 위한 1차 좌표 하강 알고리즘을 개발한 최초의 연구이다. 우리는 Lasso에 대해 개발된 논증을 확장함으로써 제안된 알고리즘의 비점근적(nonasymptotic) 수렴률을 상계(upper bound)로 제시하고, 제안된 선별 규칙의 작동을 형식적으로 특성화한다. 중거포 및 고도로 상관된 예측변수에 대한 광범위한 시뮬레이션 연구와 실제 데이터 적용 결과는, 본 방법의 실용적 효율성과 계산적 향상의 이점을 모두 보여준다.
*본 초록은 AI를 통해 원문을 번역한 내용입니다. 정확한 내용은 하기 원문에서 확인해주세요.