본 연구는 전립선적출술에 의해 병리학적으로 확진된 병변과 MRI 간의 1:1 상관관계를 이용하여, 양성 전립선 비대증(BPH) 배경에서 이행대(transition zone) 전립선암(TZPCa)의 검출을 향상시키기 위한 텍스처 기반 기계학습과 영상 기반 딥러닝의 성능을 탐색하고자 하였다. 방사선수술을 통한 근치적 전립선적출술로 TZPCa로 확진된 70명의 환자와, TZPCa가 없는 BPH로 확진된 29명의 환자가 포함되었다. 텍스처 분석을 위해 영상의학과 전문의가 T2WI에서 병리학적으로 상관된 TZPCa의 병변 영역과 주변 BPH에 대해 관심영역(ROI)을 그렸다. 유의한 특징은 Least Absolute Shrinkage and Selection Operator(LASSO)로 선택하였고, 3종의 기계학습 알고리즘(로지스틱 회귀[LR], 서포트 벡터 머신[SVM], 랜덤 포레스트[RF])으로 학습한 뒤 leave-one-out 방법으로 검증하였다. 영상 기반 기계학습에서는 TZPCa와 TZPCa가 없는 BPH 영상을 모두 합성곱 신경망(CNN)으로 학습하고 10-fold 교차 검증을 수행하였다. 각 방법에 대해 민감도, 특이도, 양성 예측값 및 음성 예측값을 제시하였다. 또한 ROC 곡선과 AUC 값을 이용하여 제시된 진단 성능을 비교하였다. 3가지 텍스처 기반 기계학습 알고리즘은 AUC가 유사하게 나타났으며(0.854-0.861), 전반적으로 높은 특이도(0.710-0.775)를 보였다. 영상 기반 딥러닝은 높은 민감도(0.946)와 양호한 AUC(0.802), 중등도의 특이도(0.643)를 보였다. 텍스처 기반 기계학습은 높은 AUC 값을 바탕으로 사람에서 의심되는 TZ 병변의 진단을 위한 보조 도구로 활용될 수 있을 것으로 기대된다. 영상 기반 딥러닝은 임상적으로 의심되는 TZPCa의 맥락에서 민감도가 높다는 근거에 따라 의심 TZ 병변을 발견하기 위한 선별 도구로 활용될 수 있다.