초록:
본 연구는 비볼록 함수의 복잡한 지형에서 최적화 알고리즘이 가지는 수렴 특성을 비교·분석하고, 함수의 형태적 특성에 따라 가장 적합한 최적화 기법을 추천하는 알고리즘 개발을 목적으로 한다. Rosenbrock, Himmelblau, Rastrigin, Ackley, Styblinski–Tang, Six-hump Camel, Non-convex Quadratic 등 대표적 비볼록 함수를 대상으로 Gradient Descent, Momentum, Adagrad, RMSprop, Adam을 실험하였다. 각 함수의 이방성, 다봉성, 평탄영역, 곡률 변화에 따른 기법별 수렴 경향을 시각화하였고, Adam과 RMSprop이 다수의 비볼록 함수에서 가장 안정적이고 빠른 수렴을 보였다. 이를 통해 함수 성질 기반의 최적화 알고리즘 추천 시스템 구축 가능성을 제 시하였다.
주제어: 비볼록 함수, 최적화 알고리즘, 수렴 특성, 적응형 학습률, 전역 최적화 I.