Loss Surface Contains Every Low-Dimensional Pattern

Loss Surface

• 선행논문읽기 "Loss Landscape Sightseeing"

• 논문 보고, 2D Surface 그리기.

(PT #1)

만약에 어떠한 함수가 립시츠 함수라는 뜻은, 주어진 구간안에서 함수 값의 변화량의 범위가 제한된 함수라는 뜻이다. 따라서, 변형시키는 함수는 립시츠 함수라는 조건이 붙었으므로, 이 함수의 변화량은 닫힌 공간안에 a, b 로 제한할 수 있다.

(Lipschitz Formula)