행렬 미분행렬을 입력이나 출력으로 가지는 함수를 미분벡터 x -> 스칼라 f행렬 x -> 스칼라 f스칼라 x -> 벡터 f벡터 x -> 행렬 f벡터 x -> 벡터 f벡터 x -> 행렬 f스칼라를 벡터로 미분그레디언트 벡터 : 스칼라를 벡터로 미분하는 경우 경과를 열벡터로 표시퀴버 플롯 : 컨투어 플롯 위에 그레디언트 벡터를 화살표로 나타낸 플롯그레디언트 벡터의 그기는 기울기를 의미하며, 벡터의 크기가 클수록 함수 곡면의 기울기가 커진다.그레디언트 벡터의 방향은 함수 곡면의 기울기가 가장 큰 방향, 즉 단위 길이당 함수값(높이)이 가장 크게 증가하는 방향을 가리킨다.그레디언트 벡터의 방향은 등고선 방향과 직교한다. 행렬 미분 법칙선형 모형선형 모형을 미분하면 그레디언트 벡터는 가중치다/li>이차형식이차형식..

적분부정적분정확하게 미분과 반대되는 개념, 즉 만 미분도함수 -> 함수를 도출해내는 작업편미분의 부정적분편미분을 한 도함수에서 원래의 함수를 찾는 작업다차 도함수와 다중적분미분을 여러번 한 결과로 나온 다차 도함수로부터 원래의 함수를 찾아내려면 여러번 적분을 하는 다중적분이 필요Sympy를 이용한 부정적분import sympysympy.init_printing(use_latex='mathjax')x = sympy.symbols('x')f = x * sympy.exp(x) + sympy.exp(x)sympy.integrate(f)x, y = sympy.symbols('x y')f = 2 * x + ysympy.integrate(f, x)symyp.integrate()로 부정적분함정적분독립변수x가 어떤 구간..

예측 모형의 성능성능함수 : 모수를 결정하여 성능을 측정하는 함수손실함수 : 오차(e)가 가장 작아지는 함수목적함수 : 최적화의 대상이 되는 모든 함수 (성능, 손실, 오차)최적화 : 목적 함수를 가장 크거나 작게 만드는 함수미분 : 입력값이 변했을때 출력값이 어떻게 변하는지 확인하는 행위기울기x와 y의 증감에 대한 민감도수치 미분수치적으로 대략적인 기울기from scipy.misc import derivativeprint(derivative(f, 0, dx=1e-6))print(derivative(f, 1, dx=1e-6))1.000000000001-2.000000000002scipp.misc의 derivative() 로 사용미분어떤 함수로부터 그 함수 기울기를 출력하는 새로운 함수를 만들어내는 작업도..