Sympy를 사용한 함수, 행렬의 미분과 적분

예측 모형의 성능

• 성능함수 : 모수를 결정하여 성능을 측정하는 함수
• 손실함수 : 오차(e)가 가장 작아지는 함수
• 목적함수 : 최적화의 대상이 되는 모든 함수 (성능, 손실, 오차)
• 최적화 : 목적 함수를 가장 크거나 작게 만드는 함수
• 미분 : 입력값이 변했을때 출력값이 어떻게 변하는지 확인하는 행위

기울기

• x와 y의 증감에 대한 민감도
• 

수치 미분

• 수치적으로 대략적인 기울기

from scipy.misc import derivative

print(derivative(f, 0, dx=1e-6))
print(derivative(f, 1, dx=1e-6))

1.000000000001
-2.000000000002

• scipp.misc의 derivative() 로 사용

미분

• 어떤 함수로부터 그 함수 기울기를 출력하는 새로운 함수를 만들어내는 작업
• 도함수 : 미분으로 만들어진 함수

미분 가능

• 미분 가능 : 기울기를 구할수 있다.
• 미분 불가능 : 기울기를 구할수 없다

미분 공식

• 기본 미분공식
• 선형 조합법칙
• 곱셈 법칙
• 연쇄 법칙

기본 미분 공식

상수

거듭제곱 

로그

지수

미분의 법칙

선형 조합 법칙

• 어떤 함수에 각각 상수를 곱한 후 더한 선형조합은 각 함수의 도함수를 선형조합 한것과 같다
• 

곱셈 법칙

• 어떤 함수의 형태가 두 함수를 곱한것과 같을땐 다음과 같이 각 개별 함수의 도함수를 사용하여 원래 함수의 도함수를 구하는것
• 

연쇄 법칙

• 미분하고자 하는 함수의 입력 변수가 다른 함수의 출력 변수인 경우 적용
• 

2차 도함수

• 도함수를 한번 더 미분하여 만들어진 함수
• 2차 도함수의 값이 양수면 볼록하다
• 2차 도암수의 값이 음수면 오목하다

편미분

• 함수가 둘 이상의 독립변수를 가지는 다변수 함수인 경우에도 미분 즉, 기울기는 하나의 변수에 대해서만 구할 수 있다
• 편미분의 결과로 하나의 함수에 대해 여러 도함수가 나올 수 있다.
• 어떤 하나의 독립변수에 대해 미분할때는 다른 독립변수를 상수로 취급

다변수 함수의 연쇄 법칙

• 다변수 함수의 미분을 구할 때도 함수가 연결되어 이으면 연쇄 법칙이 적용된다.

2차 편미분

• 편미분에 대해 2차 도함수를 정의한것
• 슈와르츠 정리 : 함수가 연속이고 미분 가능하다면 미분의 순서는 상관없다

테일러 전개

• 함수의 기울기를 근사화 하는것

Sympy

• symbolic 연산을 지원하는 파이썬 패키지

x = sympy.symbols('x')

• symbols()로 변수를 지정, 여러개 동시에 가능

# 함수 정의
f = x * sympy.exp(x)

# 함수 미분
sympy.diff(f)

• diff()로 미분

sympy.simplify(sympy.diff(f))

• simplify()로 소인수 분해

2024.11.09 - [Data Science/Statistics & Math] - Sympy를 사용한 함수, 행렬의 미분과 적분 - 2

Sympy를 사용한 함수, 행렬의 미분과 적분 - 2

2024.11.09 - [Data Science/Statistics & Math] - Sympy를 사용한 함수, 행렬의 미분과 적분 - 3

Sympy를 사용한 함수, 행렬의 미분과 적분 - 3