반응형
SMALL
예측 모형의 성능
- 성능함수 : 모수를 결정하여 성능을 측정하는 함수
- 손실함수 : 오차(e)가 가장 작아지는 함수
- 목적함수 : 최적화의 대상이 되는 모든 함수 (성능, 손실, 오차)
- 최적화 : 목적 함수를 가장 크거나 작게 만드는 함수
- 미분 : 입력값이 변했을때 출력값이 어떻게 변하는지 확인하는 행위
기울기
- x와 y의 증감에 대한 민감도
수치 미분
- 수치적으로 대략적인 기울기
from scipy.misc import derivative
print(derivative(f, 0, dx=1e-6))
print(derivative(f, 1, dx=1e-6))
1.000000000001
-2.000000000002
- scipp.misc의 derivative() 로 사용
미분
- 어떤 함수로부터 그 함수 기울기를 출력하는 새로운 함수를 만들어내는 작업
- 도함수 : 미분으로 만들어진 함수
미분 가능
- 미분 가능 : 기울기를 구할수 있다.
- 미분 불가능 : 기울기를 구할수 없다
미분 공식
- 기본 미분공식
- 선형 조합법칙
- 곱셈 법칙
- 연쇄 법칙
기본 미분 공식
상수
거듭제곱
로그
지수
미분의 법칙
선형 조합 법칙
- 어떤 함수에 각각 상수를 곱한 후 더한 선형조합은 각 함수의 도함수를 선형조합 한것과 같다
곱셈 법칙
- 어떤 함수의 형태가 두 함수를 곱한것과 같을땐 다음과 같이 각 개별 함수의 도함수를 사용하여 원래 함수의 도함수를 구하는것
연쇄 법칙
- 미분하고자 하는 함수의 입력 변수가 다른 함수의 출력 변수인 경우 적용
2차 도함수
- 도함수를 한번 더 미분하여 만들어진 함수
- 2차 도함수의 값이 양수면 볼록하다
- 2차 도암수의 값이 음수면 오목하다
편미분
- 함수가 둘 이상의 독립변수를 가지는 다변수 함수인 경우에도 미분 즉, 기울기는 하나의 변수에 대해서만 구할 수 있다
- 편미분의 결과로 하나의 함수에 대해 여러 도함수가 나올 수 있다.
- 어떤 하나의 독립변수에 대해 미분할때는 다른 독립변수를 상수로 취급
다변수 함수의 연쇄 법칙
- 다변수 함수의 미분을 구할 때도 함수가 연결되어 이으면 연쇄 법칙이 적용된다.
2차 편미분
- 편미분에 대해 2차 도함수를 정의한것
- 슈와르츠 정리 : 함수가 연속이고 미분 가능하다면 미분의 순서는 상관없다
테일러 전개
- 함수의 기울기를 근사화 하는것
Sympy
- symbolic 연산을 지원하는 파이썬 패키지
x = sympy.symbols('x')
- symbols()로 변수를 지정, 여러개 동시에 가능
# 함수 정의
f = x * sympy.exp(x)
# 함수 미분
sympy.diff(f)
- diff()로 미분
sympy.simplify(sympy.diff(f))
- simplify()로 소인수 분해
2024.11.09 - [Data Science/Statistics & Math] - Sympy를 사용한 함수, 행렬의 미분과 적분 - 2
2024.11.09 - [Data Science/Statistics & Math] - Sympy를 사용한 함수, 행렬의 미분과 적분 - 3
반응형
SMALL
'Data Science > Statistics & Math' 카테고리의 다른 글
Sympy를 사용한 함수, 행렬의 미분과 적분 - 3 (0) | 2024.11.11 |
---|---|
Sympy를 사용한 함수, 행렬의 미분과 적분 - 2 (0) | 2024.11.10 |