Least  Square

과학적, 공학적 실험에서 물리량의 측정은 일반적으로 다소 부정확하다. 이것은 인간의 오차 때문일 것이다. 그러나 측정을 하는 도구 그 자체의 한계 때문인 경우가 더 많다.......  를 구하기 위해, 2 개의 관련된 값  와  의 측정이 포함되는 실험을 살펴보자. 실험에서  의 다양한 값을 선택하여 이라 놓고 이에 대응되는  값을 측정한다. 실제측정값을 이라 놓고 다음과 같은 결과가 얻어졌다.

표 1  실험결과

그림 1  표 1 의 실험결과에 대한 프로그램

이것이 타당하다고 가정하면 를 결정하는 문제는 상수 과  를 결정하는 것으로 좁혀질 수 있다. 의 근사값을 결정하기 위해 오차 ( , ) 에 대한 가정이 필요하다. 이러한 오차가 정상확률분포 (normal probability distribution) 에서 선택한 무작위변수 (random variable) 이라고 가정하는 것이다. . ...... 이 가정을 만족하는 오차는 다음의 성질을 갖고 있다.

(1) 만약 에 대한 실험을 많이 반복한다면 실험값 에서 관련된 미지의 오차 의 평균은 0 이다.

(2) 같은 실험의 경우 의 크기가 커짐에 따라, 그것이 발생할 우도 (likelihood) 는 급격히 감소할 것이다.

..... 가 표 1 에 있는 데이터처럼 선형함수라고 가정한다. 그러면 함수 중에서 와 거의 같은 함수 은 다음의 식으로 최소화될 것이다.

이것을 에 대한 데이터 의 근사값에서의 평균제곱근 (root-mean-square) 오차라고 부른다. C 에 있는 함수 에 관련된 E 를 최소화하는 함수 는 데이터 에 대한 최소자승근사값 (least square approximation) 이라고 한다 ............... (Least Square Data Fitting : Kendall Atkinson)

term :

수치해석 (Numerical Analysis)   수학 (Mathematics)   최소자승 (Least Square)   우도 (Likelihood)   예측 (Prediciton)   불확실성 (Uncertainty)    통계 (Statistics)   시계열분석 (Time Series Analysis)   회귀분석 (Regression Analysis)    추론 (Reasoning)  패턴인식 (Pattern Recognition)

site :

Wikipedia : Least squares