Kleinste-kwadratenmethode: verschil tussen versies

Verwijderde inhoud Toegevoegde inhoud
Temmermb (overleg | bijdragen)
k Ik vind het verwarrend dat er over puntenparen wordt gesproken, terwijl over punten gaat. Verder is er op de link pagina (punt) geen vermelding van "puntenparen".
Madyno (overleg | bijdragen)
Geen bewerkingssamenvatting
Regel 7:
De kleinste-kwadratenmethode in z'n eenvoudigste, oorspronkelijke vorm is een methode om bij een gegeven [[verzameling (wiskunde)|verzameling]] [[punt (wiskunde)|punten]] in het [[xy-vlak]], die verondersteld worden (min of meer) op een rechte [[lijn (meetkunde)|lijn]] te liggen, de "best passende" lijn te bepalen. Best passen betekent dat het totaal van de [[kwadraat|gekwadrateerde]] afwijkingen in verticale zin van de punten t.o.v. de lijn zo klein mogelijk is.
 
Stellen we het ''<math>i''</math>-de meetpunt voor door <math>(x_i,y_i)</math> en de gezochte lijn door:
:<math>y=a+bx</math>
 
dan wordt de afwijking <math>d_i</math> voor dit punt gegeven door:
:<math>d_i=y_i -(a+bx_i)</math>.
 
[[Bestand:Linreg.PNG]]
 
De som van de [[kwadraat|kwadraten]] van alle afwijkingen is
:<math>\sum_{i=1}^{n}{d_i^2}=\sum_{i=1}^{n}\left(y_i -(a+bx_i)\right)^2</math>.
 
Het komt er nu op neer bij de gegeven punten de [[parameter]]s a en b zo te bepalen dat de bovenstaande [[optellen|som]] [[extreme waarde|minimaal]] is. Dit voert tot de zogeheten ''normaalvergelijkingen'' voor a en b:
:<math>a \cdot n + b \sum{ x}= \sum{ y}</math>
:<math>a \sum{ x} + b \sum{ x^2} = \sum{ xy}</math>
 
met als oplossingen
:<math>b=\frac{n\sum xy - \sum x\sum y}{n\sum x^2 - \sum x\sum x}</math>
en
:<math>a=\frac 1n\sum y -\frac 1n b\sum x=\bar{y}-b\bar{x}</math>.
 
== Generalisatie ==
Regel 34:
Wanneer het model wel hogere machten heeft of correlaties tussen parameters kent, kan via een iteratieve procedure toch vaak een goed model worden gevonden. Hiervoor moet men een aantal keren een berekening maken waarbij de lokale [[afgeleide]] van de model-[[functie (wiskunde)|functie]] wordt gebruikt. Men moet daarvoor echter wel van tevoren weten waar men ongeveer zal uitkomen, anders kan men in een verkeerd (suboptimaal) minimum uitkomen.
 
In het algemene geval worden de ''<math>n''</math> waarnemingsparen <math>\,(x_i,y_i)</math> geacht te voldoen aan:
:<math>y_i = f(x_1,\dotsldots,x_n, \beta_1,\dotsldots,\beta_m)+ u_i,</math>
 
waarin <math>\,f</math> een bekende familie van [[functie (wiskunde)|functies]] is, geparametriseerd door de ''<math>m''</math> [[parameter]]s <math>\beta_1,\dotsldots,\beta_m</math>, en <math>\,u_i</math> een storingsterm is.
 
De optimale waarden <math>b_1,\dotsldots,b_m</math> van de parameters worden bepaald door het kleinste-kwadratencriterium, dus zo dat de som van de kwadratische afwijkingen
:<math>S = \sum_{i=1}^n \left(y_i - f(x_1,\dotsldots,x_n, b_1,\dotsldots,b_m)\right)^2</math>
 
minimaal is.