Değişkenler arasında bulunduğu varsayılan gerçek doğrusal ilişki,tek bir serbest değişken içeren bir doğru denklemi ile gösterilirse basit doğrusal regresyon modeli elde edilir. Ana kütle için bu denklem şu şekilde yazılabilir:

 

Y i    = α + β x i  + ε

 

Burada  ε ile gösterilen değer hata(error) terimidir.

Bu modelin   “α ve β” parametrelerini bulmak için x serbest değişkeni ve Y bağımlı değişkeni ile ilgili gözlemlere ihtiyaç vardır. Bu değişkenlerin ana kütlelerini oluşturan bütün değerleri bilmek imkansız olduğu için örneklemeye başvurulur. Böylelikle α ve β parametrelerinin tahmini olan “ a ve b” katsayıları bulunabilir. Örnek için de aynı denklem ;

 

y= a + bx + e

Şeklinde yazılır.

α ve β parametrelerinin bir tahmini olan “a ve b” katsayıları “en küçük kareler yöntemi” kullanılarak hesaplanabilir.

Elimizde gözlemle elde ettiğimiz n adet ikili değerler( x ve y ) varsa ve aralarında doğrusal bir ilişkinin olduğu tahmin ediliyorsa bunları bir doğru denklemi ile ifade edebiliriz. Bu durumda her x değeri için iki tane y değeri olacaktır. Bunlardan birincisi ölçülen gerçek y değeri, diğeri ise denklemle elde edilen teorik y değeridir. Bu iki değer arasındaki farklar i. gözlem için:

 

e = y i  – (a + b x i  )

 

şeklindedir.farkların kareleri toplamının minimum olması gerektiğinden

 

Σ e2 =  Σ (y i  – (a+ b x i))2 = minimum yazılır. (i= 1,…,n)

 

Denklemi minimum yapmak için a ve b katsayılarına göre kısmi türev alınarak sıfıra eşitlenir.

 

de

____          = 2 Σ (-1)(y-a-bx) =- Σy + n*a +b Σ x =0

da

 

de

____        = 2 Σ (-x)(y-a-bx) =- Σxy + a Σ x +b Σ x2 =0

db

 

Negatif işaretli terimler eşitliğin sağ tarafına geçirilir ve normal denklemler aşağıdaki gibi elde edilir.

Σy  = n*a +  b Σ x

Σxy = a Σ x +b Σ x2

 

 

Regresyon denklemindeki a katsayısı sabit olduğu için iki değişken arasındaki ilişkiyi göstermemektedir. Bundan dolayı testler b katsayısı için yapılır. Testlerin amacı değişkenler arasındaki ilişkinin güçlü olup olmadığını araştırmaktır. Hipotezler şu şekilde yazılırlar:

 

H0 : B = 0 (Ana kütlede x deki bir birimlik değişim y yi  etkilememektedir,iki değişken arasında         ilişki yoktur. )

H1 : B ≠ 0 (Ana kütlede x deki  bir birimlik değişme y de önemli bir değişme yapar.iki değişken arasındaki ilişki önemlidir. )

Anlamlılık düzeyi( α ) bu testlerde küçük tutulmakta genellikle %1 veya %5 kullanılmaktadır. Örnek regresyon katsayısının standart değişkene dönüştürülmesi  için aşağıdaki durumlar dikkate alınır:

n < 30 ise (n-2) serbestlik derecesi alınarak t dağılımı, n≥ 30 ise z(normal dağılım) kullanılır. Standart değişkenler şu şekilde hesaplanmaktadır.

b – B                                          b – B

t =    ______                           z =______

S b                                             S b

 

S b , b katsayısının standart hatasının tahmini olup aşağıdaki gibi hesaplanır:

S y x

S b =        _______

√ Σ ( x-x )2

S y x    örnek için hesaplanan basit doğrusal regresyon denkleminin standart hatasıdır ve iki şekilde hesaplanmaktadır:

 

TOP