Doğrusal regresyon, bağımsız değişkenler (x) ile bağımlı değişken (y) arasında doğrusal bir ilişki kurarak tahmin yapan temel bir modeldir.
Mannequin, hata karelerinin toplamını en aza indirerek (en küçük kareler yöntemi) katsayıları (b değerleri) belirlemeye çalışır.Basit yorumlanabilir.
Aykırı değerlerden çabuk etkilenir.
=> Kullanım Alanları : Ev fiyat tahmini,Satış tahmini,Tıbbi araştırmalar,Enerji tüketimi
Hiperparametreler:
- fit_intercept: Modelin bir sabit terim içerip içermeyeceğini belirler. True olduğunda, veri merkezinden geçmeyen bir doğru çizilir.
- normalize: Eğitim verilerinin normalleştirilip normalleştirilmeyeceğini belirler (sklearn’in eski versiyonlarında).
- copy_X: Eğitim verilerinin kopyalanıp kopyalanmayacağını kontrol eder. False olursa, orijinal X değiştirilir.
- n_jobs: Hesaplamalar için kullanılacak iş parçacığı sayısı.
- constructive: Katsayıların pozitif olarak sınırlandırılıp sınırlandırılmayacağını belirler.
Doğrusal regresyona L2 düzenlileştirme (regularization) ekler. Büyük katsayıları cezalandırarak aşırı öğrenmeyi önlemeye yardımcı olur.
=> Kullanım Alanları : Genetik veri analizi,Ekonometri,Görüntü yeniden oluşturma
Hiperparametreler:
- alpha: Düzenlileştirme gücünü kontrol eder. Daha büyük değerler daha güçlü düzenlileştirme sağlar.
- fit_intercept: Sabit terim kullanılıp kullanılmayacağını belirler.
- normalize: Verilerin normalleştirilip normalleştirilmeyeceğini belirler.
- max_iter: Çözücünün maksimum iterasyon sayısı.
- tol: Yakınsama için tolerans.
- solver: Kullanılacak çözücü algoritması (‘auto’, ‘svd’, ‘cholesky’, ‘lsqr’, ‘sparse_cg’, ‘sag’, ‘saga’).
Doğrusal regresyona L1 düzenlileştirme ekler. Bazı katsayıları tam olarak sıfıra indirme eğiliminde olduğundan özellik seçimi için de kullanılabilir.
=> Kullanım Alanları : Gen Seçimi,Portföy optimizasyonu,Metin madenciliği,Sensör seçimi
Hiperparametreler:
- alpha: Düzenlileştirme gücünü kontrol eder. Daha büyük değerler daha fazla katsayıyı sıfıra indirir.
- fit_intercept: Sabit terim kullanılıp kullanılmayacağını belirler.
- normalize: Verilerin normalleştirilip normalleştirilmeyeceğini belirler.
- max_iter: Maksimum iterasyon sayısı.
- tol: Yakınsama toleransı.
- choice: Koordinat inişi için değişken seçim yöntemi (‘cyclic’ veya ‘random’).
Lasso ve Ridge regresyonlarının bir kombinasyonudur. Hem L1 hem de L2 düzenlileştirilmesini kullanır.
=> Kullanım Alanları : Spor analitiği,Kredi danger değerlendirmesi,Ürün öneri sistemi
- alpha: Toplam düzenlileştirme gücü.
- l1_ratio: L1 düzenlileştirmesinin oranı (0 ile 1 arasında). 0 olduğunda Ridge, 1 olduğunda Lasso olur.
- fit_intercept: Sabit terim kullanılıp kullanılmayacağını belirler.
- normalize: Verilerin normalleştirilip normalleştirilmeyeceğini belirler.
- max_iter: Maksimum iterasyon sayısı.
- tol: Yakınsama toleransı.
- choice: Koordinat inişi için değişken seçim yöntemi.
Doğrusal olmayan ilişkileri yakalamak için giriş özelliklerinin polinomiyal kombinasyonlarını kullanan bir regresyon tekniğidir.
=> Kullanım Alanları : Fiziksel sistemler,Mühendislik optimizasyonu,Tarımsal veri tahmini
Hiperparametreler:
- diploma: Polinomun derecesi. Daha yüksek değerler daha karmaşık modeller oluşturur.
- interaction_only: Sadece etkileşim terimlerinin kullanılıp kullanılmayacağını belirler.
- include_bias: Sabit terim eklenip eklenmeyeceğini belirler.
Çoklu doğrusal regresyon, birden fazla bağımsız değişken (özellik) kullanarak bir bağımlı değişkeni tahmin etmeye çalışan bir modeldir.
=> Kullanım Alanları : Ev fiyat tahmini,Öğrenci başarı tahmini,Otomobil yakıt verimliliği
Hiperparametreler:
- fit_intercept: Sabit terim (β₀) eklenip eklenmeyeceğini belirler.
- normalize: Özelliklerin normalleştirilip normalleştirilmeyeceğini kontrol eder.
- copy_X: Eğitim verilerinin kopyalanıp kopyalanmayacağını belirler.
- n_jobs: Hesaplamalar için kullanılacak paralel iş sayısı.
