Regresi linier jaring elastik menggunakan hukuman dari kedua teknik lasso dan rabung untuk mengatur model regresi. Teknik ini menggabungkan kedua-dua LASO LASSO LASSO, kependekan dari Pengurangan Penyusutan Mutlak dan Pemilihan Seleksi, adalah formula statistik yang tujuan utamanya adalah pemilihan ciri dan regulasi dan kaedah regresi rabung dengan belajar dari kekurangan mereka untuk memperbaiki regulasiisasi model statistik.
Kaedah jaring elastik bertambah baik pada keterbatasan lasso, iaitu, di mana lasso mengambil beberapa sampel untuk data dimensi tinggi, prosedur jaring elastik memberikan kemasukan bilangan "n" pemboleh ubah hingga tepu. Dalam kes di mana pemboleh ubah adalah kumpulan yang sangat berkorelasi, lasso cenderung memilih satu pemboleh ubah dari kumpulan tersebut dan mengabaikan yang lain sepenuhnya.
Untuk menghilangkan batasan yang terdapat dalam lasso, jaring elastik menyertakan ekspresi kuadratik (|| β || 2) dalam penalti, yang, ketika digunakan secara terpisah, menjadi regresi rabung. Ungkapan kuadratik dalam penalti meningkatkan fungsi kehilangan menjadi cembung. Jaring elastik menggunakan yang terbaik dari kedua dunia - iaitu regresi lasso dan rabung.
Dalam prosedur mencari estimator kaedah jaring elastik, terdapat dua tahap yang melibatkan teknik lasso dan regresi. Mula-mula mencari pekali regresi rabung dan kemudian melakukan langkah kedua dengan menggunakan penyusutan koefisien semacam lasso.
Oleh itu, kaedah ini menjadikan pekali dalam dua jenis pengecutan. Pengecutan berganda dari versi naif dari jaring elastik menyebabkan kecekapan rendah dalam ramalan dan bias tinggi. Untuk membetulkan kesan seperti itu, pekali diubah semula dengan mengalikannya dengan (1 + λ 2 ).
Ringkasan Pantas
- Kaedah jaring elastik melakukan pemilihan dan pengubahsuaian berubah secara serentak.
- Teknik jaring elastik paling sesuai di mana data dimensi lebih besar daripada bilangan sampel yang digunakan.
- Pemilihan pengelompokan dan pemboleh ubah adalah peranan utama teknik jaring elastik.
Geometri Bersih Elastik
Ketika diplot pada satah Cartesian, jaring elastik jatuh di antara plot regresi rabung dan lasso, kerana ia adalah gabungan kedua kaedah regresi tersebut. Plot untuk jaring elastik juga menunjukkan keunikan di bucu, yang penting untuk kelangkaan. Ia juga menunjukkan tepi cembung yang ketat di mana cembung bergantung pada nilai α.
Cembung juga bergantung kepada kesan pengelompokan yang bergantung pada korelasi Korelasi Korelasi A adalah ukuran statistik hubungan antara dua pemboleh ubah. Ukuran paling baik digunakan dalam pemboleh ubah yang menunjukkan hubungan linear antara satu sama lain. Kesesuaian data dapat ditunjukkan secara visual dalam petak penyebaran. daripada pemboleh ubah yang dipilih. Semakin tinggi korelasi pemboleh ubah, semakin tinggi kesan pengelompokan, dan, dengan itu, semakin tinggi jumlah pemboleh ubah yang disertakan dalam sampel.
Pemilihan Pembolehubah
Pembentukan model memerlukan pemilihan pemboleh ubah untuk membentuk subkumpulan ramalan. Jaring elastik menggunakan pendekatan masalah p >> n, yang bermaksud bahawa bilangan nombor ramalan lebih tinggi daripada jumlah sampel yang digunakan dalam model. Jaring elastik sesuai apabila pemboleh ubah membentuk kumpulan yang mengandungi pemboleh ubah bebas yang sangat berkorelasi Pemboleh ubah Bebas Pemboleh ubah bebas adalah input, andaian, atau pemacu yang diubah untuk menilai kesannya pada pemboleh ubah bersandar (hasilnya). .
Pemilihan pemboleh ubah dimasukkan ke dalam prosedur pembuatan model untuk membantu meningkatkan ketepatan. Sekiranya sekumpulan pemboleh ubah berkorelasi tinggi dan salah satu pemboleh ubah dipilih ke dalam sampel, keseluruhan kumpulan secara automatik dimasukkan ke dalam sampel.
Perbadanan CATREG
CATREG adalah algoritma yang memfasilitasi transformasi pemboleh ubah, linear dan tidak linear. Algoritma menggunakan fungsi step dan spline dalam mengubah pemboleh ubah sama ada bukan monoton atau monoton dalam transformasi tidak linear. CATREG secara serentak dapat mengubah dan mengatur pemboleh ubah secara tidak monoton tanpa semestinya perlu meluaskan pemboleh ubah menjadi fungsi asas atau pemboleh ubah dummy.
Fungsi kerugian bersih elastik juga boleh disebut sebagai jenis fungsi pengurangan regresi kuasa dua terkecil yang biasa. Algoritma CATREG dimasukkan ke dalam jaring elastik, yang meningkatkan kecekapan dan kesederhanaan algoritma yang dihasilkan. Sebagai perbandingan, jaring elastik mengatasi lasso, yang dengan sendirinya mengatasi regresi rabung dari segi kecekapan dan kesederhanaan.
Regularisasi Bersih Elastik
Semasa prosedur rombakan itu, l 1 bahagian daripada penalti yang membentuk model jarang. Sebaliknya, seksyen kuadratik daripada penalti yang menjadikan l 1 bahagian lebih stabil di jalan untuk rombakan, menghapuskan had kuantiti pembolehubah untuk dipilih, dan menggalakkan kesan kumpulan.
Kesan pengelompokan membantu pemboleh ubah dikenali dengan mudah menggunakan korelasi. Itu meningkatkan prosedur pensampelan. Ini juga meningkatkan jumlah pemboleh ubah yang dipilih, kerana ketika satu pemboleh ubah diambil sampel dalam kelompok yang sangat berkorelasi, semua pemboleh ubah lain dalam kelompok tersebut secara otomatis ditambahkan ke dalam sampel.
Darjah Kebebasan Berkesan
Tahap kebebasan yang berkesan mengukur kerumitan model. Tahap kebebasan penting semasa perkiraan atau ramalan tepat model sesuai. Tahap kebebasan juga digabungkan dalam pembelajaran perokok linear. Dalam kaedah apa pun yang berkaitan dengan hukuman l 1 , sifat model yang tidak linear menimbulkan cabaran dalam analisis.
Jaring elastik juga dapat digunakan dalam aplikasi lain, seperti dalam PCA jarang, di mana ia memperoleh komponen utama yang dimodifikasi oleh pemuatan jarang. Aplikasi lain adalah dalam jaring elastik kernel, di mana generasi mesin kernel kelas berlaku dengan vektor sokongan.
Sumber tambahan
Kewangan menawarkan perakuan Certified Banking & Credit Analyst (CBCA) ™ CBCA ™ The Certified Banking & Credit Analyst (CBCA) ™ akreditasi adalah standard global untuk penganalisis kredit yang merangkumi kewangan, perakaunan, analisis kredit, analisis aliran tunai, pemodelan perjanjian, pinjaman pembayaran balik, dan lain-lain. program pensijilan bagi mereka yang ingin mengambil kerjaya ke peringkat seterusnya. Untuk terus belajar dan mengembangkan asas pengetahuan anda, sila terokai sumber kewangan tambahan yang berkaitan di bawah:
- Keputusan Pohon Keputusan Pohon keputusan adalah alat sokongan dengan struktur seperti pohon yang memodelkan kemungkinan hasil, kos sumber daya, utiliti, dan kemungkinan akibatnya.
- Dependent Variable Dependent Variable A Dependent Variable adalah variabel yang akan berubah bergantung pada nilai pemboleh ubah lain, yang disebut pemboleh ubah bebas.
- Regresi Linear Berganda Regresi Linier Berganda Regresi linear berganda merujuk kepada teknik statistik yang digunakan untuk meramalkan hasil pemboleh ubah bersandar berdasarkan nilai pemboleh ubah bebas
- Overfitting Overfitting Overfitting adalah istilah yang digunakan dalam statistik yang merujuk kepada kesalahan pemodelan yang terjadi ketika fungsi sesuai dengan sekumpulan data tertentu
