Klassifikatsiyaning chiziqli usullari

Klassifikatsiyaning chiziqli usullari Reja: Stoxastik gradient usuli Moslashuvchi chiziqli element (ADALINE) Rozenblatt perseptroni Klassifikatsiyaning chiziqli usullari Stoxastik gradient usuli , , o'rgatuvchi tanlov berilgan. Approksimatsiyalashgan empirik tavakkallik minimum bo'ladigan vaznlar vektorini topish talab qilinadi: ni minimizatsiyalash uchun gradient tushish usulidan foydalanamiz. Bu usulda vaznlar vektori uchun qandaydir boshlang'ich qiymatlar tanlanadi, keyin har qadamda funksional eng tez kamayadigan vektori yo'nalishini o'zgartiradigan iteratsion jarayon boshlanadi. Bu yo'nalish gradient vektoriga qarama-qarshi bo'ladi: bu yerda - o'rganish tempi (learning rate) deya nomlanuvchi antigradient yo'nalish qadamining kattaligi. yo'qotish funksiyasini differensiallanuvchi deb olib, gradientni quyidagicha yozamiz: Har bir pretsedent vektori o'zgarishiga o'zining additiv hissasini qo'shadi, lekin, vektor faqat barcha obyektlarni to'liq tanlagandan keyin o'zgaradi. Agar pretsedentlarni bittadan tanlab, har biri uchun gradient qadam qilib va bir vaqtning o'zida vaznlar vektorini quyidagicha yangilasak: iteratsion jarayon yaqinlashishini yaxshilashi mumkin. Stoxastik gradient usulida pretsedentlar tasodifiy tartibda tanlanadi. Vaznlarni boshlang'ich qiymatlarini tanlash har xil yo'l bilan amalga oshiriladi. Masalan: yoki barcha vaznlarni nol qiymat bilan boshlash mumkin. Algoritmning to'xtash kriteriysi eksponentsial sirg'aluvchi o'rtacha usul bilan funksionalga taqribiy bahoga asoslangan. Moslashuvchi chiziqli element (ADALINE) Yo'qotish funksiyasi kvadratik bo'lgan holatni qaraymiz. U holda stoxastik gradient usulining vaznlarni har iteratsiyada yangilash qoidasi: ko'rinishda bo'ladi. Bu qoida 1960 yilda Vidrou va Xoff tomonidan taklif qilingan va delta qoida (delta-rule) deyiladi, chiziqli neyron esa - moslashuvchi chiziqli element yoki ADALINE deyiladi. Rozenblatt perseptroni 1957 yilda Rozenblatt neyrofizika prinsiplariga asoslangan neyronni o'rgatuvchi evristik algoritmni taklif qildi va bu qoida quyidagicha formallashtiriladi: alomatlarni hozircha binar deb olamiz , javoblar ham faqat ikki qiymat qabul qilsin . Faraz qilaylik, obyekt klassifikatsiyasidan keyin to'g'ri javob malum bo'lsin, 3 holat bo'lishi mumkin: Agar javob bilan mos tushsa, u holda vaznlar vektorini o'zgartirish kerak emas. Agar va bo'lsa, u holda vaznlar vektori oshiriladi, yani, bo'lgan vazn oshiriladi, boshqa komponentlarni o'zgartirish natijaga ta'sir ko'rsatmaydi va , - o'rganish tempi. Agar va bo'lsa, u holda vaznlar vektori kamaytiriladi: . Bu 3 holat Xebb qoidasida birlashtiriladi: agar bo'lsa, u holda . Adabiyotlar ro'yxati Bauman Ye.V. Zadacha postroeniya razmitix klassifikatsiy Metodi i algoritmi analiza empiricheskix dannix. M.: In -t probl. upravleniya, 1988.- S. 16-27. Belkin A. R., Levin M. Sh. Prinyatie resheniy: kombinatornie modeli approksimatsii informatsii. M.: Nauka, 1990.- 160 s. Bernatovich A.S. Aktivniy eksperiment v identifikatsii funsionalnix sistem dlya operativnoy realizatsii modeley imitatsionnogo tipa Kibernetika.- 1983.- № 1.- S. 99-104. Blishun A.F. Sravnitelniy analiz metodov izmereniya nechyotkosti Izv. AH SSR. ser. Texnicheskaya kibernetika.- 1988.- № 5.- S. 152-175. Borodkin L.I.,Stadnik O.Ye. ...