әл-фараби атындағы Қазақ ұлттық университеті Қолжазба құқығы бойынша АИПЕНОВА АЗИЗА СРАИЛҚЫЗЫ 6D Математика

Transcript

1 әл-фараби атындағы Қазақ ұлттық университеті ӘОЖ Қолжазба құқығы бойынша АИПЕНОВА АЗИЗА СРАИЛҚЫЗЫ Бесов нормаларын қолданумен тығыздықтың туындыларын параметрсіз бағалау 6D Математика Философия ғылымдарының докторы (PhD) ғылыми дәрежесін алу үшін диссертация Отандық ғылыми жетекші: физика-математика ғылымдарының докторы, профессор Мыңбаев Қ.Т. (ҚБТУ) Шетелдік ғылыми жетекші: PhD, профессор Martins-Filho С. (University of Colorado, Colorado, USA) Қазақстан Республикасы Алматы,

2 МАЗМҰНЫ БЕЛГІЛЕУЛЕР МЕН ҚЫСҚАРТУЛАР... 3 КІРІСПЕ НЕГІЗГІ ТҮСІНІКТЕР МЕН ҚАЖЕТТІ МАТЕРИАЛДАР Параметрлік емес тығыздық бағалауы, Ядро Липшиц шарты және алдын-ала алынған нәтижелер класы және оның теориялық қасиеттері ПАРАМЕТРЛІК ЕМЕС ТЫҒЫЗДЫҚ БАҒАЛАУЫНЫҢ ТУЫНДЫСЫ тің асимптотикалық қасиеттері тің бірқалыпты сәйкестілігі тің ығысуы мен вариациясының реті Тиімді қадам табу әдісі Асимптотикалық нормальділігі Монте-Карло әдісі ТЫҒЫЗДЫҚТЫҢ ЯДРОЛЫҚ БАҒАЛАУЫНДАҒЫ ЫҒЫСУДЫ ТӨМЕНДЕТУ Негізгі түсініктер мен ұйғарымдар Негізгі нәтижелер мен қажетті материалдар Монте-Карло симуляциясы Ядро жиыны мен шын тығыздықтарға сипаттама Тиімді қадамды таңдау Бағалаудың нәтижелері Дифференциалдық шарттарды тестілеу және тығыздықтың жергілікті нормалі Негізгі нәтижелер Монте-Карло әдісі Жоғарғы ретті ядролардың құрылуы Негізгі нәтижелер Жоғарғы ретті ядроларға өрнектер мен моменттер...70 ҚОРЫТЫНДЫ...73 ПАЙДАЛАНЫЛҒАН ӘДЕБИЕТТЕР ТІЗІМІ

3 БЕЛГІЛЕУЛЕР МЕН ҚЫСҚАРТУЛАР - скаляр - нақты сандар кеңістігі - натурал сандар кеңістігі - ядро функциясы (kernel) - тығыздық функциясы - тығыздық функциясының бағалауы - Розенблатт-Парцен бағалауы таңдама - үлестірім функциясы -тығыздық туындысы - Липшиц тұрақтысы -ты Липшиц радиусы биномиал коэффициенті - математикалық күтім - вариация (variance) - ығысу (bias) - шек - ықтималдық бойынша жинақтылық - үлестірім бойынша жинақтылық - ықтималдық шек нормаль үлестірімі - стандартты нормаль үлестірімі - тепе-теңдік - асимптотикалық тепе-теңдік - айырым тиімді қадам (bandwidth) - биномиал коэффициенті ISE интегралданған квадратталған қателік (Integrated Squared Error) MISE- интегралданған орташа квадраттық қателік - -ның -ші моменті - -ның -ші абсолют моменті - түрлендірілген ядро - нөлдік болжау - баламалы болжау 3

4 КІРІСПЕ Диссертациялық зерттеу жұмысының өзектілігі. Парамерлік емес бағалау - математикалық статистиканың амалдары арасында маңызды орын алады. Ол парамерлік бағалаудың орнына дәлдігімен, әрі икемділігімен қолданысқа келді. Осы саладағы алғашқы нәтижелер шамамен 50 жыл бұрын [1, 2] жұмыстарда жарық көрді. Қазіргі таңда теория негізі жақсы дамыған, сонымен бірге анағұрлым жақсырақ болатын бірқатар облыстар бар. Көбінесе жақсаруға статистика мамандары арасында аса белгілі емес теориялық функция әдістерін қолдану арқылы жетуге болады. Қарастырылып отырған диссертациялық жұмыс осы бағыттағы жұмыстар тобына жатады. Сонымен бірге, тіпті белгілі классикалық нәтижелерді де жақсартуға болады. Белгісіз тығыздықтың бағалауы және олардың туындылары математикалық статистикада, техника саласында, қаржы саласында, медицина мен биология саласында жақсы қолданысқа ие. Осы салаларда тығыздықтың параметрлік емес бағалауы [1, 2] жұмыстарда алғашқы қолданысын тапты. Статистикалық мәселелерде, яғни регрессия функцияларында, Фишер бағалауында, параметрлік бағалауда және болжау тестілеуінде жақсы қолданысқа ие. Сонымен қатар, олар модтардың орналасуын бағалауға, -тің иілу нүктелерін табуға және де тығыздықтың ядролық бағалаулары үшін қадамды таңдауға қолданылады. -тің асимптотикалық қасиеттері [3, 4, 5] жұмыстарда қарастырылды. [4] -тің бірқалыпты үзіліссіздігі бірқалыпты сәйкестілік үшін мына шарт негізінде қажет болғанын көрсетті. Алайда, бұл шарт [5] жұмыстағы шартқа қарағанда әлсіз. [6, 7, 8] -тің ығысуын төмендетуге және интегралданған орташа квадраттық қателігін (MISE) жақсартуға оның жасалуына қолданылатын ядро класына шектеу қою арқылы болатынын көрсетеді. Сонымен қатар, [9] және жаңа нәтижелер [10, 11, 12] жұмыстарды қарастырылды. [12] каноникалық жоғары дәрежелі ядроларды қолдану арқылы -дәрежелі тығыздықтың ядролық туындысының бағалауын келтірді. Параметрлік емес тығыздық бағалау теориясында көптеген әртүрлі әдістер бар. Жақында, [13] Розенблатт-Парцен бағалауына қатысты ығысуды глобальды жоғарғы ретті Липшиц шартын ке енгізу арқылы төмендетуге болатын тығыздықтың ядролық бағалауының параметрлік емес класын ұсынды. Бұл ұсынылған жаңа әдіс Бесов кеңістігінің терминінде айтылған ядродағы минимальді жағдай кезінде тығыздықты бағалауға көмектеседі. Бұл диссертациялық жұмыста, [13] ұсынған параметрлік емес тығыздықтың ядролық бағалауының класын тығыздық бағалауының туындылар жағдайы үшін кеңейтеміз. Кейбір белгілі тығыздықтың туынды бағалауларына қарағанда, біз ұсынып тұрған кластағы бағалаулардың толық асимптотикалық характеристикалары бар, атап айтқанда біртекті сәйкестілігі, асимптотикалық нормальділігі және нақты жинақталу жылдамдығы. Сонымен қатар, интегралданған орташа квадраттық қателіктің асимптотикалық 4

5 өрнектерін жуықтау арқылы тиімді қадам үшін өрнек аламыз. Ары қарай, осы келтіріп отырған бағалаудың ығысуы үшін интегралдық өрнек және ығысуы мен вариациясының нақты ретін береміз. Біздің нәтижелеріміз глобальды Липшиц шарттарын ке енгізуге және [13] келтірген ядро класы { } -ты қолдануға негізделген [14, 15, 16]. Сонымен қатар, статистикада маңызды мақсаттардың бірі ығысуды жоғарғы ретті ядроларды қолдану арқылы төмендету қарастырылды. [17, 18] жұмыста -ретті тығыздықтың ядролық бағалаулары үшін ығысудағы тікелей тәуелді -ды вариацияның шектелгендігін сақтай отырып, кіші етуге болатындығы көрсетілді. [19] көпмүшелік түрлендіруінжаңа ядроның 1-ден -ге дейінгі моменттерін нөл жасау арқылы анықтады. Олар -шы моментін де қалағанымызша кіші етуге болатындығын және бағалаудың вариациясы өз ретін сақтайтынын ескермеді. Біз бұл жұмыста осыны жасаймыз. Сонымен қатар, тек вариацияны ғана емес, ығысу мен вариациядағы Тейлор жіктеуіндегі -тың барлық жоғарғы ретті мүшелерін өсіп кетпеуін бақылауға болатындығын 3-ші бөлімде көрсетеміз. 3.6 бөлімде жоғарғы ретті ядроларды құруды көрсетеміз. Ал, бағалаудың ығысуы жоғарғы ретті ядроларды қолданғанда -қа қарағанда төменгі дәрежелі -ға тәуелді. Олар ығысуды төмендететін ядролар деп аталады, олардың артықшылығы да осында [20]. Сонымен бірге, бұл жұмыста дифференциалдық өрнекті параметрлік емес бағалау әдісін келтіреміз [21, 22]. Мұндай жалпылау тығыздық бағалауын нормальдікке немесе қандайда бір параметрлі тығыздық жиынына жатқандығын тестілеуде қолданыс табады. Бұл диссертациялық жұмыс статистиканың көптеген саласында қосымша мүмкіндігімен теориялық сипатқа ие. Осымен зерттеу тақырыбының өзектілігі анықталады. Осы зерттеу жұмысының басқа ғылыми-зерттеу жұмыстарымен байланысы. Негізінде бұл жұмыс [13] жұмыстың жалғасы. Яғни, [13] ұсынған жаңа класста тығыздықтың ядролық бағалауларының m-ретті туындыларын қарастыра отырып, үшін жаңа бағалаулар класын кеңейтеміз. [17] ығысуды төмендету жұмысында [19] жұмыстың идеясы қолданылды. Зерттеу объектісі. Диссертациялық зерттеудің объектісі Мыңбаев және Мартинс-Фильо (2010) ұсынған класта тығыздықтың ядролық бағалауларының m-ретті туындыларын қарастыра отырып, үшін жаңа бағалаулар класын кеңейту, ұсынылған әдістің тиімділігін Монте-Карло әдісімен көрсету болып табылады. Зерттеудің мақсаты және міндеті. Бұл жұмыстың негізгі мақсаты болып тығыздықтың туынды бағалаулары үшін асимптотикалық нәтижелер алу және ұсынылған әдістің тиімділігін Монте-Карло әдісімен көрсету болып табылады. Диссертацияға қойылған зерттеудің міндеттері: 5

6 - Мынбаев Мартинс Филью әдісін қолдану, үшін жаңа бағалаулар класын кеңейту; - осы классқа асимптотикалық нәтижелер алу; - келтірілген әдістің біртекті сәйкестілігін зерттеу; - келтірілген әдістің асимптотикалық нормальділігін табу; - келтірілген әдістің нақты жинақталу жылдамдығын табу; - келтірілген әдіс үшін тиімді қадам өрнегін келтіру; - келтірілген әдістің ығысуы мен вариациясының нақты ретін алу; - келтірілген әдістің іс жүзіндегі артықшылығын компьютерде симуляция жасап көрсету; - тығыздықтың ядролық бағалауының ығысуын төмендету үшін негізгі нәтижелер алу; - бұл нәтижелердің іс жүзіндегі артықшылығын компьютерде симуляция жасап көрсету; - тығыздық функциясына тестілеу жасау; - жоғарғы ретті ядроларды құруды көрсету; - жоғарғы ретті ядролар үшін өрнектерді келтіру; - әрбір қарастырылған класс үшін моменттерді келтіру. Зерттеудің ғылыми жаңалығы. Диссертациялық жұмыста келесі жаңа нәтижелер алынған: - [13] ұсынған класста тығыздықтың ядролық бағалауларының m-ретті туындыларын қарастыра отырып, яғни үшін жаңа бағалаулар класы кеңейтілді. - Келтірілген тығыздық бағалауының туындысының толық асимптотикалық қасиеттері алынды, атап айтқанда біртекті сәйкестілігі, асимптотикалық нормальдігі және нақты жинақталу жылдамдығы. - Осы бағалаудың ығысуына интегралдық өрнек алынды. - Интегралданған орташа квадраттық қателіктің асимптотикалық өрнектерін жуықтау арқылы тиімді қадам өрнегі келтірілді. - Осы бағалаудың ығысуына интегралдық өрнек және ығысуы мен вариациясының нақты реті алынды. - Келтірілген әдістің іс жүзіндегі артықшылығы компьютерде Монте Карло әдісімен көрсетілді. - Тығыздықтың ядролық бағалауының ығысуын төмендету әдісі көрсетілді және негізгі нәтижелер алынды. - Іс жүзіндегі артықшылығы компьютерде Монте Карло әдісімен көрсетілді. - Тығыздық функциясына тестілеу жасалды. - Жоғарғы ретті ядроларды құру әдісі келтірілді. - Жоғарғы ретті ядроларға өрнектер келтірілді. - Жоғарғы ретті ядролар класы үшін моменттер келтірілді. Зерттеудің теориялық маңыздылығы. Зерттеудің теориялық маңыздылығы: диссертацияның нәтижелері тығыздықтың параметрлік емес бағалауына теориясына айтарлықтай үлес қосады. 6

7 Алынған нәтижелердің практикалық маңыздылығы. Алынған нәтижелердің практикалық маңыздылығы математикалық статистика және көп салалы инженерия қолданыстарында, қаржы, медицина және биология саласында қолданылуы мүмкін. Публикациялар және нәтижелердің апробациясы Зерттеу жұмысында алынған ғылыми нәтижелер 8 жұмыста жарық көрді [14, 15, 16, 17, 18, 20, 21, 22], олардың 3-еуі Республикалық және халықаралық ғылыми конференцияларда, ал 4 мақала ҚР ҒжБМ ғылым және білім сферасында басқару Комитетімен ұсынылған баспаларда, ал 1-еуі Scopus деректер базасында нөлдік емес импакт-факторы бар журналда жарық көрді. Ал, 1 жұмыс Thomson-Reuters деректер базасында нөлдік емес импакт-факторы бар журналға баспаға қабылданды [15]. Диссертацияның негізгі нәтижелері келесі Statistical Distributions and Applications (Central Michigan University, MI USA, October 10-12, 2013) атты халықаралық конференцияда [14], 59 th ISI World Statistics Congress -те (Hong Kong, China, August, 2013) [18], Современные проблемы, спектральной теории операторов и улучшения качества обучения математике: теория, методика и опыт атты Халықаралық ғылыми-практикалық конференцияның еңбектерінде (Тараз, сентябрь, 2013) [22] жарық көрді. Сонымен қатар, Колорадо Университетінің эконометрика атты семинарында (АҚШ, Колорадо Университеті, Экономика бөлімі) ҚР ҰҒА академигі, ф.-м.ғ.д., профессор Т.Ш.Кәлменов, ҚР ҰҒА корр. мүшесі, ф.-м.ғ.д., профессор М.А. Садыбеков және ф.-м.ғ.д., профессор Б.Е.Кангужиннің басшылығымен өтетін Сызықты операторлардың спектральді теориясы және оның қолданылуы атты қалалық семинарда (Алматы, Қазақстан) ҚР ҰҒА академигі, д.т.н., профессор Б.Т.Жумагулов, ҚР ҰИА академигі, ф.- м.ғ.д., профессор Н.Т. Данаевтың басшылығымен өтетін Математика, механика және информациялық технологиялардың қазіргі ғылыми мәселелері атты біріккен семинарда (Алматы, Қазақстан) баяндалды және талқыланды. Диссертацияның құрылымы мен көлемі: Диссертация кіріспеден, үш бөлімнен, қорытындыдан және пайдаланылған әдебиеттер тізімінен тұрады. Жұмыс 76 бетті қамтиды, суреттер саны 6, кестелер саны 10, пайдаланылған әдебиеттер тізімі 47. Диссертацияның негізгі мазмұны. Диссертация кіріспеден, 3 бөлімнен, қорытындыдан және пайдаланылған әдебиеттер тізімінен тұрады. Тараулар бөлімдерге бөлінген. Бірінші бөлімде, негізгі түсініктер мен қажетті материалдар берілген және де [13] ұсынған класста үшін жаңа бағалаулар класы келтірілді. Және де бағалауымыздың ығысуына интегралдық өрнек аламыз. Бірінші бөлімнің нәтижелері [13, 15, 16] жұмыстарда жарияланған. Екінші бөлімде, жаңа келтірілген бағалаулар класымыздың асимптотикалық қасиеттерін береміз, атап айтқанда бірқалыпты сәйкестілігін, асимптотикалық нормальділігін, нақты жинақталу жылдамдығын, бағалаудың ығысуы мен вариациясының нақты ретін және де тиімді қадам үшін өрнекті, сонымен қатар 7

8 тәжірибе жүзінде әдістің артықшылығын көрсетеміз. Екінші бөлімнің нәтижелері [14, 15, 16] жұмыстарда жарияланған. Үшінші бөлімде, статистикада маңызды мақсаттардың бірі болған ығысуды төмендетуді қарастырамыз, әрі бұл бөлімде дифференциалдық өрнекті бағалауға параметрикалық емес әдіс кеңейтілді. Сонымен қатар, 3.6 бөлімде жоғарғы ретті ядроларды құруды көрсетеміз. Олар ығысуды төмендететін ядролар деп аталады, әрі олардың артықшылығы осында. Және де бөлімде түрлендірілген ядро мен кәдімгі ядро үшін негізгі нәтижелерді, яғни математикалық күтімді, вариацияны, ығысуды және тиімді қадам үшін өрнекті береміз. Үшінші бөлімнің нәтижелері [17, 18, 20, 21, 22] жұмыстарда жарияланған. Диссертациялық жұмыста келтірілген әдістерді симуляция жасау үшін және де әр түрлі суреттерді алу үшін MATLAB 2009 және WOLFRAM ALPHA 9 программа пакеттері қолданылды. Автор ғылыми жетекшісі профессор Мыңбаев Қ.Т.-на қызықты, маңызды есеп қойғаны үшін, оны шешуде көптеген пайдалы кеңестер бергені үшін, оқу барысындағы жан-жақты көмегі үшін, болашақтағы жоспарлары үшін ерекше алғысын білдіреді. Сонымен қатар, шетелдік ғылыми кеңесшісі профессор Карлос Мартинс-Фильоға (Martins-Filho Carlos) көптеген пайдалы кеңестері үшін, болашақтағы жоспарлары үшін, сынақ ісі кезіндегі жан-жақты көмегі үшін және де Колорадо Университеті, Экономика бөліміне, ХТС зерттеу институтына (IFPRI, Washington) өз ризашылығын білідреді. Сонымен қатар, Іргелі математика кафедрасының меңгерушісі профессор Кангужин Б.Е.-на оқу барысындағы жан-жақты көмегі мен ақыл-кеңесі үшін рақметін айтады. 8

9 1 НЕГІЗГІ ТҮСІНІКТЕР МЕН ҚАЖЕТТІ МАТЕРИАЛДАР 1.1 Параметрлік емес тығыздық бағалауы, Ядро Статистикада, тығыздықтың ядролық бағалауы - кездейсоқ шаманың тығыздық функциясының ықтималдығын бағалаудың параметрлік емес әдісі. Тығыздықтың ядролық бағалауы ақырлы таңдамаларға негізделген фундаментальді деректерді тегістейтін мәселе болып табылады. [1, 2] негізін салғандықтан, Розенблатт-Парцен бағалауы эконометрикада және сигналдарды өңдеуде тығыздықтың ядролық бағалауы деп аталады. Айталық, тәуелсіз бірқалыпты үлестірілген, қандайда бір -дегі Лебег өлшемімен анықталатын тығыздық функциясымен анықталатын кездейсоқ таңдамалар болсын. тығыздығының сәйкес үлестірім функциясы. Эмпирикалық үлестірім функциясын (*) қарастырайық, мұндағы -индикатор функциясы. Кіші үшін (**) болсын. (*)-ны (**)-ға қойсақ, ( ) аламыз. Егер біз мына түрде берілген { бірқалыпты ядро функциясын алсақ, онда (**)-ғы мына түрде ( ) беріледі. Яғни, бұл жоғарыда айтып өткендей, тығыздық функциясының нүктесіндегі Розенблатт-Парцен бағалауы деп аталады да, келесі түрде ( ) (1) 9

10 жазылады, мұндағы, қадам, ал ядро функциясы келесі шарттарды - Ядро функциясы мына шартты қанағаттандыратын (2) кез келген функция. - Барлық үшін симметриялы ядро функциялары қанағаттандырады. - Теріс емес ядро барлық үшін қанағаттандырады. (3) Көптеген параметрлік емес бағалаулар да симметриялы ядролар қолданылады және де бізде осыны қолданамыз. Әдетте, ядро функциялары ретінде: uniform, triangle, biweight, triweight, Epanechnikov, Gaussian және т.б. қолданылады. Төменде олардың өрнектері мен суретін келтіреміз. 1) Uniform (rectangular) kernel 2) Triangle kernel 3) Epanechnikov kernel 4) Quartic (biweight) kernel 5) Triweight kernel 6) Tricube kernel 7) Gaussian (normal) kernel 8) Cosine kernel ( ) мұндағы, -индикатор функциясы. Сурет 1 - Ядро функциялары 10

11 1.2 Липшиц шарты және алдын-ала алынған нәтижелер Әдетте, параметрлік емес тығыздық бағалауының қасиеттері тығыздыққа тегістік шартын қолдану арқылы алынады. Ал, тегістік алға, артқа және ортаға деп аталатын ақырлы айырымдармен анықталады. Мысалы, функциясының бірінші дәрежелі ақырлы айырымдары, және, мұндағы,. Бұл жұмыста, біз тек орталанған жұп дәрежелі айырымдарға тоқталамыз, себебі, алынатын ядромыз симметриялы. биномиал коэффициенттері болсын, 11 және (4) Егер кез келген үшін келесі шартты қанағаттандыратын барлық мынадай -тар үшін, және функциялары табылса, онда функциясы дәрежелі Липшиц шартын қанағаттандырады. Біз мұнда -ты Липшиц тұрақтысы деп, ал - ты Липшиц радиусы 1 деп атаймыз. Біздің нәтижелеріміз ке осы глобальды Липшиц шартын қолдануға негізделген. [13] жұмыста ядросы үшін { } жаңа ядролар класын анықтады, мұндағы ( ) (5) ал, ядроның өзегі деп аталады. -ты табудың ең басты мақсаты - келтіріп отырған бағалауымыздың ( ) (6) үшін тығыздықтың орталанған жұп дәрежелі ақырлы айырымдар негізінде ығысуын алуға мүмкіндік береді. болсын және де болғандықтан, (5)-ші теңдікті келесі түрде ( ( ) ( )) жаза аламыз. Бұл -тің симметриялы екендігінен шығады, яғни,. коэффициенттері мына түрде болғандықтан, 1 Мынбаев-Мартиньс-Фильо (2010) жұмысында, 1-теоремада, Гаусс және Коши тығыздықтары үшін және -ке өрнектер табылды.

12 немесе аламыз. Төменде -тің мәндерін береміз. Кесте 1 - мәндері Сондықтан, { } ядролар класын орната отырып, (2) және (5)-ші теңдіктерден ( ( ) ( ) ) шығады. ядро өзегін таңдаудың бірнеше түрлерін [23] қарастырды, әрі жоғарыда келтіріп өттік, алайда ең кеңінен тараған түрі Gaussian және Epanechnikov. Gaussian ядросы жағдайында тің барлық туындылары бар болады. 1.3 класы және оның теориялық қасиеттері Бұл бөлімде, үшін (6)-шы теңдіктен -рет туынды алып, - ретті параметрлік емес бағалаудың келесі түрдегі жаңа класын кеңейтеміз, ( ) (7) мұндағы, ( ) және ( ) (8) { } тәуелсіз және бірқалыпты үлестірілген кездейсоқ таңдама болғандықтан, ) ( ( )) ( ) (9) 12

13 және ) ( ( )) ( ) (10) болады. Белгілі әдебиеттерде, тығыздықтың ядролық бағалауының туындысының ығысуы мен вариациясы үшін сәйкес өрнектер алу үшін және -ке шектеулер қойылады. Сондықтанда, біз келесі түрде ұйғарым жасаймыз. Ұйғарым 1. a) мынадай нормамен анықталған [ ] салмақты Соболев кеңістігінде жатсын, b) { } болсын деп ұйғарайық. Ұйғарым 1 -тің ығысуы ) ) үшін -тің орталанған жұп дәрежелі айырымдар негізінде интегралдық өрнегін алуға қолданылады. Теорема 1. Ұйғарым 1 негізінде, кез келген үшін ) болады. Дәлелі. Ұйғарым 1 негізінде, { } ( ) болатындығын көрсетеміз. болсын. [ ] Соболев кеңістігі [ ] үзіліссіз функциялар класына енгізілгені белгілі, яғни қандайда бір -дан тәуелсіз тұрақтымен [ ] ( ) беріледі. Осы бағалауды [ ] сегментіне қолданып, әрі мына нәтижені қолданып, келесі нәтижені ( ) ( ) 13

14 аламыз. жағдайы ұқсас келтіріледі. Ұйғарым 1 негізінде, үшін,, болғанда ( ) ( ) аламыз. Сәйкесінше, ) ( ) айнымалыны деп өзгерту арқылы, келесі теңдікті аламыз, ары қарай (8)-ші теңдікті қоя отырып, ( ) аламыз, сосын бөліктеп интегралдау арқылы [ ( ) ( ) ] [ ( ) ( ) ] 14

15 [ ( ) ( ) ] ( ) және де айнымалыны деп өзгерту арқылы [ ] аламыз. Сонымен, ) (11) Сәйкесінше, (2), (4) және (11)-ші теңдіктерден ) [ ] 15

16 [ ] (3)-ші теңдіктен, келесі түрдегі -тің ығысуы үшін ) (12) интегралдық өрнек аламыз. Теорема дәлелденді. 2 ПАРАМЕТРЛІК ЕМЕС ТЫҒЫЗДЫҚ БАҒАЛАУЫНЫҢ ТУЫНДЫСЫ 2.1 -тің асимптотикалық қасиеттері Бұл бөлімде, -тің асимптотикалық қасиеттерін, яғни бағалауымыз бірқалыпты ығысқан және бірқалыпты сәйкес екендігін зерттеуден бастаймыз. 2.2 бірқалыпты сәйкестілігі -тің бірқалыпты сәйкестілігін орнату үшін, төмендегідей ұйғарым жасаймыз. Ұйғарым 2. a) -ның характеристикалық функциясы мынадай, b) -де шектелген және бірқалыпты үзіліссіз, c) ұмтылғанда, болсын деп ұйғарайық. Теорема 2. Ұйғарым 2 a) және c) шарттары орындалсын. Онда, ( ( ) )) 16

17 Ұйғарым 2 b) шарты орындалсын делік, онда болады. бірқалыпты сәйкес Дәлелі. -тің бірқалыпты сәйкестілігін орнатуға ыңғайлы болу үшін деп белгілейік, онда (7)-ші теңдікті мына түрде ( ) жазамыз, (8)-ші теңдікті қолдана отырып, келесі түрдегі ( ) ( ) (13) теңдікті аламыз. Ұйғарым 2 a) шарты негізінде Фурье түрлендіруі үшін кері теореманы мына түрде ( ) { } (14) жазылады. (7), (8), (13) және (14)-ші теңдіктерді қолдана отырып, ( ) ( ) { } { ( )} { } { } деп белгілеп, айнымалыны ауыстырамыз, сонда [ { } { } { } { } ] 17

18 { } { } { } { } { } Сонымен, нәтижеде { } (15) мұндағы, { } дегеніміз -тің характеристикалық функциясы, яғни -тің ығыспаған бағалауы ) және Сондықтан,. ) { } ) Ары қарай, (15) және (16)-шы теңдіктерден, { } (16) ) { } және де { } екенін ескеріп, ) аламыз. Теңсіздіктің оң жақ бөлігінде жоқ, себебі -тен тәуелсіз. өлшенетін екені [23] жұмыстағы Лемма 2.1-ден шығады, яғни оның математикалық күтімі нақты анықталған ( ) ) (17) 18

19 Ары қарай, ( ) ( ( { } ( { })) ) (18) мұндағы, ( ( ) ( ( ))) { ( ( ) ( ( ))) { } тәуелсіз және бірқалыпты үлестірілген кездейсоқ таңдама болғандықтан, ( ( ) ( ( )) ) ( ( )) [ ( )] және ( ( ) ( ( )) ) ( ( )) [ ( )] болатынын көруге болады. Сәйкесінше, және ( ( )) [ ( ) ] [ ] ( ( )) [ ( ) ] [ ] 19

20 Нәтижеде, аламыз. Сонда, (18)-ші теңдік ( ) тең болады. (17)-ші теңдіктен және анықтамасы бойынша, және -ды орнына қойып, (19) шығады. Қорыта келе, (18) және (19)-шы теңдіктен ( ) ) шығады. Ұйғарым 2 с) шарт негізінде болғанда,. Ары қарай Марков теңсіздігінен болғанда, барлық үшін ( ) ) (20) нөл болады. Сәйкесінше, Қорыта айтқанда, ). ) ) Теңсіздіктің оң жақ бөлігіндегі бірінші қосылғыш (20)-шы теңдіктен болады, екінші қосылғыш (9)-шы теңдіктен, Ұйғарым 2 b) шарттан және [13] жұмыстағы Теорема 5-тен ( жағдайында қарастырған) нөл болады. Яғни, 20

21 бірқалыпты сәйкес екендігі шығады. болады. Сонымен, -тің Теорема дәлелденді тің ығысуы мен вариациясының реті Бұл бөлімде, яғни келесі теоремаларда бағалаудың ығысуы мен вариациясының нақты ретін береміз. Ол келесі ұйғарымнан тәуелді. Ұйғарым 3. a) де шектелген және бірқалыпты үзіліссіз, b) Барлық үшін мынадай болатындай және (20) функциялары бар болсын, c) болсын деп ұйғарайық. Теорема 3. Ұйғарым 1 мен 3-тің шарттары орындалсын. Онда, барлық және үшін ) ( ) (21) болсын, мұндағы тұрақтысы пен -нен тәуелсіз. Дәлелі. Кез келген үшін ұйғарым 3-тің с) шарты шығады (22) Содан, (12)-ші теңдік және ұйғарым 3 b) шарттан ) ( ) [ ] 21

22 (20) және (22)-ші теңдіктерді қолдана отырып, (21)-ші теңдікті аламыз. Теорема дәлелденді. Теорема 4. Ұйғарым 1 мен 3-тің шарттары орындалсын. Сонымен қатар, барлық үшін, түрде болатын (23) және функциялары бар болсын. Сөйтіп, барлық және үшін ) { [ ] [ ] } (24) мұндағы, және және -нен тәуелсіз, және тұрақтылармен келесі түрде анықталатын қалдықтар, ( ) (25) Дәлелі. (24)-ші теңдікті келтіреміз. (10)-шы теңдік бойынша, пен ( ) - ты келтіруіміз қажет. (9) және (21)-ші теңдіктерден, ) ) (26) мұндағы, Енді, (25)-ші теңдікті қанағаттандырады. ( ) [ ( )] ( ) ( ) ( ) ( ) [ ] ( ) 22

23 табамыз. Содан (22)-ші теңдікке ұқсас, келесіні (27) аламыз. (23) және (27)-ші теңдіктерді қолдана отырып, ( ) ( ) мына өрнекті аламыз. Ары қарай (23)-ші теңдікті қолданып, ( ) ( ) (28) аламыз, мұндағы (25)-ші теңдікті қанағаттандырады. Енді ( ) екенін көрсетейік. (8)-ші теңдік бойынша, ( ) мұндағы,. Гельдер теңсіздігі бойынша, ( ) ( ) ( ) ( ) ( ) 23

24 ( ( ) ) ( ( ) ) ( ) себебі,. (24)-ші теңдік (26) және (28)-ші теңдіктерден шығатынын байқауға болады. Егер болса, әрі кіші үшін (24) теңдікті келесі түрде жаза аламыз ) { ( ) } (29) Теорема дәлелденді. 2.4 Тиімді қадам табу әдісі Бұл бөлімде, интегралданған орташа квадраттық қателікті жуықтау арқылы тиімді қадам үшін өрнек табамыз. Сонымен, келесі түрдегі ) ( ) ( )) ) теңдеуді қарастырамыз. Іс-жүзінде -тің функциясы ретінде нақты мәнін табу мүмкін емес. Жалпы әдіс -ғы бағалауымыздың ығысу мен вариациясы үшін асимптотикалық өрнектерін келтіреміз, сосын -ге қойып, келесі түрдегі жуықтауды аламыз, мұндағы функциясы -нен, -нен және қандайда бір, тұрақтылардан тәуелді. -ден бойынша туынды алып, түбірін табамыз, шыққан нәтижені тиімді қадам дейміз. Бұл бөлімде біз осы әдісті қарастырамыз. Алайда, төменде көрсететін нәтижеміз [13] жұмыс, жағдайындағы 8-Теоремада келтірілген нәтижеден жақсырақ. Келесі теоремада үшін асимптотикалық өрнек табамыз және ол бойынша жоғарыдан шектелген. Әуелі дәлелімізге қажет болатын екі қосымша леммадан бастайық. Лемма 1.. Онда, емес екенін көрсетейік. Дәлелі. -тің анықтамасы бойынша және деп алып, 24

25 (30) аламыз. Айталық, болсын, әрі болатынын байқауға болады. Сәйкесінше, -ді бір рет дифференциалдау арқылы, аламыз, сонда Ары қарай осы процесті жалғастырып, [ ] ( ) болады. Егер болса, онда болады. 25

26 ( [ ] ) [ ] ( ) Сондықтан, егер болса, онда. Жоғарыда көрсетілген нәтижелерден екенін көреміз. Барлық үшін болғандықтан, барлық үшін (31) болатындығын көрсете аламыз. Өйткені (30) теңдіктен, барлық болады. (30) және (31)-ші теңдіктерден шығады. үшін деп ұйғарайық. Бұл теңдеу (30)-шы теңдікпен бірге шешімдері нөлдік емес болатын келесі жүйені { құрайды. Бірақ бұл мүмкін емес, себебі (32)-ші жүйенің анықтауышы нөл емес. Бұл Вандермонд анықтауышына тең: (32) Лемма дәлелденді. арқылы еселі интегралдық операторды белгілейік. Мұндағы, және бекітілген, ал оператор функциясына әсер етеді және де нәтиже -тен тәуелді болады ( бекітілген). 26

27 Лемма 2. Ұйғарым 1-дің шарттары орындалсын. тығыздық функциясының абсолютті үзіліссіз туындысы бар болса,онда -тің ығысуы келесі түрде ) ( ) (33) болады. Мұндағы, және еркін нүкте. Дәлелі. абсолютті үзіліссіз болса, ал қосындыланатын болады және қалдығы интегралдық түрде болатын Тейлор теоремасы бойынша болады. Осы формуланы белгілеуін қолданып, -ке қолданамыз және интегралдық оператордың ( ) аламыз. (12)-ші теңдік үшін, бізге төмендегідей ұйғарым қажет ( ) (34) болады. Мұндағы айырым айнымалыға қатысты қолданылады, ал бекітілген. Лемма 1 қолданып, { (35) 27

28 1-ұйғарым бойынша, (12), (34) және (35)-ші теңдіктерді біріктіріп, (33)-ші теңдіктің дәлелін аяқтаймыз: ) [ ( )] ( ) Теорема дәлелденді. Келесі теоремада -ғы ығысудың нақты ретін береміз. Нәтиже жоғарыдан шектелген (21)-ші теңдікке қарағанда күштірек, сәйкесінше күштірек шарттарды талап етеді. Нәтиже жаңа, [13] жағдайында ығысудың нақты ретін келтірген жоқ. Бізге ол үшін келесі ұйғарым қажет болады. Ұйғарым 4. a), b) абсолютті үзіліссіз, әрі шектелген және келесі Липшиц шартын қанағаттандырады, яғни келесі түрде берілген барлық мынадай үшін, функциялары бар болсын деп ұйғарайық. (36) Теорема 5. 1-ші және 4-ші ұйғарымдар орындалсын. Онда ) (37) мұндағы, ( ) (38) және. 28

29 Дәлелі. [13] жұмыстағы (7)-ші теңдік бойынша және ( ) бойынша тексеру оңай. Осыдан соңғы теңсіздікті қолдана отырып, ( ) ( ) ( ) берілген бекітілген нүкте, ары қарай қолданып және ұйғарым 4 b) шарт бойынша деп алып, (35)-ші теңдікті ( ) { аламыз. Бұдан, ( ) Оң жақтағы бірінші интегралдың интегралдану облысын кеңейту керек, ал екінші интегралға мына теңсіздікті қолданып, интегралдану облысын кеңейтеміз. Сонда, төмендегідей ( ) 29

30 [ ] нәтижені аламыз. Осы теңсіздік және (33)-ші теңдік теореманы дәлелдейді. Келесі теоремада IMSE-тің асимптотикалық өрнегін жуықтау арқылы тиімді қадамды табамыз. Theorem 6. (24)-ші теңдіктің оң жағын бойынша интегралдау үшін 4- теореманың шарттарына қосымша, шарттар болсын деп ұйғарайық. Ал, квадратталған (37)-ші теңдіктің интегралдануы үшін 5-теореманың шарттарына қосымша шарттарды ұйғарамыз. Сонда [ ] [ ] (39) мұндағы, тұрақтысы (38)-ші теңдікте берілген. Сәйкесінше, функциясы болады, мұндағы және тұрақтылары -тің жуықтаулары. -ді жуықтау арқылы тиімді қадам үшін келесі теңдікті аламыз. ( ) (40) Дәлелі. Келтірілген шарттардың орындалуы арқылы, (29)-шы теңдіктен ) [ ] шығады, ал (37)-ші теңдіктен келесі ( )) [ ] 30

31 шығады. Осы екі теңдікті біріктіру арқылы біз (39)-шы теңдікті аламыз. Әрі қарай айқын және де ( [ ] [ ] ( ) ( ) ) (41) болады. 2.5 Асимптотикалық нормальділігі Бұл бөлімде, сәйкес нормалдау бойынша келтіріп отырған бағалауымыз асимптотикалық нормаль екенін көрсетеміз. Теорема 7. Ұйғарым 3 a) және b) шарттары орындалсын. Кейбір болсын. Егер болса, онда үшін )) ( [ ] ) (42) және де онда (43) ) ( [ ] ) (44) Дәлелі. )-ті стандартты ауытқу арқылы нормалдап, (9) және (10)-шы теңдіктерді қолданып, ( )) ) [ ] аламыз. Мұндағы,,, және [ ].{ } тәуелсіз және бірқалыпты үлестірілген кездейсоқ таңдама және де { } болады. [25] Линдеберг-Феллер теоремасы үшін белгілеулерді қолданып, аламыз. -дің үлестірім функциясы болсын. Ал, -мен сәйкес келеді және Линдеберг функциясы келесі түрде 31

32 ( ) ( ) [ ] жазылады. Минковский және Гельдер теңсіздіктері бойынша, ( ) ( ( )) ( ( )) ( ) (28)-ші теңдікке ұқсас, ( ) ( ) ( ) ( ) ( ) аламыз. (29)-шы теңдік бойынша ) [ ] шығады. Сәйкесінше, ( ) ( [ ] ) ( ) Линдеберг-Феллер теоремасы бойынша. 32

33 ) [ ] болғандықтан, (42)-ші теңдіктен )) ( )) шығады. Сонда, ) )) ( ) ). (44)-ші теңдік орындалады, егер ( Ал, (21)-ші теңдіктен мынадай белгілі. Сәйкесінше, ( ) ). ) ( ) екені ) ( ). болғандықтан, (43)-ші теңдіктен ) ) болады. Яғни, бағалау нөлдік орта мәнмен асимптотикалық нормаль болады. 2.6 Монте-Карло әдісі Біз бағалауымызды ретті туындыларға және ядро параметрлеріне жүзеге асырамыз, сонымен қатар тығыздық бағалануы керек және ядро өзегі ядросын құруға қолданылады. Туынды реті өскен сайын шын тез жаман болады, сондықтан біз жағдайларды қарастыра алмаймыз. Егер және симметриялы болса, ядросы -мен сәйкес келетінін, жағдайындағы төменде көрсетілген нәтижелер Розенблатт- Парцен нәтижесімен сәйкес келетінін айта кеткен жөн. Біз мәнін 4-пен шектедік, себебі [13] мәнінің өсуі бағалауды жақсаратынын көрсетті (олар мәні 2, 4, 8 болсын деді). Ал, бағалаудың туынды жағдайында мәнінің үлкен болуы техникалық қиындықтар туғызады, себебі (40)-шы теңдік, тиімді қадам формуласы тығыздықтың ретті туындысын қажет етеді. [26] жұмыста бағалау үшін тығыздықтың төрт түрі және нормаль араласуының мысалдары ұсынылды. Олар: 1) Gaussian ; 2) Bimodal ( ( ) ( )); 3) Separated-Bimodal ( ( ) ( )); 4) Trimodal ( ( ) ( ) ( )); 33

34 Осы төрт тығыздық [13] жұмыста да олардың симуляциясы үшін қолданылды. Олар қосымша тағы бір барлық -тер үшін екінші туындысы үзілісті болатын, бірақ 2-ретті Липшиц шартын қанағаттандыратын тығыздықты қарастырды. Біз бұл бесінші тығыздықты алып тастадық, өйткені біз қолданатын тиімді қадам бұл тығыздық үшін анықталмайды, әрі және жағдайы [13] жұмыста қарастырылған. ядросы үшін үш түрлі түбір қарастырдық: 1) Gaussian, 2) 5 еркіндік дәрежесімен t үлестірімі және 3) Concentrated. Үшіншісі мына түрде анықталады, мұндағы ( ) нормаға түсіру тұрақтысы. Сурет 2-де біз қолданған үш түрлі түбірдің графигі бейнеленген. Concentrated тығыздығының атауы сурет 2-ден көрініп тұр. Мұнда Concentrated тығыздығы төбесі тегіс және құйрығы жоқ болатынын, t үлестірімі Gaussian қарағанда толық құйрығы болатынын айта кеткен жөн. Сурет 2 - Үш ядро түбірін салыстыру Біз тығыздықтың жоғарғы жағы тегістелуден қашып, t үлестірімі үшін 5-тен жоғары еркіндік дәрежесін қолданған жоқпыз. Әр түрлі түбіртермен тәжірибе жасаудың себебі - шын тығыздық туындысы мен тығыздық бағалауының туындысының арасындағы айырмашылығын ең биік нүктеде көру, тіпті бақылаудың саны үлкен болса да (n= ) және тесіп өтуі сызығы жоғалмайды (сурет 3). 34

35 Сурет 3 - Bimodal, k=3, m=2, n-obs= Бірінші, Gaussian өзегінің нәтижелерін баяндаймыз, сосын басқа түбірлерді қойғандағы нәтижелерді келтіреміз. Төрт тығыздықтың әрқайсысына өлшемі 400 болатын 1000 таңдама алынды. Әр таңдама үшін төрт бағалау алынды:,. Айта кетейік, болғанда -пен (Розенблат-Парцен) сәйкес келеді. Тиімді қадам үшін (41)-ші теңдік барлық жағдайға қолданылды. Түсіндірме: тәжірибеде белгісіз болғандықтан бұл қадам табылмайды. Дегенмен, Монте-Карло әдісімен зерттеуде қадам арқылы жасалған таңдама бағалаудың өнімділігі шуға әсер етпеу керек. Кесте 2-де әрбір тығыздық үшін n=200, 400, 600 болғандағы абсолютті орта ығысу (В) мен орта орташа квадратталған қателік (MSE) келтіріледі. Кесте 2-де келесі жалпы заңдылықтарды зерттейміз. Теория бойынша мәнінің өсуі абсолютті ығысудың ортасы (В) және орташа квадратталған қателіктің (MSE) ортасы төмендетуге әкеледі, бірақ бұл барлық тәжірибе үшін орындалмайды. Соның ішінде, -тен -ке ауысқанда, жоғары ретті туындылар жағдайында немесе тығыздықтар жағдайында бағалауға қиын болады, яғни және жағдайында, әр уақытта В пен MSE жақсармайды. Ары қарай, барлық қарастырылған бағалаулар үшін, тығыздық функцияларын үлкендеу қисықтарымен ( және қисықтар деңгейі өскенде) ығысу мен орташа квадратталған қателікте де бағалау қиын. Біз ұсынған бағалаулар ) ығысу мен орташа квадратталған қателікте де Розенблат-Парцен бағалауынан асып түседі, тек жағдайын ескермегенде. Енді басқа екі түбір үшін (t үлестірімі және Concentrated) ауызша сипаттама береміз. Біз Concentrated үлестірімін түбір ретінде қолданғанда, тығыздық қисығы өскен сайын, олар нашарлап кетеді. Қатарлар тәртібі өзгереді. кезінде, жағдайы және жағдайы Розенблат-Парцен 35

36 сияқты жақсы,тек жағдайын ескермегенде. жағдайында Розенблат- Парцен нәтижелері асып түседі. Бұл ығысу (В) үшінде, орташа квадратталған қателік (MSE) үшінде ақиқат. 5 еркіндік дәрежесімен t үлестірімін түбір ретінде қолдансақ, тиімді қадам анықтамасы -ның мәні шектелуден, шарты шығады. болғанда, жағдайында біздің бағалауымыз барлық тығыздықтар үшін Розенблат-Парценнан асып түседі, тек жағдайын ескермегенде. жағдайында, бағалауымыз барлық жерде жақсырақ. Соңында, егер бекітілген және үшін үш түбірті салыстырсақ, онда барлығынан Gaussian ең жақсысы болып табылады, тек -те бағалауға қиындау үлкен мәндері болады. Gaussian тығыздығы концентрация мен дисперсия арасындағы дұрыс баланс болатын сияқты. Кесте 2 - Тиімді қадам бойынша төрт бағалау кестесі Орта ығысу (Average Bias, B), Орташа квадраттық қателік (MSE) n=200 estimators B MSE B MSE B MSE B MSE m= m=1 m=

37 2-кестенің жалғасы n=200 estimators B MSE B MSE B MSE B MSE m= m=1 m=2 m=0 m=1 m= n=600 estimators B MSE B MSE B MSE B MSE

38 3 ТЫҒЫЗДЫҚТЫҢ ЯДРОЛЫҚ БАҒАЛАУЫНДАҒЫ ЫҒЫСУДЫ ТӨМЕНДЕТУ 3.1 Негізгі түсініктер мен ұйғарымдар Бұл бөлімде, -ретті тығыздықтың ядролық бағалаулары үшін ығысудағы -ді вариацияның шектелгендігін сақтай отырып, кіші етуге болатынын көрсетеміз. тығыздық функциясы 1-бөлімдегі Розенблатт-Парценнің ядролық бағалауын (1) қанағаттандырады және ядро (2)-ші шартты қанағаттандырсын. деп -ның -ші моментін белгілейміз және ядроның реті болсын, яғни. Ығысу -ке тікелей тәуелді екені айқын, егер -ретті тегіс болса ([27-30]). Кәдімгі әдіс кейбір үшін орындалады және алынған -ны қанағаттандырады. Осы бөлімнің мақсаты -ны сәйкес таңдау арқылы төмендету болып табылады. Ығысу -ға тікелей тәуелді екеніне қарамастан, ұсынылып отырған әдіс айқын емес, себебі -ші моменті кіші болса, вариация өсіп кетуі мүмкін. Біздің -ны құруымыз, бізге вариацияны бақылап отыруға мүмкіндік береді. Біздің нәтижелеріміз барлық -ретті ядролардың ішінде бірқалыпты шектелген вариациямен нөлден кем емес ядро бар деп ұйғарады. [13] жұмыста ядроның ретін таңдау туралы мәселе қарастырылған жоқ. -дегі жинақтылық жағдайындағы басты идеяны сәйкес ығысуды қолдану түсінігімен сипаттауға болады [27]. Ығысу мына түрде анықталсын, мұндағы. Егер -ретті болса, -тің ретті абсолютті үзіліссіз туындылар бар болады және де интегралданатын туынды болсын, онда [27, Теорема 7.2] бойынша ( ) Біздің 2-ші теореманы қолдана отырып, -ны қалағанымызша кіші жасауымыз мүмкін. Біз еркін-пайда (free-lunch) әсері деп -ны тығыздықтың тегістігін арттырмай немесе ядроның ретін өсірмей кіші жасауымызға мүмкін болатын фактті атаймыз. Әрине, ақырлы таңдамаларда ығысуды толығымен жоқ қылуға болмайды. Басқаша айтқанда, өте кіші кезінде таңдамалы вариацияның әсері ығысудан басым болып кетеді. 3.2 негізгі нәтижелер бөлімінде тек тегістіктің классикалық характеристикаларын береміз. 3.3 бөлімінде симуляция нәтижелерін береміз, яғни келтіріп отырған ядромызды үш белгілі ядролар жиынымен салыстырамыз. Жалпы қорытынды, жақсы бағалау болады, егер ол кейбір 38

39 тиімділеу критерийі болуы қажетті емес және бағалаудың ығысуын тура мақсаттау арқылы алынады. 3.2 Негізгі нәтижелер мен қажетті материалдар Көпмүшелікке көбейту арқылы [31], [32] жоғары дәрежелі ядроларды құру көптеген әдістің бірі болып табылады. [19] түрлендірілген ядро жоғарғы ретті -ядроның -ретті көпмүшелікке көбейту арқылы ( ) жасалу әдісін зерттеді. Сәйкес таңдалған вектор коэффициенттері. Кейбір тиімділеу критерий үшін көпмүшелікті қарастырған бірнеше авторлардан [31-35] өзгешілігі, [19] көпмүшелік анықтамасы бойынша ядроның нәтижесі моменттерге негізделген. Олардың 2.1 теоремасында, олар көпмүшелік түрлендіруін жаңа ядроның 1-ден -ге дейінгі моменттері нөл болсын анықтады. Олар -шы моментін де кіші қылып алуға болатындығын және нәтиже беретін бағалаудың вариациясы ретін сақтайтынын ескермеді. Біз бұл жұмыста осыны жасаймыз. Бұдан басқа, тек вариацияны ғана емес, сонымен қатар ығысу мен вариациядағы Тейлор жіктеуіндегі -тың барлық жоғарғы ретті мүшелерінің өсіп кетпеуін бақылауға болатындығын көрсетеміз. Біз мұны екі ұйғарым жиындар негізінде жасаймыз. Біріншісі, тығыздық шексіз дифференциалданады және -ның барлық моменттері бар болады. Екіншісі, тығыздықтың ақырлы туындысы бар болады, ал ядро және оның квадратының моменттерінің саны ақырлы болады. Біз бірінші жиынға толығымен дәлелін береміз, себебі нәтижелеріміз жаңа және [19] кейбір формальді шексіз жіктеуі кеңейтілген. Ал, екіншісінің дәлелі әдеттегі жолмен (жоғары ретті мүшелерін реттеуге) беріледі, сондықтан да қалдырып кетеміз. деп -ның -ші абсолютті моментін белгілейміз. - тің бағалауы (1)-дің екі жағын -рет дифференциалдау арқылы алынады. Теорема 1. шексіз дифференциалдансын және де -ның -ретті үзіліссіз туындысы бар болсын деп ұйғарайық. Ары қарай, және -дің барлық дәрежелі абсолютті моменттері бар болсын деп ұйғарайық, { ( )} (45) (46) Онда ) (47) 39

40 ) { [ )] } (48) мұндағы, [ ] және барлық үшін қатарлар жинақталады. Сәйкесінше, егер -ретті ядро болса, онда ) (49) және ) { } (50) Сонымен қатар, -ретті туындысының бағалауының интегралданған квадраттық қателігінің жинақтылығы үшін асимптотикалық тиімді қадам келесі түрде анықталады { (( ) ) (( ) ) [ ] } (51) функциясының көмегімен келесі симметриялы матрицаларды жаза аламыз: ( ) Келесі теоремада еркін-пайда (free-lunch) әсері дәлелденеді, ыңғайлы болу үшін -ке шектеу қоямыз. деп әр түрлі нақты мәндері маңызды емес оң тұрақтыларды белгілейміз. Дәлелімізге қажет болатын үш қосымша леммадан бастайық. Лемма 1. (45) шарт негізінде (52) 40

41 (53) мұндағы барлық қатар кез келген үшін жинақталады. Дәлелі. [38] (1.4.7) теңсіздігін жалпылаудан бастаймыз. Гельдер теңсіздігі бойынша, болсын. ( ) ( ) ( ) ( ) немесе [ ] [ ] [ ]. үшін мына аралықты қарастырамыз, содан барлық үшін жоғарыдағы теңсіздіктен [ ] [ ] (54) шығады, мұндағы { }. Бұл шектеу мынаны береді. (45)-ші теңдікті қолданып, (52)-ші теңдік дұрыс екенін көруге болады. Коши-Адамар теоремасы бойынша кез келген үшін қатар жинақталады. Дәрежелік қатарлардың қасиеті бойынша (53)-ші теңдіктегі барлық қатар жинақталады. Лемма дәлелденді. Лемма 2. Егер ( ), онда үшін [ ( )]. Дәлелі. болсын. [ ] Соболев кеңістігі [ ] үзіліссіз функциялар класына енгізілгені белгілі, яғни қандайда бір -дан тәуелсіз тұрақтымен [ ] ( ). Осы бағалауды [ ] сегментіне қолданып, әрі мына нәтижені [ ] үшін қолданып, келесі нәтижені 41

42 ( ) [ ( )] ( ) аламыз. жағдайы ұқсас. Лемма дәлелденді. Лемма 3. Егер (45)-ші шарт орындалса, онда біз мынадай өрнек аламыз. Дәлелі. (53)-ші теңдікті үшін қолданып және Фубини теоремасы бойынша интеграл мен қосындының ретін өзгертіп, келесі теңдікті (55) аламыз. Мұндағы негізгі мәселе қатарларды бөліктеп интегралдауға болатындығын дәледеп көрсету. Айталық, болсын. Мұнда, -ге тең. (54)-ші теңдіктен шығады. Сәйкесінше, 42

43 [ ] (56) болады. 1-Леммадан барлық үшін екенін білеміз. болғандықтан, барлық үлкен -лар үшін аламыз, (56)-шы және (45)-ші теңдіктерден Коши-Адамар теоремасы бойынша, кез келген жинақталады. Яғни, үшін мына қатар болады. Әрбір -ді бірлік массаға жинасақ және де Фубини теоремасы бойынша (55)-ші теңдіктентен интеграл мен қосындының ретін өзгертуге болатынын көреміз. Лемма дәлелденді. Теорема 1-дің дәлелі. 1-қадам. Кез келген және үшін (57) -ғы жағдайын қарастырамыз ( -ғы жағдай ұқсас). Лемма 1 ( деп аламыз) және Лемма 2-ден ( -дің орнына -ді қоямыз) 43

44 [ ( )] (58) шығады. Оң жақтағы қатарлар барлық ретінде, осыны (45)-ші теңдіктің көмегімен үшін жинақталады. Мысал үшін көрсетеміз. 1-жағдай.. Бұл жағдайда (45) тікелей қолданылады. 2-жағдай.. деп белгілейміз. (54)-ші теңдіктен ( ) ( ). Осы шектеуді қолданып, ( ) ( ) [ ( )] [ ( )] [ ( )] аламыз. Соңғы теңдікте барлық үлкен үшін және -ді қолдандық (Лемма 3-тің дәлеліне ұқсас). Сондықтан, Коши-Адамар теоремасы бойынша (58)-ші теңдік жинақталады және -да (57)-ші теңдік шығады. 2-қадам. (57)-ші теңдік бізге -рет бөліктеп интегралдауға мүмкіндік береді: ) ( ) ( ) 44

45 (59) (59)-ші теңдіктен және Лемма 3-тен (47)-ші теңдік шығады. 3-қадам. Енді біз вариацияны табамыз. үлестірілгендіктен, тәуелсіз және бірқалыпты ) ( ( )) { ( ( )) ( ( )) } { ( ) ( ( ) ) } (60) шығады. (47)-ші және (59)-ші теңдіктерден, ( ) ) (61) шығады. (45)-ші теңдіктің аналогі ретінде шарттар ядро үшін (46) және (45)-ші ( ) шығады. Сонымен, Лемма 3 -ның орнына -ге қолданылады ( жағдайында), яғни ( ) (62) (60), (61) және (62)-ші теңдіктерден (48)-ші теңдік шығады. (49), (50) теңдіктері (47), (48)-ші теңдіктерден шығады. 4-қадам. Тиімді қадам әдісі бөлімінде қарастырылады. Теорема 2. шексіз интегралдансын және үзіліссіз және барлық ретті моменттері бар болсын, яғни, 45

46 (63). (64) және векторының компоненттері. Онда болсын және ) (65) ) [ ] (66) мұндағы, және. (65) және (66)-шы теңдіктердегі -тың барлық жоғарғы ретті мүшелері - ге ұмтылғанда өздерінің шамасын сақтайды. Дәлелі. 1-теореманы қолдану үшін, ядросы жағдайында шарттарды қанағаттандыра ма тексереміз. және қолдана отырып, [ ] [ ] [] [ [ ] ] [ ] 46

47 [ ] аламыз. Мұнда үшін (52), (54), (63)-ші теңдіктерді және фактті қолдандық. Сонымен, ядросы (45)-ші теңдікті қанағаттандырады. Теорема 1 қолданымды және барлық қатарлар жинақталады.,, және анықтамаларынан ( ) ( ) ( ) (67) [ ] шығады. Осы теңдеулерден және (49) және (50)-ші теңдіктерден (65) және (66) теңдіктері шығады. жүйесі сызықты тәуелсіз, себебі { } оң өлшемді жиында мына теңдік барлық жерде дерлік болады. осы жүйенің Грам матрицасы ( ) -дің сызықты тәуелсіздігі -дың және оң анықталғандығынан шығады [38]. Соңғы ескерту жоғарғы -тың барлық жоғарғы ретті мүшелері Теорема 1-ден шығады. Ескерту 1. деп алу арқылы ядро аламыз, сәйкес анықтама мен теорияны [35] қара. 47

48 Салдар 1. -дің элементтерін, және деп белгілейік. Онда,. болғанда, ( ), ( ) ( ) ( ). Яғни, осыдан (66)-шы теңдіктің мәнін сақтай отырып, (65)-ші теңдіктегі етуге болатыны шығады. -ді кіші Ескерту 2. Теорема 2-ні дәлелдеу барысында -дың оң анықталғандығын көрсеттік. Егер теріс емес болса, онда (64)-ші теңдік орындалады. Теорема дәлелденді. жағдайында, тиімді қадам және асимптотикалық ISE-тің барлық жуықталған мәндері (65)-ші теңдіктегі -дан тәуелді, сондықтан да (51)-ші теңдіктегі тиімді қадамның қолданылуы жай емес. -ді таңдауды Монте-Карло симуляция бөлімінде талқылаймыз. ISE-тің жинақтылығы үшін тиімді қадам жағдайында (51)-ші теңдікпен беріледі. Біз келесі теоремада еркін-пайда (free-lunch) әсері үшін -тің шексіз интегралы және -ның барлық дәрежелі моменттері жоқ жағдайындағы қажеттілік шарттарын береміз. Теорема 3. (64) орындалсын делік, -тің -ретті үзіліссіз дифференциалы бар болса, онда және болады. Сонда (65) және (66)-ші теңдіктер дұрыс. Дәлелі. Лагранж қалдығымен Тейлор формуласы бойынша [ ]-тегі қандайда бір нүкте. Осы теңдіктен және (59)-ші теңдіктен (соңғы қатары болғанда) ) (68) 48

49 шығады. Егер -ның реті болса, онда (59)-ші теңдіктен (бірінші қатары болғанда) ) ( ) (69) шығады, мұндағы, қалдық келесі теңдікті (70) қанағаттандырады. (68)-ші теңдікті жағдайында қолданамыз және -ның орнына -ты қолданып, ) ( ) ( ) (71) аламыз, мұндағы, қалдық бағалауы ( ) (72) анықталған. (65), (67) және (60)-ші теңдіктерін біріктіру арқылы, аламыз. ) { ( ) ( ( ) ) } { [ ]} { } (73) Енді (69) және (73)-ші теңдіктерін -ға қолданып, ал векторы 2-теоремада берілген. болғандықтан, (68)-ші теңдіктен ) 49

50 шығады, мұндағы (70) және (62)-ші теңдіктерден, (67) және (73)-ші теңдіктерден, ) [ ] тең болады. Мұнда -тың тұрақтылары -да шексіздікке өспейтін кейбір шамамен шектелген, себебі (69)-шы теңдіктен тең болады. Теорема дәлелденді. 3.3 Монте-Карло симуляциясы Ядро жиыны мен шын тығыздықтарға сипаттама Бұл бөлімде, біз екінші ретті ядроны көпмүшелікке көбейту арқылы алынған ядролар жиынын қарастырамыз, себебі біздің бағалауымыз осы жиында жатады. Бұл құрудың әдісі есептеуге тиімді. Келтіріп отырған ядромызды салыстыру мақсатында біз екі ядро класын таңдаймыз. Біріншісі, Gaussian, ал екіншісі Epanechnikov. Бұл екі класты [36] алдық. Epanechnikov ядросы [36, 142 б.] келтірілген. Мұндағы көпмүшеліктер [-1,1] аралығында шектелген, сегменттің сыртында нөл болады. Gram-Charlier ядросы [36, 140 б.] келтірілген. Бұл нәтижелер [36]-тен алынған, алайда q=10 жағдайында өзгерту бар, яғни [36, 162 б.]-гі теңдеу келесі түрде берілуі тиіс. Өзгерту Mathematica программа жүйесінде жасалды. Мұндағы Gaussian тығыздығы. Барлық осы ядролардың дәрежелері жұп болып келеді және де біз тек жұп дәрежелі ядроларды қолданамыз. 2-тарау, 2.6 бөліміндегі төрт мақсатты тығыздықтар бағалау үшін қолданылды [26]. Олар қисықтарының өсу ретімен қойылғанын, әрі Trimodalды бағалауға қиындау болатынын айта кетейік. 50

51 3.4 Тиімді қадамды таңдау (49) және (50) теңдіктерден интегралданған квадраттық қателіктен ) ( ) ( )) ) асимптотикалық функциясы шығады. Мұндағы,, -ді жуықтау арқылы, ( ) ( ), ( ). (74) ( ) (75) аламыз, ал тиімді қадам үшін кәдімгі өрнек (51)-ші теңдікте келтірілді. (51) теңдіктегі тиімді қадам үшін өрнек аламыз. Ары қарай тек жағдайында тығыздықтың бағалауын қарастырамыз. Бұл жағдайда, -дің жуықталған мәні ( ). (76) Кәдімгі ядро үшін, тұрақтылары (74)-ші теңдікпен анықталады және түрлендірілген ядро үшін -дің функциялары бар ( ) ( ),. (77) (77)-ші теңдікті (75)-ші теңдікке қою арқылы ( ) табамыз. ( )-ды (76)-ші теңдікке қою арқылы ( ( )) табамыз. -ге ұмтылғанда, (76)-ші теңдікте нөлге ұмтылатыны айқын көрініп тұр. Алайда, болғанда ығысу толығымен жоқ болмайды. Мұнда жалпы факт бар, ядро бағалаулардың ығысуы тек тығыздықтың және ядролардың арнайы жағдайларында ғана нөл болуы мүмкін [27, 113 б.]. Біздің жағдайда осы фактті сурет 4-те функциялары ретінде сипатталған ығысу мен интегралданған квадраттық қателіктің ортасының тәртібін баяндаймыз. (Ескерту: сурет 4-те, -дің әрбір мәні үшін интеграл итерациясының ығысу ортасы, мұндағы, тығыздық және оның 51

52 сәйкес бағалауы). -ге ұмтылғанда, (51)-ші теңдіктегі тиімді қадам -ке ұмтылады. Бағалауымыз шектен тыс тегіс болып кетеді, сонымен 4-суретте ығысу мен интегралданған квадраттық қателіктің ортасының тәртібі көрсетілді. Сурет 4 - Сол жақ: орта ығысу. Оң жақ: орташа квадратталған қателік. Екі жағдайда да -дің мәндері ретті өсінде. Бақылаулар және қайтарулар саны Gaussian тығыздығы және 2-дәрежелі Epanechnikov тығыздығына негізделген түрлендірілген ядро. Ақырлы таңдамаларда -ды таңдау еркін-пайда (free-lunch) әсері мен бағалаудың вариациясы арасындағы келіспеушілікті қайтару мүмкін. Кәдімгі ядро жағдайында бұл келіспеушілік тиімді қадамда байқалады және де тиімді қадамды таңдауды осымен бітіреміз. Мұнда біз екі тәсілді талқылаймыз: (I) қандайда бір пішіндейтін тұрақтымен бірге -ға тәуелді, яғни және (II) ISE-тің жуықталған мәндерін салыстыруға негізделген. Көптеген тәжірибе нәтижесінде, (I)-тәсіл болғанда жағдайлары үшін орындалатынын, ал (II)-тәсіл болғанда жағдайлары үшін орындалатынын байқадық. Төменде тәжірибемізге қысқаша сипаттама келтіріледі. (I)-тәсіл. (49)-ші және (65)-ші теңдіктерін салыстырсақ, онда -ны қандайда бір -ге көбейту арқылы таңдау керектігі шығады. Сондықтан да, біз кәдімгі ядро үшін эмпирикалық ISE-ті қарастырдық. Сонда аз таңдама кезінде (100 шамасында) теориялық тиімді қадам тиімді болған жоқ. Жақсы тиімді қадам шамасында болды. Ал, үлкен таңдамалар үшін (1000 шамасында) теориялық тиімді қадам маңайында үлкен аралықта эмпирикалық ISE тегіс болды. Бұл үлкен аралық саны. Сонымен, біздің симуляциямызда барлық таңдама өлшемі үшін және барлық кәдімгі ядролар үшін -ға қарағанда тиімді болды. ядросы үшін деп аламыз. Бағаланған тығыздықты таңдауға қатысты бұл таңдау сенімді болды. Өкінішке орай, жағдайы кәдімгі ядроға қарағанда жағдайлары үшін бағалаудың 52