مقایسه کارایی آنالیز مولفه های اصلی و تبدیل کسینوسی گسسته در شناسایی چهره با استفاده از تبدیل موجک و ماشین بردار پشتیبان 2 1 مژده الهی جلیل شیرازی 1- دانشجوی کارشناسی ارشد کنترل دانشگاه آزاد اسالمی واحد گناباد 2- استاد یار گروه برق-مخابرات دانشگاه آزاد اسالمی واحد گناباد Mozhde.elahi@gmail.com نام ارائهدهنده:مژده الهی كد مقاله: خالصه در این مقاله مقایسه کارایی دو روش آنالیز مولفه های اصلی و تبدیل کسینوسی گسسته در کاهش تعداد مولفه های بردار های ویژگی برای تشخیص چهره انجام شده است. برای استخراج ویژگیهای چهره از تبدیل موجک و برای آموزش و آزمون سیستم دسته بندی کننده از ماشین بردار پشتیبان )SVM( استفاده شده است. در این مقاله پایگاه داده ORL مورد استفاده قرار گرفته است و نتایج آزمایشها بر روی پایگاه داده مذکور نشان می دهد که روش کاهش ویژگی ها با استفاده از آنالیز مولفه های اصلی در مقایسه با تبدیل کسینوسی گسسته از دقت باالتری در تشخیص چهره برخوردار است. کلمات کلیدی: شناسایی چهره تبدیل موجک آنالیز مولفه های اصلی تبدیل کسینوسی گسسته ماشین بردار پشتیبان..1 مقدمه در سالهای اخیر شناسایی چهره مورد توجه زیادی در زمینه های تحقیقاتی مرتبط با بیومتریک شناسایی الگو و بینایی ماشین قرار گرفته است. همچنین در برخی کاربرد های تجاری و امنیتی نیز روش های شناسایی چهره مورد استفاده قرار می گیرد. این کاربردها شامل کنترل امنیتی افراد کنترل دسترسی شناسایی افراد مجرم )مثال برای کنترل گذر نامه( بازسازی چهره مدار های واسط بین انسان و رایانه هستند[ 1 ]. در بازشناسی چهره سیستم با توجه به چهره های آموزش دیده شده یک چهره را که شباهت بیشتری به چهره مورد نظر داشته باشد انتخاب کرده و به عنوان جواب نهایی در نظر می گیرد[ 2 ]. بارزترین تفاوت میان روش های شناسایی چهره در چگونگی استخراج و نمایش خصوصیات چهره می باشد. تاکنون روش های مختلفی برای استخراج ویژگی پیشنهاد شده است که به طور کلی می توان آن ها را به دو دسته مبتنی بر ساختار چهره و مبتنی بر ویژگی های چهره تقسیم نمود [3]. تبدیل موجک یک روش قدرتمند و همه جانبه برای استخراج ویژگی می باشد. این روش به طور گسترده در زمینه های حذف نویز فشرده سازی و شناسایی چهره استفاده می شود [3]. در مراجع [8-5] از تبدیل موجک برای شناسایی چهره استفاده شده است. از معروف ترین روش های مبتنی بر کاهش بعد آنالیز مولفه های اصلی و تبدیل کسینوسی گسسته است. تحلیل مولفه های اصلی یک تبدیل خطی است که از واریانس داده های ورودی استفاده می کند. این روش ابزار قدرتمندی برای تجزیه و تحلیل داده های ورودی در حضور تغییرات خطی می باشد[ 9 ]. تبدیل کسینوسی یكی از تیدیلهایی است که در پردازش سیگنالهای دیجیتال و پردازش تصویر تكنیک استاندارد برای فشرده سازی و کدینگ تصاویر است که در استاندارد استفاده می شود[ 10 ]. کاربرد بسیاری دارد. تبدیل کسینوسی دو بعدی هاي ی همانند MPEG-1 JPEG, MPEG-2, و از این یک تبدیل یكی از مشكالت سیستمهای شناسایی چهره از یک طرف تعداد زیاد نمونه ها برای آموزش و از طرف دیگر افزایش تعداد ویژگی ها برای بیان هر نمونه یا به عبارت دیگر افزایش بعد می باشد بنابراین برای داشتن یک سیستم شناسایی دقیق و مطلوب نیاز به روش دسته بندی کننده ای است که بتواند یک 1 دانشجوی كارشناسی ارشد كنترل دانشگاه آزاد اسالمی واحد گناباد 2 استاد یار گروه برق-مخابرات دانشگاه آزاد اسالمی واحد گناباد 1
مجموعه بزرگ از داده های آموزشی با ابعاد زیاد را حمایت کند. [11]. در [12-15] از این روش برای دسته بندی چهره استفاده شده است. 1 یک گزینه مناسب برای تحقق این هدف ماشین بردار پشتیبان ( )SVM می باشد در ادامه مقاله در بخش 2 نحوه استخراج بردارهای ویژگی تصویر چهره از تبدیل موجک تشریح می شود. در بخش 3 روش های کاهش ویژگی 2 PCA و DCT 3 معرفی می شوند. در بخش 4 به معرفی مختصری از ماشین بردار پشتیبان پرداخته شده است. در بخش 5 آزمایشهای انجام شده تشریح و در انتها در بخش 6 نتایج پیاده سازی اراي ه شده و مورد بحث و بررسی قرار گرفته اند. 2. استخراج ویژگی در این بخش ابتدا مروری بر تبدیل موجک یک بعدی و دو بعدی وسپس چگ.نگی استخراج ویژگی از تصویر بررسی شده است. ایده اصلی تبدیل موجک گسسته توصیف زمان-مقیاس از سیگنال گسسته با استفاده از فیلتر های دیجیتال است. در یک سیستم تبدیل موجک گسسته یک بعدی در ابتدا سیگنال از یک فیلتر دیجیتال پاي ین گذر نیم باند با پاسخ ضربه h[n] عبور کرده که در نتیجه این عمل فیلترینگ تمام مؤلفه های فرکانسی که بیشتر از نصف بزرگترین فرکانس موجود در سیگنال باشند حذف می شوند. روند مشابهی نیز با استفاده از یک فیلتر دیجیتال باالگذر نیم باند با پاسخ ضربه g[n] انجام می پذیرد. در نتیجه در خروجی اولین مرحله از اعمال تبدیل موجک دو نسخه یكی باالگذر و دیگری پاي ین گذر با طول کاهش یافته )نصف شده( از سیگنال اولیه به فرم زیر بدست می آیند: در روابط فوق x[n] سیگنال ورودی ضرایب و به ترتیب خروجی فیلتر پایین گذر و خروجی فیلتر باالگذر می باشند. ضرایب خروجی فیلتر پاي ین گذر شكل اولیه سیگنال را دنبال می کنند به همین دلیل به این ضرایب تقریب گفته می خروجی فیلتر باال گذر جزي یات فرکانس باالی سیگنال را دربردارند به همین دلیل به این ضرایب جزي یات گفته می شود. شود. همچنین تبدیل موجک گسسته دو بعدی برای سیگنال های دو بعدی مانند تصاویر استفاده می شود. نحوه پیاده سازی تبدیل موجک دو بعدی نیز مانند تبدیل موجک یک بعدی است. بدین صورت که به منظور اعمال تبدیل موجک دوبعدی به تصویر ابتدا تبدیل موجک یک بعدی به سطرها اعمال می شود و سپس ستونها با نرخ 2 کاهش نمونه می شوند تا فقط نمونه های واقع در محل های زوج باقی بمانند. در این حالت مجددا تبدیل موجک یک بعدی به ستونها اعمال شده و نهایتا سطرها با نرخ 2 کاهش نمونه می شوند. بدین ترتیب 4 زیرباند مختلف به عنوان ضرایب تبدیل موجک تصویر بدست می آید. اولین زیرباند از ضرایب تبدیل موجک مربوط به ضرایب تقریب است که از لحاظ مقدار و شكل ظاهری مشابه با تصویر اولیه است عالوه بر زیر باند تقریب 3 زیر باند جزي یات ایجاد می شود که یكی از آن ها مربوط به جزي یات افقی موجود در تصویر دومی مربوط به جزي یات عمودی موجود در تصویر و آخرین زیرباند مربوط به سایر جزي یات موجود در تصویر است که گاها به آن جزي یات قطری نیز گفته می شود. در شكل 1 ساختار دو سطحی تبدیل موجک دو بعدی نشان داده شده است. شکل 1. بلوک دیاگرام تبدیل موجک بر روی تصاویر دیجیتال[ 6] برای استخراج بردارهای ویژگی بر روی تصاویر تبدیل موجک دو بعدی اعمال شده و با استفاده از زیر باند فرکانس پایین )LL( بردار ویژگی هر تصویر بدست می آید. سپس با استفاده از PCA و DCT ابعاد بردارهای ویژگی بدست آمده را کاهش داده و ویژگی های جدید استخراج می شوند. 1. Support Vector Machine 2.Discrete Cosine Transform 3.Principal Component analysis 2
3. کاهش ویژگی آنالیز عناصر اصلی ایده اصلی PCA در سال 1991 توسط Turk و pentland بیان شد که از آن برای استخراج ویژگی و کاهش ابعاد استفاده می شود. در ادامه توضیح مختصری از مراحل اجرای PCA به صورت گام به گام بیان می شود. گام اول : می توان یک مجموعه از M تصویر با سایز N*N را توسط بردار های با سایز N 2 بیان کرد. گام دوم :میانگین مجموعه آموزشی بدست می آید: گام سوم: بردار هر تصویر از بردار میانگین کسر می شود. گام چهارم: ماتریس کواریانس به شكل زیر بدست می آید: گام پنجم: یافتن بردار های ویژه ماتریس N 2 N* 2 خیلی مشكل است بنابراین ما از ماتریس A T A* T با سایز M*M استفاده کرده و بردار های ویژه این ماتریس کوچک را بدست می آوریم. گام ششم: اگر v یک بردار غیر صفر و λ یک عدد باشد بطوریكه v Av=λv را بردار ویژه و λ را مقدار ویژه ماتریس A گویند. T گام هفتم: بردار های ویژه v i را از A T A* بدست می آوریم : گام هشتم: ماتریس A را در دو طرف معادله ضرب می کنیم. گام نهم: یک تصویر چهره توسط رابطه زیر بدست می آید. بندی تبدیل کسینوسی گسسته DCT بر خالف سایر روش ها مانند تبدیل فوریه گسسته ) 1 (FFT تنها با ضرایب حقیقی سروکار دارد. در FFT حتی هنگامی که با دنباله های صرفا حقیقی کار می کنیم ضرایب مختلط ظاهر می شوند. در DCT بیشتر اطالعات سیگنال در اندیس های پایین متمرکز شده و حقیقی اند و می توان در کاربرد های فشرده سازی بدون نگرانی از دست رفتن داده های حیاتی اندیس های بزرگ را در نظر نگرفت. DCT فشرده سازی را با گروه کردن پیكسل های هم فرکانس و ویژگی فشردگی انجام می دهد. DCT روی تک تک درایه های)پیكسل( انجام می شود. تبدیل DCT در حالت دو بعدی یک تبدیل جداپذیر خطی است. به این معنی که معادل این است که یكبار تبدیل DCT در یک بعد انجام شود و به دنبال آن در بعد دیگر انجام شود. تعریف تبدیل DCT ی دو بعدی و معكوس آن برای تصویر ورودی A به صورت زیر است : 1. Fast Fourier Transform 3
از مهمترین خواص DCT این است که بیشترین اطالعات سیگنال را در ضرایب معدودی که در فرکانس های پایین قرار دارند ذخیره می کند. همین طور در مورد تصویر هم بیشترین اطالعات تصویر در ماتریس گوشه باال سمت چپ ماتریس ذخیره می شود و می توان از همین اطالعات به عنوان ویژگی استفاده کرد...4 ماشین بردار پشتیبان در این بخش ماشین بردار پشتیبان به عنوان یک روش دسته بندی کننده معرفی شده است. ایدۀ اولیۀ این روش برای اولین بار در سال 1999 توسط محقق روسی به نام والدیمیر واپنیک مطرح شد و بعدها در سال 1995 توسط همین شخص به عنوان یک طبقهبندی کننده از آن استفاده شد. ماشین بردار پشتیبان یک طبقه کننده ی دودویی است. یرای بررسی فرض کنید که نمونههای آموزشی بهصورت x i بردار ویژگی و y i برچسب بردار x i باشد به صورتی که یک مرز تصمیمگیری خطی را میتوان در حالت کلی بهصورت زیر نوشت : نمایش داده شوند که در آن است. در SVM خطی مرز بین دستهها با یک مرز خطی ایجاد میشود. تصمیمگیری که در آن x i یک نقطه روی مرز تصمیمگیری و w یک بردار n ب عدی عمود بر مرز تصمیمگیری است. w.x i بیانگر ضرب داخلی دو بردار x i و w است. آنگاه باید همۀ دادهها در شرایط زیر صدق کنند: فاصلۀ مبداء تا مرز یا به عبارت کلی تر اگر یک بردار پشتیبان باشد : 4
اگر یک بردار پشتیبان نباشد : اولین مرحله برای محاسبۀ مرز تصمیمگیری بهینه پیدا کردن نزدیکترین نمونههای آموزشی دو دسته است. در مرحلۀ بعد فاصلۀ آن نقاط از هم در راستای عمود بر مرزهایی که دو دسته را بهطور کامل جدا میکنند محاسبه میشود. در شكل 2 حالت تفكیکپذیر دستهها نشان داده شده است. دو بردار پشتیبان در شكل مشخص شده اند. فاصلۀ بین اینها حاشیه میباشد و مرز تصمیمگیری بهینه باید حداکثر حاشیه را داشته باشد. فاصلۀ بین دو صفحۀ موازی است که هدف برآورده کردن است. شکل 2: ابر صفحه جدا کننده برای حالت دو کالس کامال جدا [8]. همانطور که گفته شد SVM برای تفكیک دو کالس طراحی شده است. برای تشخیص و کالس بندی چند کالس چند روش وجود دارد 1 که در این مقاله از روش یكی در برابر بقیه استفاده شده است. در این روش به تعداد کالس ها SVM ساخته می شود. در هر SVM یک کالس با کل کالس های دیگر به عنوان SVM دو کالسی در نظر گرفته می شود. 5. آزمایش های انجام شده بانک داده - در این بخش به بررسی بانک اطالعاتی و الگوریتم استفاده شده می پردازیم. 2 در این مقاله از بانک داده ORL استفاده شده است. این بانک داده شامل 400 تصویر از 40 شخص متفاوت می باشد. برای هر فرد 10 تصویر متفاوت با ژست ها و حالت های مختلف تهیه شده است [8 ]. مراحل انجام هر آزمایش در این مقاله عبارتند: گام اول: اعمال تبدیل موجک بر روی تصاویر بانک داده.ORL گام دوم: استفاده از زیر باند فرکانس پایین هر تصویر به عنوان ویژگی ها. گام سوم: انتخاب 9 تصویر از هر فرد به عنوان داده های آموزش و 3 تصویر به عنوان داده های آزمون. گام چهارم: اعمال روش های کاهش مولفه های ویژگی موثر تبدیل ماتریس های ویژگی به بردار های ویژگی و اعمال.PCA 1. One against rest 2. Oliverli Research Labaratary 5
- اعمال DCT بر روی ماتریس های ویژگی و استخراج ویژگی ها. گام پنجم: آموزش SVM ها توسط داده های آموزشی. گام ششم : اعمال بردار های آزمون به شبكه SVM آموزش داده شده جهت محاسبه خطا. در این تحقیق عملكرد تبدیل موجک های مختلف مانند Db1 Haar و Sym1 بررسی شدند. همچنین جهت یافتن جواب بهینه سطوح مختلفی از تبدیل موجک مورد سنجش قرار گرفتند که در نتیجه آن بهترین جواب از تبدیل موجک Haar با اعمال سه سطح موجک حاصل شد. جهت یافتن بهترین ویژگی های کاهش یافته توسط DCT الگوریتم DCT را برای مقادیر مختلف از تعداد سطوح ویژگی مورد سنجش قرار دادیم. از آنجا که ابعاد زیر باند فرکانس پایین سومین سطح موجک 6*6 Haar می باشد بنابراین ابعاد ماتریس ضرایب DCT نیز 6*6 خواهد بود.جدول 1 و شكل 4 نمودار مقدار خطای ناشی از انتخاب ضرایب DCT با ابعاد مختلف را نشان می دهد. جدول 1 : میزان خطای شناسایی با تغییر سایز بالک های DCT ابعاد بالک درصد خطا 1*1 93/3333 2*2 93/3333 3*3 25 4*4 14/1669 5*5 5/8888 6*6 6/9996 شکل 4 :نمودار روند تغییرات خطا با افزایش ابعاد بالک های استفاده شده از ماتریس DCTدر سومین زیر سطح موجک جهت یافتن بهترین تعداد ویژگی های کاهش یافته توسط PCA الگوریتم PCA را برای مقادیر مختلف از تعداد ویژگی ها مورد سنجش قرار دادیم که شكل 5 نمودار در صد خطا را بر حسب تعداد ویژگی های انتخابی توسط PCA را نشان می دهد. با توجه به این شكل با کاهش تعداد مولفه های بردارهای ویژگی از 36 به 22 بهترین نتیجه که معادل با دقت 95 درصد است بدست آمده است. شکل. 5 منحنی درصد خطا بر حسب تعداد ویژگی های کاهش یافته توسط PCA با استفاده از تبدیل موجک. 6
با هدف بررسی اثر بخشهای الگوریتم بكار رفته دسته بندی چهره های بانک را عالوه بر روش فوق در دادیم. برای این منظور دسته بندی فوق بدون استفاده از تبدیل موجک و بدون استفاده از PCAوDCT چهار مرحله مجزای الگوریتم انجام با استفاده از PCA به تنهایی با استفاده از DCT به تنهایی با استفاده از تبدیل موجک به تنهایی نیز انجام شد که نتایج حاصل از اجرای هر پنج الگوریتم در جدول 2 نشان داده شده است. شایان ذکر است در اجرای الگوریتم دسته بندی با استفاده از PCA به تنهایی جهت استخراج تعداد مولفه ویژگی بهینه مانند قبل نمودار خطای دسته بندی را بر حسب تعداد ویژگی پس از کاهش توسط PCA را رسم کرده که شكل 6 این نمودار را نشان میدهد همچنین در اجرای الگوریتم دسته بندی با استفاده از DCT به تنهایی خطای دسته بندی بر حسب تعداد مختلف ویژگی موثر محاسبه شده است و نتیجه ذکر شده در جدول 2 بهترین پاسخ سیستم در این دو حالت است. شکل. 6 منحنی درصد خطا بر حسب تعداد ویژگی های کاهش یافته توسط PCA بدون استفاده از تبدیل موجک. زمان سپری شده بر حسب ثانیه 59/65 جدول 2. نتایج بدست آمده از الگوریتم ارائه شده درصد صحت آزمون %83/33 روش اجرای الگوریتم بدون اعمال تبدیل موجک و PCA اعمال PCA %90 569/1 اعمال DCT اعمال تبدیل موجک تبدیل موجک و PCA %89/5 %93/33 %95 9/99 8/84 8/85 همانطور که از نتایج جدول فوق مشخص است اعمال تبدیل موجک بر روی تصاویر و استفاده از PCA جهت کاهش ویژگی ها عالوه بر باال بردن دقت الگوریتم زمان اجرای آن را به شكل قابل مالحظه ای کاهش می دهد. 6. نتیجه گیری دراین مقاله با هدف دسته بندی چهره های بانک ORL از تبدیل موجک جهت استخراج ویژگی ها و از روش آنالیز مولفه های اصلی PCA و تبدیل گسسته ی کسینوسی DCT برای کاهش ویژگی ها استفاده شده است. از ماشین بردار پشتیبان برای دسته بندی داده ها استفاده شده و عملكرد موجكهای مختلف با تعداد سطوح مختلف بررسی شدند. نتایج بدست آمده نشان می دهند با بكار گیری زیر باند فرکانس پایین تصویر چهره و اعمال PCA بر روی آن با کاهش تعداد مولفه ها از 36 به 22 مولفه و نیز با استفاده از موجک Haar با سه سطح تجزیه دقت تشخیص %95 حاصل 7
می شود که این دقت به معنی عدم تشخیص 6 چهره از میان 120 تصویر آزمون می باشد. به عنوان ادامه کار استفاده از روشهای انتخاب ویژگی مانند الگوریتم ژنتیک و روشهای دیگر دسته بندی مانند شبكه های عصبی مورد نظر است. مراجع [1] افروزیان رضا. و باقری ا و ترابی م.) 1388 (. "تشخیص چهره با استفاده از چهره های ویژه و شبكه عصبی احتمالی" دوازدهمین کنفرانس.7 دانشجویی مهندسی برق. [ 2 ]ابراهیم پور. رضا ظاهری مخصوص. نینا و حاجیانی. علیرضا " آموزش بازشناسی چهره با استفاده از ترکیب شبكه های عصبی مبتنی بر اختالط خبره ها" مجله فناوری آموزش سال سوم جلد 3 شماره 2 زمستان 1389. [ 3 ]قجر. حمید رضا سریانی. محسن و کوچاری. عباس " تشخیص چهره با استفاده از PCA و فیلتر گابور" دوفصل نامه پردازش عالي م و داده ها شماره 1 پیاپی 1389 13 صفحات.96-89 [4] Li xian Wei,Yang Sheng,Wang Qi, and Li Ming "Face Recognition Based on Wavelet Transform and PCA" Pacific-Asia Conference on Knowledge Engineering and Software Engineering,2002. [5] Bing Luo,Yun Zhang and Yun-Hong Pan " Face Recognition Based on Wavelet transform and SVM " International Conference on Information acquisition,hong Kong and Macau,china,2005. [6] Hong Wang,Su Yang and Wei Liao " An Improved PCA Face Recognititon algorithm Based on the Discrete Wavelet Transform and the support Vector Machines" International Conference on Computational Intelligence and Security Workshops,2002. [2] Masoud Mazloom,Shohre Kasaei and Hoda alemi " Cnstruction and Application of SVM Model and Wavelet-PCA for Face Recognition",Second International Conferencce and Electical Engineering,2002. [8] Meihua Wang,Hong Jiang and Ying Li " Face Recognition based on DWT/DCT and SVM ",International Conference on COMputer Application and System Modeling,2010 [2] Romdahani,S,.Face recognition using principal component unalysis,survey,1222. [10] خیاط زاده.علی شاه حسینی.هادی شهریار نادری.مجید."یک روش جدید برای محاسبه تبدیل کسینوسی گسسته دو بعدی" دومین کنفرانس ماشین بینایی و پردازش تصویر ایران-تهران 1381. [ 11 ]میر جاللی. قاسم روحی. حمید و صادقی. محمد تقی. " روشی جدید برای آشكار سازی چهره با استفاده از ماشین بردار پشتیبان " هشتمین کنفرانس سیستمهای هوشمند 1386. [ 12 ]معین. محمد شهرام و روزگار. ابراهیم " بهینه سازی روش SVM برای بررسی هویت با استفاده از تصویر چهره" هشتمین کنفرانس ساالنه انجمن کامپیوتر ایران 1381. [ 13 ]شهرضا. سجار شیر علی و موسوی. ماجد. " تشخیص تصاویر غیر اخالقی با استفاده از ماشین بردار پشتیبان" چهارمین کنفرانس ملی ساالنه انجمن کامپیوتر ایران دانشگاه صنعتی امیر کبیر اسفند 1389. [14] Xiao-ming Wang,Chang Huang,Guo-yu Ni and Jin-gao Liu " Face Recognition Based on Face Gabor Image and SVM ", Image and Signal Processing, 2002. [15] Jia Mingxing,Du Junqiang,Cheng Tao,Yang Ning,Jiang Yi,Zhang Zhen, "An Improved Detection Algorithm of Face with Combining AdaBoost and SVM ", 25th Chinese Contorl Decision Conference, 2013. 8