3-3-3-1-تکنیک tf-idf…………………………………………………………………………………….
3-3-3-2-تکنیک متا مدل و ابزار OLAP……………………………………………………………….
3-3-3-3-تکنیک براساس محتوای وب…………………………………………………………………. 33
3-3-3-4-تکنیک براساس فراهم کردن داده های موثر (ODP)……………………………………….
3-3-3-5-شخصیسازی وب با استفاده از روشهای ترکیبی………………………………………….. 34
3-3-3-6-شخصیسازی وب براساس الگوریتم استقرایی و تکنولوژی tf-idf………………………..
3-3-3-7-شخصیسازی وب با استفاده از کندوکاو الگوی ترتیبی و درخت الگو……………………. 35
3-4-خوشه بندی برای شخصی سازی وب………………………………………………………………….. 35
3-4-1-خوشه بندی فازی………………………………………………………………………………………… 36
3-4-1-1-الگوریتم پایه ای خوشه بندی فازی……………………………………………………………… 36
3-4-1-2-الگوریتم فازی کا-مینز…………………………………………………………………………. 36
3-4-1-3-خوشهبندی صفحات وب با استفاده از خوشه بندی فازی k-means……………………….
3-4-2-الگوریتم ژنتیک…………………………………………………………………………………………. 39
3-4-2-1-بهینه سازی خوشه بندی فازی با استفاده از الگوریتم ژنتیک……………………………….. 40
3-4-3-روش پیشنهادی در این تحقیق……………………………………………………………………….. 42
3-4-4-شمای کلی سیستم پیشنهادی………………………………………………………………………… 42
3-4-5-مثالی از سیستم پیشنهادی…………………………………………………………………………… 43
3-4-6-شبه کد روش پیشنهادی……………………………………………………………………………….. 50
3-5-جمعبندی……………………………………………………………………………………………………….. 51
مراجع…………………………………………………………………………………………………………………… 53
فصل چهارم:……………………………………………………………………………………………………. 55
4-1-مقدمه…………………………………………………………………………………………………………….. 56
4-2-مجموعه دادهها…………………………………………………………………………………………………. 56
4-2-1-دیتاست YANDEX…………………………………………………………………………………….
4-2-1-1-پیش پردازش انجام شده با مجموعه دادههای خام قبل از انتشار………………………….. 57
4-3-پارامترهای ارزیابی……………………………………………………………………………………………… 60
4-4-آزمایشات انجام شده…………………………………………………………………………………………… 61
4-4-1-سخت افزار مورد استفاده……………………………………………………………………………….. 62
4-4-2-نتایج آزمایشات…………………………………………………………………………………………. 62
4-5-جمعبندی……………………………………………………………………………………………………….. 64
مراجع:…………………………………………………………………………………………………………………… 65
فصل پنجم:…………………………………………………………………………………………………………. 66
5-1-مقدمه…………………………………………………………………………………………………………….. 67
5-2-نتایج و دستاوردهای پروژه……………………………………………………………………………………. 68
5-3-پیشنهادات……………………………………………………………………………………………………… 68
مراجع……………………………………………………………………………………………………………………. 70
چکیده:
گرانبار شدن اطلاعات یک مشکل عمده در وب کنونی به شمار میرود. برای مقابله با این مشکل، سیستم های شخصیسازی وب ارائه شده اند که محتوا و سرویسهای یک وبسایت را با افراد براساس علایق و رفتار گردشی آنها سازگار میکنند. یک مؤلفهی اساسی در هر سیستم شخصیسازی وب، مدل کاربر آن است. هدف از شخصی سازی وب، مهیا ساختن محتوا و سرویسهای مورد نیاز کاربران به وسیله دانش به دست آمده از تعاملات قبلی کاربران در صفحات وب است. در حال حاضر، برای شخصیسازی وب چندین متد خوشهبندی در دسترس است. روشهایی که تاکنون ارائه شدهاند، در مواردی دارای اشکالاتی بودند. البته تکنیکهای جدیدی در رفع این مشکلات و بهبود آنها ارائه شده است. اما در بیشتر این تکنیکها، مسائل افزونگی داده و مقیاسبندی بالا وجود دارد. با توجه به اینکه افزایش کاربران وب منجر به افزایش اندازه ی خوشه می گرد، نیاز به بهینه سازی خوشه ها اجتناب ناپذیر خواهد بود. در تحقیق، یک متدولوژی بهینهسازی خوشه بر اساس سیستم فازی ارائه شده است. به منظور افزایش دقت نهایی خوشه بندی، برای تنظیم پارامترهای توابع عضویت از الگوریتم ژنتیک استفاده شده است. نتایج حاصل از شبیه سازی نشان می دهد که روش پیشنهادی دقت خوشه بندی صفحات وب را تا حد قابل توجهی افزایش میدهد.
فصل اول: کلیات تحقیق
1-1- مقدمه
با توسعه سیستم های اطلاعاتی، داده به یکی از منابع پراهمیت سازمان ها مبدل گشته است. بنابراین روش ها و تکنیک هایی برای دستیابی کارا به داده، اشتراک داده، استخراج اطلاعات از داده و استفاده از این اطلاعات، مورد نیاز می باشد. با ایجاد و گسترش وب و افزایش چشمگیر حجم اطلاعات، نیاز به این روش ها و تکنیک ها بیش از پیش احساس می شود. وب، محیطی وسیع، متنوع و پویا است که کاربران متعدد اسناد خود را در آن منتشر می کنند. در حال حاضر بیش از دو بیلیون صفحه در وب موجود است و این تعداد با نرخ 7.3 میلیون صفحه در روز افزایش می یابد. با توجه به حجم وسیع اطلاعات در وب، مدیریت آن با ابزارهای سنتی تقریباً غیر ممکن است و ابزارها و روشهایی نو برای مدیریت آن مورد نیاز است. به طور کلی کاربران وب در استفاده از آن با مشکلات زیر روبرو هستند:
1- یافتن اطلاعات مرتبط: یافتن اطلاعات مورد نیاز در وب دشوار می باشد. روش های سنتی بازیابی اطلاعات که برای جستجوی اطلاعات در پایگاه داده ها به کار می روند، قابل استفاده در وب نمی باشند و کاربران معمولاً از موتورهای جستجو که مهمترین و رایج ترین ابزار برای یافتن اطلاعات در وب می باشند، استفاده می کنند. این موتورها، یک پرس و جوی مبتنی بر کلمات کلیدی از کاربر دریافت کرده و در پاسخ لیستی از اسناد مرتبط با پرس و جوی وی را که بر اساس میزان ارتباط با این پرس و جو مرتب شده اند، به وی ارائه میکنند. اما موتورهای جستجو دارای دو مشکل اصلی هستند (Baeza-Yates, 2004). اولاً دقت موتورهای جستجو پایین است، چراکه این موتورها در پاسخ به یک پرس و جوی کاربر صدها یا هزاران سند را بازیابی می کنند، در حالی که بسیاری از اسناد بازیابی شده توسط آنها با نیاز اطلاعاتی کاربر مرتبط نمی باشند (Bharat, and et. al., 2001). ثانیاً میزان فراخوان این موتورها کم می باشد، به آن معنی که قادر به بازیابی کلیه اسناد مرتبط با نیاز اطلاعاتی کاربر نیستند. چرا که حجم اسناد در وب بسیار زیاد است و موتورهای جستجو قادر به نگهداری اطلاعات کلیه اسناد وب، در پایگاه داده های خود نمی باشند (Chakrabarti, and et. al., 1999).
2- ایجاد دانش جدید با استفاده از اطلاعات موجود در وب: در حال حاضر این سوال مطرح است که چگونه می توان داده های فراوان موجود در وب را به دانشی قابل استفاده تبدیل کرد، به طوری که یافتن اطلاعات مورد نیاز در آن به سادگی صورت بگیرد. همچنین چگونه می توان با استفاده از داده های وب به اطلاعات و دانشی جدید دست یافت.
3- خصوصی سازی اطلاعات: از آن جا که کاربران متفاوت هر یک درباره نوع و نحوهی بازنمایی اطلاعات سلیقه خاصی دارند، این مسئله باید توسط تأمینکنندگان اطلاعات در وب مورد توجه قرار بگیرد. برای این منظور با توجه به خواسته ها و تمایلات کاربران متفاوت، نحوه ارائه اطلاعات به آنها باید سفارشی گردد.
تکنیک های وب کاوی قادر به حل این مشکلات می باشند (Chakrabarti, 2000).
2-1- تعریف مسئله