3-5. رتبه بند…………………………………………………………………………………………. 17

3-6. گسترش دهنده ی پرس و جو……………………………………………………………………… 18

3-7. پایگاه داده ی اطلاعات تحلیل شده……………………………………………………………….. 18

3-8. خزش گر متمرکز……………………………………………………………………………….. 18

3-8-1. شناسایی وجود احساس………………………………………………………………….. 19

3-8-2. تشخیص موضوع…………………………………………………………………………. 19

3-8-3. تشخیص زبان……………………………………………………………………………. 19

3-9. پایگاه داده ی اسناد خام………………………………………………………………………….. 19

3-10. تجزیه و تحلیل داده ها………………………………………………………………………….. 19

3-10-1. تشخیص هدف عقیده…………………………………………………………………… 20

3-10-2. تشخیص شخص بیان کننده ی اظهار نظر…………………………………………………. 20

3-10-3. رده بندی احساس……………………………………………………………………….. 20

3-10-4. تشخیص نظرات نا مطلوب………………………………………………………………. 20

3-10-5. وزن گذاری نظر…………………………………………………………………………. 20

3-10-6. تجزیه و تحلیل شبکه های اجتماعی……………………………………………………….. 21

3-11. پیش پردازش اسناد و متون……………………………………………………………………. 21

3-11-1. استخراج جملات……………………………………………………………………….. 21

3-11-2. قطعه بندی……………………………………………………………………………….. 22

3-11-3. بررسی املا……………………………………………………………………………… 22

3-11-4. ریشه یابی……………………………………………………………………………….. 22

3-11-5. نرمال سازی……………………………………………………………………………… 22

3-11-6. تجزیه…………………………………………………………………………………… 23

3-11-7. برچسب گذاری اجزاء گفتار……………………………………………………………… 23

3-12. پایگاه داده ی اطلاعات پیش پردازش شده………………………………………………………. 23

فصل4 روش تحقیق، آزمایش ها، و نتایج…………………………………………………………… 25

4-1. مقدمه………………………………………………………………………………………….. 26

4-2. انتخاب زمینه…………………………………………………………………………………… 26

4-3. انتخاب و استخراج نظرات……………………………………………………………………… 27

4-4. مشخصه های مورد استفاده……………………………………………………………………… 28

4-5. پیش پردازش های انجام شده و استخراج بردار های مشخصه………………………. 30

4-6. انتخاب رده بند ها……………………………………………………………………………….. 31

4-7. آزمایش های انجام شده………………………………………………………………………….. 32

4-8. تحلیل نتایج……………………………………………………………………………………. 41

4-8-1. بهترین نتایج……………………………………………………………………………… 41

4-8-2. بررسی ترکیب دو مشخصه ی “گرایش آغازگر”، و “نشانه های سؤال”………………………. 41

4-8-3. بررسی افزودن مشخصه ی “صفات و قیود استخراج شده به صورت خود کار” به دو مشخصه ی قبل…. 42

4-8-4. بررسی تک تک مشخصه ها……………………………………………………………….. 43

4-8-5. بررسی لحاظ و عدم لحاظ “نرمال سازی” و “تعداد رخداد” مشخصه ها…………………….. 44

4-8-6. بررسی رده بندهای مورد استفاده…………………………………………………………… 45

4-8-7. بررسی تاثیر حذف برخی از صفات و قیود وابسته به زمینه……………………………….. 46

4-8-8. بررسی برخی از رده بند های مهم و شناخته شده ی دیگر……………………………………. 46

فصل5 نتیجه گیری و کار های آتی…………………………………………………………………… 48

5-1. نتیجه گیری……………………………………………………………………………………… 49

5-2. کار های آتی……………………………………………………………………………………. 50

مراجع و ماخذ……………………………………………………………………………………….. 51

پیوست الف: 50 اظهار نظر استفاده شده (از 30 خبر)، به همراه مشخصه های استخراج شده از داخل آن ها. 55

واژه نامه فارسی- انگلیسی……………………………………………………………………………. 86

واژه نامه انگلیسی- فارسی……………………………………………………………………………. 88

چکیده ی انگلیسی………………………………………………………………………………………………….. 90

چکیده:

در این پایان نامه به رده بندی و تعیین گرایش یا قطبیت احساس در نظرات کاربران از نقطه نظر مثبت یا منفی بودن نظرات بیان شده، در یکی از پربازدیدترین سایت های خبری ایران پرداخته ایم. برای این کار مشخصه های جدیدی را معرفی کرده ایم. پس از جمع آوری و پیش پردازش متن نظرات و استخراج این مشخصه ها، آن ها را با استفاده از رده بند های مختلف در حالات و ترکیب های گوناگون مورد بررسی قرار داده ایم. نتایج بدست آمده نشان از کارایی مناسب مشخصه های معرفی شده و رده بند های مورد استفاده دارند به طوری که بالاترین دقت (نود و سه درصد) در حالتی بدست آمده است که از تمام مشخصه ها برای آموزش رده بند استفاده شده است.

علاوه بر کار رده بندی مذکور، با نگاهی به انواع دیگر چالش ها، تحقیقات انجام شده، و مسائل متنوع مرتبط با کاوش در نظرات متنی کاربران (مانند تشخیص شخص بیان کننده ی نظر، تشخیص درجه ی شدت گرایش، شناسایی نظرات نامطلوب، و…)، ایده ی جدید ایجاد یک موتور جستجوی نظرات مطرح و معماری پیشنهادی برای آن ارائه شده است.

فصل اول: مقدمه

1- مقدمه و ضرورت تحقیق

اطلاع از نظر دیگران از نقطه نظرات گوناگون دارای اهمیت فراوانی است. تصور کنید که قصد دارید کالا یا خدماتی را خریداری کنید. آگاهی از نظر مثبت یا منفی افرادی که قبلا آن کالا یا خدمات را خریداری کرده اند چقدر برای شما اهمیت دارد؟ آیا نظر آن ها می تواند بر تصمیم شما تاثیر گذار باشد؟ اگر یک شرکت خدماتی داشتید به چه میزان علاقه مند به اطلاع از نظر مخاطبین خود در رابطه با مطلوبیت یا عدم مطلوبیت خدمات خود بودید؟ آیا اطلاع از نظر آن ها در اتخاذ تصمیمات بهتر به شما کمک می کرد؟ اگر یک کاندیدای انتخاباتی بودید تمایل داشتید تا از اقبال یا عدم اقبال رای دهندگان نسبت به خود خبر داشته باشید؟

اگر به اطرافمان نگاه کنیم می بینیم که افراد حقیقی و حقوقی گوناگون از شرکت های بزرگ و سیاستمداران گرفته، تا افراد عادی جامعه در تصمیمات کوچک و بزرگ خود تحت تاثیر نظرات دیگران قرار دارند. طبیعتاً در چنین وضعیتی اطلاع از نظرات افراد اهمیت فراوانی پیدا می کند.

از طرف دیگر با ظهور وب و گسترش مشارکت کاربران در سال های اخیر به خصوص با ظهور پدیده هایی مثل وبلاگ ها[1] و شبکه های اجتماعی[2]، و تمایل کاربران برای اظهار و به اشتراک گذاری نظرات خود پیرامون مسائل مختلف، شاهد حجم انبوهی از نظرات مکتوبی هستیم که هرگز تاکنون با این حجم، تنوع، و آسانی در دسترس قرار نداشته اند. این موضوع به همراه اهمیت ذکر شده در مورد اطلاع از نظر دیگران توجه محققین علوم کامپیوتر بویژه محققین حوزه ی داده کاوی[3] را به خود جلب کرده است و موجب شکل گیری حوزه ای جدید تحت عنوان “کاوش در نظرات[4]” گردیده است. بر اساس [1] شاید بتوان سال 2001 میلادی را نقطه ی عطفی برای این توجهات دانست.

بهزمان ابعاد گوناگون جدیدی در حوزه ی کاوش در نظرات نمایان گشتند و تحقیقات متنوعی در رابطه با هر یک از این ابعاد شکل گرفتند. به عنوان نمونه نیاز به اطلاع از هویت و مشخصات شخصی که یک نظر را اظهار کرده است مثلا برای تعیین میزان سودمندی آن اظهار نظر، و یا نیاز به تشخیص نظراتی که برای اهداف نامطلوب (از قبیل تبلیغات جهت دار به نفع یا بر علیه یک کالا) درج شده اند از جمله ی این ابعاد هستند.ی بر تحقیقات انجام شده در حوزه ی کاوش در نظرات را می توان در [1] و [2] دید. در فصل دو به معرفی ابعاد گوناگون این حوزه و نیز چالش های مشترک این حوزه با حوزه های دیگر متن کاوی[5] (نظیر قطعه بندی متن[6] و برچسب زدن اجزاء گفتار[7]) خواهیم پرداخت.

وقتی شخصی در رابطه با چیزی نظری را بیان می کند، این نظر می تواند حاوی ویژگی های احساسی نظیر خشم، ترس، خوشحالی، و … باشد. از جمله ی ویژگی های احساسی موجود در نظرات که از مهمترین و اولیه ترین بحث هایی بوده که در حوزه ی کاوش در نظرات مطرح بوده است، گرایش یا به عبارت دیگر مثبت یا منفی بودن نظر اظهار شده در مورد هدف اظهار نظر است. از تشخیص این ویژگی احساسی در ادبیات این حوزه تحت عناوین “رده بندی احساس[8]”، “تحلیل احساس[9]”، “تشخیص قطبیت احساس[10]”، و “تشخیص گرایش احساس[11]” یاد می شود. برای مثال اظهار نظر “تصویر این تلویزیون خیلی با کیفیت است” حاوی احساس مثبت نسبت به کیفیت تصویر تلویزیون است و در طبقه بندی مثبت قرار می گیرد، و اظهار نظر “تماشای این فیلم را به کسی توصیه نمی کنم” حاوی احساس منفی نسبت به فیلم مورد نظر است.

آگاهی از “گرایش احساس در نظرات[12]” کاربران در حوزه های مختلف از قبیل تجارت، سیاست، تعامل بین انسان و کامپیوتر (برای تعیین نوع عکس العمل ماشین بر اساس نظر انسان)، و در انواع تصمیم گیری های افراد حقیقی و حقوقی کاربرد فراوانی دارد که در آغاز بحث برخی از آن ها مورد اشاره قرار گرفتند. این موضوع به همراه حجم پایین کار انجام شده ی مرتبط در حوزه ی زبان فارسی (در جستجوی انجام شده هیچ مقاله ی منتشر شده ای در این حوزه برای زبان فارسی یافت نشد)، انجام مطالعه در این رابطه برای نظرات بیان شده به زبان فارسی را ضروری می نماید.

علاوه بر نیاز به تحقیقات در حوزه ی مذکور، اکنون پس از حدود یک دهه که از شروع مطالعات در زمینه ی کاوش در نظرات می گذرد و ابعاد گوناگونی از آن روشن شده و تا حدودی برروی آن ها تحقیق شده است، جای خالی سیستمی که از محصولات خروجی از تحقیقات این حوزه های تحقیقاتی، به صورت مجتمع و ترکیبی بهره ببرد و با تجمیع و هماهنگی بین آن ها همراه با استفاده از محصولات تحقیقات زمینه های مرتبط دیگر، به ارائه ی سرویس های کاربردی و ترکیبی ای بپردازد که به تنهایی توسط هیچ یک از این بخش ها و بدون همکاری با بخش های دیگر امکان پذیر نخواهد بود دیده می شود. چنین سیستمی که کاربران بتوانند انواع گوناگون از نیاز های خود را به خوبی به آن منتقل کنند و آن ها را در مدت زمان کوتاهی دریافت کنند قطعا مورد استقبال شدید کاربران مختلف قرار خواهد گرفت. به عنوان مثال ممکن است تولید کنندگان یک کالای تخصصی با کاربرد صنعتی، نیاز به آگاهی از گرایش نظرات افرادی که دارای تخصص در آن صنعت هستند در رابطه با آن کالای خاص و به صورت خلاصه شده داشته باشند. در چنین حالتی سیستم با استفاده از محصول بدست آمده از تحقیقات انجام شده برای تشخیص هویت اظهارنظرکنندگان و استخراج خصوصیات آن ها، نظراتی که توسط افراد مورد نظر بیان شده اند را شناسایی می کند؛ سپس از میان آن ها با استفاده از محصول تحقیقات انجام شده برای تشخیص هدف اظهارنظر، نظراتی که در رابطه با کالای مورد نظر بیان شده اند را جدا می کند؛ بعد از آن مثبت یا منفی بودن گرایش این نظرات را با استفاده از محصول بدست آمده از تحقیقات مربوط به “تشخیص گرایش احساس” تعیین می کند؛ و نهایتاً با استفاده از محصول بدست آمده از تحقیقات انجام شده در رابطه با خلاصه سازی نتایج حاصل را خلاصه سازی کرده و به کاربر نمایش می دهد. مثال های دیگری از نیازهایی متنوعی که کاربران مختلف می توانند با در اختیار داشتن چنین سیستمی به آن ها دستیابی پیدا کنند عبارتند از : یافتن اشخاصی که در رابطه با یک هدف خاص دارای نظر مثبت هستند، یافتن نظرات منفی که در رابطه با هدفی خاص و در یک بازه ی زمانی خاص بیان شده اند، و یافتن گرایش کاربرانی که در یک منطقه ی خاص سکونت دارند و در محدوده ی سنی خاصی هستند نسبت به یک موضوع اجتماعی.

1-2. اهداف تحقیق

بر اساس ضرورتی که برای کار در حوزه ی تشخیص گرایش احساس در نظرات کاربران بویژه در زبان فارسی ذکر شد در فصل چهار از این پروژه به این موضوع می پردازیم و سعی در رده بندی[13] گرایش نظرات کاربران در غالب دو رده ی مثبت و منفی خواهیم داشت.

بنابر [2] این مسئله می تواند در قالب یک مسئله ی “یادگیری تحت نظارت[14]” بیان شود که دارای رده های مثبت، منفی، و خنثی است و داده های استفاده شده (برای آموزش[15] و آزمایش[16]) در تحقیقات موجود در این رابطه، اغلب نظراتی است که کاربران در مورد کالاها اظهار کرده اند. مزیت استفاده از این داده ها آماده بودن آن ها به دلیل مشخص بودن مثبت، منفی، یا خنثی بودن آن ها ذکر شده است.

برای فراهم کردن داده های مورد بررسی در این پایان نامه، پس از بررسی زمینه های گوناگون نظیر نظرات کاربران در شبکه های اجتماعی، و نظرات کاربران در مورد گوشی های موبایل، نهایتا نظرات کاربران در یکی از پربازدید ترین پایگاه های خبری یعنی پایگاه خبری تابناک انتخاب گردید. به روز بودن و متنوع بودن اخبار درج شده در این پایگاه بستر مناسبی برای ارزیابی نظرات مردم در رابطه با موضوعات گوناگون از قبیل سیاسی، اجتماعی، و اقتصادی را فراهم می کند.

به طور خلاصه هدف از کار انجام شده در فصل چهار از این پایان نامه تشخیص مثبت یا منفی بودن گرایش احساس موجود در نظرات کاربران سایت خبری پربازدید تابناک با استفاده از برخی رده بندهای شناخته شده و مشخصه های جدید ارائه شده است. در این راستا تلاش می شود تا قابلیت رده بند های مورد استفاده و حالات و ترکیب های گوناگون مشخصه های معرفی شده مورد بررسی قرار گیرند.

در راستای نیاز به استفاده ی مجتمع از دستاورد های تحقیقات مختلف زیر مجموعه ی حوزه ی کاوش در نظرات و تحقیقات حوزه های دیگر و ارائه ی خدمات ترکیبی مورد درخواست کاربران که در بخش 1-2 مطرح شد، هدف از فصل سه ارائه ی ایده ی جدیدی در حوزه ی کاوش در نظرات است که به رفع این نیاز کمک کند. در این فصل تلاش خواهد شد تا با در کنار هم قرار دادن محصولات تحقیقات انجام شده در حوزه ی کاوش در نظرات و برخی حوزه های مرتبط پردازش متن، هماهنگی میان آن ها، الهام گرفتن از معماری موتور های جستجوی دیگر، و ارائه ی نوآوری، ایده و معماری پیشنهادی برای سیستمی تحت عنوان “موتور جستجوی نظرات” ارائه شود.

[1] Weblog

[2] Social Network

[3] Data Mining

[4] Opinion Mining

[5] Text Mining

[6] Tokenization