رگرسیون خطی به دو صورت رگرسیون خطی ساده و رگرسیون خطی چند متغیره مطرح می گردد. رگرسیون خطی ساده به پیش بینی مقدار یک متغیر وابسته بر اساس مقدار یک متغیر مستقل می پردازد. اما رگرسیون چند متغیره روشی است برای مشارکت جمعی و فردی دو یا چند متغیر مستقل در تغییرات یک متغیر وابسته. از آنجا که وظیفه اساسی علم، پیش بینی و تبیین پدیده هاست، بنابراین در تحقیقاتی که بر پیش بینی و تبیین ناظرند، تحلیل رگرسیون می تواند نقش بارزی ایفا کند. در تحقیقات پیش بینی عمدتاً کاربرد عملی مورد تأکید است. در این نوع تحقیقات، محقق می کوشد تا بر اساس اطلاع از یک یا چند متغیر مستقل، به یک معادله رگرسیونی دست یابد و از آن برای پیش بینی مقادیر متغیر وابسته استفاده نماید.
روش گام به گام (Stepwise Method):
در این روش، متغیرها یک به یک وارد مدل می شوند. یعنی ابتدا متغیری که بیشترین همبستگی را با متغیر وابسته دارد انتخاب می شود. دومین متغیری که وارد تحلیل می شود متغیری است که پس از تفکیک متغیر مقدم بر آن موجب بیشترین افزایش در مقدار ضریب R2 می شود. در این روش ورود متغیرها به مدل را یک به یک و تا زمانی ادامه می دهیم که معنی داری متغیر به ۰.۹۵ برسد. یعنی سطح خطا ۰.۰۵ گردد.
در روش Stepwise با ورود متغیر جدید، متغیرهایی که قبلاً وارد معادله شده اند از نو آزموده می شوند تا مشخص گردد، آیا هنوز هم حضور آن ها در مدل به موفقیت آن کمک می کند یا خیر؟ بنابراین احتمال دارد برخی از متغیرهایی که در مرحله اول قدرت تبیین بالایی داشته اند در مرحله بعدی حذف شوند.
پس از وارد کردن داده ها از مسیر زیر گزینه Linear را انتخاب می نماییم:
در کادر باز شده متغیر Y را به قسمت Dependent و سه متغیر X را به قسمت Independent منتقل می کنیم و در نهایت با کلیک روی Ok نتایج برازش رگرسیون برای ما ظاهر می شود.
در جدول اول، همانند شکل زیر مقدار R، R2 و R2 تصحیح شده نشان داده شده است. میزان R2 تصحیح شده نشان می دهد که چه مقدار از کل تنوع (واریانس) متغیر Y توسط سه متغیر X توجیه شده است. در این مطالعه این مقدار ۰.۴۵۱ می باشد که رقم بالایی نیست.
جدول دوم، همانند شکل زیر، جدول تجزیه واریانس رگرسیون را نشان می دهد. در این جدول میزان F مدل رگرسیون برابر ۵.۶۴۷ و احتمال معنی داری آن برابر ۰.۰۰۹ است. بنابراین، مدل رگرسیون با سه متغیر معنی دار است. حال برای بررسی اهمیت هر یک از متغیرها در مدل سه گانه به ادامه خروجی ها توجه می کنیم.
جدول سوم، همانند شکل زیر، جدول ضرایب مختلف رگرسیون است. قسمت اول ضرایب استاندارد نشده (Unstandardized Regression)، قسمت دوم ضرایب استاندارد شده (Standardized regression)، قسمت سوم آزمون t و قسمت چهارم سطح معنی داری را نشان می دهد.
همانطور که مشاهده می شود پارامترهای مدل شامل عرض از مبدأ و ضرایب رگرسیون برای X1 و X2 و X3 به ترتیب برابر با ۴۳.۸، ۱.۷۷، ۰.۰۸- و ۰.۱۶ می باشد. بنابراین مدل رگرسیون عبارت است از:
Y=43.8 + 1.77X1 – 0.08X2 + 0.16X3
این مدل حاکی از رابطه مثبت X1 و X3 با Y و تأثیر منفی X2 است، اما اگر دقت شود مشاهده می شود که آزمون t نشان می دهد که متغیرهای X2 و X3 در مدل اثر معنی داری بر Y ندارند زیرا مقدار .sig برای این دو متغیر به ترتیب برابر ۰.۸۴۵ و ۰.۱۷۴ بوده که بزرگتر از ۰.۰۵ است.