در یادگیری با نظارت یک مجموعه داده داریم و از قبل میدانیم که خروجی صحیح باید چطور باشد، اصطلاحا داده ها برچسب خورده اند! با این ایده که به بین خروجی و ورودی رابطه وجود دارد.
مسائل یادگیری با نظارت به دو دسته رگرسیون و طبقه بندی تقسیم میشوند.
در این مسائل سعی میکنیم خروجی ای با مقدار پیوسته را پیش بینی کنیم.
در مسئله پیش بینی قیمت خانه میخواهیم با مجموعه داده ای از قیمت های واقعی خانه ها بر اساس اندازه، قیمت خانه ای جدیدی را پیش بینی کنیم.
در عوض اینجا سعی میکنیم خروجی ای با مقدار گسسته پیش بینی کنیم. مثلا در مسئله تشخیص وخیم بودن یا نبودن سرطان میخواهیم بر اساس دو ویژگی سن و سایز تومور نتیجه را در یکی از دو دسته وخیم یا غیر وخیم طبقه بندی کنیم.