ผลรวมที่เหลือของกำลังสอง

ในสถิติผลรวมที่เหลือของกำลังสอง ( RSS ) หรือที่เรียกว่าผลรวมของกำลังสองที่เหลือ ( SSR ) หรือผลรวมของการประมาณการข้อผิดพลาดกำลังสอง ( SSE ) คือผลรวมของกำลังสองของ ส่วน ที่เหลือ (ค่าเบี่ยงเบนที่ทำนายจากค่าเชิงประจักษ์จริง ของข้อมูล) เป็นการวัดความคลาดเคลื่อนระหว่างข้อมูลและแบบจำลองการประมาณค่า เช่นการถดถอยเชิงเส้น RSS ขนาดเล็กบ่งชี้ถึงความกระชับของโมเดลกับข้อมูล มันถูกใช้เป็นเกณฑ์การเพิ่มประสิทธิภาพในการเลือกพารามิเตอร์และการเลือกแบบจำลอง

โดยทั่วไปผลรวมของกำลังสอง = ผลรวมของกำลังสองที่อธิบาย + ผลรวมที่เหลือของกำลังสอง เพื่อพิสูจน์สิ่งนี้ใน กรณีของกำลัง สองน้อยที่สุดสามัญ หลายตัวแปร (OLS) โปรดดูการแบ่งพาร์ติชันในโมเดล OLSทั่วไป

ตัวแปรอธิบายหนึ่งตัวแปร

ในแบบจำลองที่มีตัวแปรอธิบายเพียงตัวเดียว RSS จะได้รับจาก: [1]

โดยที่yคือ ค่า ที่iของตัวแปรที่จะทำนายx i คือค่าที่ i ของตัวแปรอธิบาย และเป็นค่าที่ทำนายของy i (เรียกอีกอย่างว่า) ในแบบจำลองการถดถอย อย่างง่ายเชิงเส้นมาตรฐาน โดยที่และเป็นค่าสัมประสิทธิ์ y และ x เป็นตัวถดถอยและตัวถดถอยตามลำดับ และ ε คือคำที่ผิดพลาดผลรวมของกำลังสองของเศษที่เหลือคือผลรวมของกำลังสองของ; นั่นคือ

โดยที่คือค่าประมาณของค่าคงที่และคือค่าประมาณของค่าสัมประสิทธิ์ความชัน

นิพจน์เมทริกซ์สำหรับผลรวมที่เหลือของกำลังสองของ OLS

แบบจำลองการถดถอยทั่วไปที่มี การสังเกต nรายการและ ตัวอธิบาย kโดยตัวแรกคือเวกเตอร์หน่วยคงที่ซึ่งสัมประสิทธิ์คือจุดตัดการถดถอยคือ

โดยที่yคือ เวกเตอร์ n × 1 ของการสังเกตตัวแปรตาม แต่ละคอลัมน์ของเมทริกซ์n × k Xคือเวกเตอร์ของการสังเกตบนตัวอธิบายk ตัวใดตัวหนึ่ง คือ เวกเตอร์ k × 1 ของสัมประสิทธิ์จริง และeคือn × 1 เวกเตอร์ของข้อผิดพลาดพื้นฐานที่แท้จริง ตัว ประมาณ ค่ากำลังสองน้อยที่สุดธรรมดาสำหรับคือ

เวกเตอร์ตกค้าง; ดังนั้นผลรวมของกำลังสองที่เหลือคือ:

-

(เทียบเท่ากับกำลังสองของบรรทัดฐานของสารตกค้าง) เต็ม:

-

โดยที่Hคือเมทริกซ์หมวกหรือเมทริกซ์ฉายภาพในการถดถอยเชิงเส้น

ความสัมพันธ์กับความสัมพันธ์ระหว่างผลิตภัณฑ์-ช่วงเวลาของเพียร์สัน

เส้นการถดถอยกำลังสองน้อยที่สุดถูกกำหนดโดย

-

ที่ไหนและที่ไหนและ

ดังนั้น,

ที่ไหน

ดังนั้นความสัมพันธ์ระหว่างช่วงเวลาผลิตภัณฑ์ของเพียร์สันจึงได้มาจาก

ดูสิ่งนี้ด้วย

อ้างอิง

  1. อัครสังฆมณฑล, โธมัส เจ. (1994) การวิเคราะห์สหสัมพันธ์และการถดถอย : คู่มือนักประวัติศาสตร์สำนักพิมพ์มหาวิทยาลัยวิสคอนซิน. หน้า 161–162. ไอเอสบีเอ็น 0-299-13650-7- โอซีแอลซี  27266095.
  • เดรเปอร์, NR; สมิธ, เอช. (1998) การวิเคราะห์การถดถอยประยุกต์ (ฉบับที่ 3) จอห์น ไวลีย์. ไอเอสบีเอ็น 0-471-17082-8-
Retrieved from "https://en.wikipedia.org/w/index.php?title=Residual_sum_of_squares&oldid=1142243756"