Khác biệt giữa các bản “Hợp lý cực đại”

Buớc tưới chuyển hướng Bước tới tìm kiếm
sửa lại giới thiệu và nguyên lý (sẽ bổ sung thêm nữa)
n (Tuanminh01 đã đổi Hợp lí cực đại thành Hợp lý cực đại: sửa lại tên đúng)
(sửa lại giới thiệu và nguyên lý (sẽ bổ sung thêm nữa))
'''Ước lượng hợp lý cực đại''' (trong người gọi là ''khả năng cực đại'',tiếng tiếng Anh thường được viếtnhắc đến với tên '''MLE''', gọiviết tắt từcho '''Maximum-Likelihood Estimation''') là một kỹphương thuậtpháp trong [[thống kê]] dùng để ước lượng giá trị tham số của một [[mô hình xác suất]] dựa trên những dữ liệu có được. Phương pháp này đượcước nhàlượng toáncác họctham [[Ronaldsố Fisher|R.nói A.trên Fisher]] phátnhững triểntham vàosố khoảnglàm 1912-1922.<refcực name="Pfanzagl">{{chúđại thíchhóa sáchlikelihood |title=Parametricfunction. statisticalNhững theoryước |last1=Pfanzagllượng |first1=Johannthu |others=withđược thecũng assistanceđược ofviết R.&nbsp;Hambökertắt |year=1994 |publisher=WalterMLE de Gruyter('''Maximum-Likelihood |location=Berlin, DEEstimates''').
|isbn=3-11-013863-8 |pages=207–208 |ref=harv }}</ref>
 
MLE được sử dụng chung với các phân tích thống kê khác. Lấy ví dụ khi chúng ta muốn ước lượng chiều cao của chim cánh cụt cái trưởng thành, nhưng lại không thể nào đo được chiều cao của tất cả chim cánh cụt trong một quần thể (do ràng buộc về thời gian hoặc chi phí). Bằng việc giả sử chiều cao trong quần thể được [[Phân phối chuẩn|phân phối chuẩn]] với các tham số ([[Giá trị kỳ vọng|giá trị trung bình]] và [[Phương sai|phương sai]]) chưa biết, chúng ta chỉ cần khảo sát chiều cao của một vài mẫu thử trong quần thể và dùng MLE để ước lượng các tham số này. Khi nhìn vào các mẫu thử đã thu thập, có thể hình dung là, phương pháp MLE sẽ tìm ra cách giải thích hợp lý nhất (tham số phù hợp) cho những mẫu thử đó.
== Nguyên lý ==
MLE dựa trên giả thiết rằng các mẫu dữ liệu <math>D=\{X_{1},..,X_{N}\}</math> có được đều [[độc lập và có cùng phân bố]] (i.i.d), với hàm phân bố thuộc một lớp cụ thể (ví dụ như Gaussian hoặc luỹ thừa) với tham số <math>\theta</math> chưa biết. Mục tiêu của MLE, như các phương pháp học mô hình tham số khác, là đi tìm giá trị của tham số để tối ưu hoá hàm thiệt hại (''loss function''). Trong trường hợp của MLE, hàm thiệt hại được định nghĩa là hàm logarithm của hàm khả năng (''likelihood function''): <math>ln(P(D|\theta))</math>.
 
Theo quan điểm của [[Suy luận Bayes|Suy diễn Bayes]], MLE là một trường hợp đặc biệt của '''Maximum A Posteriori estimation (MAP)''', phương pháp trong đó dự đoán trước về phân phối đều của các tham số. Trong suy diễn tần số, MLE lại là một trong số rất nhiều các phương pháp ước lượng tham số mà không cần dự đoán trước về phân phối. Việc dự đoán trước này được tránh bằng cách không khẳng định về xác suất của các tham số mà chỉ khẳng định về xác suất của các ước lượng, do các ước lượng đã được định nghĩa đầy đủ với các dữ liệu quan sát được và mô hình xác suất.
Theo giả thiết các mẫu dữ liệu là i.i.d ta có hàm khả năng <math>P(D|\theta)=P(X_{1},..,X_{N}|\theta)=\prod\limits_{n=1}^{N} P(X_{n}|\theta)</math>, nên hàm thiệt hại có giá trị: <math>ln(P(D|\theta)=\sum\limits_{n=1}^{N} ln(P(X_{n}|\theta))</math>.
 
MLE được nhà toán học [[Ronald Fisher|R. A. Fisher]] phát triển vào khoảng năm 1912-1922.<ref name="Pfanzagl">{{chú thích sách |title=Parametric statistical theory |last1=Pfanzagl |first1=Johann |others=with the assistance of R.&nbsp;Hamböker |year=1994 |publisher=Walter de Gruyter |location=Berlin, DE
Tham số của mô hình dựa sẽ được ước lượng bằng các cách gán với các giá trị sao cho hàm số trên giá trị đạt cực đại: <math>
|isbn=3-11-013863-8 |pages=207–208 |ref=harv }}</ref>
\{ \hat\theta_\mathrm{mle}\} \subseteq \{ \underset{\theta\in\Theta}{\operatorname{arg\,max}}\ log(P(D|\theta)) \} </math>. Lưu ý có thể có nhiều giá trị như vậy.
 
== Nguyên lý ==
Phương pháp MLE được xây dựng dựa trên likelihood function, <math display="inline">\mathcal L(\theta\,;x)</math>. Ta được cho trước một mô hình xác suất, nói cách khác là một họ các phân phối <math display="inline">\{ f(\cdot\,;\theta) \mid \theta \in \Theta \}</math>, với <math display="inline">\theta</math>là tham số (có thể là nhiều chiều) cho mô hình. MLE tìm kiếm giá trị của <math display="inline">\theta</math>để <math display="inline">\mathcal L(\theta\,;x)</math>đạt cực đại.
 
== Tham khảo ==
5

lần sửa đổi

Trình đơn chuyển hướng