Blog Khoa Học Máy Tính » Trí tuệ nhân tạo http://www.procul.org/blog Tầm nhìn ta thật ngắn mà đã thấy bao thứ để làm -- Alan Turing Wed, 08 Feb 2012 13:27:56 +0000 en hourly 1 I’m impressed! http://www.procul.org/blog/2011/11/27/im-impressed/ http://www.procul.org/blog/2011/11/27/im-impressed/#comments Sun, 27 Nov 2011 16:03:37 +0000 NQH http://www.procul.org/blog/?p=4111 Rất ấn tượng!

]]> http://www.procul.org/blog/2011/11/27/im-impressed/feed/ 4 Peter Norvig on Noam Chomsky http://www.procul.org/blog/2011/05/27/peter-norvig-on-noam-chomsky/ http://www.procul.org/blog/2011/05/27/peter-norvig-on-noam-chomsky/#comments Fri, 27 May 2011 13:59:52 +0000 NQH http://www.procul.org/blog/?p=3383 Trong bài Trí Tuệ Nhân Tạo và Những vị Chúa Tể Mới, bác Xuân Long và tôi đã ngầm ám chỉ rằng “những vị chúa tể mới” là những mô hình thống kê, thay cho những vị chúa tể (mấy chục năm) cũ là các mô hình logic hình thức chặt chẽ. Ngoài ra, một ý quan trọng nữa là quan điểm Dijkstra: việc tranh cãi xem mô hình nào mới là “insightful”, mới là “thông minh”, hay bất kỳ một tính từ mỹ miều nào khác là việc không quan trọng. Khi đã làm được Tàu Ngầm thì việc tàu có bơi như cá hay không để cho các … triết gia bình luận. Chúng ta đi làm tiếp Máy Bay.

Những luận điểm trên thật ra cần những bài dài hơi hơn, với luận cứ chặt chẽ hơn, nhất là dành cho các cây đề cổ như bác Noam Chomsky. Ở một hội nghị nhân kỷ niệm MIT 150 năm tuổi, có đoạn thế này:

derided researchers in machine learning who use purely statistical methods to produce behavior that mimics something in the world, but who don’t try to understand the meaning of that behavior. Chomsky compared such researchers to scientists who might study the dance made by a bee returning to the hive, and who could produce a statistically based simulation of such a dance without attempting to understand why the bee behaved that way. “That’s a notion of [scientific] success that’s very novel. I don’t know of anything like it in the history of science,” said Chomsky.

Peter Norvig phân tích (nói đúng hơn là băm vằm) luận điểm của Chomsky.

Cái phòng Trung Hoa còn tồn tại lâu.

]]> http://www.procul.org/blog/2011/05/27/peter-norvig-on-noam-chomsky/feed/ 8 Bước kế tiếp của trí tuệ nhân tạo http://www.procul.org/blog/2011/04/28/b%c6%b0%e1%bb%9bc-k%e1%ba%bf-ti%e1%ba%bfp-c%e1%bb%a7a-tri-tu%e1%bb%87-nhan-t%e1%ba%a1o/ http://www.procul.org/blog/2011/04/28/b%c6%b0%e1%bb%9bc-k%e1%ba%bf-ti%e1%ba%bfp-c%e1%bb%a7a-tri-tu%e1%bb%87-nhan-t%e1%ba%a1o/#comments Thu, 28 Apr 2011 13:00:05 +0000 NQH http://www.procul.org/blog/?p=3341 Watson còn khuya mới hạ gục được chú bồ câu này


Hay là chú quạ này.

]]> http://www.procul.org/blog/2011/04/28/b%c6%b0%e1%bb%9bc-k%e1%ba%bf-ti%e1%ba%bfp-c%e1%bb%a7a-tri-tu%e1%bb%87-nhan-t%e1%ba%a1o/feed/ 3 Trí tuệ nhân tạo và những vị chúa tể mới http://www.procul.org/blog/2011/04/19/tri-tu%e1%bb%87-nhan-t%e1%ba%a1o-va-nh%e1%bb%afng-v%e1%bb%8b-chua-t%e1%bb%83-m%e1%bb%9bi/ http://www.procul.org/blog/2011/04/19/tri-tu%e1%bb%87-nhan-t%e1%ba%a1o-va-nh%e1%bb%afng-v%e1%bb%8b-chua-t%e1%bb%83-m%e1%bb%9bi/#comments Tue, 19 Apr 2011 11:07:54 +0000 NQH http://www.procul.org/blog/?p=3225

Bài đăng ở Tia Sáng, số kỷ niệm 20 năm.
Ngô Quang Hưng — Nguyễn Xuân Long
Cảm ơn em họ biên tập!

Năm 1950, Alan Turing, cha đẻ ngành khoa học máy tính, đặt ra một câu hỏi đồng nghĩa với thách thức cho nhân loại: “Làm thế nào để biết được một chiếc máy tính có suy nghĩ hay không?”. Năm 1997, khi siêu máy tính Deep Blue hạ gục huyền thoại cờ vua Gary Kasparov trong trận đấu được coi là kỳ vĩ nhất của lịch sử cờ vua, cựu quán quân thế giới thừa nhận: “Tôi cảm thấy sự hiện hữu của trí thông minh ở phía bên kia bàn cờ!”. Ngày 16/2 năm nay, thêm hai bộ óc siêu việt khác của loài người đối mặt – và thua cuộc – một “bộ óc” mới trong ngành máy tính mang tên Watson. Với thành tựu mới nhất này, liệu chúng ta có thể nói gì về tư duy của máy, và hy vọng gì ở ngành trí tuệ nhân tạo trong tương lai?

1. Sự lên ngôi của vị chúa tể mới

Hỏi: Rõ là “Thời buổi gian khó”! Một cơn động đất lớn tấn công New Madrid, Missouri, vào ngày 7 tháng 2 năm 1812, cùng ngày mà tác giả này tấn công Anh Quốc. (“Hard times,” indeed! A giant quake struck New Madrid, Missouri, on Feb. 7, 1812, the day this author struck England.)

Đáp: Ai là Charles Dickens? (Who is Charles Dickens?)

Đây là một ví dụ điển hình của trò chơi truyền hình nổi tiếng tại Mỹ mang tên Jeopardy!. Khác với các loại trò chơi đố vui có thưởng theo kiểu “Ai muốn làm triệu phú”, Jeopardy! đòi hỏi kiến thức sâu rộng của người chơi vì các câu hỏi chứa đầy cạm bẫy (chơi chữ, đảo ngữ nghĩa, gợi ý mang tính lừa phỉnh, vân vân) đòi hỏi phải xử lý thông tin cực kỳ phức tạp trong một thời gian cực ngắn. Một điểm đặc biệt nữa là câu hỏi và câu trả lời của Jeopardy! đảo vị trí cho nhau: câu hỏi là câu trả lời mang tính xác định về một đối tượng nào đó, còn câu trả lời là một câu hỏi về đối tượng này. Trong ví dụ kể trên, cụm từ “Thời buổi gian khó” (hard times) nhắc đến một tác phẩm nổi tiếng của Charles Dickens. “Thời buổi gian khó” cũng được dùng với ngụ ý về sự gian khó gây ra bởi cơn động đất. Từ “tấn công” (struck) được dùng với hai nghĩa, nghĩa đen nói về tác động của trận động đất, còn nghĩa bóng nói về ngày chào đời của Charles Dickens (ngày động đất là ngày sinh của Dickens). Các nhà vô địch Jeopardy! vì thế thường được xem là đại diện cho trí thông minh và sự uyên bác.


Luật chơi của Jeopardy! đại khái như sau. Mỗi trận đấu gồm ba vòng, với ba đấu thủ. Hai vòng đầu mỗi vòng có 30 câu hỏi, chia làm 6 phạm trù, mỗi phạm trù 5 câu hỏi. Mỗi câu hỏi ở 2 vòng đầu có giá trị tiền nhất định. Sau khi nghe đọc câu hỏi các đấu thủ bấm nút tranh quyền trả lời. Trả lời đúng thì thắng số tiền của câu hỏi đó, trả lời sai thì bị mất số tiền này và còn bị trừ vào khoản tiền đã thắng. Mỗi đấu thủ thường chỉ có khoảng 1, 2 giây để bấm nút nếu không muốn bị giành mất quyền trả lời. Vòng thi cuối cùng chỉ có một câu hỏi duy nhất, thí sinh dùng tiền đã thắng để “đặt cược” ngay cả trước khi biết được câu hỏi. Thắng thì thắng thêm số tiền cược đó, còn thua thì bị trừ đi. Phạm vi đề tài thi rất “bao la”: lịch sử, sự kiện đương đại, văn học, nghệ thuật, khoa học, ngôn ngữ, chơi chữ, vân vân.

Hai huyền thoại hiện nay của trò chơi này là Ken Jennings (người thắng kỷ lục 74 trận liên tục trong năm 2004 với tổng số tiền thắng cuộc hơn 3 triệu đô la) và Brad Rutter (người thắng “cúp C1″ – cúp các nhà vô địch Jeopardy! – với tổng số tiền thắng nhiều nhất trong lịch sử Jeopardy!: hơn 3 triệu rưỡi đô la). Từ 14 đến 16 tháng 2/2011 vừa qua, cả hai bộ óc siêu phàm này đã trải qua ba trận “đại chiến” lịch sử với một đối thủ mới tò te tên là Watson – một hệ thống máy tính của hãng IBM, được đặt tên để tưởng nhớ chủ tịch đầu tiên của hãng này là Thomas Watson.

Watson “nghiền nát” Ken và Brad – như Deep Blue đã từng hạ gục Kasparov gần 14 năm trước.

Ở câu hỏi cuối cùng của vòng thi đấu cuối cùng, bên cạnh câu trả lời (đúng) của mình, Ken Jennings tuyên bố nửa đùa nửa thật (trước khi biết rằng Watson cũng trả lời đúng câu hỏi này): “Cá nhân tôi hoan nghênh các vị chúa tể mới“.

2. Trí tuệ nhân tạo, từ logic cổ điển đến thống kê tính toán

Trước khi phủi tay xuề xòa về sự không cân sức của trận đấu David tí hon chọi Goliath khổng lồ này, ta phải cẩn thận xem lại xem … ai là David và ai là Goliath. Không thể chối cãi được rằng, dù là lính mới, Watson là một đối thủ khổng lồ, kích thước tương đương … 10 cái tủ lạnh, chứa khoảng 200 triệu trang tài liệu (bằng khoảng 1 triệu quyển sách), 16 Terabytes (16 nghìn tỉ bytes) bộ nhớ, và có khả năng xử lý 80 Teraflops một giây.

Tuy nhiên, kích thước và số lượng không nhất thiết tỉ lệ thuận với sự thông minh. Một triệu con khỉ không gõ được vở kịch Hamlet. Vả lại, dù có tính về số lượng thì sự mất cân xứng cũng không rõ ràng lắm là ngả về phía nào. Ken và Brad mỗi người có khoảng 100 tỉ neurons thần kinh, và có hơn 30 năm tuổi đời để học số kiến thức mà họ có, cộng với cả chục năm “kinh nghiệm chiến trường”: xử lý sự lắt léo của Jeopardy!. Watson ra đời khoảng 2004, có tổng cộng 2880 bộ vi xử lý POWER7 mới của IBM. Mỗi bộ vi xử lý gồm bốn lõi song song với tổng cộng khoảng 1,2 tỉ transitors, vị chi là gần 3 nghìn rưỡi tỉ transitors, gấp 35 lần số neuron thần kinh một người có. Thế nhưng, mỗi neuron thần kinh lại có sức mạnh tính toán mạnh gấp nhiều lần một transitor, vì mỗi neuron thần kinh là một bộ vi xử lý sinh học, cho dù thuộc loại sơ khai.

Những thành tựu khoa học và công nghệ nào đã mang lại thành công của Watson? Chiến thắng của Watson là thành tựu tổng hợp của nhiều phân ngành khoa học máy tính: thuật toán, các bộ vi xử lý, hệ xử lý song song, mạng máy tính, trí tuệ nhân tạo, cơ sở dữ liệu, vân vân. Trong khuôn khổ bài này chúng ta sẽ chỉ đề cập đến mảng trí tuệ nhân tạo (TTNT).

Ngay từ thời kỳ đầu của TTNT, người ta đã biết rằng một trong những yếu tố cần thiết làm nên một máy tính thông minh là khả năng biểu diễn và xử lý tri thức. Tri thức phải được mã hóa bằng một thứ ngôn ngữ mà máy tính có thể hiểu được. Logic đã là sự lựa chọn hiển nhiên, vì đó cũng là ngôn ngữ của bộ vi xử lý. Với một kho tri thức bằng ngôn ngữ logic, các vấn đề suy diễn biến thành các bài toán suy luận logic thuần túy, một địa hạt mà máy tính sẽ dễ dàng thống trị.

Cho đến tận những năm 80 của thế kỷ trước, người ta tập trung phần lớn sức lực vào vấn đề tự động hóa và cải thiện hiệu quả của suy diễn logic. Làm thế nào để tìm kiếm ra câu trả lời thật nhanh từ những quy luật định sẵn. Deep Blue chính là một ví dụ điển hình của sự thành công ngoạn mục trong công nghệ tìm kiếm trong một môi trường có quy luật chặt chẽ. Máy tính có thể chơi rất tốt các trò chơi loại này, khi mà các quy luật của cuộc chơi và mọi thông tin đã được cho trước rõ ràng.

Nhưng làm thế nào để thiết lập được kho tri thức định sẵn cho máy tính? Làm thế nào để kho tri thức ấy không ngừng được thu lượm, cập nhật và chắt lọc từ sự tiếp xúc của máy tính với thế giới bên ngoài? Máy tính có thể chơi cờ rất giỏi, nhưng khả năng thu lượm thông tin và thích ứng với bên ngoài còn thua xa một con chuột bạch. Và, dạng giao tiếp đặc biệt quan trọng chính là giao tiếp với con người. Làm thế nào để máy tính có thể giao tiếp được với con người, qua đó hấp thụ được kho tri thức của loài người thành của chúng, giả sử rằng chúng cũng được lập trình để có một nguyện vọng như vậy?

Trong thập niên đầu thế kỷ 21, sự phổ dụng của các công nghệ và kết quả khoa học ngành Học Máy (machine learning) đánh dấu một bước ngoặt thay đổi nền tảng quan trọng trong quá trình phát triển của ngành TTNT. Các công nghệ TTNT đã len lỏi vào tất cả các ngóc ngách của cuộc sống con người. Chúng ta dùng các công cụ tìm kiếm như Google hàng ngày, các bộ lọc thư rác từng phút (200 tỉ thư rác mỗi ngày). Các điện thoại cầm tay tí hon đời mới có thể nhận dạng tiếng nói tốt, và có cả phần mềm dịch nhanh giữa các thứ tiếng khác nhau. Chưa hoàn hảo nhưng hoàn toàn hữu dụng. Đã có xe tự lái được trong thành phố và rô-bô thám hiểm Hỏa Tinh. Các thuật toán TTNT theo dõi tình trạng nhiễm trùng của trẻ sơ sinh, nhận diện nhân dạng và hình ảnh tế bào, nhận dạng chữ viết tay và vân tay. Các thuật toán Học Máy còn dùng để khám phá xâm nhập mạng và bảo vệ tấn công cơ sở dữ liệu từ bên trong. Các giao dịch tài chính từ chứng khoán đến thẻ tín dụng đều được các thuật toán học máy “theo dõi” gắt gao ở tốc độ nano-giây.

Những thành tựu này đạt được là do các nhà nghiên cứu TTNT nhận ra rằng “học” quan trọng hơn “biết”, khả năng đối chọi với tính bất định của thế giới thực quan trọng hơn khả năng tư duy theo một hệ thống logic làm sẵn. Nền tảng của TTNT hiện đại từ đó đã được chuyển từ logic cổ điển, chặt chẽ nhưng cứng nhắc, sang tính toán thống kê, lỏng lẻo hơn về mặt logic nhưng mềm dẻo, có tính ứng biến cao. Vấn đề học tập, cập nhật và chắt lọc tri thức từ dữ liệu thô, gọi vắn tắt là vấn đề Học Máy, đang trở thành lĩnh vực trung tâm của TTNT. Ngành học máy được phát triển trên nền tảng của xác suất thống kê và khoa học máy tính, với mục tiêu là tạo ra các thuật toán tự học giúp cho máy tính định hình được khái niệm, liên hệ các ý nghĩa, tìm kiếm ra các quy luật trên cơ sở các nguồn dữ liệu thô và nhiễu.

Một trong những nguồn dữ liệu quan trọng bậc nhất cho máy tính, đồng thời cũng là dạng dữ liệu phức tạp và nhiều nhiễu bậc nhất, chính là ngôn ngữ tự nhiên của loài người. Khác với ngôn ngữ logic của máy, ngôn ngữ của người rất linh hoạt và giàu có, thường không tuân theo các quy luật logic cứng nhắc. Các từ vựng trong ngôn ngữ của chúng ta thường là đa nghĩa. Các từ được kếp hợp với nhau qua các cấu trúc câu đa dạng, làm tăng nên khả năng biểu cảm gấp bội. Các câu lại được kết hợp với nhau tạo ra các ngữ cảnh có thể làm tăng sự mơ hồ hoặc thay đổi hẳn nội dung.

Trong Jeopardy!, giải mã cho được cách chơi chữ trúc trắc và các gợi ý đầy cạm bẫy để “hiểu” được câu hỏi mới chỉ là trở ngại đầu tiên cho Watson. Để tìm ra câu trả lời, các kỹ sư của IBM còn phải tìm cách giúp Watson tìm kiếm và đánh giá sự tin cậy của các câu trả lời có thể, từ kho dữ liệu khổng lồ được nạp sẵn gồm có các loại từ điển, thư viện Wikipedia, và các tác phẩm văn học. Watson phải tận dụng tất cả khả năng tính toán của mình để tìm ra câu trả lời nhanh và chính xác, vượt qua kinh nghiệm dày dặn và kho tri thức sâu rộng của hai địch thủ sừng sỏ bằng da thịt.

Các kỹ sư của IBM đã phải sử dụng hơn 100 phương pháp trong lĩnh vực học máy và xử lý ngôn ngữ để phân tích câu hỏi, tìm tòi nguồn ý của câu hỏi, tìm kiếm và đánh giá độ tin cậy các câu trả lời trong qua các kỹ thuật thống kê và học máy hiện đại.

3. Tương lai TTNT: Từ phép thử Turing đến quan điểm Dijkstra

Năm 1965, Herbert Simon dự đoán “trong vòng 20 năm nữa máy sẽ làm được bất kỳ việc gì người làm được”; năm 1967, Marvin Minsky cho rằng “trong vòng một thế hệ nữa, bài toán xây dựng ‘trí tuệ nhân tạo’ sẽ được xem như là giải quyết xong”. Ở thời điểm 2011 này, chúng ta biết các vị tiền bối ngành máy tính đã quá lạc quan. Vậy thì, từ những bài học gặt hái được qua chiến thắng lịch sử của Watson năm nay, chúng ta có thể nói gì về tương lai của ngành TTNT? Để thảo luận câu hỏi này, ta quay lại một chút với một câu hỏi cơ bản mà Alan Turing đặt ra năm 1950: làm thế nào để biết máy có “nghĩ” không?

Nguồn ảnh: http://xkcd.com/329/

Tư duy là một khái niệm khó nắm bắt, là thách thức quan trọng không chỉ đối với ngành khoa học máy tính mà còn thần kinh học và các ngành khoa học xã hội. Vì thế, để trả lời câu hỏi về tư duy của máy, Turing đã đề cử một phép thử mà ngày nay được gọi là phép thử Turing: cho một ban giám khảo ngồi trong một không gian tách biệt, nói chuyện với máy đồng thời với số người thật. Nếu ban giám khảo không phân biệt được ai là máy ai là người thật thì kết luận là máy có “tư duy”. Ta phải tưởng tượng mình sống ở năm 1950 để cảm nhận sự khó khăn của việc xây dựng một cái “máy” vượt qua được phép thử Turing này.

Vậy mà đến năm 1965, chương trình máy tính Eliza của Joseph Weizenbaum trường MIT đã có khả năng thuyết phục rất nhiều người là nó là người thật, dùng một cái mẹo đơn giản của các nhà tâm lý học trong hội thoại với bệnh nhân: khi nào không hiểu thì lấy một từ khóa trong câu của bệnh nhân và bảo họ giải thích thêm. Ví dụ, bệnh nhân nói “hôm nay tớ buồn quá”, máy tính trả lời: “bạn nói thêm cho tớ về nỗi buồn của bạn đi!”. Chỉ đơn giản như thế, nhưng rất nhiều người đã không tin rằng Eliza là chương trình máy tính. Nhiều người thậm chí đã “nói chuyện” nhiều giờ liền với Eliza, và khi xong thì báo cáo kết quả là “nhà điều trị tâm lý” Eliza đã có tác động tích cực đến tâm lý của họ. Hiện nay hàng năm vẫn có các kỳ thi dạng phép thử Turing cho các chương trình máy tính (Giải thưởng Loebner là một ví dụ), và nhiều chương trình đã rất cận kề với điểm vượt qua phép thử Turing. Thậm chí, gần đây có cả chương trình tự động “kết bạn” trên các mạng xã hội, hội thoại với con người kiểu Eliza. Các nhà nghiên cứu đã thử cho bọn “bot” này thâm nhập vào trung tâm của một nhóm lớn các bạn bè trong một mạng xã hội kiểu Twitter bằng cách này. Cho nên ai kết bạn linh tinh trên Facebook hay Twitter thì nên cẩn thận xem lại bạn mình có phải là … người không.

Vậy giờ đây, liệu đã có thể kết luận từ sự kiện Watson, con người đã có thể tạo ra những bộ máy thực sự có trí tuệ hay không? Noam Chomsky, một nhà ngôn ngữ học nổi tiếng, thẳng thừng tuyên bố: “Với tôi, Watson chẳng hiểu gì cả. Nó chỉ là một cái máy ủi rất to thôi”. Marvin Minsky, một trong những người sáng lập nên ngành trí tuệ nhân tạo sau Turing, cũng có thái độ tương tự: “Nếu như Watson chỉ là một dạng máy tính tìm kiếm và so trùng mẫu (pattern matching) … thì chẳng có gì ấn tượng cả. Với tôi, vẫn chưa máy tính nào có thể có cách cư xử theo lẽ thường tình như một đứa trẻ con 4, 5 tuổi”.

Thoạt nghe, những nhận xét như của Chomsky hay Minsky không phải không có cơ sở. Quả là ở chừng mực nào đó, cũng giống như Deep Blue, Watson vẫn chỉ là một máy tính làm rất tốt một việc: đó là việc tìm kiếm câu trả lời, một dạng câu trả lời chỉ thích hợp cho một cuộc chơi, cho dù là một cuộc chơi lắt léo như Jeopardy!. Watson vẫn phải dựa vào kho tri thức khổng lồ đã được tải xuống và sắp xếp vào hệ thống bộ nhớ rất “máy ủi” của mình bởi các kỹ sư bằng da bằng thịt của IBM. Nếu cái kho tri thức ấy được Watson tự thu lượm và học hỏi được thì có thể sự đánh giá của chúng ta với trí thông minh của nó sẽ khác đi chăng? Nhưng nhìn nhận công bằng hơn, Watson thực sự là bước tiến vượt bậc so với Deep Blue. Trước khi có Watson, chúng ta đã không biết chắc có thể tạo ra được máy tính có khả năng xử lý ngôn ngữ tự nhiên của con người và thắng được con người trong một cuộc chơi như Jeopardy!.

Có ai đó từng nói: hễ cứ khi máy tính đã làm được cái gì thì cái đó không được coi là thông minh nữa. Định kiến này sẽ luôn luôn đi kèm theo bất kỳ thành tựu công nghệ nào của loài người, cho dù chúng có kỳ vĩ đến đâu. Các tác giả bài này chọn cách nhìn cùng hướng với cố giáo sư Edsger Dijkstra, người thắng giải Turing năm 1972. Dijkstra từng nói: “hỏi máy tính có biết nghĩ hay không thì cũng chẳng hay ho gì hơn hỏi tàu ngầm có biết bơi không”. Quan điểm của Dijkstra cũng chính là xu hướng phát triển của khoa học và công nghệ TTNT hiện nay mà đại diện mới nhất là Watson: hướng chức năng. Khi công nghệ Q&A (hỏi đáp) của Watson có thể dùng để giúp bệnh nhân và bác sĩ chẩn đoán bệnh bằng cách tìm và trả lời các câu hỏi lâm sàng hóc búa, khi công nghệ Q&A phát triển đến mức các trung tâm giải đáp thắc mắc kỹ thuật chỉ còn toàn máy, khi công nghệ Q&A phát triển đến mức ta có thể đặt câu hỏi trực tiếp cho Google mà không cần nghĩ xem từ khóa đúng là gì … thì việc Watson có biết “nghĩ” thật hay không có lẽ không còn là câu hỏi cần thiết nữa.

Khoa học gia ngành Tâm Lý Daniel Gilbert từng nói rằng, mỗi nhà tâm lý học sẽ phải một lần trong đời viết cái câu sau:

“Con người là loài duy nhất có khả năng _________”

Cho đến gần cuối thế kỷ 20, điền “chơi cờ vua” vào khoảng trống hẳn là đa số nhân loại đồng ý. Đến nay điền “làm Toán” vào được không? Không! Hệ thống phần mềm WolframAlpha có khả năng làm Toán tốt hơn tuyệt đại đa số nhân loại: nó có thể tính tích phân bất định và xác định, tính tổng các chuỗi hình thức, và mật độ dân số Việt Nam, trong vòng tích tắc, với câu hỏi là ngôn ngữ tự nhiên.

Watson vừa mới loại bỏ thêm một việc nữa mà chỉ con người mới có thể làm được. Xu hướng chức năng theo quan điểm của Dijkstra sẽ là xu hướng thượng phong cho tương lai ngành TTNT.

Có thể đến một lúc nào đó chúng ta sẽ phải quay lại với vấn đề mà Turing đã lẩn tránh khi ông đưa ra phép thử Turing. Trí thông minh là gì? Cụ thể hơn: thế nào là trí thông minh của máy? Tương tự, thế nào là tình cảm của máy? Thế nào là lẽ thường? Còn, nếu bạn không đồng ý với quan điểm Dijkstra và muốn “hạ gục” Watson thì chỉ cần hỏi: “Này, Watson, tại sao vợ tớ giận tớ?”

]]> http://www.procul.org/blog/2011/04/19/tri-tu%e1%bb%87-nhan-t%e1%ba%a1o-va-nh%e1%bb%afng-v%e1%bb%8b-chua-t%e1%bb%83-m%e1%bb%9bi/feed/ 54 HM6 — Độ phức tạp Rademacher http://www.procul.org/blog/2011/03/15/hm6-d%e1%bb%99-ph%e1%bb%a9c-t%e1%ba%a1p-rademacher/ http://www.procul.org/blog/2011/03/15/hm6-d%e1%bb%99-ph%e1%bb%a9c-t%e1%ba%a1p-rademacher/#comments Tue, 15 Mar 2011 04:19:50 +0000 NQH http://www.procul.org/blog/?p=3096
  • HM5: Mô hình giả thuyết không nhất quán và định lý hội tụ đều Vapnik-Chervonenkis
  • HM7: AdaBoost

Trong bài HM 5, ta đã giới thiệu mô hình giả thuyết không nhất quán và chứng minh định lý hội tụ đều của Vapnik và Chervonenkis. Đây là một trong những định lý cơ bản nhất của lý thuyết học máy thống kê. Ta gọi tắt nó là định lý VC. Định lý VC chặn trên lỗi tổng quát hóa bằng lỗi thực nghiệm và độ phức tạp VC (hay VC dimension) của lớp giả thuyết. Trong bài này, ta chứng minh một kết quả tổng quát hơn định lý VC. Ta sẽ chặn trên lỗi tổng quát hóa bằng lỗi thực nghiệm và cái gọi là độ phức tạp Rademacher. Định lý VC là một hệ quả trực tiếp của chặn trên dùng độ phức tạp Rademacher này. Chứng minh kết quả này cũng trực quan hơn rất nhiều so với chứng minh định lý VC trong bài trước. Bạn có thể quên luôn chứng minh của bài trước đi. Ngoài ra, ta sẽ dùng kết quả của bài này để phân tích thuật toán AdaBoost thảo luận trong bài tới. Phần lớn bài này viết theo bài giảng số 3 của Mehryar Mohri ở NYU.

1. Độ phức tạp Rademacher

Gọi {\mathcal G} là một họ các hàm từ một miền {\mathcal Z} nào đó vào đoạn {[a,b]}. Trong các ứng dụng thì {\mathcal Z = \Omega \times \{0,1\}} hay {\mathcal Z = \Omega \times \{-1,1\}}. Gọi {\mathcal D} là một phân bố xác suất trên miền {\mathcal Z}. Phân bố này sẽ được hiểu ngầm trong các phát biểu xác suất dưới đây, để tránh ký hiệu lằng nhằng quá.

Gọi {S} là một tập {m} phần tử bất kỳ của {\mathcal Z}. Độ phức tạp Rademacher thực nghiệm (của {\mathcal G}, tính tương đối theo {S}) được định nghĩa là

\displaystyle \hat{\mathcal R}_S(\mathcal G) = \mathop{\mathbf E}_\sigma \left[ \sup_{g \in \mathcal G} \frac 1 m \sum_{i=1}^m \sigma_ig(z_i) \ | \ S = (z_1, \dots, z_m) \right]

Trong đó, {\sigma = (\sigma_1,\dots, \sigma_m)} là một vector của các biến Rademacher: {\sigma_i = \pm 1} với xác suất {1/2}.


Nếu {\mathcal G} là họ các hàm phân loại (classifiers), mỗi hàm lấy giá trị {\pm 1}, thì độ phức tạp Rademacher thực nghiệm có thể hiểu nôm na như sau. Ta gán giá trị {\pm 1} ngẫu nhiên vào {m} điểm của {S}. Rồi tính trung bình xem cái hàm phân loại tốt nhất của {\mathcal G} phân loại đúng được bao nhiêu. Ví dụ, nếu {\mathcal G} là một tập các hàm rất hùng mạnh, với bất kỳ cách gán {\pm 1} nào vào {S} cũng tồn tại hàm {g} gán nhãn chính xác, thì độ phức tạp Rademacher bằng {1}. Ta chia độ phức tạp cho {m} là để “bình thường hóa” số đo này cho nó không phụ thuộc vào số mẫu.

Độ phức tạp Rademacher của {\mathcal G} là trị kỳ vọng của độ phức tạp Rademacher thực nghiệm:

\displaystyle \mathcal R_m(\mathcal G) = \mathop{\mathbf E}_{S \sim \mathcal D^m} \left[ \hat{\mathcal R}_S(\mathcal G) \right].

Quan sát đầu tiên của ta liên hệ độ phức tạp Rademacher của một bộ hàm phân loại và bộ hàm mất mát (loss functions) tương ứng. Cụ thể hơn, gọi {\mathcal H} là một bộ các hàm {\Omega \rightarrow \{-1,1\}}. Mỗi hàm của {\mathcal H} là một hàm phân loại nhị phân. Từ giờ trở đi ta dùng các nhãn {\{-1,1\}} thay vì nhãn {\{0,1\}} cho tiện về mặt toán học. Đặt {\mathcal Z = \Omega \times \{-1,1\}}. Như vậy các phần tử {z \in \mathcal Z} có dạng {z = (\mathbf x, y)} với {\mathbf x \in \Omega} và {y \in \{-1,1\}}. Xét một phân bố {\mathcal D} trên {\mathcal Z} tùy hỉ. Định nghĩa một họ hàm {\mathcal G} từ {\mathcal Z} vào {[0,1]} như sau. Với mỗi {h \in \mathcal H}, định nghĩa {g(\mathbf x, y) = \mathbf 1_{h(\mathbf x) \neq y}}.

Bổ đề 1 Ta có

\displaystyle \begin{array}{rcl} \widehat{\textnormal{err}}_S(h) &=& \frac 1 m \sum_{i=1}^m g(z_i) \\ \textnormal{err}(h) &=& \mathop{\mathbf E}[g(z)]\\ \hat{\mathcal R}_S(\mathcal G) &=& \frac 1 2 \hat{\mathcal R}_S(\mathcal H)\\ \mathcal R_m(\mathcal G) &=& \frac 1 2 \mathcal R_m(\mathcal H). \end{array}

Chứng minh: Hai đẳng thức đầu tiên là định nghĩa. Đẳng thức thứ tư là hệ quả trực tiếp của đẳng thức thứ ba. Ta chứng minh đẳng thức thứ ba.

\displaystyle \begin{array}{rcl} \hat{\mathcal R}_S(\mathcal G) &=& \mathop{\mathbf E}_\sigma\left[ \sup_{h\in \mathcal H} \frac 1 m \sum_{i=1}^m \sigma_i\mathbf 1_{h(\mathbf x_i) \neq y_i} \ | \ S = (z_1,\dots, z_m) \right]\\ &=& \mathop{\mathbf E}_\sigma\left[ \sup_{h\in \mathcal H} \frac 1 m \sum_{i=1}^m \frac 1 2 \sigma_i(1-h(\mathbf x_i) y_i) \ | \ S = (z_1,\dots, z_m) \right]\\ &=& \frac 1 2 \mathop{\mathbf E}_\sigma\left[ \frac 1 m \sum_{i=1}^m \sigma_i + \sup_{h\in \mathcal H} \frac 1 m \sum_{i=1}^m (-\sigma_iy_i)h(\mathbf x_i) \ | \ S = (z_1,\dots, z_m) \right]\\ &=& \frac 1 2 \mathop{\mathbf E}_\sigma\left[ \sup_{h\in \mathcal H} \frac 1 m \sum_{i=1}^m \sigma_ih(\mathbf x_i) \ | \ S = (z_1,\dots, z_m) \right]\\ &=& \frac 1 2 \hat{\mathcal R}_S(\mathcal H) \end{array}

Đẳng thức thứ tư ta dùng quan sát đơn giản là {(-\sigma_iy_i)} có phân bố giống hệt {\sigma_i} và các {\sigma_i} độc lập nhau. \Box

Độ phức tạp Rademacher liên quan đến VC-dimension như thế nào? Massart hồi 2000 cho ta câu trả lời. Ta sẽ chứng minh bổ đề sau ở cuối bài, sau khi đã làm quen hơn với độ phức tạp Rademacher.

Bổ đề 2 Gọi {\mathcal H} là một bộ các hàm số vào {\{-1,1\}}. Với {S} là một tập {m} mẫu bất kỳ, ta có

\displaystyle \hat{\mathcal R}_S(\mathcal H) \leq \sqrt{\frac{2\log \Pi_{\mathcal H}(S)}{m}}.

Và do đó,

\displaystyle {\mathcal R}_m(\mathcal H) \leq \sqrt{\frac{2\log \Pi_{\mathcal H}(m)}{m}} \leq \sqrt{\frac{2d\log(me/d)}{m}}.

Trong đó {d} là VC-dimension của {\mathcal H}.

Dùng cái gọi là độ phức tạp Gaussian, Bartlett và Mendelson chứng minh một chặn khác chặt hơn nữa: {\hat{\mathcal R}_S(\mathcal H) = O(\sqrt{d/n})}, và vì thế {\mathcal R_m(\mathcal H) = O(\sqrt{d/n})}. Ta sẽ quay lại với Gaussian complexity vào dịp khác.

2. Các chặn cho độ phức tạp Rademacher

Kết quả chính của đề mục này là từ một bài báo của Koltchinskii và Panchenko hồi năm 2002. Các bác cựu Liên Xô ngố rất giỏi mấy trò này. Dùng Liên Xô ngố chứ không phải Nga ngố là vì bác Vladimir Koltchinskii tốt nghiệp đại học Kiev. Còn Dmitry Panchenko là học trò của Koltchinskii.

Để chứng minh kết quả chính này ta cần bất đẳng thức McDiarmid của Colin McDiarmid. BĐT này khá dễ nhớ và dễ dùng.

Định lý 3 (BĐT McDiarmid) Xét {m} biến ngẫu nhiên độc lập {X_1, \dots, X_m} trên một miền {\mathcal X} nào đó, và một hàm số {f: \mathcal X^m \rightarrow \mathbb R}. Hàm số {f} thỏa điều kiện là thay đổi tọa độ thứ {i} thì chỉ thay đổi giá trị của {f} nhiều nhất là {c_i}. Cụ thể hơn, với mọi {i}, {x_1,\dots, x_m, x'_i} ta có

\displaystyle |f(x_1,\dots,x_{i-1},x_i,x_{i+1},\dots, x_m) - f(x_1,\dots,x_{i-1},x'_i,x_{i+1},\dots, x_m)| \leq c_i.

Thì với mọi {\epsilon >0} ta có

\displaystyle \text{Prob}[ f - \mathop{\mathbf E}[f] \geq \epsilon ] \leq \exp\left(\frac{-2\epsilon^2}{\sum_{i=1}^mc_i^2}\right),

và

\displaystyle \text{Prob}[ f - \mathop{\mathbf E}[f] \leq - \epsilon ] \leq \exp\left(\frac{-2\epsilon^2}{\sum_{i=1}^mc_i^2}\right).

Định lý 4 (Koltchinskii-Panchenko) Gọi {\mathcal G} là một bộ các hàm từ miền {\mathcal Z} vào {[0,1]}. Với mọi {\delta>0}, với xác suất ít nhất là {1-\delta} bất đẳng thức sau đây đúng với mọi {g \in \mathcal G},

\displaystyle \mathop{\mathbf E}[g(z)] \leq \frac 1 m \sum_{i=1}^m g(z_i) + 2\mathcal{R}_m(\mathcal G) + \sqrt{\frac{\log\frac 1 \delta}{2m}}. \ \ \ \ \ (1)

Với mọi {\delta>0}, với xác suất ít nhất là {1-\delta} bất đẳng thức sau đây đúng với mọi {g \in \mathcal G},

\displaystyle \mathop{\mathbf E}[g(z)] \leq \frac 1 m \sum_{i=1}^m g(z_i) + 2\hat{\mathcal R}_S(\mathcal G) + 3 \sqrt{\frac{\log\frac 2 \delta}{2m}}. \ \ \ \ \ (2)

Chứng minh: Để đơn giản hóa ký hiệu, ta định nghĩa

\displaystyle \begin{array}{rcl} \mathop{\mathbf E}[g] &=& \mathop{\mathbf E}[g(z)] \\ \widehat{\mathop{\mathbf E}}_S[g] &=& \frac 1 m \sum_{i=1}^m g(z_i)\\ \Phi(S) &=& \sup_{g \in \mathcal G} \mathop{\mathbf E}[g] - \widehat{\mathop{\mathbf E}}_S[g]. \end{array}

Để chứng minh (1), ta cần chứng minh rằng {\Phi(S) \leq 2\mathcal{R}_m(\mathcal G) + \sqrt{\frac{\log\frac 1 \delta}{2m}}} với xác suất cao. Để chứng minh điều này thì ta chứng minh {\mathop{\mathbf E}_S[\Phi(S)] \leq 2\mathcal{R}_m(\mathcal G)}, sau đó áp dụng bất đẳng thức McDiarmid vào hàm số {f = \Phi}. Nói chung, chìa khóa của toàn bộ định lý là chứng minh quan hệ {\mathop{\mathbf E}_S[\Phi(S)] \leq 2\mathcal{R}_m(\mathcal G)} bằng kỹ thuật “đối xứng hóa”.

Lưu ý rằng {\mathop{\mathbf E}[g] = \mathop{\mathbf E}_{S'}\left[ \widehat{\mathop{\mathbf E}}_{S'}[g] \right].} Ta có

\displaystyle \begin{array}{rcl} \mathop{\mathbf E}_S[\Phi(S)] &=& \mathop{\mathbf E}_S \left[ \sup_{g \in \mathcal G} \mathop{\mathbf E}[g] - \widehat{\mathop{\mathbf E}}_S[g] \right]\\ &=& \mathop{\mathbf E}_S \left[ \sup_{g \in \mathcal G} \mathop{\mathbf E}_{S'} \left[\widehat{\mathop{\mathbf E}}_{S'}[g] - \widehat{\mathop{\mathbf E}}_S[g] \right] \right]\\ \text{(Jensen)} &\leq & \mathop{\mathbf E}_S \left[ \mathop{\mathbf E}_{S'} \left[ \sup_{g \in \mathcal G} \widehat{\mathop{\mathbf E}}_{S'}[g] - \widehat{\mathop{\mathbf E}}_S[g] \right] \right]\\ &=& \mathop{\mathbf E}_{S,S'} \left[ \sup_{g \in \mathcal G} \frac 1 m \sum_{i=1}^m (g(z'_i) - g(z_i)) \right]\\ &=& \mathop{\mathbf E}_{S,S',\sigma} \left[ \sup_{g \in \mathcal G} \frac 1 m \sum_{i=1}^m \sigma_i(g(z'_i) - g(z_i)) \right]\\ &\leq& \mathop{\mathbf E}_{S',\sigma} \left[ \sup_{g \in \mathcal G} \frac 1 m \sum_{i=1}^m \sigma_i g(z'_i) \right]+ \mathop{\mathbf E}_{S,\sigma} \left[ \sup_{g \in \mathcal G} \frac 1 m \sum_{i=1}^m -\sigma_i g(z_i) \right]\\ &=& 2 \mathcal R_m(\mathcal G). \end{array}

Đẳng thức ở dòng thứ {5} là một dạng “đối xứng hóa” (symmetrization) đơn giản: sau khi lấy các mẫu {z'_i, z_i} ta có thể hoán chuyển {z'_i} và {z_i} từ {S'} sang {S} và ngược lại. Do {S'} và {S} là các mẫu độc lập, sự hoán chuyển này không thay đổi phân bố của chúng.

Bây giờ ta áp dụng bất đẳng thức McDiarmid vào hàm {\Phi}. Khi thay một điểm {z_i \in S} bằng {z'_i} nào đó, giá trị của hàm {\Phi(S)} thay đổi nhiều nhất là {1/m}. Do đó, từ bất đẳng thức McDiarmid ta có

\displaystyle \Phi(S) \leq \mathop{\mathbf E}_{S}[\Phi(S)] + \sqrt{\frac{\log \frac 1 \delta}{2m}}

với xác suất ít nhất là {1-\delta}. Đó là chứng minh (1).

Để chứng minh (2) thì ta lại áp dụng McDiarmid một lần nữa. Lần này là với hàm số {\hat{\mathcal R}_S(\mathcal G)}. Trước hết, McDiarmid như lần 1 cho ta

\displaystyle \Phi(S) \leq \mathop{\mathbf E}_{S}[\Phi(S)] + \sqrt{\frac{\log \frac 2 \delta}{2m}} \ \ \ \ \ (3)

với xác suất ít nhất {1-\delta/2}. Rồi từ bất đẳng thức vừa chứng minh, ta có {\mathop{\mathbf E}_{S}[\Phi(S)] \leq 2{\mathcal R}_m(\mathcal G) = 2\mathop{\mathbf E}_S[ \hat{\mathcal R}_S(\mathcal G) ]}. Khi thay {S} chỉ một mẫu thì {\hat{\mathcal R}_S(\mathcal G)} thay đổi nhiều nhất là {1/m}. Do đó, với xác suất ít nhất {1-\delta/2} ta có

\displaystyle \hat{\mathcal R}_m(\mathcal G) \leq \hat{\mathcal R}_S(\mathcal G) + \sqrt{\frac{\log \frac 2 \delta}{2m}}. \ \ \ \ \ (4)

Từ (3) và (4) ta có (2). \Box

3. Một số hệ quả của chặn độ phức tạp Rademacher

Từ Bổ đề 1 và Định lý 4, ta có hệ quả sau đây.

Hệ quả 5 Gọi {\mathcal H} là một họ các hàm phân lớp từ {\Omega} vào {\{-1,1\}}. Thì với mọi {\delta>0}, với xác suất ít nhất {1-\delta} ta có

\displaystyle \begin{array}{rcl} \text{err}(h) &\leq&\widehat{\text{err}}(h) + \mathcal{R}_m(\mathcal H) + \sqrt{\frac{\log \frac 1 \delta}{2m}}\\ \text{err}(h) &\leq&\widehat{\text{err}}(h) + \widehat{ \mathcal R}_S(\mathcal H) + 3 \sqrt{\frac{\log \frac 1 \delta}{2m}}. \end{array}

Chặn thứ 2 chỉ phụ thuộc vào dữ liệu, do đó có khả năng hữu dụng trong việc chọn mô hình phân lớp, giúp giải quyết vấn đề model selection. Vấn đề là làm thế nào để tính độ phức tạp Rademacher một cách hiệu quả, chưa nói đến việc chọn một hàm {h\in \mathcal H} với {\sum_i \sigma_ih(\mathbf x_i)} lớn nhất. Bài này khó tương đương với bài toán tối thiểu hóa lỗi thực nghiệm (ERM), và nói chung là {\mathbf{NP}}-khó. Câu hỏi tự nhiên là, có một “độ phức tạp” nào hữu dụng và dễ tính hơn không?

Từ hệ quả trên và Bổ đề 2 ta có định lý VC. Vậy ta chứnh minh bổ đề 2. Nhưng ta sẽ chứng minh một bổ đề còn tổng quát hơn Bổ đề 2, gọi là Bổ đề Massart. Mấy cái mẹo dùng trong chứng minh bổ đề Massart rất phổ dụng trong các chứng minh hiện tượng tập trung (concentration inequalities).

Bổ đề 6 (Bổ đề Massart) Xét một tập con hữu hạn {A \subset \mathbb R^m}, với {L = \max_{\mathbf x \in A} \|\mathbf x \|_2}. Ta có

\displaystyle \mathop{\mathbf E}_\sigma\left[ \frac 1 m \sup_{\mathbf x \in A} \sum_{i=1}^m \sigma_ix_i \right] \leq \frac{L\sqrt{2\log|A|}}{m}.

Chứng minh: Ta dùng cái mẹo Bernstein, còn gọi là phương pháp mô-măng mũ (exponential moment method). Do hàm mũ là hàm lồi, bất đẳng thức Jensen suy ra, với {t>0} ta có

\displaystyle \begin{array}{rcl} \exp\left( t \mathop{\mathbf E}_\sigma\left[ \sup_{\mathbf x \in A} \sum_{i=1}^m \sigma_ix_i \right] \right) &\leq& \mathop{\mathbf E}_\sigma \left[ \exp\left( t \sup_{\mathbf x \in A} \sum_{i=1}^m \sigma_ix_i \right) \right]\\ &=& \mathop{\mathbf E}_\sigma \left[ \sup_{\mathbf x \in A} \exp\left( t \sum_{i=1}^m \sigma_ix_i \right) \right]\\ &\leq& \sum_{\mathbf x \in A} \mathop{\mathbf E}_\sigma \left[ \exp\left( t \sum_{i=1}^m \sigma_ix_i \right) \right]\\ &=& \sum_{\mathbf x \in A} \prod_{i=1}^m \mathop{\mathbf E}_\sigma \left[ \exp\left( t \sigma_ix_i \right) \right] \end{array}

Đến đây, ta dùng một bất đẳng thức tạm gọi là bất đẳng thức Hoeffding nhỏ, thường dùng làm bước chính trong chứng minh BĐT Hoeffding (lớn). BĐT Hoeffding nhỏ phát biểu như sau: nếu {X} là một biến ngẫu nhiên với {\mathop{\mathbf E}[X]=0} và {X\in [a,b]} thì, với mọi {s>0} ta có {\mathop{\mathbf E}[\exp(sX)] \leq \exp(s^2(b-a)^2/8)}. Chứng minh BĐT này rất đơn giản. (Xem ở đây chẳng hạn.) Từ BĐT Hoeffding nhỏ ta có

\displaystyle \mathop{\mathbf E}_\sigma \left[ \exp\left( t \sigma_ix_i \right) \right] \leq \exp(t^2(2x_i)^2/8) = \exp(t^2x_i^2/2).

Như vậy,

\displaystyle \exp\left( t \mathop{\mathbf E}_\sigma\left[ \sup_{\mathbf x \in A} \sum_{i=1}^m \sigma_ix_i \right] \right) \leq \sum_{\mathbf x \in A} \prod_{i=1}^m \exp(t^2x_i^2/2) \leq |A| \exp(t^2L^2/2).

Lấy {\log} hai vế, với mọi {t>0} ta có

\displaystyle \mathop{\mathbf E}_\sigma\left[ \sup_{\mathbf x \in A} \sum_{i=1}^m \sigma_ix_i \right] \leq \frac{\log|A|}{t} + \frac{tL^2}{2}.

Chọn {t = \frac{\sqrt{2\log|A|}}{L}} để giảm thiểu vế phải là hoàn tất toàn bộ chứng minh. \Box

Bài tập: chứng minh Bổ đề 2 từ Bổ đề Massart.

]]> http://www.procul.org/blog/2011/03/15/hm6-d%e1%bb%99-ph%e1%bb%a9c-t%e1%ba%a1p-rademacher/feed/ 0 Go Watson Go! http://www.procul.org/blog/2011/02/14/go-watson-go/ http://www.procul.org/blog/2011/02/14/go-watson-go/#comments Mon, 14 Feb 2011 18:03:00 +0000 NQH http://www.procul.org/blog/?p=2951 We’re all rooting for you, man. (Pun intended!)

]]> http://www.procul.org/blog/2011/02/14/go-watson-go/feed/ 4 Lexicon — xác suất thống kê và học máy http://www.procul.org/blog/2010/11/09/lexicon-xac-su%e1%ba%a5t-th%e1%bb%91ng-ke-va-h%e1%bb%8dc-may/ http://www.procul.org/blog/2010/11/09/lexicon-xac-su%e1%ba%a5t-th%e1%bb%91ng-ke-va-h%e1%bb%8dc-may/#comments Tue, 09 Nov 2010 05:45:35 +0000 Nguyễn Xuân Long http://www.procul.org/blog/?p=2532 Last Updated: 18/11/2010

Trang này lấy cảm hứng từ trang lexicon của chùa THT bắt đầu từ gợi ý của địa chủ blog này.

Chủ đề trung tâm là suy diễn thống kê. Với nhãn quan này tôi bắt đầu từ lý thuyết xác suất, sau đó chuyển sang lexicon bên thống kê học và đảo qua học máy (machine learning) bên khmt rồi đến các giải thuật quy hoạch tối ưu.

Số lượng lexicon tôi biết còn rất cám cảnh, mục tiêu chính (ích kỷ) ở đây sẽ là cơ hội (cho tôi) để học thêm. Có một số từ chuyên ngành sẽ khá là mới mẻ, đây sẽ là cơ hội để ta tự do sáng tác. Sẽ cố gắng thống nhất với các lexicon đã được xem là chuẩn, nhưng vẫn có thể xem lại một số chưa được sát nghĩa. Rất mong được sự góp ý của mọi người.

Khởi động với lý thuyết xác suất (có vẻ dễ dàng hơn cả, càng đi tiếp hình như càng cam go). Tôi sẽ tiếp tục cập nhật khi có thêm đóng góp.

Mục lục.

1. Lý thuyết xác suất

1.1 Căn bản
1.2 Độc lập và hội tụ
1.3 Quá trình ngẫu nhiên

2. Mô hình thống kê

2.1 Căn bản
2.2 Tham số
2.3 Đầy đủ và thông tin
2.4 Nhãn quan Bayes và Tần suất
2.5 Phân lớp các mô hình và cách tham số hóa
2.6 Dao cạo của Occam

3. Suy diễn thống kê

3.1 Tổng quan
3.2 Lý thuyết quyết định
3.3 Các cách ước lượng/ học thống kê
3.4 Các suy diễn thống kê cụ thể
3.5 Thống kê vô hạn, lý thuyết học và lý thuyết thông tin
3.6 Lựa chọn mô hình
3.7 Thiết kế thí nghiệm

4. Giải thuật thống kê/ học giả

4.1 Tổng quan

….

1. Lý thuyết xác suất:

1.1 Căn bản: Lý thuyết xác suất cho chúng ta một ngôn ngữ để mô tả sự ngẫu nhiên (randomness). Đối tượng cơ bản nhất của LTXS là các biến ngẫu nhiên (random variables).  Để định nghĩa một biến ngẫu nhiên thì cần một hàm phân bố (distribution function), qua đó có thể định nghĩa được các khái niệm như trung bình (mean) và phương sai (variance). Standard deviation gọi là độ lệch chuẩn. Mean và variance là các phiếm hàm (functionals), được áp dụng cho một hàm phân bố hoặc một biến ngẫu nhiên. Hàm phân bố nếu liên tực tuyệt đối với một độ đo chuẩn (?) như Lebesgue thì có thể được biểu diễn bởi hàm mật độ (density), theo định lý Radon-Nikodym.

Cơ sở toán học của lý thuyết xác suất là thuyết độ đo (measure theory), nhưng việc chính của các xác suất gia (?) (probablist) là xây dựng phát triển cáng nhiều loại đo đo xác suất càng tốt. Nói chuyện với một chuyên gia độ đo không thể không định nghĩa một đại số sigma (sigma-algebra). Nói chuyện với một chuyên gia xác suất thì rất nhiều khi khái niệm này ẩn rất kỹ. Công cụ chính của các XSG chính là khái niệm độc lập (independence), và mạnh mẽ hơn là độc lập có điều kiện (conditional independence). Cho nên dân toán thường trêu LTXS chẳng qua là thuyết độ đo + độc lập. Vậy sự khác biệt giữa một độ đo xác suất và những biến ngẫu nhiên là gì? Theo David Aldous thì đó là sự khác biệt giữa recipe để làm bánh và những cái bánh. Hiểu được sự khác biệt này thì mới làm được bước nhảy từ lý thuyết độ đo khô khan sang lý thuyết xác suất tươi mát hơn.

1.2 Độc lập và hội tụ: Khái niệm độc lập cho ta một loạt các định luật cơ bản của LTXS. Tất cả đều xoay quanh hiện tượng tập trung của độ đo (concentration of measure). Bắt đầu là luật các số lớn (có phiên bản luật mạnh (strong law) và luật yếu). Luật giới hạn trung tâm (Central limit theorem) nhắc rằng sample mean (mẫu trung bình)  có quy luật bình thường (normal/Gaussian) khi số mẫu tiến đến vô hạn. Các định luật này đều có sử dụng các khái niệm hội tụ (convergence) trong giải tích. Hội tụ gần chắc (almost sure), hội tụ về phân bố hoặc về luật (convergence in distribution/ in law).  Ngoài luật số lớn còn có luật các số nhỏ (hay luật các hiện tượng hiếm có — law of rare events), cho ta biết khi nào thì mẫu trung bình có quy luật Poisson. Không phải ngẫu nhiên, Gaussian và Poisson là hai hàm phân bố căn bản nhất — là những viên gạch cho toàn bộ lâu đài XS.

Khái niệm độc lập và độc lập có điều kiện là những chất keo để gắn kết các biến xác suất với nhau, qua đó cho ta các hàm xác suất cho các vật thể toán học có cấu trúc phức tạp hơn. Một dạng độc lập có điều kiện hay dùng là tính chất Markov. Ngoài chất keo độc lập, còn có một chất keo nữa rất hữu dụng, đó là tính hoán chuyển được (exchangeability).  Nếu tính độc lập là nền tảng cho các phương pháp suy diễn tần số (frequentist) , thì tính hoán chuyển được lại là cơ sở nền tảng cho các phương pháp suy diễn Bayesian. Tính hoán chuyển được đang được mở rộng ra thành hoán chuyển từng phần (partial exchangeability), một khái niệm quan trọng để phái triển các độ đo cho các vật thể tổ hợp (combinatorial object) rời rạc và phức tạp.

1.3 Quá trình ngẫu nhiên: LTXS phát triển rất nhiều hàm phân bố không chỉ cho các biến xác suất scalar (?) đơn giản, mà người ta còn sáng tạo ra các hàm phân bố cho các cấu trúc toán học phức tạp, nhiều chiều hơn. Chúng ta bắt đầu nói chuyện đến hàm phân bố cho những tập các hàm số đo được (measurable functions), và hàm phân bố cho các độ đo ngẫu nhiên (random measures). Hàm phân bố cho các vật thể vô hạn chiều này gọi chung là các quá trình ngẫu nhiên (stochastic processes). Cách thức khẳng định sự tồn tại là qua định lý của bác Kolmogorov, cho phép ta hiểu về các hàm phân bố cho không gian vô hạn chiều từ các điều kiện nhất quán (consistency) của độ đo cho các cylinder sets. Đây là cách để chúng ta xây dựng được các hàm phân bố cho quá trình Gauss (Gaussian processes), quá trình Dirichlet (Dirichlet process), v.v.

Một cách hữu hiệu để xây dựng một quá trình stochastic là quay lại với khái niệm độc lập, và đẩy khái niệm này đến giới hạn. Công cụ ở đây là nhìn vào phép biến đổi Fourier (Fourier transform) của các hàm phân bố.  Theo ngôn ngữ XS thì khái niệm này gọi là hàm tính cách (characteristic function). Để đẩy khái niệm độc lập tới giới hạn thì ta cần khái niệm các hàm phân bố khả phân vô hạn (infinitely divisible). Khái niệm tiếp theo là các hàm phân bố ổn định (stable distribution). Gauss và Poisson chính là hai hàm phân bố ổn định — không phải là “ngẫu nhiên” nếu chúng ta quay về các luật số lớn và số nhỏ nhắc ở trên. Max-stable là một họ phân bố cực đại ổn định.

Các quá trình ngẫu nhiên có tính chất gia tăng độc lập (independent increment) gọi là quá trình Lévy. Tổng quát hơn một chút là các độ đo hoàn toàn độc lập (completely random measures). Định lý biểu diễn Lévy-Khintchine cho chúng ta biết rõ hàm tính cách của các quá trính stochastic này là gì, thông qua độ đo Lévy (Levy measure). Chọn độ đo Lévy thích hợp (beta, gamma, v.v.) thì ta sẽ có một quá trính stochastic tương ứng. Định lý này cho ta thấy tại sao Gauss và Poisson lại trở thành các viên gạch chỉ của các lâu đài xác suất đồ sộ:  Theo định lý Lévy-Itó, dựa trên biểu diễn L-K thì tất cả các quá trính Lévy đều có thể được decompose (phân rã) (phân tách) thành tổng của ba quá trình stochastic độc lập, một là quá trình Wiener (một dạng quá trình Gauss), với quá trình phức hợp (compound) Poisson, và một là quá trình martingale.

Rất khó tưởng tượng các tập con đo được của sigma đại số đối với các quá trính ngẫu nhiên. Thay vì hình dung sigma đại số (recipe làm bánh) thì ta có thể mô tả những cái bánh. Nếu quá trình được liệt kê bởi tham số thởi gian, thì một cái bánh ở đây có thể hiểu là một lối mẫu (sample path). Với một số quá trình ngẫu nhiên thì có thể mô tả cách tạo mẫu từ một quá trình ngẫu nhiên bằng phương pháp nhặt mẫu từ giỏ Pólya (Pólya’s urn).  Rất nhiều quá trình ngẫu nhiên có thể được mô tả bằng biểu diễn bẻ gậy (stick-breaking representation). Theo biểu diễn này thì cần các nguyên tử (atom) và các mẩu gậy (stick-breaking weight). Cách thức bẻ gậy và nhặt nguyên tử đều dựa theo cơ sở của độc lập có điều kiện, một chất keo kỳ diệu cho phép ta mô tả các cấu trúc phức tạp bằng các nguyên liệu giản đơn hơn.

Được quan tâm hàng đầu là biểu hiện của giá trị kỳ vọng (expectation) của một vật thể xác suất. Liên quan là khái niệm kỳ vọng điều kiện (conditional expectation), bản thân nó cũng là một biến ngẫu nhiên. Một công cụ quan trọng là khái niệm martingale. Martingale có thể được mô tả dưới dạng một quá trình NN, tạm gọi là quá trình đánh bạc(?). Cần khái niệm filtration (hệ thống lọc). Ngoải ra ta còn có submartingale, supermartingale và semimartingale (?). Nhờ các công cụ này mà ta có thể tìm hiểu các khái niệm xác suất hữu ích như thời điểm dừng (stopping time), thời điểm chạm (hitting time), thời gian/thởi điểm vượt biên (boundary crossing time).

Một họ quá trình NN rất thông dụng là quá trình Markov (Markov process). Định nghĩa trên cơ sở hạch xác suất chuyển dịch (transition probability kernel), và khái niệm hệ thống lọc. Cần khái niệm subordinator (?), một dạng quá trình Lévy quan trọng. Local time được dịch là thời gian địa phương. Quá trình Markov cho thời gian rời rạc còn gọi là chuỗi Markov (hoặc xích Markov). Liên qua đến chuỗi Markov là lý thuyết ergodic (?). Irreducibility dịch là bất khả quy.  Một vấn đề được quan tâm là thời gian hòa tan (mixing time) của chuỗi Markov.  Điều kiện cần cho chuỗi Markov được hòa tan về một trạng thái phân bố bất dịch (phân bố dừng) (stationary distribution)  là ergodicity, thỏa mãn phương trính cân bằng chi tiết (detailed balance). Chuỗi Markov định nghĩa cho không gian rởi rạc (dàn lattice chẳng hạn) thì sẽ trở thành quá trình đi bộ ngẫu nhiên (random walk).  Gọi lattice là dàn thiên lý rất hay, thế phải phân biệt với dàn nho thế nào đây. Khái niệm coupling trong chuỗi Markov dịch là sự cặp đôi. Coupling from the past? Quá đơn giản, cặp nhau từ quá khứ! Time-homogeneous Markov process gọi là quá trình Markov đồng biến.

Nói đến quá trình ta thường nghĩ đến thời gian — cụ thể là các quá trình NN thường được hiểu là tập hợp các hàm phân bố nhất quán (consistent) được liệt kê bởi một tham số chỉ thời gian. Không nhất thiết phải như vậy. Mở rộng khái niệm tham số thời gian ra một không gian bất kỳ (ví dụ không gian Euclidean, dàn, hoặc không gian phi-Euclidean), thì ta có quá trình NN tổng quát hơn. Markov random fields sẽ được gọi là trường ngẫu nhiên Markov. Gaussian random field là trường ngẫu nhiên Gauss. Poisson point process gọi là quá trình điểm Poisson (lại quá trình, nhưng kỳ thực phải gọi là trường Poisson mời phải!) . Spatial process là quá trình không gian (?). Spatiotemporal process gọi là quá trình không-thời gian. Khái niệm phase transition rất hay trong trường ngẫu nhiên Markov của một dàn vô hạn, ta sẽ dịch là hiện tượng chuyển pha.

Một dạng quá trình NN khá hay ho gọi là empirical process (quá trình thực nghiệm). Thường được nghiên cứu để tìm hiểu về tính hiệu quả của các phương pháp suy diễn thống kê, thay vì dùng để mô tả một quá trình ngẫu nhiên trong tự nhiên. Sẽ nói  ở mục sau.

Các khái niệm quan trọng khác: percolation, excursion, optional stopping

2. Mô hình thống kê

2.1 Căn bản. Mô hình thống kê (statistical model) cũng là mô hình xác suất, sử dụng từ các nguyên liệu được phát triến cho các hàm phân bố vá các quá trình NN trong LTXS. Cái khác ở đây là trong mô hình thống kê có một số biến ngẫu nhiên được gán nhãn là dữ liệu (data), những biến số ngẫu nhiên mà chúng ta có thể quan sát, hoặc thu thập được giá trị bằng thực nghiệm và các thiết bị công nghệ. Cho nên trọng tâm của việc xây dựng mô hình thống kê là làm sao ước lượng (estimate) /học (learn) được mô hình này từ dữ liệu, làm sao có thể đánh giá được tính hiệu quả (efficiency) hoặc tính phổ quát (generalization) của mô hình, làm sao có thể chọn ra được mô hình hữu ích (model selection/model choice).

2.2 Tham số. Để kiểm soát được độ phức tạp của mô hình thì công cụ chính ở đây là phải tham số hóa (parameterization) mô hình. Các tham số (parameter) là phần còn lại của mô hình xác suất mà chúng ta phải ước lượng, học. Đến đây có một vấn đề nho nhỏ, các tham số là một giá trị không biết nhưng không ngẫu nhiên, hay bản thân chúng là ngẫu nhiên. Có hai cách tiếp cận vấn đề này, trường phái tần suất giả dụ cách đẩu, còn trường phái Bayes thì giả dụ cách sau. Nếu các tham số là có số chiều hữu hạn, ta có một mô hình tham số (parametric model), nếu số chiều là vô hạn thì ta có mô hình phi tham số (nonparametric model). Như vậy, gọi là phi tham số không có nghĩa là không có tham số. Nếu tham số là ngẫu nhiên mà lại vô hạn chiều thì người ta gọi mô hình là mô hình phi tham số Bayes (Bayesian nonparametric model). Điều này không có nghĩa làm việc với các mô hình dạng này là theo trường phái Bayes, mặc dù trên thực tế thì phần lớn những người phát triến mô hình phức tạp nói chung và mô hình phi tham số Bayes nói riêng lại có nhãn quan Bayes. Song không nhất thiết phải vậy.

2.3 Đầy đủ và thông tin. Một công cụ quan trọng trong việc tham số hóa là khái niệm thống kê đầy đủ (sufficient statistics). Để hiểu khái niệm này phải hiểu khái niệm thống kê là gì. Một thống kê là một hàm số được áp dụng vào các dữ liệu (cộng trừ nhân chia kiểu gì cũng được). Liên hệ với khmt thì thống kê chính là đầu ra (output) của một giải thuật sử dụng dữ liệu như là đầu vào.  Còn thống kê đầy đủ đối với một mô hình là những thống kê chứa đựng mọi thông tin có thể có được từ dữ liệu về các tham số của mô hình. Nghĩa là nếu vứt hết dữ liệu đi, chỉ cần giữa lại các thống kê đầy đủ, vẫn không bị mất thông tin gì về mô hình. Đây có lẽ là một trong những khái niệm đẹp đẽ nhất của toàn bộ thống kê học. Sau khi quyết định được thống kê đầy đủ rồi người ta có thể biết được rằng dữ liệu phải là mẫu của một hàm phân bố có một cách tham số hóa nhất định, qua một định lý biểu diễn phân tích Fisher-Neyman (Fisher-Neyman factorization theorem). Nhắc thêm khái niệm thống kê đầy đủ là một khái niệm có tính lý thuyết thông tin (information-theoretic), có thể phát biểu bằng tính độc lập có điều kiện và các khái niệm entropy.

Một loạt các mô hình đẹp có thể được động viên từ khái niệm cần và đủ kiểu này. Mô hình họ mũ (exponential family) là mô hình tạo ra dữ liệu ngẫu nhiên nhất có thể được, nếu các thống kê đầy đủ đã được cho. Mô hình xác suất đồ thị (probabilistic graphical model) là mô hình duy nhất thỏa mãn các ràng buộc về độc lập có điều kiện cho các biến ngẫu nhiên, theo định lý Hammersley-Clifford. Nếu các biến ngẫu nhiên được giả dụ là hoán chuyển được, thì chúng bắt buộc phải được mô tả bởi một mô hình trộn/ mô hình hỗn hợp (mixture model), theo định lý nổi tiếng của de Finetti. Nếu các biến ngẫu nhiên có hàm phân bố không thay đổi kể cả khi bị biến đổi trực chuẩn (orthornomal transformation) thì chúng bắt buộc phải được mô tả bởi một elliptically contoured distribution (phân bố có đường cong ê líp), kiểu như Gauss đa biến vậy.

2.4 Nhãn quan Bayes và tần suất. Các mô hình thống kê cho ta keo dính để gắn kết các dữ liệu với nhau, và là đối tượng trung tâm của ngành thống kê. Nhưng trong lịch sử và đến tận bây giờ, các mô hình vẫn được trường phái Bayes chào đón nồng nhiệt hơn là trường phái tần suất, bởi vì sự lệ thuộc vào một mô hình thống kê làm cho người ta liên tưởng đến sự lệ thuộc vào tiên nghiệm (prior knowledge) quá nhiều, và do đó thiếu đi sự “khách quan”. Đặc biệt trong trường phái Bayes có một nhánh gọi là Bayes chủ quan (subjective Bayes) và Bayes khách quan. Những người theo Bayes chủ quan cho rằng, nếu ta có những niềm tin chủ quan (subjective belief) nhất định về dữ liệu, thì ta sẽ sử dụng một mô hình xác suất tương ứng, do các định lý kiểu như của de Finetti và Hammersley-Clifford kể trên. Một mảng không nhỏ của ngành thống kê học, thuộc trường phái tấn suất, tập trung vào các phương pháp mô hình tự do (distribution free), qua đó không sử dụng một mô hình xác suất cụ thể nào, mặc dù họ có giả sử là tộn tại một hàm phân bố để tạo ra các mẫu dữ liệu một cách độc lập.  Chú ý rằng điều này không có nghĩa là các nhà tần suất là khách quan hơn các nhà Bayes chủ quan, vì sự giả dụ tính độc lập nói chung là mạnh hơn sự giả dụ tính độc lập điều kiện, hay tính hoán chuyển được. Cả hai cách nhìn Bayes và tần suất đều hữu ích trong các ngữ cảnh khác nhau, và về nhiều mặt không có phe hoàn toàn đúng. Cả hai cách nhìn này đều chứa chất mâu thuẫn trong mình, có sự đối chọi nhau, nhưng cũng có sự tương hỗ nhau giống như bức tranh âm-dương trong Kinh Dịch vậy. Ta sẽ tiếp tục soi lại quan hệ này mỗi khi có dịp.

2.5 Phân lớp các mô hình cụ thể và cách tham số hóa.  Các mô hình thống kê giống như các sinh vật trong thế giới tự nhiên, rất đa dạng và có thể được phân lớp, và có thể quan sát sự phức tạp tăng dần với quá trình phát triển của ngành. Trong ngành học máy thì một số người còn gọi một mô hình là một cái máy (machine), nghe công nghệ, hiện đại và mới mẻ hơn. Để mô tả một mô hình thì cần phải nói cách tham số hóa của chúng thế nào, nên cần rất nhiều khái niệm và lexicon. Tham số hóa thế nào chính là vấn đề cơm và nước mắm của người học thống kê.

Với rất nhiều biến ngẫu nhiên, cần phải định ra joint distribution (phân bố liên hợp). Marginal distribution gọi là ? Conditional distribution gọi là phân bố điều kiện. Covariates gọi là đồng biến. Trong công nghệ thường là đầu vào. Features thực ra cũng là đồng biến, nhưng xuất xứ từ học máy, và sẽ gọi là đặc trưng.

Trong họ mũ, có hai cách tham số hóa. Natural parameterization gọi là cách tham số hóa tự nhiên. Canonical parameterization gọi là tham số hóa chính tắc? Còn gọi là tham số hóa trung bình (mean parameterization). Hai hệ tham số kể trên có liên hệ mất thiết với nhau qua quan hệ đối ngẫu liên hợp (conjugate duality), một khái niệm của giải tích lồi (convex analysis). Trong hình học thông tin (information geometry) thì hai hệ tham số này có thể hiểu qua khái niệm e-flat manifold và m-flat manifold (?). Normalizing constant gọi là hắng số chuẩn hóa. trong vật lý thống kê thì khái niệm này còn gọi là partition function — hàm ngăn phần. Các mô hình thông dụng trong vật lý lý thuyết như mô hình Ising, spin glass (?), đều là trường hợp đặc biệt của họ mũ. Rất nhiều hàm phân bố là trường hợp đặc biệt của họ mũ. Đặc biệt quan trọng là multivariate Gaussian dịch là Gauss đa biến. Mean vector và covariance matrix gọi là vector trung bình và ma trận hiệp phương sai.

Mô hình họ mũ lại là trường hợp đặc biệt của họ mô hình xác suất đồ thị (graphical model). Phân biệt graphical và graph và graphics thể nào đây? Để định nghĩa mô hình này cần potential function (hàm tiềm năng), được định nghĩa trên clique (?) của các biến ngẫu nhiên. Có hai loại mô hình XSDT. Một là mô hình đồ thị vô hướng (undirected graphical model), cũng đồng nghĩa với trường ngẫu nhiên Markov (Markov random fields). Một là mô hình đồ thị có hướng (directed graphical model), còn gọi là mạng Bayes (Bayesian network) của Pearl. Trong mạng Bayes có khái niệm nốt cha và nốt con. Khái niệm moralization gọi là lấy nhau. Một số trường hợp thông dụng của mạng Bayes có thể kể đến mô hình cây xác suất ĐT (tree-structured graphical model), mô hình đa  cây (polytree) nhưng có lẽ gọi là cây đa cũng thích hợp, mô hình Markov ẩn (hidden Markov), mô hình lọc Kalman (Kalman filter), mài trơn Kalman (Kalman smoothing) … Latent/hidden variables gọi là các biến ẩn. Naive Bayes tạm gọi là Bayes thơ ngây, hoặc Bây ngô. Mạng Bayes cho các dạng dữ liệu tuần tự (sequential data) còn gọi là dynamic Bayes net (?).

Một số mô hình tham số khác phải kể đến: Mô hình hổi quy tuyến tính, mạng nơ ron (neural network), mô hình cây quyết định (decision tree), mô hình hợp xướng (ensemble), mô hình hổi quy logit (logistic regression), mô hình tuyến tính tổng quát (generalized linear model), mô hình mạng tin, mạng tin sâu (deep belief net). v.v. Những mô hình kiểu này thường áp dụng vào các vấn đề suy diễn cụ thể hơn, đặc biệt trong bài toán phân lớp (classification) và hồi quy (regression). Có một số cách phân loại nữa: Trong học máy thì các mô hình dự trên hàm phân bố xác suất liên hợp thường gọi là mô hình sinh mẫu (generative model), nhưng cũng có một số mô hình áp dụng cho các vẫn đề liên quan đến xác suất điều kiện thì gọi là mô hình phân biệt (discriminative model). Cái sau hay được dùng cho các kiểu suy diễn đặc biệt hơn như bài toán phân lớp, bài toán phân hạng, v.v.

Một mô hình bao gồm cả tham số có số chiều hữu hạn và tham số có số chiều vô hạn thường gọi là mô hình bán tham số (semiparametric model).  Một ví dụ tiêu biểu là mô hình hồi quy Cox (Cox regression model) trong bài toán phân tích sống sót và phân tích sự kiện lịch sử (survival analysis/ event history analysis). Time to event data dịch là dữ liệu sự kiện. Trong mô hình này, thành phần tham số hữu hạn gắn liền với những đồng biến (covariates) quan tâm,  thành phần tham số vô hạn là cường độ tử vong/lỗi cơ bản (baseline hazard intensity). Đôi khi họ các mô hình bán tham số được gộp chung vào họ các mô hình phi tham số.

Họ các mô hình phi tham số Bayes được lấy từ các quá trình ngẫu nhiên kể trên. Infinite mixture model gọi là mô hình trộn/ hỗn hợp vô hạn. Có các quá trình đậm chất ẩm thực: Quá trình nhà hàng Tàu (Chinese restaurant process), quá trình búp phê Ấn độ (Indian buffet process). Quá trình coelescence gọi là gì? Với dân tần suất thì nhiều khi các mô hình phi tham số chỉ là tập các hàm quen thuộc trong giải tích hàm. Ví dụ lớp Sobolev (Sobolev class), lớp Besov, không gian Hilbert nhân tự sinh (reproducing kernel Hilbert space), lớp smoothing splines (?), v.v.  Dân Bayes sẽ luôn luôn nói về các hàm phân bố (độ đo) cho các hàm số kiểu này.

Dân Bayes còn có một việc là phải tham số hóa các tham số. Theo cách nhìn Bayes, các tham số cũng ngẫu nhiên, phải được giả dụ bởi một hàm phân bố khác. Các tham số của hàm này sẽ là hyperparameter (tham số tầng trên/ tham số thượng tầng?). Nếu là người theo Bayes cuồng tín, thì các tham số thượng tầng này cũng phải ngẫu nhiên… và phải tiếp tục quá trình tham số này đến tận Big Bang. Điều này dẫn đến một họ mô hình đa tầng (hierarchical model/ multi-level model), rất mạnh và rất giàu. Tuy có thể coi là một trường hợp của mô hình XSDT, nhưng trọng tâm và nguổn gốc rất khác, nên ta không nên gộp làm một. (Chú ý là ta không thể đi đến tận Big Bang, nên sau vài tầng của hierarchy thì các nhà thống kê Bayes cũng sẽ  mệt và dửng lại. Trên thực tế, khi đó vai trò của các tham số tầng rất cao không còn ý nhiều trong chuyện chi phối các biểu hiện của mô hình nữa). Việc định ra cách tham số hóa các tham số còn gọi là sự định ra các prior distribution (phân bố tiên nghiệm) cho các tham số ngẫu nhiên. Áp dụng công thức Bayes (Bayes rule) thì tính được posterior distribution, dịch là phân bố hậu nghiệm. Conjugate prior thì gọi là phân bố tiên nghiệm liên hợp. Tham số hóa cho các tham số hyper còn gọi là sự định ra các hyperprior (phân bố tiên nghiệm thượng tầng). Quyết định lựa chọn prior nào (sự chỉ định tiên nghiệm) phụ thuộc vào sự giằng co giữa tiên nghiệm (prior knowledge), thực nghiệm từ dữ liệu (empirical data), và sự thuận tiện về tính toán (computational convenience). Sử dụng các phân bố tiên nghiệm liên hợp (phát âm đầy mồm!) là một ví dụ của sự thuận tiện. Sự giẳng co giữa tiên nghiệm và thực nghiệm chẳng qua là một thể hiện của dao cạo Occam, dưới nhãn quan của trường phái Bayes.

Dân tần suất thì không thích khái niệm tham số hyper chút nào, mà cho rằng các tham số phải là không ngẫu nhiên. Về mặt mô hình mà nói thì cách nhìn này là cái trói vô hình, theo quan điểm Bayes những tham số kiểu này là vẫn có thể coi là ngẫu nhiên theo một độ đo Dirac (độ đo nguyên tử – atomic measure), một sự ràng buộc rất chặt không cần thiết. Cho nên, trong lịch sử mô hình của các nhà tần suất thường không giàu có bằng mô hình của các nhà Bayes. Tuy không nhất thiết phải là như vậy.

2.6 Dao cạo của Occam. Như ông Gớt nói là mọi chân lý đều màu xám, còn cây đời thì mãi mãi xanh tươi. Thay chữ chân lý bằng chữ mô hình, thay chữ cây đời bằng chữ dữ liệu quan sát được, ta có một biên phản cho các nhà thống kê. Bác George Box có một câu nổi tiếng tương tự — mọi mô hình đều sai, chỉ có những mô hình hữu ích hay không. Cho nên ta phải nhìn nhận các mô hình là cách chúng ta xấp xỉ thế giới thực nghiệm. Vì vậy ngoài sai số ước lượng (estimation error) của các tham số, còn có một dạng sai số gọi là sai số xấp xỉ (approximation error). Mô hình dùng ngôn ngữ thống kê và các cấu trúc toán học (như các quá trình stochastic) làm viên gạch, nhưng lại được ước lượng, điều chỉnh (update), và đánh giá, phân tích bằng dữ liệu thật.  Công cụ toán học càng mạnh thì tính phức tạp mô hình (model complexity) càng lớn, dẫn đến khả năng biểu diễn của một mô hình càng lớn, khi đó sai số xấp xỉ sẽ nhỏ, song việc ước lượng (estimation) từ dữ liệu cũng có thể lớn lên.  Đây chính là giằng co (tradeoff ) giữa sai số xấp xỉ và sai số ước lượng. Hiện tượng này gọi là cái dao cạo của Occam (Occam’s razor),  luôn luôn ám ảnh và xuyên suốt mọi quyết định trong việc thiết kế và đánh giá một mô hình học. Sợ nhất là mô hình overfit dữ liệu (quá rộng) Một đánh giá khách quan đối với sự hiệu quả và tích hữu ích của một mô hình là tính dự báo của nó, và nói chung thì lỗi dự báo thường được chặn bởi hai dạng sai số nói trên. Liên quan đến các khái niệm xấp xỉ: Model misspecification gọi là sự chỉ định mô hình không chuẩn. Khái niệm model identifiability gọi là tính khả nhận diện mô hình. Parameter identifiability là tính khả nhận diện của tham số.

Tóm tắt: joint probability, marginal probability, conditional probability, model identifiability, model mis-specification, model choice, model selection, parameter identifiability, consistency, parametric model, nonparametric, exponential family, curved exponential family, graphical model, hierarchical model, mixture model, hidden markov model, copula model, latent/hidden variables, nonparametric Bayesian model, density, intensity measure, analysis of variance, functional data, curve data, prior distribution, posterior distribution, a priori, a posteriori, sufficient statistics, order statistics, mean parameterization, canonical parameterization, normalizing constant, log-partition function, mean function, covariance function, covariates, features, conjugate prior, conjugacy

3. Các phương pháp suy diễn thống kê

3.1 Tổng quan. Cần phân biệt suy diễn thống kê (statistical inference) với suy diễn xác suất (probabilistic inference). Cái sau chỉ là sự tính toán các xác suất điều kiện trên cơ sở mô hình xác suất. Còn SDTK là suy diễn trên cơ sở mô hình thống kê với sự hiện diện của số liệu. Có hai vấn đề chính, một là suy diễn về tham số, hay còn gọi là ước lượng về tham số (parameter estimation), và dự báo (prediction). Với nhãn quan Bayes thì suy diễn thống kê còn gọi là suy diễn Bayes, về mặt toán học thì không khác gì suy diễn xác suất vì cả tham số và dữ liệu đều được mô tả bằng biến ngẫu nhiên. Cho nên về mặt khái niệm thì đơn giản, mẫu mực. Với nhãn quan tấn suất thì cách tiếp cận đến các vấn đề suy diễn thống kê khó khăn hơn về mặt khái niệm, và đòi hỏi các cách tiếp cận không mẫu mực. Trong học máy thì vấn đề ước lượng về tham số còn gọi là học.

Nếu như trong vấn đề xác định mô hình thì quan điểm Bayes và quan điểm tần suất có tính tương hỗ nhau (ví dụ, anh Bây nói với với anh Tần: Tôi mệt rồi, cho phép cái tham số hyper của tôi là không ngẫu nhiên nhá — và anh Tần nói với anh Bây: Cho tôi gọi tham số của anh là biến ẩn nhá), thì trong vấn đề suy diễn, hai quan điểm này xung khắc nhau quyết liệt bất phân thắng bại. Quan điểm của Bây là: đối với vấn đề ước lượng tham số thì chỉ suy diễn điều kiện vào dữ liệu có sẵn (conditioning on data), và “marginalize out/ integrate out” (?) các tham số ngẫu nhiên trong việc dự báo. Quan điểm của Tần là: đồi với vấn đề ước lượng tham số thì phải suy diễn cho cả dữ liệu tưởng tượng (imaginary data, và dùng ước lượng “plug-in” (?) trong việc dự báo. Tiêu chuẩn của Bây là lạc quan, quan tâm nhiều đến phân tích trường hợp trung bình (average-case analysis). Tiêu chuẩn của Tần rất bi quan, chú trọng nhiều hơn đến phân tích tình huống xấu nhất (worst-case analysis). Đây chỉ là hai thái cực để cho thấy sự khác biệt. Trên thực tế có thể  kết hợp cả hai cách tiếp cận trong việc suy diễn từ dữ liệu.

Có một số vấn đề suy diễn cụ thể hơn, và do đó có một số lexicon riêng: Point estimation gọi là ước lượng điểm (một khái niệm của TK Tần). Hypothesis testing gọi là kiểm định lý thuyết (phép thử lý thuyết?).  Classification gọi là vấn đề phân lớp. Clustering gọi là vấn đề chia nhóm. Bài toán ranking trong học máy gọi là vấn đề phân hạng.  Supervised learning gọi là học có nhãn, học có hướng dẫn. Unsupervised learning gọi là học không nhãn (học không có hướng dẫn, học không thầy). Sequential analysis gọi là phân tích chuỗi/ phân tích tuần tự (?), mà cụ thể có bài toán optimal stopping dịch là bài toán dừng tối ưu. Survival analysis gọi là phân tích sự sống sót (?). Vấn đề change point detection gọi là bài toán phát hiện điểm thay đổi. Chú ý là tất cả các vẫn đề suy diễn cụ thể này đều có thể hiểu tổng quát theo một trong hai vấn đề suy diễn (ước lượng tham số, hoặc dự báo), đều có thể tiếp cận theo cách nhìn Tần hay Bây, nhưng có thể sự điểu chỉnh một chút về cách đánh giá của suy diễn.

3.2 Lý thuyết quyết định. Nền tảng lý thuyết của suy diễn thống kê chính là lý thuyết quyết định của Abraham Wald. Cần khái niệm rủi ro (risk). Rủi ro Bayes là Bayes risk. Rủi ro là kỳ vọng của hàm thiệt hại/tổn thất/thiệt/mất (loss function). Dân kinh tế sẽ dùng hàm utility (hàm tiện ích/thỏa dụng) thay vì dùng hàm thiệt hại. Một khái niệm tương tự là hàm reward (?)  trong môn học reinforcement learning(?), và quá trình quyết định Markov.

Lý thuyết quyết định là cái ô chung cho cả hai trường phái Bây và Tần, nhưng với dân Tần thì có nhiều việc phải lo hơn. Estimator dịch là cách ước lượng cho một tham số, và là một hàm số áp dụng vào dữ liệu. Như vậy cũng giống một thống kê, như vậy có thể coi một thống kê là một cách ước lượng thô sơ.  Estimate là một ước lượng cụ thể cho một tham số nào đó. Trong bài toán phân lớp thì estimator còn gọi là một learning machine (máy học), estimate sẽ là hàm số phân lớp (classifier).  Trong vấn đề kiểm định lý thuyết (hypothesis testing) thì cái phải ước lượng là một hàm số quyết định (decision function).  Dù theo nhãn quan nào thì đều cần tìm ước lượng theo tiêu chuẩn có giá trị rủi ro tối thiểu (minimum risk criterion).  Nhưng rủi ro của anh Bây thì khác với anh Tần.  Kỳ vọng tần suất (frequentist expectation) là kỳ vọng của hàm mất đối với phân bố của dữ liệu (ảo tưởng) trên cơ sở một mô hình với một tham số có sẵn. Kỳ vọng Bayes là giá trị kỳ vọng của hàm mất đối với phân bố điều kiện của tham số trên cơ sở dữ liệu có sẵn. Nói cách khác, với anh Tần thì dữ liệu là ngẫu nhiên, với anh Bây thì tham số là ngẫu nhiên. Nếu lấy kỳ vọng của kỳ vọng tần suất đối với phân bố của tham số, hoặc lấy kỳ vọng của kỳ vọng Bayes đối với phân bố của dữ liệu thì ta cùng nhận được Rủi ro Bayes!

Một số hàm thiệt hại thông dụng: Hàm thiệt  0-1. Khi đó Rủi ro Bayes gọi là Lỗi Bayes (Bayes error).  Hàm thiệt bình phương (square loss). Hàm thiệt mũ (exponential loss). Hàm thiệt logit (logistic loss). Surrogate loss sẽ được dịch là hàm thiệt thế chỗ (?). Để so sánh các cách ước lượng (estimator) khác nhau người ta có thể dùng tiêu chuẩn Bayes (thông qua việc so sánh Rủi ro Bayes). Dân tần suất sẽ hay dùng tiêu chuẩn minimax, mượn từ lý thuyết trò chơi (mà cuộc chơi ở đây là giữa nhà thống kê và Trời — chỉ Ông Trời biết chân lý (mô hình đúng là gì, và ông trời mỗi lần ra tay sẽ nhả ra một mẫu dữ liệu). Cần một số phẩm chất cho các cách ước lượng, như khái niệm unbiasedness (?), admissibility (?), consistency (nhất quán), invariance (bất biến phương sai), efficiency (hiệu quả), superefficiency (siêu hiệu quả). Dân Bayes chủ quan không quan tâm đến mấy cái chuẩn này, vì họ đã có niềm tin son sắt vào tiên nghiệm rồi, và suy diễn Bayes bằng cách tính phân bố hậu nghiệm là xong. Tuy vậy phương pháp suy diễn Bayes chủ quan có nhiều tính chất lý thuyết rất tốt. Suy diễn dựa trên cơ sở của phân bố hậu nghiệm được chứng minh là tối ưu theo tiêu chuẩn Rủi ro Bayes. Dân Bayes khách quan thì không quá tự tin như dân Bayes chủ quan, nên họ muốn phân bố tiên nghiệm phải có những phẩm chất tốt. Tính nhất quán hậu nghiệm (posterior consistency) là một phẩm chất quan trọng.

3.3 Các cách ước lượng/học thống kê. Tôi đặt vài viên gạch ở đây. Khi nào rỗi sẽ viết dần dần. Bạn nào có nhã hứng đóng góp từng paragraph vào các mục sau (hoặc các mục chưa ghi) xin cho biết. Ước lượng hay học ở đây vẫn trên cơ sở một họ mô hình định sẵn. Còn vấn đề khó hơn là chọn mô hình (model selection), so sánh các mô hình, đặc biệt giữa các mô hình có độ phức tạp khác hẳn nhau. Kiểm định giả thuyết  là một dạng rất đặc biệt của lựa chọn giữa các mô hình, song vẫn có thể hiểu gọn trong phạm vi ước lượng.

Empirical risk minimization. Rủi ro được định nghĩa trên cơ sở hàm phân bố của mô hình (chân lý — chỉ có Trời mới biết). Chỉ có thể tiếp cận đến mô hình này thông qua quá trình thực nghiệm (empirical process). Nói cách khác, rủi ro phải được ước lượng bẳng rủi ro thực nghiệm (empirical risk). Hầu hết các cách ước lượng của phe Tần suất đều ở dạng tính rủi ro thực nghiệm cực tiểu (empirical risk minimization (ERM)). Một lexicon đồng nghĩa là M-estimation (ước lượng M), M có nghĩa là maximization hoặc minimization. Cách ước lượng dựa vào moment (moment-based estimation/ moment matching) thực ra cũng có thể được động viên và liên hệ với cách ước lượng rủi ro thực nghiệm cực đại. Một vấn đề đau đầu cho cách ước lượng rủi ro cực tiểu là phải chọn hàm mất gì? Có một số tên riêng: Nếu hàm mất là hàm bình phương, thì ta có phương pháp bình phương cực tiểu (least square) rất thông dụng trong hồi quy.

Maximum likelihood và nguyên tắc likelihood. Nếu mô hình thống kê chỉ định ra một hàm phân bố cho dữ liệu, thì ta có khái niệm likelihood (khả năng?). Đây là hàm số của tham số, nhưng được lại là ngẫu nhiên vì được định nghĩa trên cơ sở dữ liệu ngẫu nhiên. Likelihood chính là một ví dụ tiêu biểu (nhất) của rủi ro thực nghiệm. Hàm mất tương ứng ở đây là hàm logarithm của mật độ. Maximum likelihood dịch là cách ước lượng khả năng cực đại (?), một phát kiến vĩ đại của Ronald Fisher. Đây là cách ước lượng thông dụng, đa năng bậc nhất trong ngành thống kê (ít nhất là với nhãn quan tần suất). Với các mô hình tham số thì cách ước lượng này được đảm bảo bởi tính nhất quán (consistency) — mô hình sẽ được ước lượng chính xác nếu số dữ liệu tiến đến vô hạn. Tại sao hàm mất lại là hàm logarithm của mật độ mà không phải là một hàm số nào khác? Đây là một ví dụ của sự diệu kỳ bất ngờ của toán học — câu trả lởi truy ra khái niệm độc lập, khái niệm tập trung của độ đo trong xác suất, và tính lồi trong giải tích (và hình học). Nguyên tắc khả năng (likelihood principle) cho rẳng hàm khả năng là một thống kê đầy đủ (sufficient statistics). Nguyên tắc này phá sản trong ngữ cảnh phi tham số.

Regularization/Penalization/Shrinkage. Với sự ước lượng các mô hình phi tham số thì chỉ dựa vào dữ liệu (thông qua hàm khả năng (likelihood) hoặc tổng quát hơn, hàm rủi ro thực nghiệm) không đủ. Cần phải có sự điều chỉnh trong việc lấy cực đại/cực tiểu thông qua khái niệm regularization (kiểm soát), còn gọi là penalization (soát phạt). Regularized empirical risk gọi là rủi ro thực nghiệm có kiểm soát.  Khái niệm kiểm soát, soát phạt bắt nguổn từ một phát hiện bất ngờ của Charles Stein về shrinkage estimator (cách ước lượng co). Cho nên nhiều khi người ta cũng gọi nhóm ước lượng này là ước lượng co.  Để dùng một số lượng dữ liệu hữu hạn mà ước lượng các đại lượng (tham số) vô hạn hoặc có số chiều đủ lớn (cho dù số dữ liệu có lớn đến đâu và tiến dần đến vô hạn đi chăng nữa) thì vẫn phải có sự kiểm soát trong ước lượng, và không thể dựa hoàn toàn vào dữ liệu thực nghiệm được.  Theo nhãn quan Bayes thì điều này chính là sự giằng co giữa thực nghiệm và tiên nghiệm. Co (shrinkage) ở đây chính là co về tiên nghiệm.

Phương pháp phân tích hậu nghiệm/ học Bayes. Phương pháp phân tích hậu nghiệm (a posteriori analysis), cụ thể là cách suy diễn hậu nghiệm (posterior inference), suy diễn Bayes (Bayesian inference), học Bayes (Bayesian learning),… đều mô tả cùng một cách ước lượng theo trường phái Bayes. Đó là thay vì người ta ước lượng tham số (không ngẫu nhiên) như trong trường phái tần suất, người ta sẽ tính hàm phân bố hậu nghiệm cho tham số thông qua công thức Bayes. Cách này mẫu mực — phần việc chính ở đây là chỉ định ra phân bố tiên nghiệm ra sao, và tính toán phân bố hậu nghiệm thế nào (vì phải tính tích phân rất phức tạp về mặt tính toán).  Chú ý rằng cách ước lượng maximum likelihood chẳng qua là tính mốt (mode) của phân bố hậu nghiệm, nếu phân bố tiên nghiệm được chọn là phân bố đều (uniform distribution). Trong phân tích Bayes, đặc biệt là với mô hình tham số, thì không phải lo lắng gì về việc kiểm soát (regularization). Nhưng nếu phân bố tiên nghiệm là một quá trình ngẫu nhiên (trong mô hình phi tham số) thì vẫn phải lo lắng về chuyện kiểm soát tính phức tạp của tiên nghiệm (complexity of prior distribution). Một công cụ là sensitivity analysis (phân tích tính nhạy cảm) của phân bố cho tham số.

Phương pháp Bayes thực nghiệm (empirical Bayes). Phương pháp này có thể xem cách ước lượng tần suất cho mô hình đa tầng. Mô hình đa tầng là một công cụ lý tưởng trong việc kiểm soát độ phức tạp của các mô hình cho tham số.

3.4. Các vấn để suy diễn cụ thể hơn.

Hypothesis testing. Trong kiểm định giả thuyết có một số khái niệm quan trọng: Null hypothesis gọi là ? Alternative hypothesis? Có hai loại lỗi: Lỗi loại một (type-1 error) và lỗi loại hai (type-2 error). Còn gọi là tỷ lệ lỗi dương tính (false positive) và lỗi âm tính (false negative) trong đánh giá các treatment (?) trong y học. Trong công nghệ thì type-1 error gọi là false alarm error rate (?), type-2 error chính là misdetection error rate (?). Tất cả các loại rỗi này đều là hàm rủi ro đối với hàm thiệt 0-1. Cách ước lượng trong kiểm định giả thuyết gọi là một hàm quyết định. Và người ta sử dụng hàm quyết định thực hiện phép thử (test) cho giả thuyết. Một phép thử được đánh giá thông qua các bảo đạm về giới hạn của các lỗi kể trên. Sự giẳng co giữa lỗi loại một và loại hai được biểu diễn bẳng ROC curve (đường cong ROC). Các khái niệm liên hệ còn có significance (?). Confidence interval dịch là ? p-value dịch là giá trị p. Power của phép thử gọi là sức mạnh.  Nếu chỉ có hai giả thuyết đẻ so sánh thì hàm quyết định tối ưu chính phải dựa vào likelihood ratio (phân số khả năng). Likelihood ratio test gọi là phép thử dựa vào phân số khả năng. Công cụ để đánh giá sức mạnh của một phép thử là thống kê giới hạn (asymptotic statistics).

Kiểm định giả thuyết xuất phát từ thống kê tấn suất, do công của Neyman và Pearson. Khái niệm này rất phản trực quan, và phải đợi đến Wald mới thống nhất cách suy diễn này với cách hình thức suy diễn kiểu khác trong thống kê.  Nếu tiếp cận theo nhãn quan Bayes thì KDGT khá là đơn giản, không khác gì việc ước lượng một mô hình là bao. Cần khái niệm phân bố tiên nghiệm cho các giả thuyết. Khái niệm Bayes factor sẽ được dịch là ?

Sequential analysis. Trong phân tích tuần tự (sequential analysis) thì có sự giẳng co của lỗi Bayes và thời gian trễ (delay time) của quyết định về giả thuyết. Khái niệm thử thông dụng là sequential likelihood ratio test (phép thử dựa theo chuỗi phân số khả năng). Công cụ lý thuyết đẻ đánh giá sức mạnh của phép thử là các phân tích về thời gian dừng, phân tích các loại thời điểm vượt biên, v.v. trong lý thuyết xác suất về quá trình Markov.

Classification/regression/ranking. Trong bài toán phân lớp thì người ta gọi một cách ước lượng để phân lớp là một máy học (learning machine). Tham số cần ước lượng ở đây gọi là một hàm phân loại (classifier). Có thể tiếp cận vấn đề này trên cơ sở mô hình tham số hoặc mô hình phi tham số. Để học được máy (mô hình) thường đòi hỏi nhiều tính toán,  chứ không phải các thống kê đơn giản như trong kiểm định giả thuyết cổ điển. Cho nên dẫn đến những quan tâm về vấn đề hiệu quả của các giải thuật học/ ước lượng.  Cách học/ ước lượng, về mặt tính toán, có lexicon riêng là training (việc huấn luyện).  Dữ liệu cần cho việc huấn luyện gọi là dữ liệu huấn luyện (training data). Phép thử một hàm phân loại với dữ liệu mới gọi là testing. Dữ liệu thử chính là test data. Nếu có hai lớp để phân loại thì hàm phân loại tối ưu phải dựa vào likelihood ratio, rất giống như trong kiểm định giả thuyết. Một khác biệt căn bản giữa bài toán phân lớp với bài toán kiểm định lý thuyết là chỗ này: Cái đầu phải thử giả thuyết cho từng mẫu một. Cái sau chỉ phải thử giả thuyết một lần cho cả đám đông. Có rất nhiều phương pháp phân lớp, với các mô hình tham số và phi tham số, và các giải thuật học/ước lượng rất phong phú. Kinh điển thì có linear discriminant analysis (phân tích phân biệt tuyến tính), logistic regression (hồi quy logit). Hiện đại hơn thì có mạng nơ ron (neural network), radiant basis network (?), support vector machines (?),…

Bài toán hồi quy (regression analysis) tương tự như bài toán phân lớp, khác ở đây là cần phải ước lượng/học phương trình hồi quy (thay vì hàm phân loại). Hàm phân lớp chỉ có giá trị rởi rạc, còn phương trình hồi quy thường tính ra các giá trị liên tục. Bài toán phân cấp gần giống bài toán phân cấp ở chỗ hàm phân loại cũng có giá trị rời rạc (và không phải nhị phân), nhưng dữ liệu huấn luyện các mẫu về sự so sánh giữa các cấp chứ không phải nhãn lớp (cấp).

Dimensionality reduction/ exploratory data analysis. Phân tích khám phá với dữ liệu là một mảng quan trọng. Principle component analysis dịch là phân tích thành phần chủ yếu. Multidimensional scaling dịch là ?. Independence component analysis gọi là phân tích thành phần độc lập. Vấn đề chia nhóm (clustering) cũng có thể đặt vào đây, nhưng các phương pháp chia nhóm dựa vào mô hình (model-based clustering) đã phát triển đến mức độ rất tinh xảo, và nên đặt nó vào nhóm suy diễn dựa vào mô hình.

3.5 Thống kê  ở vô hạn, lý thuyết học, và lý thuyết thông tin (asymptotic statistics, learning theory, information theory)

Thống kê ở asymptotic chính là cơ sở lý thuyết giả thích sự hiệu quả và giới hạn của các suy diễn thống kê.  Thống kê ở vô hạn nghiên cứu tính chất của các phép ước lượng khi lượng mẫu (sample size) tiến đến vô hạn. Một vấn đề người ta cần quan tâm là các tiêu chuẩn dựa vào rủi ro phải tiến về 0. Tính chất này gọi là tính nhất quán (consistency) của một cách ước lượng. Nếu đã nhất quán rồi thì còn quan tâm rate of convergence – tốc độ hội tụ – của các rủi ro. Ngoải ra ta còn quan tâm đến tính chất về phân bố của sự hội tụ. Một tính chất quan trọng thường gặp là asymptotic normality (sự bình thường ở giới hạn). Với trường phái Bayes khách quan thì có khái niệm nhất quán hậu nghiệm (posterior consistency) — khi số mẫu tiến đến giới hạn thì phân bố hậu nghiện phải tập trung về một điểm, điểm đó chính là giá trị chân lý của tham số cần ước lượng. Tính chất này mang tính tấn suất, vì nó vẫn giả sử tham số là không ngẫu nhiên, mặc dù ta có thể định ra phân bố tiên nghiệm và làm phân tích hậu nghiệm. (Các nhà Bayes chủ quan cuồng tín sẽ ngoảnh mặt quay gót khi ai nó nói đến khái niệm này).

Một vấn đề khác người ta cũng quan tâm là tính chất về phân bố của các thống kê được sử dụng trong các phép suy diễn cụ thể, như trong kiểm định giả thuyết chẳng hạn. Nhờ tính chất phân bố của thống kê (ở điều kiện mẫu vô hạn) mà ta có thể có những đảm bảo nhất định về các rủi ro của suy diễn.

Công cụ toán học của phân tích thống kê asymptotic là tính chất tập trung của độ đo (concentration of measure), đặc biệt trong ngữ cảnh của quá trình thực nghiệm (empirical process). Empirical process theory là tên thường gọi. Công cụ quan trọng có symmetrization argument (mẹo cân đối hóa). Chaining method dịch là phương pháp chuỗi, một phương pháp mẫu mực để chứng minh các chặn trên cho tiếm hàm rủi ro (định nghĩa trên quá trình thực nghiệm) bởi các đại lượng mô tả sự phức tạp của mô hình (model complexity). Khái niệm sự phức tạp của mô hình đến từ lý thuyết xấp xỉ (approximation theory).  Các khái niệm chính gồm có covering number (số đĩa phủ), packing number (số đĩa chèn?). Khái niệm entropy (Kolmogorov entropy chứ không phải Shannon entropy) được giữ nguyên trong lexicon. Ngoài các chặn trên, còn có thể chứng minh các chặn dưới, gọi chung là chặn minimax. Chặn này cho biết tốc độ hội tụ của rủi ro tốt nhất có thể được (trong mọi cách ước lượng) đối với một lớp mô hình cho sẵn. Đối với lớp mô hình tuyến tính thì độ phức tạp của mô hình có thể mô ta bằng một khái niệm tổ hợp nổi tiếng trong lý thuyết học (learning theory) của Vapnik và Chervonenkis,  số chiều VC (VC dimension).

Lý thuyết thông tin (information theory) của Shannon chính là lý thuyết thống kê giới hạn cho một số bài toán suy diễn cụ thể trong công nghệ thông tin, công nghệ nén và truyền tải dữ liệu. LTTT cũng tập trung nhiều vào đại lượng có thể dùng để mô ta sự hiệu quả của một giải thuật suy diễn. Các đại lượng này xuất hiện trên exponent của các chặn trên và chặn dưới của các rủi ro của suy diễn, không chỉ trong các bài toán cụ thể trong công nghệ thông tin, mà còn trong các ngữ cảnh suy diễn thống kê tổng quát. Các khái niệm quan trọng gồm có: Shannon entropy, conditional entropy (entropy điều kiện), Kullback-Leibler divergence (độ phân kỳ Kullback-Leibler), mutual information (thông tin chung). Do đó, các khái niệm về thông tin này còn có vai trò quan trọng trong các vấn đề về sự lựa chọn mô hình (model selection), thiết kế thí nghiệm (experimental design) và trong các phân tích khám phá. Về mặt toán học, các khái niệm thông tin này đều là các phiếm hàm mô tả sự ngẫu nhiên và quan hệ của một hay nhiều hàm phân bố xác suất. Các khái niệm liên hệ có thể kể đến: Fisher information (thông tin Fisher), phương sai.

3.5 Lựa chọn mô hình (model selection).

3.6 Thiết kế thí nghiệm (experiment design). Tôi không biết đủ sâu/rộng để viết về phần này. Hy vọng bác nào là chuyên gia xắn tay vào viết giúp một vài paragraph.

Tóm tắt: Bayesian learning, Bayesian inference, posterior inference, maximum likelihood, posterior consistency, asymptotic consistency, asymptotic normality, sensitivity analysis, stability analysis, heat map,  efficiency, superefficiency, estimator, estimate, learning algorithm, learner, chaining method, symmetrization, covering number, free probability

ROC, hypothesis test, Bayes error, approximation error, estimation error, null hypothesis, alternative hypothesis, type-1 error, type-2 error, power, significance, p-value, Bayesfactor, nested design, empirical Bayes method, shrinkage, sequential analysis, sequential change point analysis, online analysis, distributed algorithm

4. Các giải thuật thống kê, học giả

4.1 Tổng quan. Thống kê cổ điển không có khái niệm về giải thuật. Khi chưa có công cụ máy tính người ta chỉ có thể nghiên cứu tính chất và áp dụng các cách ước lượng khá giản đơn về mặt tính toán. Sự ra đời của máy tính và thông qua đó phát triển của lĩnh vực giải thuật và học máy thổi một làn gió mới vào vấn đề suy diễn từ dữ liệu. Làn gió này bắt đầu rất nhỏ từ thập niên 60, mạnh dần lên vào thập niên 80, đến thập niên 90 và những năm đầu thế kỷ này có lẽ nó đã trở thành bão. Cơn bão của khoa học tính toán đang làm thay đổi hoàn toàn khung cảnh của thống kê hiện đại, hứa hẹn những bước phát triến ngoạn mục trong tương lai. Về mặt lý thuyết, trước kia, ta chỉ quan tâm quan hệ giữa lượng mẫu và độ hiệu quả của suy diễn thống kê thông qua sự chính xác của các phép ước lượng.  Nay, ta còn phải quan tâm đến hai đại lượng mới: đó là sự phức tạp về tính toán — computational complexity (về mặt thời gian và bộ nhớ), và sự xấp xỉ của mô hình (approximation error) , vì bây giờ chúng ta đã có thể phát triến và nghiên cứu các dạng mô hình mạnh hơn trước, các phép ước lượng phức tạp hơn trước. Đại lượng đầu tiên, sự phức tạp về tính toán, đến từ khoa học máy tính. Đại lượng thứ hai, tính xấp xỉ của mô hình, đến từ thuyết xấp xỉ của toán ứng dụng, và lý thuyết xác suất. Một sự thay đổi rõ nét nhất trong sự phát triển của các phương pháp suy diễn thống kê hiện đại chính là sự lên ngôi của trường phái Bayes, vì các công cụ giải thuật ngày nay cho phép thực hiện phân tích Bayes một các hiệu quả hơn về mặt tính toán. Các mô hình Bayes còn nối lại quan hệ mật thiết giữa những người xây dựng mô hình thống kê với những người nghiên cứu về quá trình ngẫu nhiên trong lý thuyết xác suất.  Với sự hiện diện của khái niệm phức tạp tính toán và khái niệm xấp xỉ trong suy diễn thống kê, sự đối nghịch giữa hai trường phái Bayes và Tần suất bị loãng đi và mất dần tính cực đoan cuồng tín của thế kỷ 20. Người ta bắt đầu có cái nhìn cân bằng hơn về vai trò và quan hệ giữa hai trường phái này.

expectation-maximization algorithm, variational inference, message-passing algorithm, belief propagation, back propagation, training, testing, classification, clustering, hierarchical clustering, linear regression, kernel method, sparsity
, regularization, penalization, cross-validation, leave-one-out, boosting, bagging, bootstrap, compressed sensing, quantization, heteroscedasticity, multi-modality,

5. Các phương pháp tối ưu trong suy diễn thống kê

simulated annealing, local search, global search, heuristic search, restart, hill-climbing, saddle point, sampling, importance sampling, proposal distribution, acceptance probability, heat bath method, particle filtering, filtering, smoothing

]]> http://www.procul.org/blog/2010/11/09/lexicon-xac-su%e1%ba%a5t-th%e1%bb%91ng-ke-va-h%e1%bb%8dc-may/feed/ 57 Phép “chuyển giản” trong học máy http://www.procul.org/blog/2010/09/03/phep-chuy%e1%bb%83n-gi%e1%ba%a3n-trong-h%e1%bb%8dc-may/ http://www.procul.org/blog/2010/09/03/phep-chuy%e1%bb%83n-gi%e1%ba%a3n-trong-h%e1%bb%8dc-may/#comments Fri, 03 Sep 2010 20:42:21 +0000 NQH http://www.procul.org/blog/?p=2299 Khái niệm “chuyển giản” (reduction) là khái niệm trung tâm của lý thuyết tính toán và thuật toán. Alina Beygelzimer, John Langford, và Bianca Zadrozny có một tutorial hay ở ICML 2009 về “chuyển giản” trong học máy. Ví dụ, ta có thể “chuyển giản” bài toán phân loại (classification) tổng quát về bài toán phân loại nhị phân.

]]> http://www.procul.org/blog/2010/09/03/phep-chuy%e1%bb%83n-gi%e1%ba%a3n-trong-h%e1%bb%8dc-may/feed/ 5 HM5 — Định lý Vapnik-Chervonenkis cho mô hình giả thuyết không nhất quán http://www.procul.org/blog/2010/08/30/hm5-d%e1%bb%8bnh-ly-vapnik-chervonenkis-cho-mo-hinh-gi%e1%ba%a3-thuy%e1%ba%bft-khong-nh%e1%ba%a5t/ http://www.procul.org/blog/2010/08/30/hm5-d%e1%bb%8bnh-ly-vapnik-chervonenkis-cho-mo-hinh-gi%e1%ba%a3-thuy%e1%ba%bft-khong-nh%e1%ba%a5t/#comments Mon, 30 Aug 2010 10:35:01 +0000 NQH http://www.procul.org/blog/?p=2263
  • HM4: Độ phức tạp mẫu và VC dimension.
  • HM6: Độ phức tạp Rademacher

    Hai mô hình (nhất quán và PAC) chúng ta thấy cho đến nay đều không thực tế lắm. Trên thực tế dữ liệu thường có nhiễu, việc tìm một giả thuyết nhất quán với nhiều mẫu trở nên khó khăn. Đôi khi không tồn tại giả thuyết nào nhất quán với dữ liệu, hoặc cho dù có tồn tại thì nhiễu cũng làm cho không tồn tại. Vả lại, nhất quán với dữ liệu bị nhiễu thì cũng không hay ho gì. Đó là chưa kể việc đi tìm một giả thuyết nhất quán với dữ liệu có thể là bài toán NP-khó, và thậm chí có thể trên thực tế không tồn tại cái khái niệm mà mình đang muốn học.

    (Từ giờ trở đi, tôi sẽ dịch “learner” là “học giả”. Học giả ở đây là một thuật toán máy tính chứ không phải là một gã hói đầu. “Học giả như hòa như đạo. Bất học giả như cảo như thảo.”)

    Như vậy chúng ta cần một mô hình cho phép học giả trả về một giả thuyết không nhất quán với mẫu, và phải tìm cách đo chất lượng học giả — kể cả khi không có cái khái niệm mà mình muốn học. Bài này kết thúc bằng chứng minh định lý Vapnik-Chervonenkis, một trong những định lý quan trọng nhất của lý thuyết học máy thống kê (statistical learning theory).

    7. Mô hình giả thuyết không nhất quán

    Trong mô hình này, ta giả sử cả training data lẫn test data đều gồm các điểm {({\bf x},y)} được lấy mẫu từ không gian {\Omega \times \{0,1\}} theo một phân bố {\mathcal D} chưa biết nào đó. Dễ thấy rằng giả định này tổng quát hơn giả định của mô hình PAC, vì với PAC thì các điểm {({\bf x},y)} được lấy mẫu dựa trên phân bố của {{\bf x}} và khái niệm cần học.

    Chất lượng của một giả thuyết {h} được đo bằng “lỗi thật” của nó, định nghĩa như sau:

    \displaystyle \text{err}(h) := \mathop{\textnormal{Prob}}_{({\bf x}, y) \leftarrow \mathcal D} [h({\bf x}) \neq y]

    Lỗi này cũng được gọi là lỗi tổng quát hóa (generalization error) của giả thuyết {h}. Trong trường hợp lý tưởng thì chúng ta muốn giải quyết vấn đề sau đây.

    Định nghĩa 1 (Bài toán lý tưởng) Tìm giả thuyết {h^* \in \mathcal H} sao cho lỗi thật {\text{err}(h^*)} là tối thiểu. Nói cách khác,

    \displaystyle h^* = \mathop{\text{argmin}}_{h\in \mathcal H} \text{ err}(h).

    Gọi là trường hợp lý tưởng vì chúng ta không biết {\mathcal D}, do đó không thể tính hàm {\text{err}(h)}. Nếu ta biết phân bố {\mathcal D} thì rõ ràng là giả thuyết sau đây là tối ưu:

    \displaystyle h_{\text{\sc opt}}({\bf x}) = \begin{cases} 1 & \textnormal{if} \ \text{Prob}[ y=1 \ | \ {\bf x}] \geq 1/2\\ 0 & \textnormal{if} \ \text{Prob}[ y=0 \ | \ {\bf x}] < 1/2 \end{cases}.

    Giả thuyết này được gọi là Bayes optimal classifier, còn giá trị {\text{err}(h_{\text{\sc opt}})} — gọi là lỗi Bayes — nhỏ hơn bất kỳ {\text{err}(h)} nào khác. Cũng lưu ý rằng {h_{\text{\sc opt}}} không nhất thiết là phải thuộc về lớp giả thuyết {\mathcal H} cho trước. (Chúng ta sẽ quay lại với chủ đề giả thuyết cuối cùng không thuộc {\mathcal H} trong bài tới khi ta thảo luận thuật toán AdaBoost.)

    Quay lại với cách “cài đặt” vấn đề trong mô hình giả thuyết không nhất quán ở trên. Do ta không biết {\mathcal D}, bài toán thật sự không thể là bài toán tìm giả thuyết với lỗi thật tối thiểu. Một lối ra khá phổ dụng trong các trường hợp tối ưu các hàm không tính được là ta dùng một hàm khác, tính/ước lượng được, để xấp xỉ cái lỗi thật {\text{err}(h)} mà ta không tính được. Cụ thể hơn, định nghĩa lỗi thực nghiệm (empirical error) như sau:

    \displaystyle \widehat{\text{err}}(h) = \frac{|\{i : h({\bf x}_i) \neq y_i\}|}{m}

    Lỗi thực nghiệm còn được gọi là lỗi huấn luyện (training error) hoặc rủi ro thực nghiệm (empirical risk cho 01 loss function). Đôi khi, để nhấn mạnh là lỗi thực nghiệm được đo trên bộ mẫu {S}, ta dùng ký hiệu {\widehat{\text{err}}_S(h)}.

    Chúng ta sẽ chứng minh cái gọi là định lý hội tụ đều (uniform convergence theorem). Định lý này nói rằng, với số mẫu đủ lớn thì lỗi thật và lỗi thực nghiệm của một giả thuyết bất kỳ không xa nhau là mấy. (Với một giả thuyết {h} cố định thì trị kỳ vọng của lỗi thực nghiệm là lỗi thật, do đó định lý này hữu lý.) Do đó, thay vì tìm giả thuyết với lỗi thật nhỏ nhất (đằng nào cũng không làm được) thì ta có thể cố tìm giả thuyết với lỗi thực nghiệm nhỏ nhất. Chiến lược này gọi là chiến lược tối thiểu rủi ro thực nghiệm (empirical risk minimization hay ERM)

    Định nghĩa 2 (ERM) Tìm giả thuyết {\hat h^* \in \mathcal H} sao cho lỗi thực nghiệm {\widehat{\text{err}}(\hat h^*)} là tối thiểu. Nói cách khác,

    \displaystyle \hat h^* = \mathop{\text{argmin}}_{h\in \mathcal H} \widehat{\text{err}}(h).

    Các học giả Occam như thảo luận trong các bài trước (tìm giả thuyết nhất quán với toàn bộ mẫu — lỗi thực nghiệm bằng không) là trường hợp đặc biệt của lời giải bài toán trên. Bài toán ERM trên cho phép cả trường hợp ta không tìm được giả thuyết nhất quán. Một trong những điểm yếu của ERM (với 01 loss function như định nghĩa ở trên) là nó thường là bài toán NP-khó (xem bài này chẳng hạn).

    Định lý 3 (Định lý hội tụ đều cho {\mathcal H} hữu hạn) Xét trường hợp lớp giả thuyết {\mathcal H} là hữu hạn. Nếu ta lấy

    \displaystyle m \geq \frac{\log\left( \frac{2|\mathcal H|}{\delta}\right)}{2\epsilon^2}

    mẫu từ phân bố {\mathcal D} thì

    \displaystyle \text{Prob}\left[|\text{err}(h) - \widehat{\text{err}}(h)| \leq \epsilon, \ \forall h \in \mathcal H \right] \geq 1-\delta.

    Chứng minh: Rất dễ. Áp dụng bất đẳng thức Hoeffing (một dạng con gà Chernoff, và là trường hợp đặc biệt của bất đẳng thức McDiarmid) ta có, với {h} bất kỳ:

    \displaystyle \text{Prob}\left[|\text{err}(h) - \widehat{\text{err}}(h)| > \epsilon\right] < 2e^{-2\epsilon^2m}.

    Sau đó, union bound cho ta

    \displaystyle \text{Prob}\left[\forall h \in \mathcal H, |\text{err}(h) - \widehat{\text{err}}(h)| > \epsilon\right] < 2|\mathcal H|e^{-2\epsilon^2m}.

    Từ đó dẫn đến kết luận của định lý. \Box

    Từ định lý hội tụ đều, ta thấy rằng lời giải cho bài toán ERM cũng khá tốt so với lời giải của bài toán lý tưởng:

    \displaystyle \text{err}(\hat h^*) \leq \widehat{\text{err}}(\hat h^*) + \epsilon \leq \widehat{\text{err}}(h^*) + \epsilon \leq \text{err}(h^*) + 2\epsilon.

    Ta có thể viết lại sự phụ thuộc của lỗi tổng quát hóa {\text{err}(h)} vào lỗi thực nghiệm {\widehat{\text{err}}(h)}, độ phức tạp của lớp giả thuyết {\log |\mathcal H|}, tổng số mẫu {m} và độ tin cậy như sau:

    \displaystyle \text{err}(h) \leq \widehat{\text{err}}(h) + \sqrt{\frac{\log(2|\mathcal H|) + \log(1/\delta)}{m}}

    Có vài điểm đáng chú ý:

    • Độ phức tạp mẫu phụ thuộc vào {\epsilon^2} chứ không còn là {\epsilon} như trong mô hình PAC.
    • Tăng {m} thì lỗi tổng quát hóa giảm. Cho học giả càng nhiều ví dụ càng tốt. Dĩ nhiên làm thế sẽ ảnh hưởng đến thời gian chạy của học giả.
    • Độ phức tạp của lớp giả thuyết càng nhỏ càng tốt.
    • Lỗi thực nghiệm càng bé càng tốt.
    • Tuy nhiên, có một trade-off giữa lỗi thực nghiệm và độ phức tạp của lớp giả thuyết. Nếu lớp giả thuyết quá đơn giản thì khả năng ta tìm được một giả thuyết có lỗi thực nghiệm bé sẽ giảm. Khi độ phức tạp của lớp giả thuyết tăng lên thì sẽ dễ tìm giả thuyết {h} có lỗi thực nghiệm {\widehat{\text{err}}(h)} nhỏ. Nhưng đến một lúc nào đó thì số hạng thứ hai (chứa {\log (2|\mathcal H|)}) sẽ áp đảo số hạng thứ nhất, và ta bị vấn đề overfitting, một vấn đề thật sự đau đầu trong thống kê.

    Trong hai bài tới, chúng ta sẽ thảo luận thuật toán AdaBoost và thuật toán Support Vector Machine; có vẻ như chúng chống chọi vấn đề overfitting khá tốt.

    Trong trường hợp {\mathcal H} vô hạn thì ta có định lý hội tụ đều dùng VC-dimension, là một trong những định lý quan trọng nhất trong statistical learning theory.

    Định lý 4 (Định lý hội tụ đều cho {\mathcal H} vô hạn — Còn gọi là định lý Vapnik-Chervonenkis) Xét trường hợp lớp giả thuyết {\mathcal H} là vô hạn với {d = \text{\sc vcd}(\mathcal H)}. Nếu ta lấy

    \displaystyle m = \Omega\left( \frac{d}{\epsilon^2}\log\frac{1}{\epsilon} + \frac{1}{\epsilon^2} \log \frac 1 \delta\right)

    mẫu từ phân bố {\mathcal D} thì

    \displaystyle \text{Prob}\left[|\text{err}(h) - \widehat{\text{err}}(h)| \leq \epsilon, \ \forall h \in \mathcal H \right] \geq 1-\delta.

    Chứng minh: Ta cần chứng minh bất đẳng thức sau đây:

    \displaystyle \mathop{\text{Prob}}_S \left[ \sup_{h \in \mathcal H} |\text{err}(h) - \widehat{\text{err}}_S(h)| > \epsilon \right] \leq \delta,

    trong đó {S=\{({\bf x}_1,y_1), \cdots, ({\bf x}_m,y_m)\}} là tập {m} mẫu độc lập. Giống như trong trường hợp định lý VC cho mô hình PAC, ta dùng cái mẹo lấy mẫu kép. Ta lấy thêm {m} mẫu độc lập {S'=\{({\bf x}'_1,y'_1), \cdots, ({\bf x}'_m,y'_m)\}} nữa (chỉ là công cụ chứng minh, không lấy thật). Chứng minh bao gồm bốn bước.

    • Bước 1. chuyển từ vô hạn xuống hữu hạn. Ta sẽ chứng minh rằng

      \displaystyle \mathop{\text{Prob}}_S \left[ \sup_{h \in \mathcal H} |\text{err}(h) - \widehat{\text{err}}_S(h)| > \epsilon \right] \leq 2 \cdot \mathop{\text{Prob}}_{S,S'} \left[ \sup_{h \in \mathcal H} |\widehat{\text{err}}_{S}(h) - \widehat{\text{err}}_{S'}(h)| > \epsilon/2 \right]

      Với một bộ mẫu {S} đã lấy, nếu {\sup_{h \in \mathcal H} |\text{err}(h) - \widehat{\text{err}}_S(h)| > \epsilon} thì định nghĩa {h_S} là một hàm (tùy hỉ) trong {\mathcal H} miễn sao {|\text{err}(h_S) - \widehat{\text{err}}_S(h_S)| > \epsilon}; còn nếu {\sup_{h \in \mathcal H} |\text{err}(h) - \widehat{\text{err}}_S(h)| \leq \epsilon} thì định nghĩa {h_S} là một hàm bất kỳ trong {\mathcal H}.

      Trước hết, dùng bất đẳng thức Chernoff, dễ chứng minh được rằng, với mọi {S} và {m \geq 100/\epsilon^2} ta có:

      \displaystyle \mathop{\text{Prob}}_{S'} \left[ |\text{err}(h_S) - \widehat{\text{err}}_{S'}(h_S)| < \epsilon/2 \right] \geq 1/2.

      (Không cần đến {100}, để cho vui thôi; cỡ {8} là đủ.)

      \displaystyle \begin{array}{rcl} && \mathop{\text{Prob}}_S \left[ \sup_{h \in \mathcal H} |\text{err}(h) - \widehat{\text{err}}_S(h)| > \epsilon \right]\\ &=& \mathop{\text{E}}_S \left[ {\bf 1}_{\{|\text{err}(h_S) - \widehat{\text{err}}_S(h_S)| > \epsilon\}} \right]\\ &\leq & 2 \cdot \mathop{\text{E}}_S \left[ {\bf 1}_{\{|\text{err}(h_S) - \widehat{\text{err}}_S(h_S)| > \epsilon\}} \cdot \mathop{\text{Prob}}_{S'} \left[ |\text{err}(h_S) - \widehat{\text{err}}_{S'}(h_S)| < \epsilon/2 \right] \right]\\ &\leq & 2 \cdot \mathop{\text{E}}_S \left[ {\bf 1}_{\{|\text{err}(h_S) - \widehat{\text{err}}_S(h_S)| > \epsilon\}} \cdot \mathop{\text{E}}_{S'} \left[ {\bf 1}_{\{|\text{err}(h_S) - \widehat{\text{err}}_{S'}(h_S)| < \epsilon/2\}} \right] \right]\\ &=& 2 \cdot \mathop{\text{E}}_{S,S'} \left[ {\bf 1}_{\{|\text{err}(h_S) - \widehat{\text{err}}_S(h_S)| > \epsilon\}} \cdot {\bf 1}_{\{|\text{err}(h_S) - \widehat{\text{err}}_{S'}(h_S)| < \epsilon/2\}} \right]\\ &=& 2 \cdot \mathop{\text{Prob}}_{S,S'} \left[ |\text{err}(h_S) - \widehat{\text{err}}_S(h_S)| > \epsilon \text{ and } |\text{err}(h_S) - \widehat{\text{err}}_{S'}(h_S)| < \epsilon/2 \right]\\ &\leq & 2 \cdot \mathop{\text{Prob}}_{S,S'} \left[ \sup_{h \in \mathcal H} |\widehat{\text{err}}_{S}(h) - \widehat{\text{err}}_{S'}(h)| > \epsilon/2 \right] \end{array}

    • Bước 2. đối xứng hóa dùng các biến Rademacher {\sigma_i \in \{-1,1\}, i \in [m]}, nghĩa là {\text{Prob}[\sigma_i=1]=\text{Prob}[\sigma_i=-1]=1/2}. Ta sẽ chứng minh rằng

      \displaystyle \mathop{\text{Prob}}_{S,S'} \left[ \sup_{h \in \mathcal H} |\widehat{\text{err}}_{S}(h) - \widehat{\text{err}}_{S'}(h)| > \epsilon/2 \right] \leq 2 \cdot \mathop{\text{Prob}}_{S,\sigma} \left[ \sup_{h \in \mathcal H} \frac 1 m \left| \sum_{i=1}^m \sigma_i {\bf 1}_{\{h({\bf x}_i) \neq y_i\}} \right| > \epsilon/4 \right]

      Lưu ý rằng {{\bf 1}_{\{h({\bf x}_i) \neq y_i\}}} và {{\bf 1}_{\{h({\bf x}'_i) \neq y'_i\}}} có cùng phân bố, do đó {({\bf 1}_{\{h({\bf x}_i) \neq y_i\}} - {\bf 1}_{\{h({\bf x}'_i) \neq y'_i\}})} và {-({\bf 1}_{\{h({\bf x}_i) \neq y_i\}} - {\bf 1}_{\{h({\bf x}'_i) \neq y'_i\}})} có cùng phân bố với trị kỳ vọng bằng {0}. Ta có:

      \displaystyle \begin{array}{rcl} && \mathop{\text{Prob}}_{S,S'} \left[ \sup_{h \in \mathcal H} |\widehat{\text{err}}_{S}(h) - \widehat{\text{err}}_{S'}(h)| > \epsilon/2 \right]\\ &=& \mathop{\text{Prob}}_{S,S'} \left[ \sup_{h \in \mathcal H} \frac 1 m \left| \sum_{i=1}^m ({\bf 1}_{\{h({\bf x}_i) \neq y_i\}} - {\bf 1}_{\{h({\bf x}'_i) \neq y'_i\}}) \right| > \epsilon/2 \right]\\ &=& \mathop{\text{Prob}}_{S,S',\sigma} \left[ \sup_{h \in \mathcal H} \frac 1 m \left| \sum_{i=1}^m \sigma_i \left({\bf 1}_{\{h({\bf x}_i) \neq y_i\}} - {\bf 1}_{\{h({\bf x}'_i) \neq y'_i\}}\right) \right| > \epsilon/2 \right]\\ &\leq& \mathop{\text{Prob}}_{S,S',\sigma} \left[ \left\{ \sup_{h \in \mathcal H} \frac 1 m \left| \sum_{i=1}^m \sigma_i {\bf 1}_{\{h({\bf x}_i) \neq y_i\}} \right| > \epsilon/4 \right\} \text{ or } \left\{ \sup_{h \in \mathcal H} \frac 1 m \left| \sum_{i=1}^m \sigma_i {\bf 1}_{\{h({\bf x}'_i) \neq y'_i\}} \right| > \epsilon/4 \right\} \right]\\ &\leq& 2 \cdot \mathop{\text{Prob}}_{S,\sigma} \left[ \sup_{h \in \mathcal H} \frac 1 m \left| \sum_{i=1}^m \sigma_i {\bf 1}_{\{h({\bf x}_i) \neq y_i\}} \right| > \epsilon/4 \right] \end{array}

    • Bước 3. thay vì xét cái {\sup_{h\in \mathcal H}} ở vế phải bất đẳng thức trên, ta chỉ cần xét các “dichotomies” của lớp giả thuyết {\mathcal H} trên tập {\{ {\bf x}_i \ | \ ({\bf x}_i, y_i) \in S\}}. Áp dụng bất đẳng thức Hoeffding và union bound là ta sẽ có:

      \displaystyle \mathop{\text{Prob}}_{S,\sigma} \left[ \sup_{h \in \mathcal H} \frac 1 m \left| \sum_{i=1}^m \sigma_i {\bf 1}_{\{h({\bf x}_i) \neq y_i\}} \right| > \epsilon/4 \right] \leq \Pi_{\mathcal H}(m) \cdot 2 \cdot e^{-m\epsilon^2/32}.

      Cụ thể hơn, với mọi {h}, {\sigma_i {\bf 1}_{\{h({\bf x}_i) \neq y_i\}}} là các biến độc lập với trị kỳ vọng bằng {0}, dao động giữa {1} và {-1}. Do đó, bất đẳng thức Hoeffding cho ta biết (conditioning on {S})

      \displaystyle \mathop{\text{Prob}}_\sigma \left[ \frac 1 m \left| \sum_{i=1}^m \sigma_i {\bf 1}_{\{h({\bf x}_i) \neq y_i\}} \right| > \epsilon/4 \left| \right. S \right] \leq 2 \cdot e^{-m\epsilon^2/32}.

      Với một bộ mẫu {S} đã chọn thì tổng số dãy {({\bf 1}_{\{h({\bf x}_1) \neq y_1\}}, \cdots, {\bf 1}_{\{h({\bf x}_m) \neq y_m\}})} khác nhau bị chặn trên bởi {\Pi_{\mathcal H}(m)}. Do đó, union bound hoàn tất bước 3, vì

      \displaystyle \mathop{\text{Prob}}_\sigma \left[ \sup_{h\in \mathcal H} \frac 1 m \left| \sum_{i=1}^m \sigma_i {\bf 1}_{\{h({\bf x}_i) \neq y_i\}} \right| > \epsilon/4 \left| \right. S \right] \leq \Pi_{\mathcal H}(m) \cdot 2 \cdot e^{-m\epsilon^2/32}.

    • Bước 4. Bổ đề Sauer và tính toán cơ bắp hoàn tất chứng minh định lý. Bổ đề Sauer cho biết {\Pi_{\mathcal H}(m) \leq (em/d)^d}. Do đó ta chỉ cần chọn {m} sao cho

      \displaystyle 8 (em/d)^d e^{-m\epsilon^2/32} \leq \delta

      là xong. Dễ thấy rằng {m = \Omega\left( \frac{d}{\epsilon^2}\log\frac{1}{\epsilon} + \frac{1}{\epsilon^2} \log \frac 1 \delta\right)} đủ thỏa.

    \Box ]]> http://www.procul.org/blog/2010/08/30/hm5-d%e1%bb%8bnh-ly-vapnik-chervonenkis-cho-mo-hinh-gi%e1%ba%a3-thuy%e1%ba%bft-khong-nh%e1%ba%a5t/feed/ 12 Robotics — State of the art http://www.procul.org/blog/2010/07/17/robotics-state-of-the-art/ http://www.procul.org/blog/2010/07/17/robotics-state-of-the-art/#comments Sat, 17 Jul 2010 22:06:39 +0000 NQH http://www.procul.org/blog/?p=2141

    ]]>     http://www.procul.org/blog/2010/07/17/robotics-state-of-the-art/feed/ 3