Comments on: machine learning hay statistics? (1) http://www.procul.org/blog/2007/03/16/machine-learning-hay-statistics/ Tầm nhìn ta thật ngắn mà đã thấy bao thứ để làm -- Alan Turing Wed, 08 Feb 2012 12:32:21 +0000 hourly 1 By: XuanLong Nguyen http://www.procul.org/blog/2007/03/16/machine-learning-hay-statistics/comment-page-1/#comment-189390 XuanLong Nguyen Mon, 16 Nov 2009 15:02:32 +0000 http://www.procul.org/blog/2007/03/16/machine-learning-hay-statistics/#comment-189390 Tôi chưa thấy ML hưởng lợi từ neuroscience + biology ở chỗ nào cả, chỉ thấy neuroscience + biology + machine learning hưởng lợi từ Statistics rất nhiều và từ rất lâu thôi. Fisher không chỉ là cha đẻ của TK hiện đại mà còn là genetics lỗi lạc. Tôi chỉ đưa ra so sánh cho hiện tại và trong tương lai gần. Tất cả các ngành đều biến đổi, ai đoán trước được. Nói như trên chủ yếu để cổ vũ các bạn học machine learning nên học thêm nhiều statistics hơn, thay vỉ nghĩ rằng big ideas của ML có thể đến từ neuroscience hay biology. Đó là ảo tưởng vài thế hệ AI researcher (có tôi) đã mắc phải. Còn nếu phải đoán trong tương lai rất xa hơn nữa thì những thứ bạn nói rất có thể có khả năng thành hiện thực. Tôi chưa thấy ML hưởng lợi từ neuroscience + biology ở chỗ nào cả, chỉ thấy neuroscience + biology + machine learning hưởng lợi từ Statistics rất nhiều và từ rất lâu thôi. Fisher không chỉ là cha đẻ của TK hiện đại mà còn là genetics lỗi lạc.

Tôi chỉ đưa ra so sánh cho hiện tại và trong tương lai gần. Tất cả các ngành đều biến đổi, ai đoán trước được. Nói như trên chủ yếu để cổ vũ các bạn học machine learning nên học thêm nhiều statistics hơn, thay vỉ nghĩ rằng big ideas của ML có thể đến từ neuroscience hay biology. Đó là ảo tưởng vài thế hệ AI researcher (có tôi) đã mắc phải. Còn nếu phải đoán trong tương lai rất xa hơn nữa thì những thứ bạn nói rất có thể có khả năng thành hiện thực.

]]> By: tran the truyen http://www.procul.org/blog/2007/03/16/machine-learning-hay-statistics/comment-page-1/#comment-189389 tran the truyen Mon, 16 Nov 2009 14:23:36 +0000 http://www.procul.org/blog/2007/03/16/machine-learning-hay-statistics/#comment-189389 Bài viết khá hay. Tác giả hơi thiển cận khi nói rằng statistics vói Machine Learning là một. Machine learning là 1 multidisciplinary research area với đóng góp chủ đạo từ computer science, statistics và một số ngành khác nhu psychology, biology... Hiện tại ML hưởng lợi lớn tù statistics, tuy nhiên trong tương lai có thể hưởng lợi nhiều hơn từ tiến bộ của psychology+ biology (brain science chẳng hạn) Bài viết khá hay. Tác giả hơi thiển cận khi nói rằng statistics vói Machine Learning là một. Machine learning là 1 multidisciplinary research area với đóng góp chủ đạo từ computer science, statistics và một số ngành khác nhu psychology, biology… Hiện tại ML hưởng lợi lớn tù statistics, tuy nhiên trong tương lai có thể hưởng lợi nhiều hơn từ tiến bộ của psychology+ biology (brain science chẳng hạn)

]]> By: Dũng http://www.procul.org/blog/2007/03/16/machine-learning-hay-statistics/comment-page-1/#comment-186093 Dũng Wed, 29 Jul 2009 11:41:38 +0000 http://www.procul.org/blog/2007/03/16/machine-learning-hay-statistics/#comment-186093 Tôi đang nghiên cứu về Máy học thống kê("Statistical Machine Learning") các bác có tài liệu Tiếng Việt cho minh tham khảo với. Mình rất vội. Cảm ơn máy Bác. dungdnt@gmail.com Tôi đang nghiên cứu về Máy học thống kê(“Statistical Machine Learning”) các bác có tài liệu Tiếng Việt cho minh tham khảo với. Mình rất vội.
Cảm ơn máy Bác.

dungdnt@gmail.com

]]> By: newcomer http://www.procul.org/blog/2007/03/16/machine-learning-hay-statistics/comment-page-1/#comment-128124 newcomer Fri, 02 May 2008 00:49:06 +0000 http://www.procul.org/blog/2007/03/16/machine-learning-hay-statistics/#comment-128124 "Có lẽ đóng góp lịch sử lớn nhất của NNs và GAs là sự hấp dẫn, mới lạ và sự hiệu quả của những phương pháp này. Chúng thu hút một số lượng lớn rất nhiều các kỹ sư, các nhà khoa học thực nghiệm và tính toán, vật lý lý thuyết, … tất cả những ai phải xử lý số lượng dữ liệu lớn và nhiều chiều. Những người này đã quan tâm đến và góp phần phát triển tiếp machine learning. Họ thường không ngại ngần gì với những data sets khổng lồ. Họ cần những giải pháp computation hữu hiệu, nhưng không thích quá nhiều assumption cứng nhắc về dữ liệu. Họ thực dụng, và không bị lệ thuộc vào các mô hình thống kê cổ điển giáo điều. Họ quả cảm và năng động chứ không máy móc như các nhà thống kê cổ điển. Và cũng giống như fashion, machine learning vẫn tiếp tục sexy, nhưng cái hype không còn là NNs hay GAs mà chuyển sang các mô hình thống kê khác, như graphical models (Bayes nets), support vector machines, các mô hình nonparametric Bayes, v.v." Toi rat thich cai doan nay. Day la cai can phai nhan thuc cho nhung ai muon tim hieu ve cac mo hinh tu nhien (naturel-inspired models). Toi chi muon nhan manh mot dieu la nhung nghien cuu ve NNs, GAs deu dang rat 'hot'. Da co rat nhieu su under-estimate gia tri cua GAs. Don gian boi vi ho khong hieu cai y nghia ban chat cua selection/crossover va mutation ngoai viec "randomly doing this". Lay cam hung tu nature tat nhien la quan trong, nhung ma cai quan trong hon la heuristic do duoc dien giai ve khia canh searching nhu the nao. Hien nay, cai moi nguoi quan tam (va cung la han che) la "understanding natural processes". Su hieu qua cuar GAs hay cac mo hinh tuong tu khac phu thuoc vao "how much information they can capture from natural processes". Va dieu nay la khong phai de dang va dang tieu ton rat nhieu tien bac! Va neu no co duoc giai phap hieu qua cho cac bai toan ky thuat thi cung la dieu dang lam. Toi co the thao luan them voi nhung ai quan tam GAs, co the email cho toi tai kid.meal@yahoo.com “Có lẽ đóng góp lịch sử lớn nhất của NNs và GAs là sự hấp dẫn, mới lạ và sự hiệu quả của những phương pháp này. Chúng thu hút một số lượng lớn rất nhiều các kỹ sư, các nhà khoa học thực nghiệm và tính toán, vật lý lý thuyết, … tất cả những ai phải xử lý số lượng dữ liệu lớn và nhiều chiều. Những người này đã quan tâm đến và góp phần phát triển tiếp machine learning. Họ thường không ngại ngần gì với những data sets khổng lồ. Họ cần những giải pháp computation hữu hiệu, nhưng không thích quá nhiều assumption cứng nhắc về dữ liệu. Họ thực dụng, và không bị lệ thuộc vào các mô hình thống kê cổ điển giáo điều. Họ quả cảm và năng động chứ không máy móc như các nhà thống kê cổ điển. Và cũng giống như fashion, machine learning vẫn tiếp tục sexy, nhưng cái hype không còn là NNs hay GAs mà chuyển sang các mô hình thống kê khác, như graphical models (Bayes nets), support vector machines, các mô hình nonparametric Bayes, v.v.”

Toi rat thich cai doan nay. Day la cai can phai nhan thuc cho nhung ai muon tim hieu ve cac mo hinh tu nhien (naturel-inspired models). Toi chi muon nhan manh mot dieu la nhung nghien cuu ve NNs, GAs deu dang rat ‘hot’. Da co rat nhieu su under-estimate gia tri cua GAs. Don gian boi vi ho khong hieu cai y nghia ban chat cua selection/crossover va mutation ngoai viec “randomly doing this”. Lay cam hung tu nature tat nhien la quan trong, nhung ma cai quan trong hon la heuristic do duoc dien giai ve khia canh searching nhu the nao.

Hien nay, cai moi nguoi quan tam (va cung la han che) la “understanding natural processes”. Su hieu qua cuar GAs hay cac mo hinh tuong tu khac phu thuoc vao “how much information they can capture from natural processes”. Va dieu nay la khong phai de dang va dang tieu ton rat nhieu tien bac! Va neu no co duoc giai phap hieu qua cho cac bai toan ky thuat thi cung la dieu dang lam.

Toi co the thao luan them voi nhung ai quan tam GAs, co the email cho toi tai kid.meal@yahoo.com

]]> By: cuonghuyto http://www.procul.org/blog/2007/03/16/machine-learning-hay-statistics/comment-page-1/#comment-1263 cuonghuyto Sun, 18 Mar 2007 23:12:54 +0000 http://www.procul.org/blog/2007/03/16/machine-learning-hay-statistics/#comment-1263 Added: a popular equation for a Log-Linear modelling of the posterior probability, seen in Statistical Machine Translation [tex]p(Y|X)=\frac{exp[\sum_{m=1}^M{\lambda_m \cdot H_m(Y,X)}]}{\sum_C{exp[\sum_{m=1}^M{\lambda_m \cdot H_m(C,X)}]}}[/tex] (Sorry ba'c Hu+ng post 11 va~n co`n chu't error) Added: a popular equation for a Log-Linear modelling of the posterior probability, seen in Statistical Machine Translation 
p(Y|X)=\frac{exp[\sum_{m=1}^M{\lambda_m \cdot H_m(Y,X)}]}{\sum_C{exp[\sum_{m=1}^M{\lambda_m \cdot H_m(C,X)}]}}

(Sorry ba’c Hu+ng post 11 va~n co`n chu’t error)

]]> By: cuonghuyto http://www.procul.org/blog/2007/03/16/machine-learning-hay-statistics/comment-page-1/#comment-1253 cuonghuyto Sun, 18 Mar 2007 22:06:20 +0000 http://www.procul.org/blog/2007/03/16/machine-learning-hay-statistics/#comment-1253 [tex]p(Y|X)=\frac{exp[\sum_{m=1}^M{lambda_m * H_m(Y,X)}]}{\sum_Y’{exp[\sum_{m=1}^M{lambda_m * H(Y’,X)}]}}[/tex] p(Y|X)=\frac{exp[\sum_{m=1}^M{lambda_m * H_m(Y,X)}]}{\sum_Y’{exp[\sum_{m=1}^M{lambda_m * H(Y’,X)}]}} ]]> By: Ngô Quang Hưng http://www.procul.org/blog/2007/03/16/machine-learning-hay-statistics/comment-page-1/#comment-1237 Ngô Quang Hưng Sun, 18 Mar 2007 13:09:24 +0000 http://www.procul.org/blog/2007/03/16/machine-learning-hay-statistics/#comment-1237 <blockquote>Đóng góp của statistics có tính chất nền tảng trong việc xử lý uncertainty, xử lý noise trong dữ liệu. Đóng góp của machine learning nói riêng và KHMT nói chung là sự chú trọng đến khía cạnh thuật toán và hiệu quả tính toán.</blockquote> Tôi nghĩ các nghiên cứu về learnability (và unlearnability) dùng một dạng argument kiểu lý thuyết tính toán (như diagonalization) cũng là một đóng góp quan trọng của machine learning nói riêng và KHMT nói chung. KHMT không chỉ quan tâm đến hiệu quả tính toán (computational complexity) mà còn quan tâm đến tính khả thi của tính toán (computability). Anyway, thanks for the nice post!

Đóng góp của statistics có tính chất nền tảng trong việc xử lý uncertainty, xử lý noise trong dữ liệu. Đóng góp của machine learning nói riêng và KHMT nói chung là sự chú trọng đến khía cạnh thuật toán và hiệu quả tính toán.

Tôi nghĩ các nghiên cứu về learnability (và unlearnability) dùng một dạng argument kiểu lý thuyết tính toán (như diagonalization) cũng là một đóng góp quan trọng của machine learning nói riêng và KHMT nói chung. KHMT không chỉ quan tâm đến hiệu quả tính toán (computational complexity) mà còn quan tâm đến tính khả thi của tính toán (computability).

Anyway, thanks for the nice post!

]]> By: Ngô Quang Hưng http://www.procul.org/blog/2007/03/16/machine-learning-hay-statistics/comment-page-1/#comment-1221 Ngô Quang Hưng Sat, 17 Mar 2007 22:17:47 +0000 http://www.procul.org/blog/2007/03/16/machine-learning-hay-statistics/#comment-1221 @Cường: tôi dùng Latexrender plugin. Cái Latex bác dẫn ở trên chỉ dùng được với các blog do wordpress.com hosts mà thôi.Với Latexrender, bác chỉ cần bỏ biểu thức toán vào [ tex ] ... [ /tex ] (không có khoảng trống giữa các dấu ngoặc vuông và chữ tex). @Cường: tôi dùng Latexrender plugin. Cái Latex bác dẫn ở trên chỉ dùng được với các blog do wordpress.com hosts mà thôi.Với Latexrender, bác chỉ cần bỏ biểu thức toán vào [ tex ] … [ /tex ] (không có khoảng trống giữa các dấu ngoặc vuông và chữ tex).

]]> By: Nguyễn Xuân Long http://www.procul.org/blog/2007/03/16/machine-learning-hay-statistics/comment-page-1/#comment-1220 Nguyễn Xuân Long Sat, 17 Mar 2007 22:00:59 +0000 http://www.procul.org/blog/2007/03/16/machine-learning-hay-statistics/#comment-1220 Gõ [ tex ] \frac{x}{y} [ /tex ] (không có blank space trong từ khóa) để được [tex]\frac{x}{y}[/tex] Gõ [ tex ] \frac{x}{y} [ /tex ] (không có blank space trong từ khóa) để được 
\frac{x}{y}
]]> By: cuonghuyto http://www.procul.org/blog/2007/03/16/machine-learning-hay-statistics/comment-page-1/#comment-1219 cuonghuyto Sat, 17 Mar 2007 21:39:10 +0000 http://www.procul.org/blog/2007/03/16/machine-learning-hay-statistics/#comment-1219 Sorry, tôi theo http://faq.wordpress.com/2007/02/18/can-i-put-math-or-equations-in-my-posts/ và thử gõ mã Latex trong $$ thì không được. Bác Hưng có cài gì đặc biệt trên WordPress folder không vậy ? Sorry, tôi theo http://faq.wordpress.com/2007/02/18/can-i-put-math-or-equations-in-my-posts/ và thử gõ mã Latex trong $$ thì không được. Bác Hưng có cài gì đặc biệt trên WordPress folder không vậy ?

]]>