Machine learning hay statistics?
Quá nhiều terminologies làm cho tôi headache
Tôi khoái learning machines, bạn lại thích models
Bạn hỏi tôi về covariates, tôi nói chuyện featuresMachine learning hay statistics?
Thứ nào nghe sexy hơn thứ nào boring sh*t?
Một câu hỏi nhỏ, nếu bạn vẫn gà mờ …
Xin chịu khó đọc thêm blog Ka Hờ Mờ Tờ
Tiếp theo bài blog hôm trước, tôi xin nói thêm về sự hỗn độn về thuật ngữ trong machine learning. Dân làm machine learning nói riêng và KHMT nói chung rất sáng tạo trong việc đặt tên cho sản phẩm thuật toán của mình. Mỗi một tít bài báo ở hội nghị thường có kèm tên một thuật toán (hay system, hay architecture mới), cho dù ý tưởng của bài báo chỉ là một thay đổi epsilon của một bài báo trước đó.
Trong machine learning, mỗi một thuật toán máy học mới thường có cái tên là một machine gì đấy, làm ta liên tưởng đến một cậu HAL đang được thai nghén. Vậy nên có cả một vườn thú các learning machines, ví dụ có thể tìm thấy ở Journal of Machine Learning Gossip (một website hóm hỉnh của dân làm ML). Điều này làm cho những người bắt đầu bước vào vườn thú rất choáng. Mặc dù xuất phát điểm mang tính lịch sử của machine learning là từ trí tuệ nhân tạo, nhưng nhìn lại, rất nhiều ý tưởng trong ML đã được khơi nguồn từ statistics, và trong một thời gian khá dài (từ những năm 1950 đến những năm đầu 1990) đáng tiếc là không có sự liên hệ đầy đủ giữa hai ngành. Dưới đây tôi thử liệt kê vài khái niệm trong machine learning và dịch sang ngành thống kê. Đây là open list, ai có thêm thì xin mời bổ sung vào. Để tiện tôi chia ra làm một vài mục:
Mô hình:
- machines, learning machines (e.g., support vector machines): models
- networks (e.g., neural networks, Bayesian networks, Markov networks): models
- concepts: models
- multilayer networks: hierachical models
- Bayes nets, Bayesian networks: (probabilistic) graphical models
- instance-based learning methods: nonparametric models
- input features: covariates
- output: response variable
- model selection: model choice
Thuật toán:
- learning algorithms, training algorithms: (frequentist) estimation procedures
- Bayesian learning: Bayesian inference
- probabilistic reasoning: probabilistic inference
- unsupervised learning, clustering algorithms: use of latent (hidden) variable models, generative models
- supervised learning, classification algorithms: classification, regression, discriminative models
- empirical risk minimization principle: M-estimation methods (M stands for maximization)
- cost function: loss function
Một số linh tinh khác:
- PAC (probabilistically approximately correct) learning: đảm bảo đúng với xác suất cao
- convergence: trong ML thì đây thường chỉ sự hội tụ của thuật toán, nhưng trong statistics thì đây thường nói về tốc độ hội tụ của estimation error của một estimation procedure nào đó
- sample: trong ML thì chỉ một data point, trong statistics thì chỉ một tập các data points.
Một số lớn các khái niệm căn bản của ML (thường là bắt đầu một cách ad hoc) đã được giới thiệu và nghiên cứu một cách có hệ thống và chặt chẽ ở ngành thống kê. Ngược lại, còn rất nhiều khái niệm hay và sâu sắc trong thống kê vẫn chưa được áp dụng trong các vấn đề machine learning. Tuy vậy machine learning ngày càng đóng góp cho statistics những khái niệm mới mẻ, đặc biệt liên quan đến khía cạnh computation complexity và hiệu quả thuật toán, và ML cũng góp phần phát triển nhiều mô hình (learning machines) rất thích hợp cho large scale và dynamically processed data mà ngành statistics đã từng thờ ơ. Ví dụ một số thuật ngữ sau ở machine learning nhưng không có mặt ở mainstream statistics cho đến thời gian gần đây:
- computational complexity của một vấn đề learning
- computational efficiency một learning machines
- message-passing type algorithms
- các mô hình về on-line learning
- reinforcement learning
- graphical models
- v.v.
Nhìn lại, không khó mà nhận thấy rằng intellectual root của machine learning là statistics và computer science. Điều này không nằm ngoài quy luật của phát triển khoa học. Những hướng/ngành nghiên cứu mới có triển vọng thường phát triển từ sự giao thoa của nhiều ngành khoa học lớn đi trước nó. Trong lịch sử phát triển của trí tuệ nhân tạo nói chung và machine learning nói riêng, nhiều vị tiền bối trong ngành đã không có sự nhìn nhận xác đáng về cái gốc rễ ấy (statistics và continuous mathematics). Họ đã kỳ vọng là có thể phát triển công nghệ mới mà không cần đến những công cụ toán học đương đại (kể cả xác suất thống kê). Điều này làm cho trí tuệ nhân tạo và machine learning đi chậm lại hoặc lạc hướng vì đã bị cô lập với statistics cũng như các ngành liên quan như signal processing, information theory, operations research,… trong suốt mấy thập niên liền.
Tôi không nói điều gì thực sự mới mẻ ở đây đối với những người nghiên cứu ở cutting-edge của machine learning ngày nay, nhưng có thể là mới mẻ và hy vọng là hữu ích cho những bạn đang dự định nghiên cứu về machine learning, trí tuệ nhân tạo trong KHMT, cũng như nhiều ngành liên quan đến xử lý dữ liệu khác.
14 Comments
ML/CS Stats
learning value estimation
concept tôi nghĩ là nó là discrete output value.
learner model, hypothesis
bounding confidence interval estimation
clustering: còn có cả algebraic structure (manifold, spectral, …)?
Tóm lại theo bác thì Machine Learning có phải là một ngành khoa học không? Hay chỉ là nơi gặp gỡ của một số ngành khoa học cơ bản (stats, cs, info. theory, optimization, …) và rất nhiều ngành ứng dụng liên quan đến xử lý dữ liệu và ra quyết định dựa trên dữ liệu đang có (signal processing, bioinformatics, stats physics/mechantics, OR, game theory, econometrics, …).
Tôi không rõ lý do bác xếp PAC vào mục “linh tinh”. Vì bác không tìm thấy thuật ngữ tương ứng bên stats? Tôi nghĩ là nó tương ứng với “test hypothesis” hoặc là “large deviation (on finite size sample)” (?) nhưng nhấn mạnh vào sample size với fixed error value, và “output domain is a finite set (concept class)”.
on-line learning mà bác nói đến có gồm cả sequential coding, repeated game, … không? Nếu có thì tôi không rõ tại sao “thuật ngữ này không có mặt ở mainstream của stats cho đến gần đây”? Theo tôi hiểu thì “on-line learning” mà bác nói là “without stochastic assumption on the data sequence”.
@tvhvt: Tôi xếp PAC vào linh tinh vì chưa đủ terminologies cho một category mới. PAC có định nghĩa bên cạnh đấy (đúng với xác suất cao). Những ví dụ của bạn là đúng rồi. Điều đáng nói là trước PAC dân ML không dùng ngôn ngữ xác suất để nói chuyện. PAC là work lý thuyết đầu tiên làm chuyện đó, nhưng cái đó bên stat họ làm từ lâu rồi. Cái nhấn mạnh về sample size chỉ là cosmetic.
Online learning (with or without stochastic assumption), related cả với sequential coding bên information theory, theo tôi hiểu không có nhiều bên mainstream stat (mặc dù ta có thể trace một số work bên stat từ những năm 50). Tôi cũng có đọc một số work của statisticians như Vovk, nhưng không coi đó là mainstream. Bạn có ý khác?
clustering: mấy cái manifold/spectral clustering chưa được analyzed về mặt thống kê một cách cẩn thận, nhưng tôi tin tưởng là nó cũng tương ứng với một mô hình latent variable nào đó mà thôi. Ai tìm ra được mô hình đó thì sẽ là một kết quả đáng kể.
ML có phải là KH cơ bản không? Không biệt thế nào là KH cơ bản, nhưng tôi sẽ cho nó trong một rọ với statistics, information theory, signal processing, i.e., nó có cả nền tảng lý thuyết cũng như ứng dụng cụ thể như stat vậy. Thực ra với tôi thì, một cách lý tưởng thì ML = stat + computation
Đoạn thuật ngữ tương ứng ở comment 1, tôi quên lời dặn dò khi gõ dấu lớn hơn, nhỏ hơn của bác Hưng. Xin đọc là:
ML/CS: Stats
learning: value estimation
concept: discrete (nominal) output value
learner: model, hypothesis
bounding: confidence interval estimation
unrealizable hypothesis space: misspecified estimation (?)
semi-supervised learning(?): covariate shift (the training and the test distributions are not the same due to unknown reasons).
Tôi chưa rõ ý bác Long về “cosmetic” của PAC. Theo hiểu biết của tôi thì “sample size estimation, (optimal) experiment(al) design” trong stats chủ yếu là cho hàm hồi quy hoặc density estimation, nghĩa là real-valued output.
Tôi không rõ tiêu chuẩn “mainstream” của bác như thế nào. Có vẻ bác ngầm định là “(mainstream) stats” là xử lý (tìm ra 1 quy luật gì đó) trên bộ (mẫu) dữ liệu lớn vô hạn, là phải có kết quả về “asymptotic statistics”?
Khi “data population” là vô hạn (gồm cả dữ liệu động), muốn “học, mô phỏng” quy luật gì đó từ dữ liệu đã có (hữu hạn, non iid due to unknown reasons of sampling and/or labeling) thì có gọi là ML nhưng stats thì sao ạ? Bác sẽ bảo là Bayes stats đã có những “chước” cho những tình huống này rồi?
Tôi có 1 “phản ví dụ” (không điển hình?): “(supervised) learning the ranking function in document retrieval, web search” (tạm gọi theo mấy bác Yahoo! là “subset ranking”). Tôi chưa tìm ra mô hình nào trong thống kê thỏa mãn tất cả các ràng buộc dưới đây:
- ordinal feature vector/instance:
- ordinal value/instance in the ground truth:
- strictly ordered of K top instances at the output:
- cost function is some rank statistics whose the score function isn’t smoothed because they are ordinal values.
Tôi tạm thời nghĩ là ML
stats
computation.
Tôi không chuyên về clustering nên không rõ lắm. Nhưng theo tôi hiểu thì chuyện analyzed cẩn thận manifold/spectral clustering là phần của “probabilistic methods in graph theory, combinatorics”, không phải độc quyền của stats (?)
Tôi không định ép ML là 1 khoa học cơ bản hay khoa học ứng dụng. Theo tôi thì 1 ngành khoa học phải có:
- đối tượng nghiên cứu riêng: cái này là gì với ML thì tôi vẫn mơ hồ
- có vấn đề nghiên cứu:
- phương pháp luận nghiên cứu:
- còn công cụ giải quyết thì có thể vay mượn từ bất kì đâu (các ngành khoa học khác, từ thực tế).
Hi tvhvt,
– cosmetic là ở sự “khác biệt” giữa PAC và những statistical analysis đã có trước đó, vì cả hai đều là phân tích tương quan giữa sample size và statistical performance. Sự khác nhau giữa discrete output và continuous output cũng là cosmetic thôi (về mặt lý thuyết), không phải fundamental. Thực ra thì vấn đề classification chẳng hạn (i.e. discrete output) tương đương với functional estimation (estimating a functional) (cái sau thì bên stats làm mãi rồi, cái đầu thì ML làm nhiều — đây chính là nội dung một bài báo tôi đang nộp
).
– non-i.i.d. data cũng đã/đang được nghiên cứu trong stats nhiều chứ. Bạn chỉ ra một ví dụ là hierchical Bayes models. Tổng quát hơn là họ graphical models (tất nhiên bây giờ coi graphical models là ML hay Stats gì đều được). Cũng đã có asymptotic analysis cho non-iid data, chủ yếu bên stats.
– ví dụ về ranking problem của bạn rất hay. Đó là một ví dụ khá điển hình mà ML nghiên cứu mà bên stats họ không nghĩ tới. Còn rất nhiều ví dụ khác. Đó chính là lý do tôi thích về ML: đây là một ngành có rât nhiều vấn đề mới mẻ và đòi hỏi mô hình mới mẻ. Nhưng cần một mô hình mới mẻ không có nghĩa là bạn phải nhảy ra khỏi phạm trù của Statistical methodologies để giải quyết. Tất nhiên nếu bạn phải nhảy ra ngoài hẳn statistical metholodogies để cầu cứu thì tôi cũng thích thú để học thêm một cái gì đó. Có điều, tôi chưa thấy vấn đề ứng dụng nào trong ML, dẫu rất mới mẻ, mà cách giải quyết lại thực sự nằm ra ngoài phạm vi về phương pháp và công cụ của Stats cả. Song chính các vấn đề mới của ML thường thúc đẩy sự phát triển của Stats, do thêm khía cạnh về computation. Nên nhớ là các ngành KH không đứng yên tại chỗ mà phát triển không ngừng.
– thế nào là mainstream statistics: cái này mỗi người sẽ có quan điểm hơi khác một tí (nhiều), nhưng với tôi thì tạm là như sau: frequentist và Bayesian versions của các problem frameworks (hypothesis testing, estimation, sequential analysis, experiment design), các statistical models (vd, linear/nonlinear, parametric/nonparametric, hierchical) và lý thuyết large sample (i.e. asymptotic statistics). Đây là những thứ bạn có thể thấy trong standard textbook (graduate level) và qua các journals (Annals, JASA, Royal Stat B,…)
– ML nằm ở đâu ? Hiện tại thì với tôi ML chỉ là subset của Stats + Computation. Còn tương lai thì tôi nghĩ ML chính là Stats + Computation, theo định nghĩa!
– những trăn trở của bạn về ML rất đáng suy nghĩ. Về đối tượng nghiên cứu thì ML hiện nay cũng có vấn đề như Statistics vậy. Tuy nhiên vì ML có nguồn gốc lịch sử từ KHMT nên có một số đối tượng riêng như NLP, Vision và holy grail của AI. Về phương pháp luận thì trong quá khứ ML chẳng có phương pháp luận quái gì cả, vô cùng ad hoc và heuristic. Bài blog trên argue là ML phải theo Statistics + computation nữa. Nếu bạn đọc textbooks về Stats (ví dụ, Bickel & Doksum, Theoretical Statistics, hoặc James Berger, Statistical decision theory and Bayesian analysis, quyển đầu thiên về phương pháp luận frequentist, quyển sau thiên về phương pháp luận Bayesian) thì sẽ thấy nhiều vấn đề rất mơ hồ mà ML/AI đối phải trong quá khứ đã đuợc họ suy nghĩ và phát triển rất công phu suốt 100 năm qua. Chỉ có điều họ không có algorithmic/computational expertise mà chúng ta (dân KHMT/ML) có mà thôi. Đó là cái ta có thể đóng góp cho statistics phát triển, thậm chí redefine statistics và ML.
– finally… ta nên có cái nhìn cởi mở và linh động đến tất cả các ngành. Không có vấn đề nào là độc quyền của ngành nào hết. Nếu tôi thấy có connection/contribution với một ngành nào đó thì tôi sẽ bắt quàng làm họ luôn
Hi bác Long,
Tôi sẽ bàn loạn theo trình tự của bác:
- PAC và classif. Có vẻ tranh luận của tôi và bác tạm thời bị lệch pha. Functional estimation for classif, theo tôi hiểu, cho đến nay là “halfspace estimation”. “bias-variance tradeoff” với least-square error đúng với regression nhưng với classif, 0/1-loss thì theo tôi biết vẫn chưa có câu trả lời tử tế. OK, bác đã có vài bài nói về “surrogate convex loss” nhưng tôi sẽ nói tiếp ở phần dưới về “adversary noises”.
Bài báo của bác: có phải bác nói đến bài Preprint Jan07 không? Tôi đã ngó qua bài đó (trước khi 1 ngày không đẹp trời nào đó bác đã gỡ nó xuống
) nhưng chưa hiểu được rõ. Những thắc mắc này thì tôi sẽ khủng bố bác lúc khác vậy.
- “non iid data”. Có vẻ lại có bất đồng ngôn ngữ? Tôi nói đến “non iid data” chủ yếu trong ngữ cảnh supervised, semi, active learning for classif, “frequentist”(?). Còn bác thì tôi nghĩ là đang nói đến “generative model, Bayes approach”?
Bác có thêm ví dụ minh họa nữa về giả thuyết “ML = stats + computation”?
Trường hợp dữ liệu có “adversary noises” tôi nghĩ là sở trường (cần câu cơm?) của dân crypto/ cryptanalysis hơn là dân stats?
- ví dụ “subset ranking”: cảm ơn bác vì lời khen. May là ví dụ của tôi không bị lạc đề. Nhưng bác có hint gì không ạ?
Tôi đính chính một tẹo. Bên stats họ đã nghĩ tới bài “ordinal regression” từ lâu rồi, đã có U-stats, rank stats rồi. Dân econometrics, combinatorics, social choice, … (không có nhu cầu “học” và nhiều trường hợp cũng không có “hindsight/retrospective ground truth” để học) họ cũng đau đầu vì bài “rank aggregation, rank tournament” từ lâu rồi. Cái rắc rối của ví dụ “subset ranking”, theo tôi hiểu, là chồng chập của vài cái NP-hard với yêu cầu của đầu ra “mềm dẻo hơn, thực tế hơn” (top ranking) mà lại thành khó hơn. Tôi rất lơ mơ về computational complexity nên rất có thể cường điệu “NP-hard”. Bài toán này là do dân stats/ML trong IR/NLP đặt ra. Solution hoàn toàn có thể đăng kí patent trước khi có phân tích stats tử tế đấy ạ.
Theo tôi thì cái thúc đẩy stats về mặt “computation” là của bất kì lĩnh vực xử lý dữ liệu nào đòi hỏi “efficient computation”.
- mainstream stats. Sorry bác, nhưng tôi vẫn không hiểu tại sao “on-line learning” lại không được xếp vào “mainstream of stats” cho đến gần đây cả.
- “ML nằm ở đâu?” Từ quan điểm của bác là ML là subset của Stats + Computation và sẽ tiến tới “=” , tôi liều suy diễn thành: ML là kết hợp “rất tuyệt vời” của 2 ngành đã tồn tại lâu đời. Do đó ML hiển nhiên là 1 ngành khoa học mà không có nhu cầu xác định xem đối tượng nghiên cứu là gì, …
Nhưng sau khi xác định phạm vi thế này thì tôi lại quay lại với vài câu thắc mắc rất ấm ớ:
+ ML là một ngành khoa học thì một số nhánh nghiên cứu chính của ML là gì?
+ CS có liên quan như thế nào với cái “rọ” này?
Tôi không rõ lắm về phương pháp luận của ML trong quá khứ. Tôi không rõ bác xếp “statistical pattern recognition” vào vị trí nào trong rọ của bác.
Rất tiếc là tôi chưa đọc 2 quyển textbooks về stats này. Về Bayesian stats thì tôi có đọc quyển của Gelman (Bayesian Data Analysis, 2nd ed.) nhưng chưa nhập tâm được nhiều lắm.
- “những trăn trở của tôi về ML”: “ai” là người suy nghĩ thì hậu xét
- Tôi mà thấy ngành nào có công cụ giải quyết vấn đề của tôi thì tôi cũng chộp luôn thôi
Hi tvhvt,
– OK, khủng bố tôi từng vấn đề riêng một. Ví dụ, issues về PAC/classification thì bạn không hiểu ý tôi nói. Nhưng nó nơi technical, hãy để dịp khác.
– Vấn đề chính ở đây, theo tôi hiểu, bạn đưa ra vài ví dụ mà dân ML đang nghiên cứu, và cho rằng do nó chưa được dân stats nghiên cứu (ít hoặc không tẹo nào), do đó nó không thuộc lĩnh vực stats. Tôi thì nói rằng nếu phương pháp luận để giải quyết những v/d đó mà vẫn dựa chủ yếu vào nền tảng Statistics, thì có thể xem đó là statistical problems cũng được. Đây là quan điểm cá nhân thôi. Tùy mỗi người tự rút ra cho mình. Nếu bạn chỉ quan tâm đến một lĩnh vực application cụ thể thì quả thật coi chúng là gì cũng được, miễn là giải quyết được vấn đề.
– CS và Stats là lâu đời? Hai ngành này có bề dày tương đối, nhung vẫn còn trẻ và còn tiến hóa nhiều.
– Đối tượng nghiên cứu của ML. Tôi chỉ gợi ý là bạn tìm hiểu đối tượng nghiên cứu của Stats là gì, của AI là gì, và sau đó machine learning là gì, và tự rút ra quan điểm cho mình.
– ML là ngành KH thì các nhánh nghiên cứu của nó là gì ? Nó là KH hay không thì với tôi chưa quan trọng
. Đây là ngành còn non trẻ và bạn, người làm nghiên cứu về ML sẽ góp phần định nghĩa nó là gì, và định hướng cho nó. Sẽ dễ hơn nếu bạn đứng trên vai của các bác to đầu rồi định hướng, thay vì tìm cách đứng riêng một mình từ mặt đất.
À bài báo tôi để lên để reviewers họ có thể download, giờ phải gỡ xuống để revise.
Xin chào các anh chị,
Tôi hiện nay đang phải đánh giá ưu nhược điểm của một số phương pháp data mining đối với một số lượng dữ liệu lớn (các dữ liệu về tình trạng công trình như ứng suất, nhiệt độ… từ sensor networks). Thực tình mà nói về lĩnh vực CS hay ML tôi không rành lắm nhưng tôi cho rằng nó hỗ trợ rất tốt cho công việc của tôi. Các anh chị có thể tư vấn thêm 1 số tài liệu, tạp chí, sách, web link… về lĩnh vực này không? Google có khá nhiều kết quả nhưng không rõ their reliable and reputation.
Xin cám ơn
Hi bogice, literature về sensor networks theo tôi hiểu khá hổ lốn (vì cái gì cũng có thể nói bằng ngôn ngữ sensor nets được). Có một conference điển hình là IPSN (Information Processing in Sensor Networks), dân EE (signal processing, information theory), CS (software, hardware, machine learning) gì đều tham gia. Chất lượng nói chung là mixed. Một journal tương ứng cho conference này gọi là ACM Transactions on Sensor Networks. Một số journal khác như IEEE Trans on Signal Processing, IEEE Trans on Automatic Control.
Rất cám ơn anh Xuân Long đã cung cấp một số thông tin như trên. Tôi sẽ tìm hiểu thêm qua nhưng thông tin anh vừa cung cấp.
Thân
Xin giới thiệu sách…
Loạt bài machine learning hay statistics rất hay, cho thấy một tầm nhìn rộng và tổng quát về các mảng trong ML và St. Như đã nói, tôi vẫn khá là mới trong lĩnh vực này và rất mong các anh chị giới thiệu thêm một số sách cơ bản, ngòai các conferences, papers chuyên sâu như anh Xuân Long gợi ý. Hiện nay tôi có tham khảo quyển “Data Mining – Practical machine learning tools and techniques with Java implementation” của Prof. Witten, khá hay và cơ bản.
Xin cám ơn anh chị.
Có một site rất useful với các Video lectures from world leading and prominent scientist, chủ yếu về ML, xin chia sẻ cùng mọi người: http://videolectures.net/
Cảm ơn TTNguyen.
hic hic!!!sao kho hieu zay? e rat mun tim hieu ve linh vuc khoa hoc may tinh….nhung….chua co nhiu kien thuc ve no….e rat mong nhan duoc su jup do cua cac ban…dac biet la nhung nguoi di truoc
thanks much