– Vấn đề chính ở đây, theo tôi hiểu, bạn đưa ra vài ví dụ mà dân ML đang nghiên cứu, và cho rằng do nó chưa được dân stats nghiên cứu (ít hoặc không tẹo nào), do đó nó không thuộc lĩnh vực stats. Tôi thì nói rằng nếu phương pháp luận để giải quyết những v/d đó mà vẫn dựa chủ yếu vào nền tảng Statistics, thì có thể xem đó là statistical problems cũng được. Đây là quan điểm cá nhân thôi. Tùy mỗi người tự rút ra cho mình. Nếu bạn chỉ quan tâm đến một lĩnh vực application cụ thể thì quả thật coi chúng là gì cũng được, miễn là giải quyết được vấn đề.

– CS và Stats là lâu đời? Hai ngành này có bề dày tương đối, nhung vẫn còn trẻ và còn tiến hóa nhiều.

– Đối tượng nghiên cứu của ML. Tôi chỉ gợi ý là bạn tìm hiểu đối tượng nghiên cứu của Stats là gì, của AI là gì, và sau đó machine learning là gì, và tự rút ra quan điểm cho mình.

– ML là ngành KH thì các nhánh nghiên cứu của nó là gì ? Nó là KH hay không thì với tôi chưa quan trọng . Đây là ngành còn non trẻ và bạn, người làm nghiên cứu về ML sẽ góp phần định nghĩa nó là gì, và định hướng cho nó. Sẽ dễ hơn nếu bạn đứng trên vai của các bác to đầu rồi định hướng, thay vì tìm cách đứng riêng một mình từ mặt đất.

Bài báo của bác: có phải bác nói đến bài Preprint Jan07 không? Tôi đã ngó qua bài đó (trước khi 1 ngày không đẹp trời nào đó bác đã gỡ nó xuống ) nhưng chưa hiểu được rõ. Những thắc mắc này thì tôi sẽ khủng bố bác lúc khác vậy.

- “non iid data”. Có vẻ lại có bất đồng ngôn ngữ? Tôi nói đến “non iid data” chủ yếu trong ngữ cảnh supervised, semi, active learning for classif, “frequentist”(?). Còn bác thì tôi nghĩ là đang nói đến “generative model, Bayes approach”?
Bác có thêm ví dụ minh họa nữa về giả thuyết “ML = stats + computation”?
Trường hợp dữ liệu có “adversary noises” tôi nghĩ là sở trường (cần câu cơm?) của dân crypto/ cryptanalysis hơn là dân stats?

- ví dụ “subset ranking”: cảm ơn bác vì lời khen. May là ví dụ của tôi không bị lạc đề. Nhưng bác có hint gì không ạ?
Tôi đính chính một tẹo. Bên stats họ đã nghĩ tới bài “ordinal regression” từ lâu rồi, đã có U-stats, rank stats rồi. Dân econometrics, combinatorics, social choice, … (không có nhu cầu “học” và nhiều trường hợp cũng không có “hindsight/retrospective ground truth” để học) họ cũng đau đầu vì bài “rank aggregation, rank tournament” từ lâu rồi. Cái rắc rối của ví dụ “subset ranking”, theo tôi hiểu, là chồng chập của vài cái NP-hard với yêu cầu của đầu ra “mềm dẻo hơn, thực tế hơn” (top ranking) mà lại thành khó hơn. Tôi rất lơ mơ về computational complexity nên rất có thể cường điệu “NP-hard”. Bài toán này là do dân stats/ML trong IR/NLP đặt ra. Solution hoàn toàn có thể đăng kí patent trước khi có phân tích stats tử tế đấy ạ.

Theo tôi thì cái thúc đẩy stats về mặt “computation” là của bất kì lĩnh vực xử lý dữ liệu nào đòi hỏi “efficient computation”.

- mainstream stats. Sorry bác, nhưng tôi vẫn không hiểu tại sao “on-line learning” lại không được xếp vào “mainstream of stats” cho đến gần đây cả.

- “ML nằm ở đâu?” Từ quan điểm của bác là ML là subset của Stats + Computation và sẽ tiến tới “=” , tôi liều suy diễn thành: ML là kết hợp “rất tuyệt vời” của 2 ngành đã tồn tại lâu đời. Do đó ML hiển nhiên là 1 ngành khoa học mà không có nhu cầu xác định xem đối tượng nghiên cứu là gì, …
Nhưng sau khi xác định phạm vi thế này thì tôi lại quay lại với vài câu thắc mắc rất ấm ớ:
+ ML là một ngành khoa học thì một số nhánh nghiên cứu chính của ML là gì?
+ CS có liên quan như thế nào với cái “rọ” này?

Tôi không rõ lắm về phương pháp luận của ML trong quá khứ. Tôi không rõ bác xếp “statistical pattern recognition” vào vị trí nào trong rọ của bác.

Rất tiếc là tôi chưa đọc 2 quyển textbooks về stats này. Về Bayesian stats thì tôi có đọc quyển của Gelman (Bayesian Data Analysis, 2nd ed.) nhưng chưa nhập tâm được nhiều lắm.

- “những trăn trở của tôi về ML”: “ai” là người suy nghĩ thì hậu xét

- Tôi mà thấy ngành nào có công cụ giải quyết vấn đề của tôi thì tôi cũng chộp luôn thôi