Thêm von Neumann’s quotes
- With four parameters I can fit an elephant, and with five I can make him wiggle his trunk (link)
- You insist that there is something a machine cannot do. If you will tell me precisely what it is that a machine cannot do then I can always make a machine which wil l do just that!
- You should call it entropy, for two reasons. In the first place your uncertainty function has been used in statistical mechanics under that name, so it already has a name. In the second place, and more important, no one really knows what entropy really is, so in a debate you will always have the advantage.
- Suggesting to Claude Shannon a name for his new uncertainty function, as quoted in Scientific American Vol. 225 No. 3, (1971), p. 180
Chủ đề : Danh ngôn. Bookmark the
permalink. Trackbacks are closed, but you can .
One Comment
“You should call it entropy, for two reasons…” Ha ha! Các bác này hóm thật.
Trong thống kê thôi cũng đã có hai khái niệm entropy. Shannon’s entropy và Kolmogorov’s entropy. Hai khái niệm đều căn bản ở mọi nơi nhưng cũng đủ đển confuse mọi người. Một cái để đo độ phức tạp của lớp hàm số hoặc mô hình. Một cái để đo độ thú vị (thông tin) của một hàm xác suất. Cả hai đều là khái niệm frequentist, và cùng dùng để đánh giá hiệu quả của việc học mô hình thống kê và hypothesis testing.
Gần đây tôi đọc một paper của Tong Zhang (Ann. Stats, 2007) có dùng cả hai khái niệm gắn vào nhau trong cùng một định lý, đọc vô cùng thích thú. Mà lại ở trong ngữ cảnh Bayesian mới hay.