1.5發展歷程
       機器學習是人工智能(artificial intelligence)研究發展到一定階段的必然產物．二十世紀五十年代到七十年代初，人工智能研究處于“推理期”，那時人們以為只要能賦予機器邏輯推理能力，機器就能具有智能，這一階段的代表性工作主要有A. Newell和H. Simon的“邏輯理論家”(Logic Theorist)程序以及此后的“通用問題求解”(General Problem Solving)程序等，這些工作在當時取得了令人振奮的結果，例如，“邏輯理論家”程序在1952年證明了著名數學家羅素和懷特海的名著《數學原理》中的38條定理，在1963年證明了全部52條定理，特別值得一提的是，定理2.85甚至比羅素和懷特海證明得更巧妙．A．Newell和H. Simon因為這方面的工作獲得了1975年圖靈獎．然而，隨著研究向前發展，人們逐漸認識到，僅具有邏輯推理能力是遠遠實現不了人工智能的．E．A. Feigenbaum等人認為，要使機器具有智能，就必須設法使機器擁有知識．在他們的倡導下，從二十世紀七十年代中期開始，人工智能研究進入了“知識期”．在這一時期，大量專家系統問世，在很多應用領域取得了大量成果．E．A．Feigenbaum作為“知識工程”之父在1994年獲得圖靈獎，但是，人們逐漸認識到，專家系統面臨“知識工程瓶頸”，簡單地說，就是由人來把知識總結出來再教給計算機是相當困難的．于是，一些學者想到，如果機器自己能夠學習知識該多好！