Lab隨記

 原文: http://incompleteideas.net/IncIdeas/BitterLesson.html 70 年的人工智慧研究最大的教訓是，利用計算的通用方法最終是最有效的，而且差距很大。這背後的根本原因是摩爾定律，或者更準確地說，是計算單位成本持續指數級下降的泛化。大多數人工智慧研究都是在假設代理可用的計算量是恒定的情況下進行的（在這種情況下，利用人類知識是提高性能的唯一途徑之一），但在略長於典型研究項目的時間裡，大量更多的計算能力不可避免地會變得可用。研究人員尋求在短期內尋找改進，試圖利用他們對領域的人類知識，但從長遠來看，唯一重要的是利用計算。這兩者不必相互對立，但實踐中它們往往如此。在其中一個上花費的時間就是沒有花在另一個上的時間。人們對於投資這種或那種方法有心理上的承諾。而且，基於人類知識的方法往往以使方法複雜化的方式使其不適合利用利用計算的通用方法。回顧一些最突出的人工智慧研究者晚來的這個苦澀教訓的例子是有啟示性的。   在電腦國際象棋中， 1997 年擊敗世界冠軍卡斯帕羅夫的方法是基於大規模、深度搜索的。當時，這被大多數追求利用人類對國際象棋特殊結構理解的電腦國際象棋研究者們以失望的眼光看待。當一個更簡單、基於搜索的方法配合特殊硬體和軟體證明遠遠更有效時，這些基於人類知識的國際象棋研究者並沒有好好接受失敗。他們說， " 暴力 " 搜索這次可能贏了，但它不是一種通用策略，而且無論如何這不是人們下棋的方式。這些研究者希望基於人類輸入的方法獲勝，並對它們沒有獲勝感到失望。   在電腦圍棋研究中，出現了類似的研究進展模式，只是延遲了 20 年。巨大的初期努力投入到避免搜索中，通過利用人類知識或遊戲的特殊特性，但所有這些努力一旦在規模上有效應用搜索後，都證明是無關緊要的，甚至更糟。同樣重要的是利用自我對弈來學習價值函數的使用（就像在許多其他遊戲中一樣，甚至在 1997 年首次擊敗世界冠軍的程式中的國際象棋中，儘管學習在那個程式中沒有扮演重要角色）。通過自我對弈學習，以及一般的學習，就像搜索一樣，它使得可以利用大量的計算。搜索和學習是利用大量計算進行人工智慧研究的兩個最重要的技術類別。在電腦圍棋中，就像在電腦國際象棋中一樣，研究人員最初的努力是朝著利用人類理解（以便減少搜索的需要）方向發展，只是在很晚之後，...