工作也一陣子了陪我四年的電腦居然掛了
以前都花爸媽的錢這一次終於可以自己買電腦
不管分期付款還是一次付清都好!還是想要找到CP值高的電腦
上網找CP值高的桌電或是筆記型電腦
現在還沒下決定是這台【acer】TC-780 i5 四核獨顯電腦(i5-7400-8G-1TB-GT730-2G-Win10)+60吋微型投影機好還是有別台推薦?
現在電腦實在太多了不知道要怎麼挑
當然有人推薦【acer】TC-780 i5 四核獨顯電腦(i5-7400-8G-1TB-GT730-2G-Win10)+60吋微型投影機
想了很多最後礙於金錢跟時間的考量我還是選擇買了【acer】TC-780 i5 四核獨顯電腦(i5-7400-8G-1TB-GT730-2G-Win10)+60吋微型投影機
價格合理送貨快速真的是一次好的購物體驗XD
而且因為是在網路上販售並沒有在實體店面所以 沒有那些人事費用價格就可以直接回饋價格給網民
而且很多 知名購物商城加入會員以後會不定時送電子折價券，所以其實買到的價格很多時候都比標價便宜很多
如果在購物商城買的話，除了有詳細的介紹以外，更有保障！！而且速度也很快~
↓↓↓限量折扣的優惠按鈕↓↓↓
※詳細商品規格請參閱商品規格頁籤並依原廠公告為主。
★ 最大支援約60吋投影
★筆電、手機、平板、電視、音箱喇叭、DVD播放器、遊戲主機皆可對應
★ 低耗電量
★ 支援HDMI輸入
★ 支援隨身碟檔案播放
★ 300:1色彩對比度
★ 380g 攜帶方便
★ ABS強化機身外殼
★ LED高效能光源
★ 梯形投影形狀修正
桌上型電腦價格
【acer】TC-780 i5 四核獨顯電腦(i5-7400-8G-1TB-GT730-2G-Win10)+60吋微型投影機
討論,推薦,開箱,CP值,熱賣,團購,便宜,優惠,介紹,排行,精選,特價,周年慶,體驗,限時,品牌電腦推薦,電腦主機推薦,桌上型電腦推薦,筆記型電腦推薦,桌上型電腦價格,筆記型電腦價格,電腦推薦2017
↓↓↓現在馬上點擊購買↓↓↓
另外在推薦我平時會使用的平台可以比較價格找便宜~~
Facebook工程師解疑：AlphaGo為什麼這麼厲害？
Facebook田淵棟解析算法技術：AlphaGo為什麼這麼厲害？
最近我仔細看瞭下AlphaGo在《自然》雜志上發表的文章，寫一些分析給大傢分享。
AlphaGo這個系統主要由幾個部分組成：
走棋網絡（Policy Network），給定當前局面，預測/采樣下一步的走棋。
快速走子（Fast rollout），目標和1一樣，但在適當犧牲走棋質量的條件下，速度要比1快1000倍。
估值網絡（Value Network），給定當前局面，估計是白勝還是黑勝。
蒙特卡羅樹搜索（Monte Carlo Tree Search，MCTS），把以上這三個部分連起來，形成一個完整的系統。
我們的DarkForest和AlphaGo同樣是用4搭建的系統。DarkForest較AlphaGo而言，在訓練時加強瞭1，而少瞭2和3，然後以開源軟件Pachi的缺省策略 （default policy）部分替代瞭2的功能。以下介紹下各部分。
1. 走棋網絡
走棋網絡把當前局面作為輸入，預測/采樣下一步的走棋。它的預測不隻給出最強的一手，而是對棋盤上所有可能的下一著給一個分數。棋盤上有361個點，它就給出361個數，好招的分數比壞招要高。DarkForest在這部分有創新，通過在訓練時預測三步而非一步，提高瞭策略輸出的質量，和他們在使用增強學習進行自我對局後得到的走棋網絡（RL network）的效果相當。當然，他們並沒有在最後的系統中使用增強學習後的網絡，而是用瞭直接通過訓練學習到的網絡（SL network），理由是RL network輸出的走棋缺乏變化，對搜索不利。
有意思的是在AlphaGo為瞭速度上的考慮，隻用瞭寬度為192的網絡，而並沒有使用最好的寬度為384的網絡（見圖2（a）），所以要是GPU更快一點（或者更多一點），AlphaGo肯定是會變得更強的。
所謂的0.1秒走一步，就是純粹用這樣的網絡，下出有最高置信度的合法著法。這種做法一點也沒有做搜索，但是大局觀非常強，不會陷入局部戰鬥中，說它建模瞭“棋感”一點也沒有錯。我們把DarkForest的走棋網絡直接放上KGS就有3d的水平，讓所有人都驚嘆瞭下。可以說，這一波圍棋AI的突破，主要得益於走棋網絡的突破。這個在以前是不可想像的，以前用的是基於規則，或者基於局部形狀再加上簡單線性分類器訓練的走子生成法，需要慢慢調參數年，才有進步。
當然，隻用走棋網絡問題也很多，就我們在DarkForest上看到的來說，會不顧大小無謂爭劫，會無謂脫先，不顧局部死活，對殺出錯，等等。有點像高手不經認真思考的隨手棋。因為走棋網絡沒有價值判斷功能，隻是憑“直覺”在下棋，隻有在加瞭搜索之後，電腦才有價值判斷的能力。
2. 快速走子
那有瞭走棋網絡，為什麼還要做快速走子呢？有兩個原因，首先走棋網絡的運行速度是比較慢的，AlphaGo說是3毫秒，我們這裡也差不多，而快速走子能做到幾微秒級別，差瞭1000倍。所以在走棋網絡沒有返回的時候讓CPU不閑著先搜索起來是很重要的，等到網絡返回更好的著法後，再更新對應的著法信息。
其次，快速走子可以用來評估盤面。由於天文數字般的可能局面數，圍棋的搜索是毫無希望走到底的，搜索到一定程度就要對現有局面做個估分。在沒有估值網絡的時候，不像國象可以通過算棋子的分數來對盤面做比較精確的估值，圍棋盤面的估計得要通過模擬走子來進行，從當前盤面一路走到底，不考慮岔路地算出勝負，然後把勝負值作為當前盤面價值的一個估計。這裡有個需要權衡的地方：在同等時間下，模擬走子的質量高，單次估值精度高但走子速度慢；模擬走子速度快乃至使用隨機走子，雖然單次估值精度低，但可以多模擬幾次算平均值，效果未必不好。所以說，如果有一個質量高又速度快的走子策略，那對於棋力的提高是非常有幫助的。
為瞭達到這個目標，神經網絡的模型就顯得太慢，還是要用傳統的局部特征匹配（local pattern matching）加線性回歸（logistic regression）的方法，這辦法雖然不新但非常好使，幾乎所有的廣告推薦，競價排名，新聞排序，都是用的它。與更為傳統的基於規則的方案相比，它在吸納瞭眾多高手對局之後就具備瞭用梯度下降法自動調參的能力，所以性能提高起來會更快更省心。AlphaGo用這個辦法達到瞭2微秒的走子速度和24.2%的走子準確率。24.2%的意思是說它的最好預測和圍棋高手的下子有0.242的概率是重合的，相比之下，走棋網絡在GPU上用2毫秒能達到57%的準確率。這裡，我們就看到瞭走子速度和精度的權衡。
和訓練深度學習模型不同，快速走子用到瞭局部特征匹配，自然需要一些圍棋的領域知識來選擇局部特征。對此AlphaGo隻提供瞭局部特征的數目（見Extended Table 4），而沒有說明特征的具體細節。我最近也實驗瞭他們的辦法，達到瞭25.1%的準確率和4-5微秒的走子速度，然而全系統整合下來並沒有復現他們的水平。我感覺上24.2%並不能完全概括他們快速走子的棋力，因為隻要走錯關鍵的一步，局面判斷就完全錯誤瞭；而圖2（b）更能體現他們快速走子對盤面形勢估計的精確度，要能達到他們圖2（b）這樣的水準，比簡單地匹配24.2%要做更多的工作，而他們並未在文章中強調這一點。
在AlphaGo有瞭快速走子之後，不需要走棋網絡和估值網絡，不借助任何深度學習和GPU的幫助，不使用增強學習，在單機上就已經達到瞭3d的水平（見Extended Table 7倒數第二行），這是相當厲害的瞭。任何使用傳統方法在單機上達到這個水平的圍棋程序，都需要花費數年的時間。在AlphaGo之前，Aja Huang曾經自己寫過非常不錯的圍棋程序，在這方面相信是有很多的積累的。
3. 估值網絡
AlphaGo的估值網絡可以說是錦上添花的部分，從Fig 2（b）和Extended Table 7來看，沒有它AlphaGo也不會變得太弱，至少還是會在7d-8d的水平。少瞭估值網絡，等級分少瞭480分，但是少瞭走棋網絡，等級分就會少掉800至1000分。特別有意思的是，如果隻用估值網絡來評估局面（2177），那其效果還不及隻用快速走子（2416），隻有將兩個合起來才有更大的提高。我的猜測是，估值網絡和快速走子對盤面估計是互補的，在棋局一開始時，大傢下得比較和氣，估值網絡會比較重要；但在有復雜的死活或是對殺時，通過快速走子來估計盤面就變得更重要瞭。考慮到估值網絡是整個系統中最難訓練的部分（需要三千萬局自我對局），我猜測它是最晚做出來並且最有可能能進一步提高的。
關於估值網絡訓練數據的生成，值得註意的是文章中的附錄小字部分。與走棋網絡不同，每一盤棋隻取一個樣本來訓練以避免過擬合，不然對同一對局而言輸入稍有不同而輸出都相同，對訓練是非常不利的。遊戲筆電推薦2017這就是為什麼需要三千萬局，而非三千萬個盤面的原因。對於每局自我對局，取樣本是很有講究的，先用SL network保證走棋的多樣性，然後隨機走子，取盤面，然後用更精確的RL network走到底以得到最正確的勝負估計。當然這樣做的效果比用單一網絡相比好多少，我不好說。
一個讓我吃驚的地方是，他們完全沒有做任何局部死活/對殺分析，純粹是用暴力訓練法訓練出一個相當不錯的估值網絡。這在一定程度上說明深度卷積網絡（DCNN）有自動將問題分解成子問題，並分別解決的能力。
另外，我猜測他們在取訓練樣本時，判定最終勝負用的是中國規則。所以說三月和李世石對局的時候也要求用中國規則，不然如果換成別的規則，就需要重新訓練估值網絡（雖然我估計結果差距不會太大）。至於為什麼一開始就用的中國規則，我的猜測是編程非常方便（我在寫DarkForest的時候也是這樣覺得的）。
4. 蒙特卡羅樹搜索
這部分基本用的是傳統方法，沒有太多可以評論的，他們用的是帶先驗的UCT，即先考慮DCNN認為比較好的著法，然後等到每個著法探索次數多瞭，選擇更相信探索得來的勝率值。而DarkForest則直接選瞭DCNN推薦的前3或是前5的著法進行搜索。我初步試驗下來效果差不多，當然他們的辦法更靈活些，在允許使用大量搜索次數的情況下，他們的辦法可以找到一些DCNN認為不好但卻對局面至關重要的著法。
一個有趣的地方是在每次搜索到葉子節點時，沒有立即展開葉子節點，而是等到訪問次數到達一定數目（40）才展開，這樣避免產生太多的分支，分散搜索的註意力，也能節省GPU的寶貴資源，同時在展開時，對葉節點的盤面估值會更準確些。除此之外，他們也用瞭一些技巧，以在搜索一開始時，避免多個線程同時搜索一路變化，這部分我們在DarkForest中也註意到瞭，並且做瞭改進。
5. 總結
總的來說，這整篇文章是一個系統性的工作，而不是一兩個小點有瞭突破就能達到的勝利。在成功背後，是作者們，特別是兩位第一作者David Silver和Aja Huang，在博士階段及畢業以後五年以上的積累，非一朝一夕所能完成的。他們能做出AlphaGo並享有現在的榮譽，是實至名歸的。
從以上分析也可以看出，與之前的圍棋系統相比，AlphaGo較少依賴圍棋的領域知識，但還遠未達到通用系統的程度。職業棋手可以在看過瞭寥寥幾局之後明白對手的風格並采取相應策略，一位資深遊戲玩傢也可以在玩一個新遊戲幾次後很快上手，但到目前為止，人工智能系統要達到人類水平，還是需要大量樣本的訓練的。可以說，沒有千年來眾多棋手在圍棋上的積累，就沒有圍棋AI的今天。
在AlphaGo中，增強學習（Reinforcement Learning）所扮演的角色並沒有想像中那麼大。在理想情況下，我們希望人工智能系統能在對局中動態地適應環境和對手的招式並且找到辦法反制之，但是在AlphaGo中增強學習更多地是用於提供更多質量更好的樣本，給有監督學習（Supervised Learning）以訓練出更好的模型。在這方面增強學習還有很長的路要走。
另外，據他們的文章所言，AlphaGo整個系統在單機上已具有瞭職業水平，若是谷歌願意開幾萬臺機器和李世石對決（這對它來說再容易不過瞭，改個參數就行），相信比賽會非常精彩。
下面是根據讀者提問做的一些更新。
問題1：“Alphago的MCTS做rollout的時候，除瞭使用快速走子，還用瞭搜索樹的已有部分，看起來像是AMAF/RAVE反過來：AMAF是把快速走子的信息傳導到樹的其它無關部分，Alphago是把樹的其它無關部分拿來增強快速走子。我懷疑這是不是它棋力比其它DCNN+MCTS強的原因之一。“
這個辦法在解死活題的文章中出現過，會在一定程度上提高搜索效率，但是提高多少還不知道。
問題2：“rollout的走法質量變好可能會導致棋力下降。”
這裡要分兩種情況，tree policy和default policy。在AlphaGo的文章裡面已經說過瞭，tree policy的分佈不能太尖，不然在搜索時太過重視一些看起來的好著，可能使得棋力下降。但是除瞭這種原因，一般來說tree policy變好棋力還是會變強的。
default policy這邊，即（半）隨機走子到最後然後判分，就很復雜瞭，質量變好未必對局面能估得更準。default policy需要保證的是每塊棋的死活大體正確，不要把死的棋下成活的或者反之，而對大局觀的要求反而沒有那麼高。雙方完全可以配合著把每塊棋下完，然後轉戰另一塊，而不是說搶在對方前去別處占先手。
（雷鋒網）
大學生筆電推薦2017
【acer】TC-780 i5 四核獨顯電腦(i5-7400-8G-1TB-GT730-2G-Win10)+60吋微型投影機筆電推薦【acer】TC-780 i5 四核獨顯電腦(i5-7400-8G-1TB-GT730-2G-Win10)+60吋微型投影機筆電推薦2017 【acer】TC-780 i5 四核獨顯電腦(i5-7400-8G-1TB-GT730-2G-Win10)+60吋微型投影機 電腦價格【acer】TC-780 i5 四核獨顯電腦(i5-7400-8G-1TB-GT730-2G-Win10)+60吋微型投影機主機推薦 【acer】TC-780 i5 四核獨顯電腦(i5-7400-8G-1TB-GT730-2G-Win10)+60吋微型投影機推薦品牌 【acer】TC-780 i5 四核獨顯電腦(i5-7400-8G-1TB-GT730-2G-Win10)+60吋微型投影機筆電評價【acer】TC-780 i5 四核獨顯電腦(i5-7400-8G-1TB-GT730-2G-Win10)+60吋微型投影機學生筆電推薦【acer】TC-780 i5 四核獨顯電腦(i5-7400-8G-1TB-GT730-2G-Win10)+60吋微型投影機電競筆電推薦【acer】TC-780 i5 四核獨顯電腦(i5-7400-8G-1TB-GT730-2G-Win10)+60吋微型投影機 i7主機推薦 i5主機推薦 您或許有興趣的東西:
以前都花爸媽的錢這一次終於可以自己買電腦
不管分期付款還是一次付清都好!還是想要找到CP值高的電腦
上網找CP值高的桌電或是筆記型電腦現在還沒下決定是這台【acer】TC-780 i5 四核獨顯電腦(i5-7400-8G-1TB-GT730-2G-Win10)+60吋微型投影機好還是有別台推薦?
現在電腦實在太多了不知道要怎麼挑
當然有人推薦【acer】TC-780 i5 四核獨顯電腦(i5-7400-8G-1TB-GT730-2G-Win10)+60吋微型投影機
想了很多最後礙於金錢跟時間的考量我還是選擇買了【acer】TC-780 i5 四核獨顯電腦(i5-7400-8G-1TB-GT730-2G-Win10)+60吋微型投影機
價格合理送貨快速真的是一次好的購物體驗XD
而且因為是在網路上販售並沒有在實體店面所以 沒有那些人事費用價格就可以直接回饋價格給網民
而且很多 知名購物商城加入會員以後會不定時送電子折價券，所以其實買到的價格很多時候都比標價便宜很多
如果在購物商城買的話，除了有詳細的介紹以外，更有保障！！而且速度也很快~
↓↓↓限量折扣的優惠按鈕↓↓↓
- 品號：4941500
- Intel i5-7400
- 8GB DDR4
- 1TB
- 支援HDMI輸入
- ABS強化機身外殼
※詳細商品規格請參閱商品規格頁籤並依原廠公告為主。
★ 最大支援約60吋投影
★筆電、手機、平板、電視、音箱喇叭、DVD播放器、遊戲主機皆可對應
★ 低耗電量
★ 支援HDMI輸入
★ 支援隨身碟檔案播放
★ 300:1色彩對比度
★ 380g 攜帶方便
★ ABS強化機身外殼
★ LED高效能光源
★ 梯形投影形狀修正
桌上型電腦價格
| 品牌名稱 | |
|---|---|
| 防水等級 |
|
| 螢幕類型 |
|
| 特殊功能 |
|
| 心率區間 |
|
| 操作介面 |
|
| Intel處理器 |
|
| 顯示卡 |
|
| 記憶體 |
|
| 硬碟 |
|
| 作業系統 |
|
| 螢幕尺寸 |
|
| 螢幕功能 |
|
| 固態硬碟 |
|
【acer】TC-780 i5 四核獨顯電腦(i5-7400-8G-1TB-GT730-2G-Win10)+60吋微型投影機
討論,推薦,開箱,CP值,熱賣,團購,便宜,優惠,介紹,排行,精選,特價,周年慶,體驗,限時,品牌電腦推薦,電腦主機推薦,桌上型電腦推薦,筆記型電腦推薦,桌上型電腦價格,筆記型電腦價格,電腦推薦2017
↓↓↓現在馬上點擊購買↓↓↓
另外在推薦我平時會使用的平台可以比較價格找便宜~~
| 寶貝用品購物網推薦 | ||
| | 專門賣寶寶天然的清潔用品~~ | |
 | 韓國首選婦幼產品，既時尚又實用 | |
| | 適合給新手爸媽的嬰兒購物網，一應俱全! | |
| 各大購物網快速連結 | ||
 | 東森購物網 | 性質大多相同 建議每一家搜尋要購買的品項後 比對出能折價卷能扣最多的一家來消費保養品、化妝品我比較常在momo購物網買，切記是"購物網"才有正品保障!! |
 | 森森購物網 | |
 | udn買東西 | |
 | MOMO購物網 | |
 | 瘋狂麥克 | 有時候新鮮貨我都在瘋狂麥克找，基本上想找的，瘋狂賣客都會賣~ |
Facebook工程師解疑：AlphaGo為什麼這麼厲害？
Facebook田淵棟解析算法技術：AlphaGo為什麼這麼厲害？
最近我仔細看瞭下AlphaGo在《自然》雜志上發表的文章，寫一些分析給大傢分享。
AlphaGo這個系統主要由幾個部分組成：
走棋網絡（Policy Network），給定當前局面，預測/采樣下一步的走棋。
快速走子（Fast rollout），目標和1一樣，但在適當犧牲走棋質量的條件下，速度要比1快1000倍。
估值網絡（Value Network），給定當前局面，估計是白勝還是黑勝。
蒙特卡羅樹搜索（Monte Carlo Tree Search，MCTS），把以上這三個部分連起來，形成一個完整的系統。
我們的DarkForest和AlphaGo同樣是用4搭建的系統。DarkForest較AlphaGo而言，在訓練時加強瞭1，而少瞭2和3，然後以開源軟件Pachi的缺省策略 （default policy）部分替代瞭2的功能。以下介紹下各部分。
1. 走棋網絡
走棋網絡把當前局面作為輸入，預測/采樣下一步的走棋。它的預測不隻給出最強的一手，而是對棋盤上所有可能的下一著給一個分數。棋盤上有361個點，它就給出361個數，好招的分數比壞招要高。DarkForest在這部分有創新，通過在訓練時預測三步而非一步，提高瞭策略輸出的質量，和他們在使用增強學習進行自我對局後得到的走棋網絡（RL network）的效果相當。當然，他們並沒有在最後的系統中使用增強學習後的網絡，而是用瞭直接通過訓練學習到的網絡（SL network），理由是RL network輸出的走棋缺乏變化，對搜索不利。
有意思的是在AlphaGo為瞭速度上的考慮，隻用瞭寬度為192的網絡，而並沒有使用最好的寬度為384的網絡（見圖2（a）），所以要是GPU更快一點（或者更多一點），AlphaGo肯定是會變得更強的。
所謂的0.1秒走一步，就是純粹用這樣的網絡，下出有最高置信度的合法著法。這種做法一點也沒有做搜索，但是大局觀非常強，不會陷入局部戰鬥中，說它建模瞭“棋感”一點也沒有錯。我們把DarkForest的走棋網絡直接放上KGS就有3d的水平，讓所有人都驚嘆瞭下。可以說，這一波圍棋AI的突破，主要得益於走棋網絡的突破。這個在以前是不可想像的，以前用的是基於規則，或者基於局部形狀再加上簡單線性分類器訓練的走子生成法，需要慢慢調參數年，才有進步。
當然，隻用走棋網絡問題也很多，就我們在DarkForest上看到的來說，會不顧大小無謂爭劫，會無謂脫先，不顧局部死活，對殺出錯，等等。有點像高手不經認真思考的隨手棋。因為走棋網絡沒有價值判斷功能，隻是憑“直覺”在下棋，隻有在加瞭搜索之後，電腦才有價值判斷的能力。
2. 快速走子
那有瞭走棋網絡，為什麼還要做快速走子呢？有兩個原因，首先走棋網絡的運行速度是比較慢的，AlphaGo說是3毫秒，我們這裡也差不多，而快速走子能做到幾微秒級別，差瞭1000倍。所以在走棋網絡沒有返回的時候讓CPU不閑著先搜索起來是很重要的，等到網絡返回更好的著法後，再更新對應的著法信息。
其次，快速走子可以用來評估盤面。由於天文數字般的可能局面數，圍棋的搜索是毫無希望走到底的，搜索到一定程度就要對現有局面做個估分。在沒有估值網絡的時候，不像國象可以通過算棋子的分數來對盤面做比較精確的估值，圍棋盤面的估計得要通過模擬走子來進行，從當前盤面一路走到底，不考慮岔路地算出勝負，然後把勝負值作為當前盤面價值的一個估計。這裡有個需要權衡的地方：在同等時間下，模擬走子的質量高，單次估值精度高但走子速度慢；模擬走子速度快乃至使用隨機走子，雖然單次估值精度低，但可以多模擬幾次算平均值，效果未必不好。所以說，如果有一個質量高又速度快的走子策略，那對於棋力的提高是非常有幫助的。
為瞭達到這個目標，神經網絡的模型就顯得太慢，還是要用傳統的局部特征匹配（local pattern matching）加線性回歸（logistic regression）的方法，這辦法雖然不新但非常好使，幾乎所有的廣告推薦，競價排名，新聞排序，都是用的它。與更為傳統的基於規則的方案相比，它在吸納瞭眾多高手對局之後就具備瞭用梯度下降法自動調參的能力，所以性能提高起來會更快更省心。AlphaGo用這個辦法達到瞭2微秒的走子速度和24.2%的走子準確率。24.2%的意思是說它的最好預測和圍棋高手的下子有0.242的概率是重合的，相比之下，走棋網絡在GPU上用2毫秒能達到57%的準確率。這裡，我們就看到瞭走子速度和精度的權衡。
和訓練深度學習模型不同，快速走子用到瞭局部特征匹配，自然需要一些圍棋的領域知識來選擇局部特征。對此AlphaGo隻提供瞭局部特征的數目（見Extended Table 4），而沒有說明特征的具體細節。我最近也實驗瞭他們的辦法，達到瞭25.1%的準確率和4-5微秒的走子速度，然而全系統整合下來並沒有復現他們的水平。我感覺上24.2%並不能完全概括他們快速走子的棋力，因為隻要走錯關鍵的一步，局面判斷就完全錯誤瞭；而圖2（b）更能體現他們快速走子對盤面形勢估計的精確度，要能達到他們圖2（b）這樣的水準，比簡單地匹配24.2%要做更多的工作，而他們並未在文章中強調這一點。
在AlphaGo有瞭快速走子之後，不需要走棋網絡和估值網絡，不借助任何深度學習和GPU的幫助，不使用增強學習，在單機上就已經達到瞭3d的水平（見Extended Table 7倒數第二行），這是相當厲害的瞭。任何使用傳統方法在單機上達到這個水平的圍棋程序，都需要花費數年的時間。在AlphaGo之前，Aja Huang曾經自己寫過非常不錯的圍棋程序，在這方面相信是有很多的積累的。
3. 估值網絡
AlphaGo的估值網絡可以說是錦上添花的部分，從Fig 2（b）和Extended Table 7來看，沒有它AlphaGo也不會變得太弱，至少還是會在7d-8d的水平。少瞭估值網絡，等級分少瞭480分，但是少瞭走棋網絡，等級分就會少掉800至1000分。特別有意思的是，如果隻用估值網絡來評估局面（2177），那其效果還不及隻用快速走子（2416），隻有將兩個合起來才有更大的提高。我的猜測是，估值網絡和快速走子對盤面估計是互補的，在棋局一開始時，大傢下得比較和氣，估值網絡會比較重要；但在有復雜的死活或是對殺時，通過快速走子來估計盤面就變得更重要瞭。考慮到估值網絡是整個系統中最難訓練的部分（需要三千萬局自我對局），我猜測它是最晚做出來並且最有可能能進一步提高的。
關於估值網絡訓練數據的生成，值得註意的是文章中的附錄小字部分。與走棋網絡不同，每一盤棋隻取一個樣本來訓練以避免過擬合，不然對同一對局而言輸入稍有不同而輸出都相同，對訓練是非常不利的。遊戲筆電推薦2017這就是為什麼需要三千萬局，而非三千萬個盤面的原因。對於每局自我對局，取樣本是很有講究的，先用SL network保證走棋的多樣性，然後隨機走子，取盤面，然後用更精確的RL network走到底以得到最正確的勝負估計。當然這樣做的效果比用單一網絡相比好多少，我不好說。
一個讓我吃驚的地方是，他們完全沒有做任何局部死活/對殺分析，純粹是用暴力訓練法訓練出一個相當不錯的估值網絡。這在一定程度上說明深度卷積網絡（DCNN）有自動將問題分解成子問題，並分別解決的能力。
另外，我猜測他們在取訓練樣本時，判定最終勝負用的是中國規則。所以說三月和李世石對局的時候也要求用中國規則，不然如果換成別的規則，就需要重新訓練估值網絡（雖然我估計結果差距不會太大）。至於為什麼一開始就用的中國規則，我的猜測是編程非常方便（我在寫DarkForest的時候也是這樣覺得的）。
4. 蒙特卡羅樹搜索
這部分基本用的是傳統方法，沒有太多可以評論的，他們用的是帶先驗的UCT，即先考慮DCNN認為比較好的著法，然後等到每個著法探索次數多瞭，選擇更相信探索得來的勝率值。而DarkForest則直接選瞭DCNN推薦的前3或是前5的著法進行搜索。我初步試驗下來效果差不多，當然他們的辦法更靈活些，在允許使用大量搜索次數的情況下，他們的辦法可以找到一些DCNN認為不好但卻對局面至關重要的著法。
一個有趣的地方是在每次搜索到葉子節點時，沒有立即展開葉子節點，而是等到訪問次數到達一定數目（40）才展開，這樣避免產生太多的分支，分散搜索的註意力，也能節省GPU的寶貴資源，同時在展開時，對葉節點的盤面估值會更準確些。除此之外，他們也用瞭一些技巧，以在搜索一開始時，避免多個線程同時搜索一路變化，這部分我們在DarkForest中也註意到瞭，並且做瞭改進。
5. 總結
總的來說，這整篇文章是一個系統性的工作，而不是一兩個小點有瞭突破就能達到的勝利。在成功背後，是作者們，特別是兩位第一作者David Silver和Aja Huang，在博士階段及畢業以後五年以上的積累，非一朝一夕所能完成的。他們能做出AlphaGo並享有現在的榮譽，是實至名歸的。
從以上分析也可以看出，與之前的圍棋系統相比，AlphaGo較少依賴圍棋的領域知識，但還遠未達到通用系統的程度。職業棋手可以在看過瞭寥寥幾局之後明白對手的風格並采取相應策略，一位資深遊戲玩傢也可以在玩一個新遊戲幾次後很快上手，但到目前為止，人工智能系統要達到人類水平，還是需要大量樣本的訓練的。可以說，沒有千年來眾多棋手在圍棋上的積累，就沒有圍棋AI的今天。
在AlphaGo中，增強學習（Reinforcement Learning）所扮演的角色並沒有想像中那麼大。在理想情況下，我們希望人工智能系統能在對局中動態地適應環境和對手的招式並且找到辦法反制之，但是在AlphaGo中增強學習更多地是用於提供更多質量更好的樣本，給有監督學習（Supervised Learning）以訓練出更好的模型。在這方面增強學習還有很長的路要走。
另外，據他們的文章所言，AlphaGo整個系統在單機上已具有瞭職業水平，若是谷歌願意開幾萬臺機器和李世石對決（這對它來說再容易不過瞭，改個參數就行），相信比賽會非常精彩。
下面是根據讀者提問做的一些更新。
問題1：“Alphago的MCTS做rollout的時候，除瞭使用快速走子，還用瞭搜索樹的已有部分，看起來像是AMAF/RAVE反過來：AMAF是把快速走子的信息傳導到樹的其它無關部分，Alphago是把樹的其它無關部分拿來增強快速走子。我懷疑這是不是它棋力比其它DCNN+MCTS強的原因之一。“
這個辦法在解死活題的文章中出現過，會在一定程度上提高搜索效率，但是提高多少還不知道。
問題2：“rollout的走法質量變好可能會導致棋力下降。”
這裡要分兩種情況，tree policy和default policy。在AlphaGo的文章裡面已經說過瞭，tree policy的分佈不能太尖，不然在搜索時太過重視一些看起來的好著，可能使得棋力下降。但是除瞭這種原因，一般來說tree policy變好棋力還是會變強的。
default policy這邊，即（半）隨機走子到最後然後判分，就很復雜瞭，質量變好未必對局面能估得更準。default policy需要保證的是每塊棋的死活大體正確，不要把死的棋下成活的或者反之，而對大局觀的要求反而沒有那麼高。雙方完全可以配合著把每塊棋下完，然後轉戰另一塊，而不是說搶在對方前去別處占先手。
（雷鋒網）
大學生筆電推薦2017
【acer】TC-780 i5 四核獨顯電腦(i5-7400-8G-1TB-GT730-2G-Win10)+60吋微型投影機筆電推薦【acer】TC-780 i5 四核獨顯電腦(i5-7400-8G-1TB-GT730-2G-Win10)+60吋微型投影機筆電推薦2017 【acer】TC-780 i5 四核獨顯電腦(i5-7400-8G-1TB-GT730-2G-Win10)+60吋微型投影機 電腦價格【acer】TC-780 i5 四核獨顯電腦(i5-7400-8G-1TB-GT730-2G-Win10)+60吋微型投影機主機推薦 【acer】TC-780 i5 四核獨顯電腦(i5-7400-8G-1TB-GT730-2G-Win10)+60吋微型投影機推薦品牌 【acer】TC-780 i5 四核獨顯電腦(i5-7400-8G-1TB-GT730-2G-Win10)+60吋微型投影機筆電評價【acer】TC-780 i5 四核獨顯電腦(i5-7400-8G-1TB-GT730-2G-Win10)+60吋微型投影機學生筆電推薦【acer】TC-780 i5 四核獨顯電腦(i5-7400-8G-1TB-GT730-2G-Win10)+60吋微型投影機電競筆電推薦【acer】TC-780 i5 四核獨顯電腦(i5-7400-8G-1TB-GT730-2G-Win10)+60吋微型投影機 i7主機推薦 i5主機推薦 您或許有興趣的東西:
-
#KEY_LIST_START#
- $2 #KEY_LIST_END#
- 電腦推薦【ASUS 華碩】UX430UQ 14吋 FHD窄邊框輕薄筆電-皇家藍(i5-7200U-8G-512G SSD-940MX-2G-W10)+1TB 纖薄硬碟只剩此檔
- 電腦推薦【2016最新版】◆日本制 公司貨◆ SONY 公司貨 CR-1632-CR1632(20顆入)特價下殺
- 電腦推薦【ASUS拆封福利品】ZenPad 3 8.0 Z581KL(4G-32G 7.9吋平板)只剩此檔
AUGI SPORTS｜重機車靴｜重機車靴推薦｜重機專用車靴｜重機防摔鞋｜重機防摔鞋推薦｜重機防摔鞋
AUGI SPORTS｜augisports｜racing boots｜urban boots｜motorcycle boots
文章標籤
全站熱搜
留言列表
