2019 年今日 Google 搜尋用上 BERT 讀懂整句查詢

Google 2019 年 10 月 25 日把 BERT 用於搜尋

Google 於 2019 年 10 月 25 日在官方網誌宣布，把語言模型 BERT 應用到搜尋引擎的排名及精選摘要，稱這是過去五年最大的進步，也是搜尋史上最大的躍進之一。BERT 全名 Bidirectional Encoder Representations from Transformers，是 Google 研究團隊前一年推出並開放原始碼的技術。據 The Verge 報道，新演算法當時已推出數日，影響美國約十分之一的英文搜尋，其他語言及地區稍後跟進。

由「一袋字」到讀懂上文下理

舊演算法把搜尋字句當作「一袋字」，只抽出關鍵詞配對。Google 搜尋副總裁 Pandu Nayak 舉例，搜尋「Can you get medicine for someone pharmacy」時，舊系統只看「藥物」和「藥房」，列出附近藥房；BERT 則明白「for someone」的意思，知道用戶想問可否代人取藥。

BERT 會同時參考一個字前後的所有字，而非逐個由左至右讀，特別擅長處理較長、較口語化的搜尋，以及「for」「to」「no」這類改變意思的小字。

首次動用 Cloud TPU 處理搜尋

Google 表示，部分 BERT 模型複雜得超出傳統硬件的能力，因此首次以最新的 Cloud TPU 處理搜尋結果。據 Wired 報道，Nayak 形容這是 Google 搜尋「過去五年最大的單一正面改變」，但他預計大部分用戶未必察覺。報道又指，BERT 令 Google 在英語以外的語言更準確地挑選精選摘要。

來源

• Understanding searches better than ever before（Google）
• Google is improving 10 percent of searches by understanding language context（The Verge）
• Google Search Now Reads at a Higher Level（Wired）