危急時刻提供可靠幫助，Google 如何運用 AI 提升搜尋安全性? - Google

1. 情報or新聞 連結：
危急時刻提供可靠幫助，Google 如何運用 AI 提升搜尋安全性？
https://technews.tw/2022/04/01/using-ai-to-keep-google-search-safe/

Using AI to keep Google Search safe
https://blog.google/products/search/using-ai-keep-google-search-safe/

2. 內文：
在危急時刻除了尋求他人協助以外，人們也常使用 Google 搜尋求助，比方說有人在
Google 上搜尋關於自殺、家暴的資訊時，就會看到全年無休的協談或是救助熱線。對
Google 而言，不是每一次都能知道人們究竟需要什麼樣的幫助，同時也希望做更多的事
來引導人們獲得需要的資訊。為此，Google 搜尋研究員暨副總裁 Pandu Nayak 撰文說明
，Google 搜尋引擎如何利用 AI 人工智慧模型 MUM，在關鍵時刻提供值得信賴的實用資
訊。


具體來說，Google 透過在 Google I/O 2021 開發者大會就已亮相的 MUM（Multitask
Unified Model），能夠自動、準確偵測危急狀況的搜尋，而且範圍比過去更廣。MUM 可
以更清楚地釐清人們問題背後的意圖，以偵測使用者何時需要協助，這有助於 Google 在
正確的時間點，提供可靠、可執行的資訊。

比方說，使用者在 Google 搜尋「自殺最常見的方式」或「自殺熱門地點」等等，系統過
去可能會理解成一般資訊的搜尋，又或者針對搜尋字詞中的「地點」來提供資訊，而忽略
「自殺」代表的涵意；如今則會顯示能夠提供幫助的具體資訊，例如諮詢機構的協談專線
或網站。

不過，若要確保使用者能夠安全地使用 Google 搜尋功能，就要協助他避開非預期的駭人
內容，而這非常具有挑戰性。

Google 處理這種狀況的方法，有一種是透過安全搜尋功能，讓使用者能選擇是否要過濾
掉煽情露骨的搜尋結果，這項功能會為未滿 18 歲的 Google 用戶預設開啟。就算沒有開
啟安全搜尋功能，只要不是在尋找色情內容，Google 搜尋的系統仍會減少個人所不想要
的色情搜尋結果。

對此 Google 還是有些改善空間，像是也使用 BERT（Bidirectional Encoder
Representations from Transformers）這樣的進階 AI 技術，更加了解使用者在找什麼
。BERT 幫助 Google 理解使用者是否真的在搜尋露骨內容，並大幅減少在搜尋結果中看
到非預期內容的機會。其實光在 2021 年，BERT 的改進已經把那些非預期的駭人搜尋結
果降低 30%，尤其是在搜尋種族、性傾向、性別相關內容時，減少煽情露骨的內容特別有
效。

Google 運用 75 種語言來訓練 MUM，所以它能夠在這些語言中傳遞資訊，這也使
Google 能夠更有效地把保護的規模擴大到全世界。Google 採用 AI 技術協助減少搜尋結
果中無用、甚至是危險的垃圾內容頁面；在接下來的幾個月，會用 MUM 來提升阻擋垃圾
訊息的效能，並且擴展到訓練資訊不太多的語言裡。未來在全世界，Google 將能偵測到
危急狀況的搜尋，並且和當地值得信賴的夥伴合作，以提供具有實用價值的資訊。


3.心得:
(記得附上至少15字心得唷，或是底下推文至少15字亦可)
人身難得，或許在那個關鍵時刻出現的警語可能就會救了當事人一命，或者讓他轉念。

搜尋引擎的過於強大，也是兩面刃。資訊太容易取得，但使用者卻缺乏相對應的分辨能力

。一些家長控制功能，多數都是 Block Domain 其實效果不大。

--
※ 文章網址: https://www.ptt.cc/bbs/Google/M.1648912783.A.001.html
※ 編輯: l98 (188.214.106.10 臺灣), 04/02/2022 23:25:54