請問 tag 和斷字的問題? - Google

Sarah avatar
By Sarah
at 2006-08-14T01:47

Table of Contents

: 2. 在資訊檢索時,中文搜尋的缺點「斷字」(不確定是不是這麼說),
: 是什麼意思?解決之道?

中文斷詞 Word Segmentation 用google找應該很多才對...

問題很簡單 舉個例子

"土地公有政策" 可能會被斷成

1. 土地 公有 政策
2. 土地公 有 政策

到底哪種斷詞的方法是對使用者有意義的呢?這就是斷詞的研究囉。

解決之道,一般最簡單的是用2-gram indexing,也就是兩個字當做一個詞來索引。
 
 舉個例子

"土地公有政策" 可以得 土地 地公 公有 有政 政策 這些詞 然後索引到資料庫內

之後使用者只要查 土地 或 政策 就可以找到這個句子。

 簡單的方法缺點當然不少,相信各位應該看的出來。

 比較複雜的方法就是用機率模型,比看哪種pattern機率高。

 以上簡單說明希望可以幫上你的忙~

--
Tags: Google

All Comments

Dora avatar
By Dora
at 2006-08-15T19:45
謝謝。瞭解大概了。:-)

有人跟我一樣嗎(Calendar放在首頁=www.google.com/ig)

Zenobia avatar
By Zenobia
at 2006-08-13T21:32
我將ie的首頁設為www.google.com/ig 然後加入google calendar在首頁 第一次使用時,登入我的google帳戶,選擇記憶密碼 之後每次開啟ie就能自動登入 「但是」, 為什麼我在第一次開啟ie時 明明就已經登入google帳戶了,也顯示了自訂的網頁內容 「calendar ...

信箱無法開啟?

Kristin avatar
By Kristin
at 2006-08-13T17:54
那個 某一天 我的GMAIL信箱突然當了 點收信夾沒反應 也無法寄信 但是可以登出... 在別的電腦試過 OK 爬過文 還是找不到解決的辦法 而且那個某一天 我確定我沒更改我電腦的任何設定 好怪 andgt;andlt; - ...

請問 tag 和斷字的問題?

Jacky avatar
By Jacky
at 2006-08-13T12:05
相關度當然跟字與字之間的距離有關; 有興趣可以找看看 tf-idf、information theory的論文來看。 比如說 I went to Yankee Stadium, where the baseball history lives.這句話, baseball 跟Yankee的關係強不強呢?在inf ...

我想找某人的名字 叫 "李盛"

Franklin avatar
By Franklin
at 2006-08-13T09:22
但是找出來 都是一堆 李盛才 李盛賢的 我只要找兩個字 應該怎麼搜尋呢 ~? -- 住在布偶裡的人 http://0rz.net/0e0Nh - ...

請問 tag 和斷字的問題?

Franklin avatar
By Franklin
at 2006-08-13T02:51
不知道適不適合在此發問,不適合將自刪 ------------------------------------- 1. Blog, 網摘(社會書籤),Flickr...etc. 都有提供 tag(標籤)的功能,通常每個標籤間以空一格來區分, 如果是外國人名呢? Ex:Mariah Carey, ...