python有沒有什么包能判斷文本相似度？安裝Python Levenshtein模塊PIP安裝Python Levenshtein使用Python Levenshtein模塊導(dǎo)入Levenshtei

python有沒有什么包能判斷文本相似度？

安裝Python Levenshtein模塊

PIP安裝Python Levenshtein

使用Python Levenshtein模塊

導(dǎo)入Levenshtein

算法說明

1）萊文施泰因·哈明（STR1，STR2）

計(jì)算漢明距離。STR1和STR2的長(zhǎng)度必須相同。它描述兩個(gè)等長(zhǎng)字符串之間對(duì)應(yīng)位置的不同字符數(shù)。

2). Levenshtein.距離（STR1，STR2）

計(jì)算編輯距離（也稱為L(zhǎng)evenshtein距離）。它描述了將一個(gè)字符串轉(zhuǎn)換為另一個(gè)字符串的最小操作數(shù)，包括插入、刪除和替換。

算法實(shí)現(xiàn)了參考動(dòng)態(tài)規(guī)劃。

3). 列文斯坦比率（STR1，STR2）

計(jì)算萊文斯坦比率。計(jì)算公式r=（sum-ldist）/sum，其中sum是STR1和STR2字符串長(zhǎng)度之和，ldist是類編輯距離

注意：這里的類編輯距離不是2中提到的編輯距離，2中的三個(gè)操作都是1。這里，刪除和插入仍然是1，但是替換為2

這個(gè)設(shè)計(jì)的目的是：比率（“a”，“C”），和=2，根據(jù)2中（2-1）/2=0.5的計(jì)算，“a”和“C”之間沒有重合，這顯然不劃算，但是可以通過替換操作2來解決。

4). Levenshtein.jaro公司（S1，S2）

計(jì)算Jaro距離，

其中m是S1，S2的匹配長(zhǎng)度，當(dāng)一個(gè)位置的字符相同時(shí)，或在

t是切換時(shí)間的一半

5之內(nèi)。）列文施坦.jarou溫克勒（s 1，s 2）

計(jì)算Jaro-Winkler距離：

如何用python計(jì)算文本的相似度？

步驟1：將每個(gè)網(wǎng)頁(yè)文本分割成一袋單詞。第三步：統(tǒng)計(jì)網(wǎng)頁(yè)（文檔）總數(shù)M。第三步：統(tǒng)計(jì)第一個(gè)網(wǎng)頁(yè)n中的字?jǐn)?shù)，計(jì)算第一個(gè)網(wǎng)頁(yè)的第一個(gè)字在網(wǎng)頁(yè)n中出現(xiàn)的次數(shù)，然后計(jì)算出該字在所有文檔M中出現(xiàn)的次數(shù)，則該字的TF IDF為：n/n*1/（M/M）（還有其他規(guī)范化公式，這里是最基本、最直觀的公式）。第四步：重復(fù)第三步計(jì)算網(wǎng)頁(yè)中所有單詞的TF-IDF。第五步：重復(fù)第四步計(jì)算所有網(wǎng)頁(yè)中每個(gè)單詞的TF-IDF值。三。用戶查詢處理的第一步：用戶查詢的分詞。第二步是根據(jù)web數(shù)據(jù)庫(kù)（文檔）的數(shù)據(jù)計(jì)算用戶查詢中每個(gè)詞的TF-IDF值。4余弦相似度用于計(jì)算用戶查詢與每個(gè)網(wǎng)頁(yè)之間的夾角。角度越小，越相似。

歐氏距離和余弦相似度的區(qū)別是什么？

兩者都用于評(píng)估個(gè)體之間的差異。歐氏距離測(cè)量受不同單位標(biāo)度（如秒和毫秒）的影響，因此需要首先對(duì)其進(jìn)行標(biāo)準(zhǔn)化。空間向量余弦角的相似度不受索引尺度的影響，余弦值區(qū)間為[-1,1]。

歐幾里德距離是我們通常所說的兩點(diǎn)線性距離，即n維空間中兩點(diǎn)之間的實(shí)際距離。歐氏距離越小，相似度越大。

余弦相似性通過向量空間中兩個(gè)向量夾角的余弦值來度量?jī)蓚€(gè)個(gè)體之間的差異。應(yīng)注意兩個(gè)向量在方向上的差異，而不是距離或長(zhǎng)度上的差異。兩個(gè)向量越相似，角度越小，余弦值越大。

從下面的三維坐標(biāo)系圖可以看出，歐幾里德距離dis（a，b）測(cè)量空間中每個(gè)點(diǎn)的絕對(duì)距離，它與每個(gè)點(diǎn)的絕對(duì)坐標(biāo)有關(guān)，反映了距離的差異。余弦距離（COSθ）度量的是空間矢量的角度，它反映的是方向（維數(shù)）的差異，而不是距離或值。

例如，a股（400800）從400漲到800，B股（4，8）從4漲到8，B股（4，8），兩者都漲了50%。如果要對(duì)股票的漲幅進(jìn)行度量，可以通過余弦相似度度量發(fā)現(xiàn)a/B股票具有很高的相似度（相同）。如果要度量股票的價(jià)值，就需要用歐幾里德距離來度量。我們發(fā)現(xiàn)a股的價(jià)值顯著高于B股，a股與B股的相似度較低。