如何用bert模型做翻譯任務？Bert不能做翻譯任務，因為翻譯任務是NLP生成任務，Bert目前不能做。Bert所能做的主要工作如下：1。文本分類任務，如情感分類，2。序列標注任務，如分詞實體識別、詞

如何用bert模型做翻譯任務？

Bert不能做翻譯任務，因為翻譯任務是NLP生成任務，Bert目前不能做。Bert所能做的主要工作如下：1。文本分類任務，如情感分類，2。序列標注任務，如分詞實體識別、詞性標注等。文本分類算法主要包括樸素貝葉斯分類算法、支持向量機分類算法、KNN算法和決策樹算法。

樸素貝葉斯分類算法主要利用文本中特征項和詞的類別的組合概率來估計文本屬于哪個類別的概率。

支持向量機（SVM）主要利用特征提取技術將文本信息轉化為詞向量，然后計算詞向量與訓練類數(shù)據(jù)的相似度。

KNN算法是在訓練集中找到最近的K個文本，并根據(jù)這些文本的分類來預測要分類的文本屬于哪個類別。

決策樹算法是在樹的基礎上建立預測模型，根據(jù)預測模型對文本進行分類預測。

目前文本分類算法常用的有哪些呢？

Transformer是一種基于編碼器-解碼器框架的神經(jīng)網(wǎng)絡模型，用于處理序列間的問題，如機器翻譯、文本分類等。Transformer之所以流行，是因為Bert的預訓練語言模型，因為Bert是基于Transformer的編碼器框架。其中最重要的是transformer提出的一個思想：摒棄了神經(jīng)網(wǎng)絡中RNN和CNN的約束，提出了多頭部注意機制，這是一種自注意機制，有效地提高了模型的性能和效率。所以后期的許多神經(jīng)網(wǎng)絡模型都是在其基礎上的擴展。

你可以理解。變壓器可以看作是RNN和CNN的替代品