mongodb內(nèi)存爆了 Mongodb存儲用戶歷史數(shù)據(jù),時間軸展示,怎么查詢效率高?
Mongodb存儲用戶歷史數(shù)據(jù),時間軸展示,怎么查詢效率高?您可以考慮使用mongodb的固定集存儲,但是不允許修改或刪除固定集,并且只能存儲您設(shè)置大小的數(shù)據(jù)。有一定的限制,但查詢非??焖儆行?。也可以
Mongodb存儲用戶歷史數(shù)據(jù),時間軸展示,怎么查詢效率高?
您可以考慮使用mongodb的固定集存儲,但是不允許修改或刪除固定集,并且只能存儲您設(shè)置大小的數(shù)據(jù)。有一定的限制,但查詢非??焖儆行?。也可以使用公共集存儲,根據(jù)時間和用戶ID建立復合索引,提高查詢效率。對于這樣的累積數(shù)據(jù),最好有一個分割線存儲機制。不常用的數(shù)據(jù)應該存儲在其他表中,經(jīng)常需要檢索的數(shù)據(jù)應該分開存儲,因為不是所有用戶每次都需要查詢所有數(shù)據(jù)。歡迎添加更好的方法。
mongodb數(shù)據(jù)庫批量插入海量數(shù)據(jù)時為什么有少部分數(shù)據(jù)丟失?
在了解mongodb之后,我覺得它非常好。適用于海量數(shù)據(jù)的實時插入、更新和查詢。支持多條件查詢和多維索引。與HBase相比,HBase沒有實時插入、更新、查詢海量數(shù)據(jù)的壓力,操作效率與數(shù)據(jù)量無關(guān),即數(shù)據(jù)量不會影響操作效率,但HBase的實時查詢是基于rowkey的查詢,由于HBase只能對rowkey進行索引,只能根據(jù)rowkey進行查詢,無法實現(xiàn)與mongodb相同的多條件查詢。小數(shù)據(jù)的需求對mongodb和HBase沒有影響,因為mongodb和HBase都是數(shù)據(jù)庫,主要用來存儲零碎的小數(shù)據(jù)。所以我覺得mongodb如果只用于海量實時的小數(shù)據(jù)可能會更好,但是如果還需要對數(shù)據(jù)進行統(tǒng)計分析的話,最好考慮統(tǒng)計分析的因素。如果使用MapReduce進行數(shù)據(jù)分析,HBase可能會更好,雖然mongodb也支持Mr.
mysql表數(shù)據(jù)量太大,達到了1億多條數(shù)據(jù),除了分庫分表之外,還有沒有其他的解決方式?
在正常配置下,MySQL只能承載2000萬數(shù)據(jù)(同時讀寫,表中有大的文本字段,單服務(wù)器)?,F(xiàn)在已經(jīng)超過1億,而且還在增加,建議按以下方式處理:
1子表。它可以按時間或一定的規(guī)則進行拆分,以便盡可能地查詢子表中的數(shù)據(jù)庫。這是最有效的方法。特別是寫,放入一個新表,并定期同步。如果記錄不斷更新,最好將寫入的數(shù)據(jù)放在redis中,并定期同步表3的大文本字段,將它們分隔成一個新的獨立表。對于較大的文本字段,可以使用NoSQL數(shù)據(jù)庫
4優(yōu)化體系結(jié)構(gòu),或者優(yōu)化SQL查詢,避免聯(lián)合表查詢,盡量不要使用count(*)、in、recursion等性能消耗語句
5使用內(nèi)存緩存,或者在前端讀取時增加緩存數(shù)據(jù)庫。重復讀取時,直接從緩存中讀取。
以上是一種低成本的管理方法,基本上幾個服務(wù)器就可以做到,但是管理起來有點麻煩。
當然,如果總體數(shù)據(jù)量特別大,并且您不關(guān)心投資成本,請使用集群或tidb