大數(shù)據(jù)采集平臺有哪些？謝謝。據(jù)我所知，有幾個大數(shù)據(jù)收集平臺根據(jù)數(shù)據(jù)來源：1。系統(tǒng)日志收集平臺。大多數(shù)企業(yè)都有系統(tǒng)日志采集平臺，在企業(yè)業(yè)務平臺上，每天都會產(chǎn)生大量的日志數(shù)據(jù)。通過對這些日志數(shù)據(jù)的收集和清

大數(shù)據(jù)采集平臺有哪些？

謝謝。據(jù)我所知，有幾個大數(shù)據(jù)收集平臺根據(jù)數(shù)據(jù)來源：

1。系統(tǒng)日志收集平臺。大多數(shù)企業(yè)都有系統(tǒng)日志采集平臺，在企業(yè)業(yè)務平臺上，每天都會產(chǎn)生大量的日志數(shù)據(jù)。通過對這些日志數(shù)據(jù)的收集和清理后的分析，企業(yè)可以發(fā)現(xiàn)這些日志數(shù)據(jù)的潛在價值。

2. 網(wǎng)絡數(shù)據(jù)采集平臺。這種數(shù)據(jù)采集平臺一般都是通過爬蟲來采集的。在服務器上構建爬蟲對目標網(wǎng)站集進行爬網(wǎng)，然后對每天爬網(wǎng)的數(shù)據(jù)進行清理，最終得到企業(yè)所需的數(shù)據(jù)。

3. 數(shù)據(jù)庫收集平臺。這主要是基于企業(yè)的產(chǎn)品。產(chǎn)品與數(shù)據(jù)庫交互產(chǎn)生的數(shù)據(jù)也是有價值的數(shù)據(jù)源，從中可以獲得一些新的用戶需求。

最后，阿里云和騰訊云也是大型大數(shù)據(jù)采集平臺。

運維日志太多，不方便查看怎么辦？

一個非常好的問題。日志是軟件系統(tǒng)中不可缺少的一部分，尤其是在生產(chǎn)環(huán)境中。一旦出現(xiàn)問題，日志中的錯誤信息會觸發(fā)預警系統(tǒng)，然后通過電子郵件、短信甚至電話通知等方式向系統(tǒng)負責人發(fā)出報警。

在故障排除和修復階段，開發(fā)人員和測試人員通常檢查系統(tǒng)日志以分析故障原因。

Elk是一個常見的日志管理系統(tǒng)，包括elasticsearch、logstash和kibana服務。架構圖如下：

以Java spring boot開發(fā)為例，spring boot集成logback，通過logback將日志發(fā)送到logstash，收集操作信息。

在麋鹿系統(tǒng)中，kibana是一個圖形顯示工具。操作、維護和開發(fā)可以根據(jù)配置的查詢條件搜索指定的日志信息。

我作為web應用程序架構師工作了很多年。請關注我，了解更多。

學了java能做什么實際的東西？

學java可以做很多實用的事情，主要看你的興趣所在。如果你喜歡手機開發(fā)，你可以做一個手機操作系統(tǒng)，因為Android是用Java開發(fā)的。如果你想涉足金融行業(yè)，你可以為銀行或投資機構建立他們的交易系統(tǒng)，因為高盛、華旗集團等使用的交易系統(tǒng)都是用Java開發(fā)的。如果你喜歡游戲，可以參考桌面版的minecraft開發(fā)一套游戲；也可以再造一個阿里巴巴。我聽說它們主要是Java棧。

所以，不要糾結于這個問題，只要努力學習。會有個地方給你的！