大數(shù)據(jù)分析挖掘的發(fā)展現(xiàn)狀

大數(shù)據(jù)分析挖掘的發(fā)展現(xiàn)狀

未來是人工智能的時代，人工智能說到底拼的還是算法模型。因此，天律公司正在研制基于硬件技術(shù)的嵌入式芯片。

2016年流行一個術(shù)語叫做數(shù)據(jù)主義，數(shù)據(jù)主義認(rèn)為整個世界由數(shù)據(jù)流構(gòu)成，數(shù)據(jù)每天以指數(shù)級增長，電話、飛機(jī)、網(wǎng)購、出行都是一個新的數(shù)據(jù)。數(shù)據(jù)將會有越來越重要的作用，同時人的地位慢慢開始下降。未來人的價值取決于對數(shù)據(jù)流的分析解讀能力，因此分析技術(shù)在未來變得越來越重要。

數(shù)據(jù)和人之間將通過算法連接，所以我們推出一個新的概念叫算法經(jīng)濟(jì)或算法革命。傳統(tǒng)的算法很多，如最早的數(shù)學(xué)算法，后來的天文算法，現(xiàn)在的統(tǒng)計學(xué)開啟的算法，但都不能滿足機(jī)器學(xué)算法。追求更智能化正改變著人類的進(jìn)程，數(shù)據(jù)離開了算法就沒有太多的意義。

到了新時代，我們發(fā)現(xiàn)很多是不規(guī)則的非結(jié)構(gòu)化數(shù)據(jù)，更重要的是希望通過機(jī)器做一些事情，這對算法提出了新的要求。人工智能主要包括以生物為基礎(chǔ)的生物智能和以算法為基礎(chǔ)的機(jī)器智能。而機(jī)器智能的核心是數(shù)據(jù)智能，這完全取決于算法。

大數(shù)據(jù)分析的工具是怎么發(fā)展的？第一代是基于關(guān)系型數(shù)據(jù)庫的分析，在這方面中國人比較落后，因此我們推出了馬克威關(guān)系型數(shù)據(jù)庫的分析軟件，現(xiàn)在已經(jīng)有很多用戶了。

而到了大數(shù)據(jù)時代，關(guān)系型數(shù)據(jù)庫不能滿足大量數(shù)據(jù)分析的需求，所以出現(xiàn)一個新的算法—分布式的算法，要調(diào)用分布式存儲的數(shù)據(jù)進(jìn)行分析，就需要分布式的算法體系，到目前為止，算法體系只有一個開源，是簡單的9個算法，而且對計算結(jié)果不敢負(fù)責(zé)，另外是馬克威分布式算法軟件—馬克威云挖掘軟件。

這一點(diǎn)上我們已把傳統(tǒng)的關(guān)系型數(shù)據(jù)庫拋在后面。我們和阿里巴巴合作開發(fā)該軟件，在阿里云測試3000臺服務(wù)器，一張表176億條記錄，68個變量，體積大概是3.4T。這張表是指淘寶的零售表，我們計算的結(jié)果是36秒，這意味著可以做很多的分析。這是真正用了大數(shù)據(jù)算法，不是停留在理論。

馬克威是完全基于分布式架構(gòu)來重新編寫，是真正的分布式軟件，其理念是實(shí)現(xiàn)從數(shù)據(jù)找算法變成算法找數(shù)據(jù)，通過算法逐步計算，然后將結(jié)果累計起來。

就在剛剛完成了分布式不久，Spark RDD用Sca1a語言編寫的分布式內(nèi)存數(shù)據(jù)處理應(yīng)用，馬克威把分布式算法變成分布式內(nèi)存計算，把我們的算法和Spark對接。這意味著當(dāng)下算法的發(fā)展已到了比較新的生態(tài)—分布式內(nèi)存生態(tài)，既可以處理大量數(shù)據(jù)，同時可以快速解決問題。

還有一個發(fā)展趨勢，未來是人工智能的時代，人工智能說到底拼的還是算法模型。因此，天律公司正在研制基于硬件技術(shù)的嵌入式芯片。

機(jī)器智能就是機(jī)器學(xué)習(xí)算法，大部分還是在軟件中運(yùn)行，其速度跟不上工業(yè)設(shè)備的需求。因此我們采用FPGA技術(shù)，把算法做成極速嵌入式的裝置，可以滿足人機(jī)一體化的需求。目前FPGA是最快的技術(shù)，且有很多機(jī)器設(shè)備在用。我們?nèi)〉昧艘恍┏醪匠晒?，第一個應(yīng)用是上海期貨，而期貨高頻交易是因?yàn)榇蠹倚枰斓乜吹叫星椤?/p>

我們推出中國第一個算法交易平臺，這里有一個理念—套裝軟件衰落，算法模型興起?，F(xiàn)在我們將所有的算法重新編寫，編成大量小的模型，部署在云端算法的交易平臺上。我們的理念是第一代互聯(lián)網(wǎng)門戶，如新浪、搜狐、網(wǎng)易；第二代互聯(lián)網(wǎng)交易平臺，如阿里巴巴、京東、1號店；第三代算法平臺，即知識產(chǎn)品、智慧產(chǎn)品在互聯(lián)網(wǎng)的交易。我們正在緊鑼密鼓測試我們的平臺，希望我們的算法能夠?yàn)樯鐣黝I(lǐng)域服務(wù)，由現(xiàn)在的B2B變成B2C或C2B，允許別人把他們的算法模型拿到我們的平臺交易，這是我們開創(chuàng)的新商業(yè)模式。

15年以來，我們專注的一件事情就是算法。我們有算法大全、應(yīng)用模型大全、算法學(xué)院，還有集權(quán)的文檔，并網(wǎng)羅全世界難找到的開源算法。我們將免費(fèi)的算法知識都匯集到一個平臺上，要讓所有的中國人一想到分析和算法，就上馬克威算法平臺。

上海天律信息技術(shù)有限公司董事長 黃暉

天律公司于2001年成立，是中國第一家真正做大數(shù)據(jù)分析化軟件的公司，我們現(xiàn)在是國家統(tǒng)計局“大數(shù)據(jù)與統(tǒng)計建?！钡闹付◤S家，以及全國大學(xué)生統(tǒng)計建模競賽(SUCM)的指定參賽軟件，國家火炬計劃項(xiàng)目、中國商務(wù)智能領(lǐng)軍品牌，國家統(tǒng)計局、海關(guān)總署、商務(wù)部、環(huán)保部、水利部、國家質(zhì)檢總局、上海世博會，阿里巴巴等互聯(lián)網(wǎng)公司，以及一些大型企業(yè)和高校都是我們的客戶。

我們有五大產(chǎn)品，馬克威云挖掘，馬克威分析系統(tǒng)、馬克威決策支持平臺、馬克威算法交易平臺、馬克威硬件極速交易系統(tǒng)。這些系統(tǒng)得到很多金融界朋友的認(rèn)可。（根據(jù)演講內(nèi)容整理，未經(jīng)本人審核）