TOP 10 開源的推薦系統(tǒng)簡介 - hmy1106的專欄 - 博客頻道 - CSDN.NET
http://blog.csdn.net/hmy1106/article/details/44623703
最 近這兩年推薦系統(tǒng)特別火,本文搜集整理了一些比較好的開源推薦系統(tǒng),即有輕量級的適用于做研究的SVDFeature、LibMF、LibFM等,也有重 量級的適用于工業(yè)系統(tǒng)的 Mahout、Oryx、EasyRecd等,供大家參考。PS:這里的top 10僅代表個人觀點。
1.SVDFeature

主頁:http://svdfeature.apexlab.org/wiki/Main_Page 語言:C++一個feature-based協(xié)同過濾和排序工具,由上海交大Apex實驗室開發(fā),代碼質(zhì)量較高。在KDD Cup 2012中獲得第一名,KDD Cup 2011中獲得第三名,相關論文 發(fā)表在2012的JMLR中,這足以說明它的高大上。SVDFeature 包含一個很靈活的Matrix Factorization推薦框架,能方便的實現(xiàn)SVD、SVD++等方法, 是單模型推薦算法中精度最高的一種。SVDFeature代碼精煉,可以用 相對較少的內(nèi)存實現(xiàn)較大規(guī)模的單機版矩陣分解運算。另外含有Logistic regression的model,可以很方便的用來進行ensemble。
2.LibMF

主頁:http://www.csie.ntu.edu.tw/~cjlin/libmf/ 語言:C++作者Chih-Jen Lin來自大名鼎鼎的臺灣國立大學,他們在機器學習領域享有盛名,近年連續(xù)多屆KDD Cup競賽上均 獲得優(yōu)異成績,并曾連續(xù)多年獲得冠軍。臺灣大學的風格非常務實,業(yè)界常用的LibSVM, Liblinear等都是他們開發(fā)的,開源代碼的效率和質(zhì)量都非常高。LibMF 在矩陣分解的并行化方面作出了很好的貢獻,針對SGD(隨即梯度下降)優(yōu)化方法在并行計算中存在的locking problem和memory discontinuity問題,提出了一種 矩陣分解的高效算法FPSGD(Fast Parallel SGD),根據(jù)計算節(jié)點的個數(shù)來劃分評分矩陣block,并分配計算節(jié)點。系統(tǒng)介紹可以見這篇 論文(ACM Recsys 2013的 Best paper Award)。
3.LibFM

主頁:http://www.libfm.org/ 語言:C++作者是德國Konstanz大學的Steffen Rendle,他用LibFM同時玩轉KDD Cup 2012 Track1和Track2兩個子競賽單元,都取得了很好的成績,說明LibFM是非常管用的利器。LibFM 是專門用于矩陣分解的利器,尤其是其中實現(xiàn)了MCMC(Markov Chain Monte Carlo)優(yōu)化算法,比常見的SGD優(yōu)化方法精度要高,但運算速度要慢一些。當然LibFM中還 實現(xiàn)了SGD、SGDA(Adaptive SGD)、ALS(Alternating Least Squares)等算法。
4.Lenskit

主頁:http://lenskit.grouplens.org/ 語言Java
這個Java開發(fā)的開源推薦系統(tǒng),來自美國的明尼蘇達大學的GroupLens團隊,也是推薦領域知名的測試數(shù)據(jù)集Movielens的作者。該源碼托管在GitHub上,https://github.com/grouplens/lenskit。 主要包含lenskit-api,lenskit-core, lenskit-knn,lenskit-svd,lenskit-slopone,lenskit-parent,lenskit-data- structures,lenskit-eval,lenskit-test等模塊,主要實現(xiàn)了k-NN,SVD,Slope-One等 典型的推薦系統(tǒng)算法。
5.GraphLab

主頁:GraphLab - Collaborative Filtering 語言:C++Graphlab 是基于C++開發(fā)的一個高性能分布式graph處理挖掘系統(tǒng),特點是對迭代的并行計算處理能力強(這方面是hadoop的弱項),由于功能獨 到,GraphLab在業(yè)界名聲很響。 用GraphLab來進行大數(shù)據(jù)量的random walk或graph-based的推薦算法非常有效。Graphlab雖然名氣比較響亮(CMU開發(fā)),但是對一般數(shù)據(jù)量的應用來說可能還用不上。GraphLab 主要實現(xiàn)了ALS,CCD++,SGD,Bias-SGD,SVD++,Weighted-ALS,Sparse-ALS,Non-negative Matrix Factorization,Restarted Lanczos Algorithm等算法。
6.Mahout

主頁:http://mahout.apache.org/ 語言:JavaMahout 是 Apache Software Foundation (ASF) 開發(fā)的一個全新的開源項目,其主要目標是創(chuàng)建一些可伸縮的機器學習算法,供開發(fā)人員在 Apache 在許可下免費 使用。Mahout項目是由 Apache Lucene社區(qū)中對機器學習感興趣的一些成員發(fā)起的,他們希望建立一個可靠、文檔翔實、可伸縮的項目,在其中實現(xiàn)一些常見的用于 聚類和分類的機器學習算法。該社區(qū)最初基于 Ngetal. 的文章 “Map-Reduce for Machine Learning on Multicore”,但此后在發(fā)展中又并入了更多廣泛的機器學習 方法,包括Collaborative Filtering(CF),Dimensionality Reduction,Topic Models等。此外,通過使用 Apache Hadoop 庫,Mahout 可以有效地擴展到云中。在Mahout的Recommendation類算法中,主要有User-Based CF,Item-Based CF,ALS,ALS on Implicit Feedback,Weighted MF,SVD++,Parallel SGD等。
7.Myrrix

主頁:http://myrrix.com/ 語言:JavaMyrrix 最初是Mahout的作者之一Sean Owen基于Mahout開發(fā)的一個試驗性質(zhì)的推薦系統(tǒng)。目前Myrrix已經(jīng)是一個完整的、實時的、可擴展的集群和推薦系統(tǒng),主要 架構分為兩部分:服務層:在線服務,響應請求、數(shù)據(jù)讀入、提供實時推薦;計算層:用于分布式離線計算,在后臺使用分布式機器學習算法為服務層更新機器學習 模型。Myrrix使用這兩個層構建了一個完整的推薦系統(tǒng),服務層是一個HTTP服務器,能夠接收更新,并在毫秒級別內(nèi)計算出更新結果。服務層可以單獨使 用,無需 計算層,它會在本地運行機器學習算法。計算層也可以單獨使用,其本質(zhì)是一系列的Hadoop jobs。目前Myrrix以被 Cloudera 并入Oryx項目。
8.EasyRec

主頁:http://easyrec.org/ 語言:JavaEasyRec 是一個易集成、易擴展、功能強大且具有可視化管理的推薦系統(tǒng),更像一個完整的推薦產(chǎn)品,包括了數(shù)據(jù)錄入模塊、管理模塊、推薦挖掘、離線分析等。 EasyRec可以同時給多個不同的網(wǎng)站提供推薦服務,通過tenant來區(qū)分不同的網(wǎng)站。架設EasyRec服務器,為網(wǎng)站申請tenant,通過 tenant就可以很方便的集成到 網(wǎng)站中。通過各種不同的數(shù)據(jù)收集(view,buy.rating)API收集到網(wǎng)站的用戶行為,EasyRec通過離線分析,就可以產(chǎn)生推薦信息,您的 網(wǎng)站就可以通過 Recommendations和Community Rankings來進行推薦業(yè)務的實現(xiàn)。
9.Waffles

主頁:http://waffles.sourceforge.net/ 語言:C++Waffles 英文原意是蜂蜜甜餅,在這里卻指代一個非常強大的機器學習的開源工具包。Waffles里包含的算法特別多,涉及機器學習的方方面面,推薦系統(tǒng)位于 其中的Waffles_recommend tool,大概只占整個Waffles的1/10的內(nèi)容,其它還有分類、聚類、采樣、降維、數(shù)據(jù)可視化、音頻處理等許許多多工具包,估計 能與之媲美的也就數(shù)Weka了。
10.RapidMiner

主頁:http://rapidminer.com/ 語言:JavaRapidMiner(前 身是Yale)是一個比較成熟的數(shù)據(jù)挖掘解決方案,包括常見的機器學習、NLP、推薦、預測等方法(推薦只占其中很小一部分),而且?guī)в蠫UI的 數(shù)據(jù)分析環(huán)境,數(shù)據(jù)ETL、預處理、可視化、評估、部署等整套系統(tǒng)都有。另外RapidMiner提供commercial license,提供R語言接口,感覺在向著一個商用的 數(shù)據(jù)挖掘公司的方向在前進。======================================分割線======================================
開 源的推薦系統(tǒng)大大小小的還有很多,以上只是介紹了一些在學術界和工業(yè)界比較流行的TOP 10,而且基本上都是用C++/Java實現(xiàn)的,在參考資料[1]、[2]中還提 到的有Crab(Python)、CofiRank(C++)、MyMediaLite(.NET/C#)、PREA(Java)、Python- recsys(Python)、Recommendable(Ruby)、Recommenderlab(R)、 Oryx(Java)、recommendify(Ruby)、RecDB(SQL)等等,當然GitHub上還有更多。。。即有適合單機運行的,也有適 合集群的。雖然使用的編程語言不同,但實現(xiàn) 的算法都大同小異,主要是SVD、SGD、ALS、MF、CF及其改進算法等。
參考資料
[1]推薦系統(tǒng)開源軟件列表匯總和點評[2]開源中國社區(qū) - 搜索:推薦系統(tǒng)
Original Link: http://ibillxia.github.io/blog/2014/03/10/top-10-open-source-recommendation-systems/Attribution - NON-Commercial - ShareAlike - Copyright ? Bill Xia
原文出處:@Cheedoong
相關鏈接
想通過手機客戶端(支持 Android、iPhone 和 Windows Phone)訪問開源中國:請點這里
本站文章除注明轉載外,均為本站原創(chuàng)或編譯歡迎任何形式的轉載,但請務必注明出處,尊重他人勞動共創(chuàng)開源社區(qū)轉載請注明:文章轉載自:開源中國社區(qū) [http://www.oschina.net]本文標題:TOP 10 開源的推薦系統(tǒng)簡介本文地址:http://www.oschina.net/news/51297/top-10-open-source-recommendation-systems
后續(xù)
1、著名的數(shù)據(jù)挖掘工具
http://www.cs.waikato.ac.nz/~ml/weka/downloading.html