SparkStreaming-Kafka通過指定偏移量獲取數(shù)據(jù) 1.數(shù)據(jù)源 '310999003001', '31099900300102201...
投稿
收錄了1篇文章 · 1人關注
SparkStreaming-Kafka通過指定偏移量獲取數(shù)據(jù) 1.數(shù)據(jù)源 '310999003001', '31099900300102201...
專題公告
Spark Streaming 用于流式數(shù)據(jù)的處理。Spark Streaming 支持的數(shù)據(jù)輸入源很多，例如：Kafka、Flume、Twitter、ZeroMQ 和簡單的 TCP 套接字等等。數(shù)據(jù)輸入后可以用 Spark 的高度抽象原語如：map、reduce、join、window 等進行運算。而結果也能保存在很多地方，如 HDFS，數(shù)據(jù)庫等。和 Spark 基于 RDD 的概念很相似，Spark Streaming 使用離散化流(discretized stream)作為抽象表示，...
展開描述{var%20f='http://v.t.sina.com.cn/share/share.php?appkey=1881139527',u=z||d.location,p=['&url=',e(u),'&title=',e(t||d.title),'&source=',e(r),'&sourceUrl=',e(l),'&content=',c||'gb2312','&pic=',e(p||'')].join('');function%20a(){if(!window.open([f,p].join(''),'mb',['toolbar=0,status=0,resizable=1,width=440,height=430,left=',(s.width-440)/2,',top=',(s.height-430)/2].join('')))u.href=[f,p].join('');};if(/Firefox/.test(navigator.userAgent))setTimeout(a,0);else%20a();})(screen,document,encodeURIComponent,'','','https://upload.jianshu.io/collections/images/1999174/Snipaste_2022-11-022224_23-46-57.png', '推薦專題《SparkStreaming》（ 分享自 @簡書 ）','http://m.itdecent.cn/c/00502eebc1ec?utm_campaign=maleskine&utm_content=collection&utm_medium=reader_share&utm_source=weibo','頁面編碼gb2312|utf-8默認gb2312'));){kind=link}