[toc] 背景知識(shí): Spark與Hadoop差異 Spark是在借鑒了MapReduce之上發(fā)展而來(lái)的，繼承了其分布式并行計(jì)算的優(yōu)點(diǎn)并改進(jìn)了MapReduce明顯的缺陷，...
發(fā)簡(jiǎn)信
IP屬地：江蘇
-
怎樣高效使用spark？ -
2021-06-28 ch22 transfomer為什么要layer Norm ？隨著網(wǎng)絡(luò)層數(shù)增加，特征分布會(huì)變化，為了保持特征分布的穩(wěn)定性，加速收斂layer Norm 和 Batch Norm 的區(qū)別？都是 均值0 方...
-
2021-06-27 ch22 注意力機(jī)制為什么需要注意力機(jī)制？理解文本、圖片信息，能記住的信息是有限的，模型要利用好每一刻有用的部分，把注意力放在某一個(gè)部分seq2seq 存在1、長(zhǎng)依賴的梯度消失問(wèn)題；2、瓶頸問(wèn)題...
-
你好，文中有好幾處公式?jīng)]有正常加載出來(lái)
論文筆記 | SIGIR2019 | Warm Up Cold-start Advertisements: Improving CTR Predictions via Learning to L...
論文地址：https://arxiv.org/abs/1904.11547 官方代碼：https://github.com/Feiyang/MetaEmbedding 一 為...
-
2021-06-17 ch21 詞向量review
詞向量：和獨(dú)熱編碼不同的是，可以表示一個(gè)詞的含義，但無(wú)法表示一詞多義 訓(xùn)練詞向量的方法：基于非語(yǔ)言模型的方法：CBOW Skip-gram基于語(yǔ)言模型的方法：seq2seq ...
-
2021-05-09 ch11 語(yǔ)言模型語(yǔ)言模型：用于判斷一句話是否語(yǔ)法通順給已經(jīng)訓(xùn)練好的語(yǔ)言模型可以對(duì)任何一個(gè)文本給出概率，概率越高說(shuō)明語(yǔ)法上越通順 鏈?zhǔn)礁怕?P(今天是周日) = P(今天)P(是|今天)P(周...
-
2021-05-15 ch19 seq2seqseq2seq應(yīng)用場(chǎng)景：文本生成：翻譯、看圖說(shuō)話、生成摘要 文本理解和生成文本encoder & decoderencoder，根據(jù)輸入序列生成語(yǔ)義向量 （h4 = C）de...
-
2021-05-09 ch18 RNN輸入 x1 單詞對(duì)應(yīng)一個(gè)embedding，Ex1輸出 y' = [y1', y2', ...] （任務(wù)不同，使用的y不同：詞性標(biāo)注，每個(gè)y'都要；情感分類，僅需要最后一個(gè)y...
-
2021-04-19 ch9 詞向量技術(shù)矩陣分解法 構(gòu)造矩陣X 形狀式詞庫(kù)size×詞庫(kù)size分解后得到S\V\D， 其中S矩陣就是詞向量壞處是 矩陣分解是全局方法，分解的過(guò)程依賴于所有的語(yǔ)料庫(kù)，一旦語(yǔ)料庫(kù)變了，...
-
2021-04-10 ch7 文本表示文本表示基礎(chǔ) 單詞和句子的表示 迭代1：one-hot表示詞庫(kù)：[今天 天氣 很好]句子1：[今天 天氣 很好] = [1,1,1]缺點(diǎn)：沒(méi)有順序和權(quán)重；稀疏；無(wú)法比較語(yǔ)義相...
-
2021-04-17 ch9 skipgramCBOW 周圍詞預(yù)測(cè)中心詞skip gram 中心詞預(yù)測(cè)周圍詞 SkipGram模型講解 1.目標(biāo)函數(shù)2.具備條件 兩個(gè)詞越相似，P(c,w;θ) 越大 3.表示方法：中心...
-
2021-04-10 ch6 文本處理緒論分詞 分詞效果怎么評(píng)價(jià)？ 有語(yǔ)料集來(lái)算準(zhǔn)召率 下游任務(wù)來(lái)評(píng)價(jià) 單詞糾錯(cuò) 第一步:找到拼寫錯(cuò)誤的單詞第二步:生成跟上述單詞類似的其他單詞，當(dāng)作是候選集第三步:根據(jù)單詞在上下文中...
-
2021-04-10 ch4模型泛化和過(guò)擬合泛化和過(guò)擬合 構(gòu)建泛化能力強(qiáng)的模型 正確的數(shù)據(jù) 合適的模型（圖像：CNN） 合適的優(yōu)化算法（梯度下降、adam） 避免模型過(guò)擬合 過(guò)擬合：訓(xùn)練集上擬合好，但在測(cè)試集上表現(xiàn)差通...
-
LR(Logistic Regression Classifier)簡(jiǎn)述
一、二分類問(wèn)題 背景：用一個(gè)函數(shù)擬合二分類問(wèn)題。最直觀的是階躍函數(shù)，但缺點(diǎn)：0值不可導(dǎo)，因此要連續(xù)可微函數(shù) sigmoid。sigmoid函數(shù)的作用： 線性回歸預(yù)測(cè)值域是實(shí)數(shù)...
-
-
推薦系統(tǒng)論文閱讀（三十五)-亞馬遜：多樣性互補(bǔ)商品的召回算法論文 ： 論文題目：《P-Companion: A Principled Framework for Diversified Complementary Product Re...
-
你好，我理解這個(gè)模型是屬于精排環(huán)節(jié)的
請(qǐng)教幾個(gè)問(wèn)題：
1.線上預(yù)測(cè)的時(shí)候，s=f(x1,x2, ..., xj) 中的x 是召回的item集合嗎？
2.離線訓(xùn)練的時(shí)候，輸入的物品的內(nèi)容向量是怎么得到的？ 輸入的item集合是什么呢？需要自己構(gòu)造一些負(fù)樣本的嗎？推薦系統(tǒng)論文閱讀（一）-序列推薦結(jié)合長(zhǎng)尾物品提升推薦的多樣性
疫情在家閱讀了大量了推薦系統(tǒng)論文，但是都沒(méi)有好好的寫過(guò)博客，基本上都是精讀過(guò)后只記得論文的思想，重新閱讀之前的論文還會(huì)對(duì)有些數(shù)學(xué)公式一知半解?；谶@方面的考慮，還是決定在閱讀...
-
NLP文本分類學(xué)習(xí)系列（二）
Task2 數(shù)據(jù)讀取與數(shù)據(jù)分析 讀取數(shù)據(jù)第一列為新聞的類別，第二列為新聞的字符。讀取數(shù)據(jù) 數(shù)據(jù)洞察賽題數(shù)據(jù)中，新聞文本的長(zhǎng)度是多少？賽題數(shù)據(jù)的類別分布是怎么樣的，哪些類別比較...
-
NLP文本分類學(xué)習(xí)系列（一）
天池比賽的賽題理解 賽題數(shù)據(jù)為新聞文本，并按照字符級(jí)別進(jìn)行匿名處理。整合劃分出14個(gè)候選分類類別：財(cái)經(jīng)、彩票、房產(chǎn)、股票、家居、教育、科技、社會(huì)、時(shí)尚、時(shí)政、體育、星座、游戲...
-
可以的
通俗理解YARN運(yùn)行原理
導(dǎo)語(yǔ)：工作中常常和Spark on YARN, Hadoop on YARN打交道，經(jīng)常在各種日志中摸爬滾打，為提升效率，總結(jié)一下YARN的知識(shí)點(diǎn)，希望能形成一個(gè)比較系統(tǒng)的方...
