ReFT: Reasoning with Reinforced Fine-Tuning[https://arxiv.org/abs/2401.0...
投稿
收錄了10篇文章 · 4人關(guān)注
-
ReFT論文淺讀 -
DeepSeekMath論文淺讀(GRPO)Group Relative Policy Optimization(GRPO) ，從DeepSeekMath[https://arxiv.or...
-
PPO（Proximal Policy Optimization）PPO（Proximal Policy Optimization）是一種廣泛使用的強化學(xué)習(xí)算法，它通過優(yōu)化策略來訓(xùn)練智能體，旨在提升訓(xùn)練過程的穩(wěn)...
-
rStar論文淺讀來自：Mutual Reasoning Makes Smaller LLMs Stronger Problem-Solvers[https://...
-
位置編碼（Positional Encoding）在大語言模型（LLM）中，位置編碼（Positional Encoding）是用于表示輸入序列中詞匯或標(biāo)記相對位置的技術(shù)。由于Transform...
-
Clustering and Ranking（CaR）代碼框架解讀
論文和倉庫 論文地址[https://arxiv.org/abs/2402.18191]官方代碼[https://github.com/Iron...
-
自動提示工程（Auto Prompt）LMOps代碼復(fù)現(xiàn)和解讀
ProTeGi: Prompt Optimization with Textual Gradients是一篇自動基于LLM的自動提示工程，非常感...
-
多語言-分詞工具
常用的分詞工具 jieba 安裝： pip install jieba jieba.lcut(text) THULAC pip install ...
-
deepspeed指定GPU
單節(jié)點全部卡：--master_port=25684 --num_gpus=4 單節(jié)點部分卡：--include localhost:1,2,3...
-
解決： 'DeepSpeedCPUAdam' object has no attribute 'ds_opt_adam'
deepspeed運行大模型時報錯： ```python Exception ignored in: <function DeepSpeedCP...
{var%20f='http://v.t.sina.com.cn/share/share.php?appkey=1881139527',u=z||d.location,p=['&url=',e(u),'&title=',e(t||d.title),'&source=',e(r),'&sourceUrl=',e(l),'&content=',c||'gb2312','&pic=',e(p||'')].join('');function%20a(){if(!window.open([f,p].join(''),'mb',['toolbar=0,status=0,resizable=1,width=440,height=430,left=',(s.width-440)/2,',top=',(s.height-430)/2].join('')))u.href=[f,p].join('');};if(/Firefox/.test(navigator.userAgent))setTimeout(a,0);else%20a();})(screen,document,encodeURIComponent,'','','https://upload.jianshu.io/collections/images/2019577/js.jpeg', '推薦專題《LLM》（ 分享自 @簡書 ）','http://m.itdecent.cn/c/2900c35f70f4?utm_campaign=maleskine&utm_content=collection&utm_medium=reader_share&utm_source=weibo','頁面編碼gb2312|utf-8默認(rèn)gb2312'));){kind=link}