DeepSeek官方推薦:R1要這樣設置
作為當下熱門的AI模型,DeepSeek的部署和使用方式一直是開發(fā)者和用戶關注的焦點。本文匯總了DeepSeek官方對R1模型的最佳設置建議,供大家參考學習。
家人們,咱們到底該如何部署DeepSeek-R1,才能體驗最佳???
對于這個問題,DeepSeek官方發(fā)話了:
DeepSeek推薦的設置非常簡單,只有四項內容。
其中三項,其實在此前相關文檔中有所涉及,我們在這里再來回顧一下。
首先,是別用系統(tǒng)提示詞(No system prompt),所有的指令都應該包含在用戶提示詞中。
至于原因,網(wǎng)友認為是因為R1就是這么被訓練而來的。
其次,是把Temperature設置為0.6。
DeepSeek在GitHub文檔中的解釋是:
將Temperature設置在0.5-0.7(建議0.6)的范圍內,以防止無休止的重復或輸出不一致。
第三點,則是一份緩解模型繞過思維的指南,包含兩個細分內容:
對于數(shù)學問題,建議在你的提示中包含一個指令,如:“請一步一步地推理,并將你的最終答案放在boxed{}內?!?/p>
在評估模型性能時,建議進行多次測試并對結果進行平均。
新的設置推薦
除了上述已有的三點之外,這次DeepSeek官方在推文中引入了一個新的推薦——官方提示搜索和文件上傳。
DeepSeek表示:
上傳文件時,請按照模板創(chuàng)建提示,其中{file_name}, {file_content}和{question}是參數(shù)。file_template = “””[file name]: {file_name}[file content begin]{file_content}[file content end]{question}”””
對于Web搜索,{search_results}, {cur_data}和{question}是參數(shù)。
對于中文查詢,使用提示詞:
對于英文查詢,使用提示詞:
相應內容在DeepSeek官方GitHub的README文檔中也有更新,感興趣的小伙伴可以進一步了解下~
DeepSeek官方GitHub:https://github.com/deepseek-ai/DeepSeek-R1/blob/main/README.md
參考鏈接:
[1]https://x.com/deepseek_ai/status/1890324295181824107
[2]https://www.reddit.com/r/LocalLLaMA/comments/1i9k284/why_should_one_avoid_adding_a_system_prompt_with/
金磊 發(fā)自 凹非寺量子位 | 公眾號 QbitAI
本文由人人都是產(chǎn)品經(jīng)理作者【量子位】,微信公眾號:【量子位】,原創(chuàng)/授權 發(fā)布于人人都是產(chǎn)品經(jīng)理,未經(jīng)許可,禁止轉載。
題圖來自Unsplash,基于 CC0 協(xié)議。
- 目前還沒評論,等你發(fā)揮!