DeepSeek-R1模型訓練方法發布
DeepSeek-AI團隊梁文鋒及其同事17日在《自然》雜志上發表了開源人工智能(AI)模型DeepSeek-R1所采用的大規模推理模型訓練方法。研究表明,大語言模型(LLM)的推理能力可通過純強化學習來提升,從而減少增強性能所需的人類輸入工作量。訓練出的模型在數學、編程競賽和STEM領域研究生水平問題等任務上,比傳統訓練的LLM表現更好。
DeepSeek-R1包含一個在人類監督下的深入訓練階段,以優化推理過程。梁文鋒團隊報告稱,該模型使用了強化學習而非人類示例來開發推理步驟,減少了訓練成本和復雜性。DeepSeek-R1在被展示優質的問題解決案例后,會獲得一個模板來產生推理過程,即這一模型通過解決問題獲得獎勵,從而強化學習效果。團隊總結說,未來研究可以聚焦優化獎勵過程,以確保推理和任務結果更可靠。
在評估AI表現的數學基準測試中,DeepSeek-R1-Zero和DeepSeek-R1得分分別為77.9% 和 79.8%,在編程競賽及研究生水平的生物學、物理和化學問題上同樣表現優異。
關鍵詞:
來源:科技日報
編輯:GY653
免責聲明:本網站內容主要來自原創、合作媒體供稿和第三方自媒體作者投稿,凡在本網站出現的信息,均僅供參考。本網站將盡力確保所提供信息的準確性及可靠性,但不保證有關資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網站對有關資料所引致的錯誤、不確或遺漏,概不負任何法律責任。任何單位或個人認為本網站中的網頁或鏈接內容可能涉嫌侵犯其知識產權或存在不實內容時,應及時向本網站提出書面權利通知或不實情況說明,并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網站在收到上述法律文件后,將會依法盡快聯系相關文章源頭核實,溝通刪除相關內容或斷開相關鏈接。
科技互聯網排行榜
-
2018-09-28 11:31
-
2018-09-28 11:31
-
2018-09-28 11:31
-
2018-09-28 11:31
-
2018-09-28 11:31
科技互聯網熱門推薦
-
2018-09-28 11:31
-
2018-09-28 11:31
-
2018-09-28 11:31
-
2018-09-28 11:31
-
2018-09-28 11:31