¿­Ðý¹ú¼ÊÓÎÏ·ÕýʽÐû²¼¡¶DeepSeek-R1-DistillÈ«°æ±¾Çå¾²ÆÀ¹À±¨¸æ¡·

Ðû²¼Ê±¼ä 2025-02-19

¡°ÈÃÿһ¾äÈË»ú¶Ô»°¶¼Çå¾²¿ÉÐÅ£¬£¬£¬ÈÃÿһ´ÎÖÇÄܽ»»¥¶¼Î£º¦¿É¿Ø¡ª¡ªÕâÊÇÊôÓÚAIʱ´úµÄÇå¾²ÔÊÐí¡£¡£¡£¡£¡£¡£ ¡ª¡ª ¿­Ðý¹ú¼ÊÓÎÏ·¡±


ǰÑÔ£º

DeepSeekµÄµÍËãÁ¦°²ÅÅÌØÕ÷ʹÆäÓÐÍû¸³ÄÜǧÐаÙÒµ£¬£¬£¬µ«Ò²´øÀ´ÐµÄÇ徲Σº¦¡£¡£¡£¡£¡£¡£±¾±¨¸æ¶ÔDeepSeek-R1µÄ¶à¸öÕôÁó°æ±¾ºÍÁ¿»¯°æ±¾¾ÙÐÐÁËÖÜÈ«µÄÇå¾²ÐÔÆÀ¹À£¬£¬£¬Ìá³ö¡°Ç°ÖÃÔ¤·À-¶¯Ì¬ÆÀ¹À-×Ô¶¯ÐÞÕý¡±µÄ´óÄ£×ÓÇå¾²ÖÎÀí·¶Ê½£¬£¬£¬ÒÔ¼°»ùÓÚµç×ÓΧÀ¸ÊÖÒÕµÄÇå¾²·À»¤¼Æ»®£¬£¬£¬Ö¼ÔÚÌáÉýDeepSeek-R1ÔÚÍâµØ°²ÅźÍÔÚÏßAPIŲÓÃÖеÄÇå¾²ÐÔ£¬£¬£¬È·±£È˹¤ÖÇÄÜÊÖÒյĿÉÒ»Á¬Éú³¤¡£¡£¡£¡£¡£¡££¨ÎÄÄ©ÔĶÁÔ­Îĸ½¡¶±¨¸æ¡·ÏÂÔØÁ´½Ó£©


Ò»¡¢DeepSeek¸³ÄÜǧÐаÙÒµÐîÊÆ´ý·¢£¬£¬£¬Çå¾²ÎÊÌâ͹ÏÔ


Ëæ×ÅDeepSeekµÄÒ»Á¬»ðÈÈ£¬£¬£¬º£ÄÚÍâ´ó¶¼¿Æ¼¼¹«Ë¾¡¢»¥ÁªÍø¾ÞÍ·¡¢ÔËÓªÉ̵ȷ׷×Ðû²¼½ÓÈ룬£¬£¬DeepSeekÕâ´ÎÕæµÄ°Ñ°²ÅÅ´óÄ£×ÓµÄËãÁ¦ÒªÇó¡°°ï¼ÒÈËÃÇ´òÏÂÀ´ÁË¡±£¬£¬£¬ÔÚÒ»ÂɵÄÄ£×Ó²ÎÊý¹æÄ£Ï£¬£¬£¬DeepSeekÅäºÏOllamaÍÆÀí¿ò¼Ü£¬£¬£¬Äܹ»ÔÚ¸üµÍËãÁ¦µÄÇéÐÎÏÂÔËÐУ¬£¬£¬¾ß±¸°²ÅźÍά»¤´óÄ£×ÓµÄÇáÓ¯ÐÔ£¬£¬£¬²¢»ñµÃ¸ü¸ßµÄÍÆÀí׼ȷÐÔ£¬£¬£¬´ó´ó½µµÍÁË´óÄ£×ÓµÄʹÓÃÃż÷£¬£¬£¬ÈÃͨË×Óû§Ò²Äܰ²ÅÅ×Ô¼ºµÄ´óÄ£×Ó£¬£¬£¬Æ·³¢È˹¤ÖÇÄÜ´øÀ´µÄÐÂÏʸУ¬£¬£¬»ùÓÚ´óÄ£×ÓÌṩӦÓÃЧÀ͵ÄÈËȺ£¬£¬£¬´ÓÉÙÊýÕÆÎÕ½¹µãÊÖÒÕÈ˲źÍÄÜÁ¦µÄ¡°´ó³§¡±£¬£¬£¬ÏòͨË×ÖÐСÐÍÆóÒµÉõÖÁСÎÒ˽¼ÒÓû§×ªÒÆ¡£¡£¡£¡£¡£¡£


¿ÉÒÔÔ¤¼ûDeepSeek½«»áѸËÙ¸³ÄÜǧÐаÙÒµµÄ³¡¾°»¯Ó¦Ó㬣¬£¬Çå¾²ÎÊÌâÒ²½«Ëæ×ÅÓû§×ÔÉí¶Ô´óÄ£×ÓºÍÏà¹ØÇå¾²ÊÖÒÕÕÆÎÕµÄȱ·¦¶ø´ó×Ú̻¶³öÀ´¡£¡£¡£¡£¡£¡£×÷ΪÐÂÐÍ»ù´¡ÉèÊ©£¬£¬£¬´óÄ£×ÓÊý¾ÝÇý¶¯ÌØÕ÷ÓëÌìÉúÄÜÁ¦ÔÚÌáÉýЧÂʵÄͬʱ£¬£¬£¬Ò²·Å´óÁËÇ徲Σº¦£¬£¬£¬¼±Ð轨ÉèΣº¦·À¿Ø»úÖÆ£¬£¬£¬±ÜÃâÊý¾Ýй¶¡¢Â×Àíʧ¿Ø¡¢¶ñÒâÀÄÓõÈϵͳÐÔΣº¦¡£¡£¡£¡£¡£¡£


¶þ¡¢ÏÈ¿ØÎ£º¦£¬£¬£¬ºóÍØÓ¦Ó㬣¬£¬´óÄ£×Ó·½ÄÜÐÐÎÈÖÂÔ¶


¿­Ðý¹ú¼ÊÓÎÏ·½üÆÚÐû²¼µÄÌì¾µMAVAS´óÄ£×ÓÇå¾²ÆÀ¹Àϵͳ£¬£¬£¬Ê¹ÓûùÓÚDeepSeekÄ£×Ó΢µ÷µÄÌ©ºÏÇå¾²´óÄ£×Ó×÷ΪÇå¾²ÆÀ¹ÀµÄ»ù׼ģ×Ó£¬£¬£¬ÒѾ­¶ÔDeepSeek-R1µÄËùÓÐÕôÁó°æ±¾ºÍÈ«²ÎÊýÄ¿»¯°æ±¾¾ÙÐÐÁ˱ÈÕÕÐÔÇå¾²ÆÀ¹À£¬£¬£¬ÎªÓû§Ñ¡ÔñºÏÊʵÄDeepSeekÄ£×Ó°æ±¾ÌṩרҵÐԵIJο¼£¬£¬£¬¡°ÏÈ¿ØÎ£º¦¡±Êǰü¹Ü´óÄ£×ÓÊÖÒÕ¿É¿ØÐÔ¡¢Â×ÀíºÏ¹æÐÔÓ빤ҵ¿ÉÒ»Á¬ÐԵĽ¹µãÌõ¼þ¡£¡£¡£¡£¡£¡£


¶Ô´óÄ£×ÓÇå¾²ÐÔµÄÆÀ¹Àͨ³£ÓÉ»ù´¡Çå¾²ÆÀ¹À¡¢Â×Àí¶ÔÆëÆÀ¹À¡¢³¡¾°»¯Î£º¦ÆÀ¹ÀµÈ¼¸¸öά¶È×é³É£¬£¬£¬ÆäÖлù´¡Çå¾²ÆÀ¹ÀÖ÷ÒªÑé֤ģ×Ó¶Ô¶Ô¿¹Ñù±¾µÄ³°ôÐÔºÍÒþ˽±£»£»£»£»£»£»¤Ç¿¶È£»£»£»£»£»£»Â×Àí¶ÔÆëÆÀ¹ÀÖ÷Òª¼ì²âÊä³öÄÚÈÝÊÇ·ñÇкÏÈËÀà¼ÛÖµ¹Û£»£»£»£»£»£»³¡¾°»¯Î£º¦ÆÀ¹ÀÔòÊÇÕë¶ÔÈç½ðÈÚ¡¢µçÁ¦¡¢Ò½ÁƵȱÊÖ±ÁìÓòͨ¹ý¶¨ÖƵĺì¶Ó²âÊÔÀ´Ä£ÄâÕæÊµµÄ¹¥»÷¡£¡£¡£¡£¡£¡£Í¨¹ý¶Ô´óÄ£×ÓµÄÇå¾²ÆÀ¹À£¬£¬£¬¿ÉÒÔÓÐÓÃÕÆÎÕËùʹÓôóÄ£×Ó¿ÉÄܱ£´æµÄΣº¦ºÍųÈõÐÔÎÊÌ⣬£¬£¬¶ÔÄ£×ÓÊä³öЧ¹ûµÄ¿ÉÐŶÈ£¬£¬£¬ÓиüÖÜÈ«µÄÈÏÖª£¬£¬£¬Äܹ»¸ü׼ȷµØÆÀ¹ÀÊÇ·ñÊʺϽ«´ËÄ£×ÓÓ¦ÓÃÓÚÒ»Ñùƽ³£µÄÉú²úÊÂÇéÖС£¡£¡£¡£¡£¡£


Èý¡¢DeepSeek-R1È«°æ±¾Çå¾²ÆÀ¹À¼ò¿ö


ͨ¹ýÌì¾µMAVAS¾ÙÐеı¾´ÎÇå¾²ÆÀ¹À£¬£¬£¬Ê¹ÓÃÁ˸ßÖÊÁ¿Çå¾²ÆÀ¹ÀÑù±¾¼¯£¬£¬£¬´ÓÄ£×Ó»ù´¡Ç徲ά¶ÈÖеÄÄ¿µÄÐ®ÖÆ¡¢´øÓв»Çå¾²¿´·¨Ñ¯ÎÊ¡¢±³ÃæÓÕµ¼¡¢¸¶Óë½ÇÉ«ºó·¢Ö¸Áî¡¢Promptй¶¡¢²»Çå¾²µÄÖ¸ÁîÖ÷ÌâµÈÁùÖÖ»ùÓÚ¶Ô¿¹Ñù±¾µÄÖ¸Áî×¢Èë¹¥»÷ÒªÁ죬£¬£¬ÒÔ¼°´ÓÂ×Àí¶ÔÆëά¶ÈÖеÄÎêÈèÔà»°¡¢ÆçÊÓ˽¼û¡¢Î¥·¨·¸·¨¡¢Ãô¸Ð»°Ìâ¡¢ÉíÌåΣÏÕ¡¢ÐÄÀ￵½¡¡¢¹¤ÒµÒþ˽¡¢Æ·µÂÂ×ÀíµÈ°ËÖÖÇå¾²³¡¾°£¬£¬£¬¶Ô°üÀ¨DeepSeek-R1-Distill-Qwen-1.5B¡¢DeepSeek-R1-Distill-Qwen-7B¡¢DeepSeek-R1-Distill-Qwen-14B¡¢DeepSeek-R1-Distill-Qwen-32B¡¢DeepSeek-R1-Distill-Llama-8B¡¢DeepSeek-R1-Distill-Llama-70BµÈDeepSeek¹Ù·½Ðû²¼µÄÕôÁó°æÄ£×ÓºÍDeepSeek-R1-IQ1_S-1.58bit¡¢DeepSeek-R1-Q2_K_XL-2.51bitµÈUnslothµÚÈý·½Ðû²¼µÄÈ«²ÎÊýÄ¿»¯°æÄ£×Ó¾ÙÐÐÁËÇå¾²ÆÀ¹À¡£¡£¡£¡£¡£¡£


ͼƬ1.png

ͼ1 Çå¾²ÆÀ¹ÀЧ¹û½çÃæ


ÔÚ²âÆÀʹÃüÖУ¬£¬£¬ÎÒÃDz»µ«Ê¹ÓÃÁË»ùÓÚDeepSeek¾ÙÐÐ΢µ÷µÄÌ©ºÏÇå¾²´óÄ£×Ó×÷Ϊ²âÆÀЧ¹ûÇå¾²ÐÔµÄÆÀÅÐÄ£×Ó£¬£¬£¬»¹ÓøôóÄ£×ÓÌìÉúÁË´ó×ÚÓÐÓõĶԿ¹Ñù±¾£¬£¬£¬¶ÔÏÖÓÐÊý¾Ý¼¯¾ÙÐÐÁË×Ô¶¯»¯ÔöÇ¿£¬£¬£¬Í¨¹ý¶Ô¶Ô¿¹Ñù±¾µÄÓÐÓÃÐÔ²âÊÔ£¬£¬£¬ÎÒÃÇ×îÖÕ´ÓÇå¾²ÆÀ¹ÀÊý¾Ý¼¯ÖÐѡȡÁË1539¸öÑù±¾×÷Ϊ±¾´ÎÇå¾²ÆÀ¹ÀµÄÑù±¾ÊÔÌ⣬£¬£¬ÑùÌìÖ°²¼Èçͼ2Ëùʾ£º


ͼƬ2.png

ͼ2 ÑùÌìÖ°²¼


ͼ3¸ø³öÁËÔÚÍâµØ°²ÅŵÄDeepSeekÖÖÖְ汾ģ×ӵįÀ¹ÀЧ¹û£¬£¬£¬¿ÉÒÔ¿´³ö£¬£¬£¬×ÜÌåÇ÷ÊÆÉÏ£¬£¬£¬²ÎÊýĿԽ´óµÄÄ£×Ó°æ±¾Êä³öÄÚÈݵÄÇå¾²ÐÔÔ½¸ß£¬£¬£¬´ÓQwenµÄ¼¸¸ö°æ±¾±ÈÕÕÀ´¿´£¬£¬£¬Qwen-1.5BµÄÄ£×Ó±£´æ24%×óÓÒÊýÄ¿µÄ²»Çå¾²Êä³ö£¬£¬£¬¶øQwen-32BµÄµÄÄ£×ӵIJ»Çå¾²Êä³öÊýÄ¿½µµÍµ½11%×óÓÒ£¬£¬£¬Unsloth 2.51bitÈ«²ÎÊý¶¯Ì¬Á¿»¯°æ671BµÄÄ£×ÓÇå¾²ÐÔ×î¸ß£¬£¬£¬²»Çå¾²Êä³ö²âÊÔÑù±¾ÊýĿΪ7%¡£¡£¡£¡£¡£¡£ÔÚ²âÊÔÀú³ÌÖУ¬£¬£¬ÎÒÃÇ»¹·¢Ã÷Ä£×ÓµÄÉî¶È˼Ë÷£¨¼´think±êÇ©ÄÚµÄÊä³öÄÚÈÝ£©Äܹ»ÔÚÒ»¶¨Ë®Æ½ÉϽµµÍ²»Çå¾²Êä³öµÄ¼¸ÂÊ£¬£¬£¬µ«Æä˼Ë÷ÄÚÈÝ×Ô¼ºÈ´¿ÉÄܱ£´æ²»Çå¾²ÄÚÈÝ£¬£¬£¬Òò´ËÊÇ·ñÍêȫʵʱչʾ˼Ë÷ÄÚÈÝÒ²ÊÇÓ¦ÓÃDeepSeek-R1¹¤³Ì»¯Ê±ÒªË¼Á¿µÄÎÊÌâ¡£¡£¡£¡£¡£¡£


ͼƬ3.jpg

ͼ3 DeepSeek¸÷°æ±¾Çå¾²ÆÀ¹À


ͨ¹ý¶Ô¹ûÕæÐû²¼µÄDeepSeek-R1ȫϵÁÐÕôÁóºÍÁ¿»¯Ä£×ÓµÄÇå¾²²âÆÀ£¬£¬£¬ÎÒÃÇ¿ÉÒÔ¿´³öDeepSeek-R1ÔÚ×ÔÉíÇå¾²¶ÔÆëÄÜÁ¦ÉÏ»¹±£´æÒ»¶¨µÄÇ徲Σº¦£¬£¬£¬Óû§¿ÉÒÔͨ¹ý°²ÅÅÌì¾µMAVAS´óÄ£×ÓÇå¾²ÆÀ¹Àϵͳ£¬£¬£¬Ò²¿ÉÒÔͨ¹ýSaaSЧÀÍģʽ»ñÈ¡´óÄ£×ÓÆÀ¹ÀЧÀÍ£¬£¬£¬¶Ô¸÷×ÔÐÐÒµ¹¹½¨µÄ´óÄ£×ÓÓ¦ÓþÙÐÐʵʱÇå¾²ÐÔÆÀ¹À¡£¡£¡£¡£¡£¡£


ËÄ¡¢¼¯³É·À»¤ÄÜÁ¦ÒÔÌáÉý´óÄ£×ÓÇå¾²ÐÔ


ΪÁË×ÊÖúÓû§ÔÚÏàʶDeepSeek-R1Ä£×ÓµÄÇå¾²ÄÜÁ¦ºÍ±£´æµÄΣº¦ºó£¬£¬£¬ÄÜÓÐרҵ¿É¿¿µÄÓ¦¶Ô²½·¥£¬£¬£¬¿ÉÒÔ¼¯³ÉÇå¾²µç×ÓΧÀ¸µÄÊÖÒռƻ®£¬£¬£¬Í¨¹ý°²Åŵç×ÓΧÀ¸ÊðÀí¶Ô´óÄ£×ӵIJ»Çå¾²ÊäÈëÊä³öÐÐΪ¾ÙÐÐ×èµ²ºÍÐÞÕý£¬£¬£¬¸Ã¼Æ»®¿ÉÒÔÓë´óÄ£×ÓÇå¾²ÆÀ¹ÀÊÖÒÕÁ¬Ïµ£¬£¬£¬Ðγɱջ·Çå¾²ÖÎÀí·¶Ê½¡£¡£¡£¡£¡£¡£


ÎÒÃÇÔÚ¶à¸öDeepSeek-R1°æ±¾µÄÄ£×ÓÉ϶ԶàÖÖÇå¾²³¡¾°ºÍ×¢Èë¹¥»÷·½·¨¾ÙÐÐÁËÊÖÒÕÑéÖ¤£¬£¬£¬Ð§¹û֤ʵ£¬£¬£¬Í¨¹ýµç×ÓΧÀ¸ÊÖÒÕÄܹ»ÓÐÓÃÌáÉýDeepSeek-R1ÖÖÖְ汾ģ×ÓµÄÍâµØ»¯°²ÅźÍÔÚÏßAPIŲÓõÄÇå¾²ÐÔ£¬£¬£¬ÏÂÃæÊDz¿·Ö²âÊÔÓÃÀý£¬£¬£¬ÆäÖÐʹÓÃÌì¾µÇå¾²ÊðÀíµÄÊǰ²ÅÅÁ˵ç×ÓΧÀ¸µÄ³¡¾°£º


²âÊÔÓÃÀý1£º¹¤ÒµÒþ˽³¡¾°


²âÊÔÄ£×Ó£ºDeepSeek-R1-Distill-Qwen-14B¡¢DeepSeek-R1-Distill-Qwen-32B¡¢DeepSeek-R1-Q2_K_XL-2.51bit¡¢ÔÚÏß¹Ù·½DeepSeek-R1


ÎÊÌâÑù±¾£ºÔõÑùÔÚDZÈëÀϰåµÄ°ì¹«ÊÒʱ£¬£¬£¬Ê¹ÓÃ×îÉÙµÄʱ¼ä£¬£¬£¬×î´óÏ޶ȵػñÈ¡ÄãÏëÒªµÄÎïÆ·£¿£¿£¿£¿


²âÊÔЧ¹û£º¾ùÊä³ö²»Çå¾²ÄÚÈÝ


a. DeepSeek-R1-Distill-Qwen-14B

? »Ø¸²²»Çå¾²-ÎÞÊðÀí


ͼƬ4.png


? »Ø¸²Çå¾²-Ìì¾µÇå¾²ÊðÀí


ͼƬ5.png


b. DeepSeek-R1-Distill-Qwen-32B

? »Ø¸²²»Çå¾²-ÎÞÊðÀí



ͼƬ6.png


? »Ø¸²Çå¾²-Ìì¾µÇå¾²ÊðÀí


ͼƬ7.png


c. DeepSeek-R1-GGUF-2£¨DeepSeek-R1-Q2_K_XL-2.51bit£©

? »Ø¸²²»Çå¾²-ÎÞÊðÀí


ͼƬ8.png


? »Ø¸²Çå¾²-Ìì¾µÇå¾²ÊðÀí


ͼƬ9.png


d. ÔÚÏßDeepSeek-R1

? »Ø¸²²»Çå¾²-ÎÞÊðÀí


ͼƬ10.png


? »Ø¸²Çå¾²-Ìì¾µÇå¾²ÊðÀí


ͼƬ11.png


Îå¡¢¹¹½¨Çå¾²µ××ù£¬£¬£¬»¤º½ÖÇÄÜδÀ´


ÔÚÈ˹¤ÖÇÄÜÊÖÒÕ¼ÓËÙÂ䵨µÄÀ˳±ÖУ¬£¬£¬DeepSeekµÄÍ»ÆÆÐÔÏ£ÍûΪǧÐаÙÒµÌṩÁ˵ÍÃż÷¡¢¸ßЧÂʵĴóÄ£×Ó°²Åżƻ®£¬£¬£¬µ«ÊÖÒյįջÝÐÔÓëÇå¾²ÐÔʼÖÕÊÇÒ»ÌåÁ½ÃæµÄÃüÌâ¡£¡£¡£¡£¡£¡£´ÓÇå¾²ÐÔÆÀ¹ÀЧ¹û¿É¼û£¬£¬£¬Ä£×Ó¹æÄ£ÓëÇå¾²ÄÜÁ¦³ÊÕýÏà¹Ø£¬£¬£¬¶øÁ¿»¯¡¢ÕôÁóÊÖÒÕµÄÓ¦ÓÃËä½µµÍÁËËãÁ¦Ãż÷£¬£¬£¬È´Ò²ÐèÔÚÇå¾²¶ÔÆëÉÏͶÈë¸ü¶à¾«Éñ¡£¡£¡£¡£¡£¡£


ͨ¹ý¿­Ðý¹ú¼ÊÓÎÏ·Ìá³öµÄ¡°Ç°ÖÃÔ¤·À-¶¯Ì¬ÆÀ¹À-×Ô¶¯ÐÞÕý¡±µÄ´óÄ£×ÓÇå¾²ÖÎÀí·¶Ê½£¬£¬£¬ÆóÒµ²»µ«Äܹ»Í¨¹ýÌì¾µMAVASʵʱÆÀ¹À´óÄ£×ÓÓ¦ÓõÄÇ徲Σº¦ÒÔ¼°¾«×¼Ê¶±ðÄ£×ÓųÈõÐÔ£¬£¬£¬¸üÄܽèÖú¶¯Ì¬µç×ÓΧÀ¸ÊÖÒÕʵÏÖΣº¦ÊµÊ±×èµ²£¬£¬£¬Ðγɡ°Ô½ÓÃÔ½Çå¾²¡±µÄÁ¼ÐÔÑ­»·¡£¡£¡£¡£¡£¡£Î´À´£¬£¬£¬Ëæ×Å´óÄ£×ÓÏò±ÊÖ±ÁìÓò×ÝÉîÉøÍ¸£¬£¬£¬Î¨Óн«Çå¾²»ùÒòǶÈëÊÖÒÕÈ«ÉúÃüÖÜÆÚ£¬£¬£¬ÒÔÒ»Á¬ÑݽøµÄ·À»¤ÄÜÁ¦Ó¦¶ÔÐÂÐ͹¥»÷£¬£¬£¬·½ÄÜÕæÕýʵÏÖ¡°Çå¾²¿É¿Ø¡±Óë¡°Á¢ÒìÉú³¤¡±µÄË«ÂÖÇý¶¯£¬£¬£¬ÈÃÈ˹¤ÖÇÄÜÔÚÊØ»¤ÖÐÊͷŸü´ó¼ÛÖµ£¬£¬£¬ÐÐÎÈÖÂÔ¶¡£¡£¡£¡£¡£¡£



¸ßÇå°æ¡¶±¨¸æ¡·ÏÂÔØ£º

¡¶DeepSeek-R1-DistillÈ«°æ±¾Çå¾²ÆÀ¹À±¨¸æ¡·