.:. 草榴社區 » 技術討論區 » MiniMax大模型认不出马嘉祺!官方终于给出原因
--> 本頁主題: MiniMax大模型认不出马嘉祺!官方终于给出原因 字體大小 寬屏顯示 只看樓主 最新點評 熱門評論 時間順序
结构


級別:風雲使者 ( 13 )
發帖:1884
威望:548 點
金錢:15849380 USD
貢獻:259000 點
註冊:2015-01-01


MiniMax大模型认不出马嘉祺!官方终于给出原因



近期有网友发现一个有趣的现象:MiniMax 模型似乎无法正常识别马嘉祺三个字。

起初大家都以为只是偶然出现的小漏洞,但多方实测后发现情况有些离谱:不管切换不同接口、更换使用平台,该问题都能稳定复现。

翻看网友测试截图以及实际调用返回结果能看出,模型其实可以检索到马嘉祺的相关资料,也能完整准确输出他的个人履历、相关经历等信息。可唯独只要提及本名,模型就会出现文字错乱、随意改写名字的情况。

简单来说,人物背景信息基本无误,对应人物也完全匹配,唯独在识别和输出姓名时频频出错。

那么为什么会出现这种情况呢?

今日,MiniMax官微发长文回应M2系列模型无法说出马嘉祺一事,提供了对“嘉祺识别”问题的完整排查过程和技术思考。

MiniMax表示,其从分词器版本对齐、embedding统计分布、语义近邻检索、预训练与后训练模型的few-shot对比实验、后训练数据频次统计以及对全词表lm_head变化幅度的排序扫描等多个维度进行了排查。






最终定位到的原因是:嘉祺在分词器中被合并为一个独立token,但该token在后训练数据中出现频次极低,导致模型在后训练中逐渐遗忘了对该token的生成能力。

修复方案方面,MiniMax构造了一份覆盖全词表的合成数据,核心思想是:通过一个简单的复读任务,为全词表建立一个生成频率的“下限保障”,防止任何token因为完全缺失而退化。

此外,MiniMax表示,将token覆盖度作为后训练数据质量的一项常规监控指标,可以在早期发现潜在的稀疏token退化风险,避免类似问题在线上复现。













赞(42)
DMCA / ABUSE REPORT | TOP Posted: 05-10 08:52 樓主 引用 | 發表評論
大院情怀


級別:精靈王 ( 12 )
發帖:8569
威望:1065 點
金錢:3595 USD
貢獻:40381 點
註冊:2020-10-18


我也认不出马嘉祺,不过我认出最后一图的乌克兰女老师了!!


點評

    TOP Posted: 05-10 09:08 #1樓 引用 | 點評
    xiyudashi


    級別:聖騎士 ( 11 )
    發帖:7739
    威望:759 點
    金錢:29278 USD
    貢獻:9 點
    註冊:2018-07-09

    好图
    TOP Posted: 05-10 11:49 #2樓 引用 | 點評
    马多宝


    級別:俠客 ( 9 )
    發帖:1394
    威望:180 點
    金錢:1541 USD
    貢獻:100 點
    註冊:2025-12-15

    谢谢分享
    TOP Posted: 05-10 11:52 #3樓 引用 | 點評
    jnlz2009


    級別:聖騎士 ( 11 )
    發帖:8988
    威望:959 點
    金錢:12926 USD
    貢獻:0 點
    註冊:2012-03-02

    图是真不错
    TOP Posted: 05-10 11:54 #4樓 引用 | 點評
    踢版


    級別:聖騎士 ( 11 )
    發帖:3508
    威望:351 點
    金錢:4942 USD
    貢獻:25000 點
    註冊:2020-10-24

    多谢分享,勿忘提肛
    TOP Posted: 05-10 12:04 #5樓 引用 | 點評
    victorsese


    級別:騎士 ( 10 )
    發帖:1431
    威望:429 點
    金錢:935 USD
    貢獻:6601 點
    註冊:2011-06-06

    感谢分享 好臀
    TOP Posted: 05-10 12:12 #6樓 引用 | 點評
    wangs3045


    級別:俠客 ( 9 )
    發帖:3286
    威望:299 點
    金錢:5930 USD
    貢獻:0 點
    註冊:2014-02-14

    感谢分享
    TOP Posted: 05-10 12:43 #7樓 引用 | 點評
    东光太郎


    級別:騎士 ( 10 )
    發帖:7329
    威望:458 點
    金錢:24402 USD
    貢獻:333 點
    註冊:2025-03-06

    感谢分享
    TOP Posted: 05-10 17:50 #8樓 引用 | 點評
    铁甲二流子


    級別:精靈王 ( 12 )
    發帖:46701
    威望:3304 點
    金錢:263773 USD
    貢獻:2000 點
    註冊:2017-02-06

    哈哈(((o(*゚▽゚*)o)))
    TOP Posted: 05-10 18:18 #9樓 引用 | 點評
    归来的奥特曼


    級別:俠客 ( 9 )
    發帖:6959
    威望:270 點
    金錢:24579 USD
    貢獻:999 點
    註冊:2025-02-20

    感谢分享
    TOP Posted: 05-10 18:41 #10樓 引用 | 點評
    苏筱熙


    級別:天使 ( 14 )
    發帖:143453
    威望:64379 點
    金錢:127140 USD
    貢獻:69 點
    註冊:2012-09-01


    支持一下
    ------------------------
    TOP Posted: 05-10 21:42 #11樓 引用 | 點評
    FuzeBlitz


    級別:聖騎士 ( 11 )
    發帖:5537
    威望:554 點
    金錢:28802 USD
    貢獻:3913 點
    註冊:2022-04-02

    感谢分享
    TOP Posted: 05-10 22:07 #12樓 引用 | 點評
    丰满的猴子


    級別:騎士 ( 10 )
    發帖:2894
    威望:291 點
    金錢:1585 USD
    貢獻:1103 點
    註冊:2018-12-08

    要说图片可看性,还是穿丝袜的过瘾
    TOP Posted: 05-10 23:26 #13樓 引用 | 點評
    餐企服务商


    級別:聖騎士 ( 11 )
    發帖:9892
    威望:990 點
    金錢:16178 USD
    貢獻:0 點
    註冊:2024-10-11

    感谢分享  勿忘提肛
    TOP Posted: 05-10 23:27 #14樓 引用 | 點評
    腴懒


    級別:騎士 ( 10 )
    發帖:1003
    威望:393 點
    金錢:1659 USD
    貢獻:0 點
    註冊:2025-01-09

    糊是原罪
    TOP Posted: 05-10 23:29 #15樓 引用 | 點評
    这是个问题啊


    級別:風雲使者 ( 13 )
    發帖:70732
    威望:7129 點
    金錢:237 USD
    貢獻:113219 點
    註冊:2021-01-01

    发帖辛苦
    TOP Posted: 05-11 00:50 #16樓 引用 | 點評
    沉睡的木玛


    級別:風雲使者 ( 13 )
    發帖:70732
    威望:7229 點
    金錢:237 USD
    貢獻:113219 點
    註冊:2018-11-16


    支持发帖
    TOP Posted: 05-11 00:50 #17樓 引用 | 點評
    鸭打鹅


    級別:風雲使者 ( 13 )
    發帖:61652
    威望:6139 點
    金錢:53 USD
    貢獻:31060 點
    註冊:2022-02-02

    感谢分享
    TOP Posted: 05-11 00:50 #18樓 引用 | 點評
    ghost2004


    級別:俠客 ( 9 )
    發帖:1532
    威望:246 點
    金錢:27440 USD
    貢獻:2 點
    註冊:2023-09-02

    马嘉祺是谁?
    TOP Posted: 05-11 01:09 #19樓 引用 | 點評
    lyse


    級別:精靈王 ( 12 )
    發帖:8770
    威望:923 點
    金錢:5702 USD
    貢獻:3928 點
    註冊:2015-11-05

    谢谢楼主辛苦了,谢谢楼主辛苦了,谢谢楼主辛苦了,谢谢楼主辛苦了
    TOP Posted: 05-11 12:30 #20樓 引用 | 點評
    边荒传说


    級別:俠客 ( 9 )
    發帖:673
    威望:132 點
    金錢:5712 USD
    貢獻:0 點
    註冊:2026-01-01

    感谢分享
    TOP Posted: 05-11 12:34 #21樓 引用 | 點評
    周立齐


    級別:俠客 ( 9 )
    發帖:1767
    威望:213 點
    金錢:912 USD
    貢獻:0 點
    註冊:2020-04-18

    路过看看,留个脚印。
    ------------------------
    2
    TOP Posted: 05-11 13:02 #22樓 引用 | 點評
    tomyboy


    級別:俠客 ( 9 )
    發帖:2660
    威望:257 點
    金錢:50656 USD
    貢獻:516 點
    註冊:2025-11-10


    路过,好臀
    TOP Posted: 05-11 13:08 #23樓 引用 | 點評
    VoLTE


    級別:騎士 ( 10 )
    發帖:3427
    威望:343 點
    金錢:3176 USD
    貢獻:0 點
    註冊:2020-06-30

    楼主好人 谢谢分享
    TOP Posted: 05-11 13:41 #24樓 引用 | 點評

    .:. 草榴社區 -> 技術討論區

    快速回帖 頂端
    內容
    HTML 代碼不可用

    使用簽名
    Wind Code自動轉換

    按 Ctrl+Enter 直接提交