跳到正文
V2EX· txican·· 3 小时前AI 评分34

用户猜测 muse 故意调低模型参数制造低级错误以收集长任务训练数据

[AI Agent 智能体] 我有一个猜测, muse 的产品方故意调整了模型的温度和 top k 或者是一些其它设置, 导致偶尔输出 一些低级错误, 然后让用户纠错, 延长整个任务的轮次, 收集长任务的训练数据.

AI 导读

有用户在用 muse.ai 开发 Telegram 关键字监控 bot 时,发现 muse 犯了两个低级错误:私聊发命令时在错误会话中创建 topic,以及调用不存在的 Telegram API 修改 topic 名称。该用户据此猜测 muse 产品方故意调整模型温度和 top k 等设置,让模型偶尔输出低级错误,借用户纠错延长任务轮次以收集长任务训练数据。

来源:V2EX · v2ex.com