Skip to content

API并发请求与Web界面问答结果不一致 #5793

@Essence9999

Description

@Essence9999

例行检查

  • 我已确认目前没有类似 issue
  • 我已完整查看过项目 README,以及项目文档
  • 我使用了自己的 key,并确认我的 key 是可正常使用的
  • 我理解并愿意跟进此 issue,协助测试和提供反馈
  • 我理解并认可上述内容,并理解项目维护者精力有限,不遵循规则的 issue 可能会被无视或直接关闭

你的版本

  • 公有云版本
  • 私有部署版本, 具体版本号: 4.8.13

问题描述, 日志截图,配置文件等
通过api调用,进行并发问答,发现没有一一单独通过web页面进行回答得准确。请大佬指导~
(会不会有下上文的缘故,api多并发调用,如何去除上下文影响?各个并发请求独立)

使用的LLM为Qwen3-8B、Qwen3-30B-A3B-Instruct-2507-FP8

API请求代码如下:

Image

复现步骤

预期结果

相关截图

Metadata

Metadata

Assignees

No one assigned

    Labels

    bugSomething isn't working

    Type

    No type

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions