• +1

因算力不足DeepSeek限定对话额度,近期故障了10次

来源:澎湃新闻·澎湃号·媒体
字号

11月16日,多名用户反映称,DeepSeek对App/网页版的长对话进行了限额使用。从用户在社交平台上的反馈,主要有以下变化:一是不再支持超过7天不活跃的长对话;二是单次输入上限压缩到4万字左右;三是每日对话额度设限,当用户日使用量达到上限时,会提示“因服务器繁忙,使用额度已达上限”。

因算力不足DeepSeek限定对话额度,近期故障了10次 因算力不足DeepSeek限定对话额度,近期故障了10次

截至发稿,DeepSeek并未就此次调整发布独立公告,也未给出额度恢复或放宽的时间表。

模型每生成一个新token,都要回看前面所有token的数据来算注意力。这些中间结果算一次很贵,所以推理框架会把它存在显存里,下一轮直接读取、省掉重算的过程,存下来的这份数据就叫KV缓存。

但长对话会持续累积KV缓存,长期闲置会话会持续占用稀缺显存资源。有分析称,这一调整的目的在于回收闲置会话占用的KV缓存资源,优先保障活跃用户的推理需求。

此前DeepSeek已多次出现服务故障事件,官网记录,10月至今DeepSeek出现过10起故障,分别发生在10月2日、10月8日、10月12日、10月15日、10月20日、10月27日、11月3日、11月7日和11月15日,有时一天出现两次故障情况。其中10月出现7起,11月至今出现了3起。其中包含两类不同等级异常:一是性能降级居多,表现为响应变慢、生成延迟高、偶发请求失败,用户仍有概率提交对话;二是直接出现网页或API部分中断。

因算力不足DeepSeek限定对话额度,近期故障了10次

例如,10月15日故障持续超过4小时,C端网页、App对话服务与V4 Pro、V4.1 Flash API同步受限,也是10月影响范围最大、持续时间最长的一次故障。事后 DeepSeek针对API用户推出赠金补偿方案,并称“坚决杜绝同类问题再次发生”。其余故障大多持续数分钟至数十分钟,部分仅波及搜索附属工具,不影响基础对话能力。

11月13日,DeepSeek正式开放全家桶应用API,将此前集成在官方App中的联网搜索、深度思考搜索、文件解析、链接阅读、语音交互等能力,全面开放给第三方开发者。这意味着,开发者只需要在原有API中开启相应参数,就能在应用中实现与DeepSeek App基本一致的功能,甚至可以1∶1复刻出完整的DeepSeek App。

采写:南都N视频记者 林文琪

来源:https://www.sohu.com/

    本文为澎湃号作者或机构在澎湃新闻上传并发布,仅代表该作者或机构观点,不代表澎湃新闻的观点或立场,澎湃新闻仅提供信息发布平台。申请澎湃号请用电脑访问http://renzheng.thepaper.cn。

    +1
    收藏
    我要举报
    澎湃热榜
      澎湃早晚报
        澎湃财讯
          填字游戏
            要闻精选
            查看更多
            扫码下载澎湃新闻客户端

            扫码下载澎湃新闻客户端

            沪ICP备14003370号

            沪公网安备31010602008124号

            互联网新闻信息服务许可证:31120170006

            增值电信业务经营许可证:沪B2-2017116

            © 2014-2026 上海东方报业有限公司

            可信网站验证
            无障碍阅读