目前如果用WeNet,如果要使用一台服务器支持100个并发,这样需要什么要配置才能满足要求?
16c应该就能满足,在虚拟机上32c可以实现,实时内存3G左右,如果rtf 按 0.2 算的话,一核能搞定 5 并发,可以具体测一下 rtf。
55 0 0
16c应该就能满足,在虚拟机上32c可以实现,实时内存3G左右,如果rtf 按 0.2 算的话,一核能搞定 5 并发,可以具体测一下 rtf。
作者NGK编辑部 本文介绍新一代 Kaldi 项目中基于量化的蒸馏实验。 相关代码: https://github.com/k2-fsa/multi_quantization.git https://github.com/k2-fsa/ic…
今天跟大家分享一篇语音相关的论文合集:cs.SD语音17篇,eess.AS音频处理17篇。 cs.SD语音 【1】 Audio-Visual Segmentation 标题:视听分割 链接:https://arxiv.org/abs/220…
问:我们测试websocket server 在高并发连接情况下出现连接慢的情况,这个是同时100个ws连接下出现的。这个有什么好的解决办法吗? 答:可以尝试一下grpc。
可以看一下 decoder/context_graph.cc后续新版的热词不会更改识别结果,而是返回识别结果的同时,额外返回识别到的热词列表,可以关注一下。
问:web socket server,用的onnx的模型,加上热词后,score从3-10都试了下,没有起作用。onnx模型,是从非流模型导出的,会是这个原因吗? 答:热词跟是否流式没有关系,根据运行结果来看,两个热词里均包含OOV,都被…