SpeechIO ASR Benchmark

滚动测试报告 2022年08月


1、排名


2、具体测试结果
3、简评
  • 与上期相比：
    • 腾讯、依图均有模型更新，有较大幅度性能提升。
    • 其余厂家过去三个月模型性能无明显变化。
  • 因为各个厂商可能有流式、离线等不同形式的多个服务，特点、性能不同，需要明确区分。所以从本期开始，结果中的标识，将由厂商变更为厂商的具体服务。
  • 榜单中星标的 Bilibili 和 喜马拉雅 服务尚未对公众注册开放，是保证测试数据安全前提下的封闭测试结果。
  • Leaderboard 项目近期会推出英文测试，而微信平台不便于海外访问和信息发布，后续 Leaderboard 相关内容将以 github 主页为主，望读者周知。
  • 持续征集有难度的中文测试素材，有好的建议请后台留言。


github repo：

https://github.com/SpeechColab/Leaderboard

加入 SpeechIO 讨论群，可添加微信号 JerryEjwt 备注 SpeechIO。


附录1、已有测试集信息汇总
文章链接场景领域难度(1-5)
新闻联播新闻播报时政★
鲁豫有约一日行访谈电视节目名人工作、生活★★☆
天下足球专题电视节目足球★★☆
罗振宇跨年会场演讲社会、人文、商业★★
李永乐讲堂在线教育科普★★★
直播 王者荣耀直播游戏★★★☆
直播 带货直播电商、美妆★★★★☆
老罗语录线下培训段子，做人★★★★☆
播客 故事FM播客人生故事、见闻★★☆
播客 创业内幕播客创业、产品、投资★★☆
罗翔 法考在线教育法律 法考★★☆
张雪峰 考研在线教育考研 高校报考★★★☆
谷阿莫&牛叔短视频电影剪辑★★★
琼斯爱生活&贫穷料理短视频美食、烹饪★★★☆
单田芳-白眉大侠评书江湖、武侠★★☆
德云社专场相声包袱段子★★★
吐槽大会脱口秀明星糗事★★☆
小猪佩奇&熊出没少儿动画童话故事、日常★☆
NBA现场转播体育赛事解说篮球，NBA★★★
篮球人物纪录片篮球明星，成长★★
汽车之家 汽车评测短视频汽车品牌，车型，路测★★★☆
小艾大叔 豪宅带看短视频房地产，豪宅★★★☆
Zealer & 无聊开箱短视频产品开箱★★★
付老师种植技术短视频农业种植★★★☆
石国鹏线下课线下培训古希腊哲学★★☆
张震鬼故事电台节目恐怖故事★★★
华语大学生辩论赛辩论赛兴趣，技能，成长★★★
同声传译同声传译现场时政★★★☆
港台口音港台明星访谈演艺、创作、生活★★★☆
老外口音外国嘉宾参加的综艺文化、习俗、异国文化★★★☆

附录2、项目更新日志

  • 场景：增加 [播客 故事FM]

  • 重要修复：发现 [直播带货 李佳琪薇娅][直播王者荣耀 张大仙骚白] [老罗语录] 三个场景测试集标注错误，全面检查&修正；作废这三个测试集6月的测试结果，7月开始启用修正后的测试集。详情见本月已经发布的[更正说明文章]

  • 测试：全厂商 × 全场景 滚动刷新测试

  • 2020年6月：

  • 场景：增加 [直播带货 李佳琪薇娅] [直播王者荣耀 张大仙骚白] [老罗语录]

  • 厂商：增加阿里+，为阿里云新算法的试用版;测试中取消[谷歌], 因谷歌的中文识别性能没有参考性，且费用超过其余各家之和。

  • 更名：原搜狗知音平台改名为搜狗AI开放平台

  • 测试：全厂商 × 全场景 滚动刷新测试

  • 2020年5月：

  • 2020年4月：

  • 场景：增加 [鲁豫有约大咖一日行]

  • 厂商：增加微软 Azure 认知服务搜狗知音平台

  • 测试：全厂商 × 全场景 滚动刷新测试

  • 场景：增加 [新闻联播]

  • 厂商：增加阿里百度谷歌讯飞腾讯创Y