更新日志

最新更新日期:2020.08

  • 2020年8月:

    • 场景:增加 播客 创业内幕

    • 测试:全厂商 × 全场景 滚动刷新测试

  • 2020年7月:

  • 场景:增加 播客 故事FM

  • 重要修复:发现 直播带货 李佳琪薇娅、直播 王者荣耀、老罗语录

  • 三个场景测试集标注错误,全面检查&修正;作废这三个测试集6月的测试结果,7月开始启用修正后的测试集。详情见本月已经发布的[更正说明文章]

  • 测试:全厂商 × 全场景 滚动刷新测试

  • 2020年6月:

  • 场景:增加 直播带货 李佳琪薇娅、直播 王者荣耀、老罗语录

  • 厂商:增加 阿里+,为阿里云新算法的试用版; 测试中取消 谷歌,因谷歌的中文识别性能没有参考性,且费用超过其余各家之和。

  • 更名:原 搜狗知音平台 改名为搜狗AI开放平台

  • 测试:全厂商 × 全场景 滚动刷新测试

  • 2020年5月:

  • 修复搜狗多句结果解析bug

  • 场景:增加 天下足球-世界杯往事、罗振宇跨年演讲、李永乐老师在线讲堂

  • 厂商:增加 创S

  • 测试:全厂商 × 全场景 滚动刷新测试

  • 2020年4月:

  • 场景:增加鲁豫有约大咖一日行

  • 厂商:增加 微软 Azure 认知服务、搜狗知音平台

  • 测试:全厂商 × 全场景 滚动刷新测试

  • 2020年3月:

  • 场景:增加 新闻联播

  • 厂商:增加 阿里、百度、谷歌、讯飞、腾讯、创Y


滚动测试

已有测试集信息汇总


最新滚动测试结果汇总

视角1:纵轴(字准确率%)绘制范围为[0, 100],适合比较不同场景间差异


视角2:纵轴(字准确率%)绘制范围为[70, 100],适合比较不同厂商间差异


8月滚动测试详细数据



后记

  • 可以看到,本月新加入的测试集[播客 创业内幕]与上一期的[播客 故事FM]准确率非常接近。我们相信在话题不是很偏门的前提下,播客类节目的准确率应大体趋同,因为该场景的特点固定:环境安静,录音质量高,均为自然语言对话,聊天。播客类的评测暂告一段落。

  • 本月搜狗AI开放平台有明显性能提升。

  • 我们把目前已有的TIOBE的数据汇总成附录的图片表格,方便大家对照历史提升。


附录 全厂商× 全场景× 全历史月份 数据表

鲁豫有约大咖一日行新闻联播