机器学习的数值预测（基于BERT的单模型NLP权威测试全球第三）

另外，不同于近几年成立的AI公司，小i早就开始推进认知智能商业化——小i机器人以开辟智能客服这一典型AI应用场景为基础，在金融、汽车、医疗等数个行业均有布局，其中商用智能客服领域，其行业市场占有率已超过80%。

迈向认知智能的技术底气：自研BERT WWM MT的单模型，NLP权威测试全球第三

现在大家习惯将人工智能分为三个台阶，计算智能、感知智能和认知智能，认知智能位于AI金字塔结构的顶部。

目前计算智能与感知智能，机器已经可以媲美甚至超越人类，但认知智能方面与人之间依然存在差距。

认知智能是人工智能发展的未来趋势。

认知智能涉及到语义理解、知识表达、联想推理、智能问答、自主学习。人工智能的一个重要目标就是希望机器能够与人类进行更加自然高效的交流，希望机器读懂人类深奥的语言，同时以一种我们习惯的方式进行交互。

其中，使机器读懂人类深奥的语言、同时也是认知智能方面最典型的任务就是阅读理解。

2019年7月，小i机器人研究院团队在由斯坦福大学发起的国际权威机器阅读理解评测SQuAD1.1挑战赛中，凭借最新研究成果——BERT WWM MT的单模型，以EM(精准匹配率)和F1(模糊匹配率)超越人类平均水平的优异成绩排名第三。

此次在考虑Whole Word Masking的BERT预训练模型基础之上，小i引入辅助任务如NewsQA等数据集，采用多任务学习的思路来改进现有模型的效果，进一步提升模型的最终预测评价指标（主要为Exact Match和F1值）。

具体来看，小i分别对目标任务和辅助任务中的答案集合进行长度频率统计，以及各自训练一个语言模型，来综合判断辅助任务中的数据样本与目标任务中的数据样本之间的相关性。

最后将这个相关性指标进一步引入到模型训练过程中损失函数Loss的计算过程中，以充分利用并学习到来自目标任务和有关辅助任务中的知识，从而最终提升模型的预测效果。

小i机器人参赛模型在此次比赛中获得EM指标 （精准匹配率）达到88.650，F1指标（模糊匹配率）达到94.393的成绩。

排名前两位的谷歌大脑和Facebook人工智能研究部门都选择了与高校联手进行挑战，而小i机器人则是完全独立参加比赛。

SQuAD被誉为自然语言处理领域金字塔尖的比赛，旨在促进智能搜索引擎的发展。

国际机器阅读理解评测SQuAD自2016年发布以来，共吸引了包括谷歌、微软亚洲研究院、IBM研究院、阿里巴巴达摩院、上海交通大学等众多国内外知名研究机构和高校参加。

而在实际应用中，小i也把机器阅读理解的最新研究成果应用于有关产品和实际项目中。例如，在小i机器人开发的Bot开放平台中，集成了基于机器阅读理解的能力。

除此之外，小i机器人分别实现了基于机器学习和深度学习方法的各个NLP基础能力模块，覆盖了词法分析、句法分析、语义分析、篇章分析的基础技术的能力，上述的机器阅读理解即为其中的能力之一。

小i机器人创始人、董事长兼CEO袁辉曾表示：感知、思考、运动三部分构成了人工智能，其中最核心的是拥有思考力的“大脑”，也就是认知智能，它决定着人工智能的水平高度。当机器的认知能力获得重大突破，AI的应用度和渗透力就会更强。

正因如此，小i机器人一直坚持“大脑”研发。

目前，小i机器人已在上海、贵阳、深圳、南京、香港、美国硅谷设立6大研发中心，与华东师范大学、香港科技大学、中国科学院软件所等建立联合实验室。在自然语言处理、深度语义交互、机器学习和大数据等认知智能相关以及图像、语音识别等核心技术上拥有全面、自主的知识产权。

在认知智能中，除当下热门的各项NLP能力外，小i机器人专攻另一独特技术方向——情感计算，即将人类情感量化成机器可以理解的数值。

事实上，认知智能的发展分为语言理解、分析推理，以及人格和情感三个层次，情感可以说是AI金字塔顶尖中的顶尖，是AI最终需攻克的难关之一。

情感计算的概念早在1997年由MIT媒体实验室Picard教授提出，她指出情感计算是与情感相关，来源于情感或能够对情感施加影响的计算。

但在用户界面中的对情绪交互信息的表示方式，仍缺乏规范化和统一的标准，使得人机交互中对用户情绪信息的理解、处理，以及情绪的回馈呈现等过程存在差异，阻碍了情感计算用户界面的应用和发展。

2013年着手研究情感计算以来，小i机器人在 2017年作为牵头单位之一提交了国际上第一个有关情感计算的国际标准ISO/IEC 30150-1《信息技术 情感交互 第一部分：模型》，这也是中国在该领域的首个国际标准。此标准也在今年8月正式通过国际标准草案（DIS）投票。

事实上，情感计算的应用前景相当广阔，用户与计算机系统之间依然存在情绪和表达上的障碍，如果制定相关国际标准，将有利于实现情感计算用户界面的应用推广。

今年8月，小i机器人联合中国电子技术标准化研究院和中国科学院软件研究所三家共同提交了ISO/IEC 30150-11《信息技术 情感计算用户界面 Part 11:情绪表示》和ISO/IEC 30150-2 《信息技术 情感计算用户界面 Part 2:情感特性》。

认知智能技术需要多向积累，技术和应用互生互补，螺旋上升。小i很早就入局智能机器人行业，在这方面已有深厚的积累。

2001年，小i机器人在上海成立，但它最早出现在大众视野是在2004年。那一年，小i机器人出现在MSN和QQ这两大社交软件上。凭借此次合作，小i机器人用户达到近一亿人次，同时，此举让小i积累起了庞大的中文语义库。从那以后，小i机器人开始进入聊天机器人和AI领域。

自2008年江苏移动i8智能客服上线后，小i打开了企业智能客服的大门。

此后，小i在智能客服领域迎来爆发期，合作对象也拓展到联想、联通、建行、招行等大型互联网、电信和金融机构。它们的机器人均使用了来自小i机器人的技术作为支撑。

除此之外，通过技术和资源的开放，小i还试图激活AI时代开发者潜力，共享AI红利，同时也使生态体系建设初具规模。

小i机器人发布了新一代智能Bot开放平台，集合了Chatting Bot、FAQ Bot、Discovery Bot三大核心能力以及深度学习、知识管理、知识学习、计算机视觉、知识融合等基础能力。

目前，平台支持智能客服场景的直接使用，为企业和开发者提供机器人服务无缝转人工服务以及通过智能学习构建知识库的完整使用闭环。除此之外，企业和开发者还可通过标准接口获得各类定制服务。

在人工智能的浪潮中，客服被认为是最先被取代的一类人群。传统的人工客服往往都是高密集性劳动，而智能客服可很好地改进成本高、服务效率低等问题。

人工智能技术有望在智能客服领域率先完成商业化落地。根据Gartner预测，2020年左右85%的客服服务都将由人工智能完成。

在小i的生态产业落地领域当中，智能客服是主要业务方向之一。

据了解，小i机器人在智能客服实现过程中，技术层面主要分为三块：一是自然语言处理和理解技术，二是需要机器人掌握根据上下文进行推理的能力，三是在不同领域中，利用人和机器的协作，半自动化地构建各行各业的知识体系。

作为国内智能客服领域的开拓者，小i在商用智能客服领域，行业市占率已经超过了80%。

如今，小i机器人的业务涉及电信运营商、银行、证券行业、互联网金融、机场、电商、汽车、3C、医院、房地产、酒店、手机、物流、餐饮等各行各业。

从技术、产品到解决方案、服务体系、再到生态建设，小i机器人这18年来稳扎稳打，为业界踏出了一条真正的“产业化之路”。