与TensorFlow共同进步 kika输入法引擎不断突破升级

作为享誉海外的人工智能公司,kika的使命一直是通过技术创新,以输入法为切入场景,帮助人们更加自由有趣地表达心中所想,让世界沟通变得更简单。因此,不断升级输入法引擎,继而变革世界沟通是kika一直所追逐的目标。而得益于谷歌将TensorFlow开源并不断迭代,以及本身技术的钻研及创新,近日,kika正式成为TensorFlow的contributor(贡献者),与TensorFlow共同进步。

与TensorFlow共同进步 kika输入法引擎不断突破升级

从2016年开始,kika 技术团队一直致力于 AI 技术在移动端落地,尤其是在 keyboard 输入法引擎做了很多算法与工程上的探索工作。2017 年 5 月,kika 技术团队基于 TensorFlow Mobile 研发了 kika AI Engine,将其应用于 kika 的全系输入法产品中。2017 年 11 月,在Google 发布 TensorFlow Lite (TF Lite) 后,kika 技术团队同样进行了迅速跟进。

TensorFlow Lite 是针对移动和嵌入式设备的轻量级解决方案,支持移动设备上机器学习模型的低时延推理。它拥有全新的设计,具有如下三个重要功能:

轻量级(Lightweight):支持机器学习模型的推理在较小二进制数下进行,能快速初始化/启动;

跨平台(Cross-platform):可以在许多不同的平台上运行,现在支持 Android 和 iOS;

快速(Fast):针对移动设备进行了优化,包括大大减少了模型加载时间、支持硬件加速。

kika输入法作为一个重度使用的工具类 APP,在移动端做轻量化部署显然非常重要。而对于kika输入法引擎而言,最需具备的技术要求包括:快、准、全,需要在客户端环境下,根据用户输入的上文内容以及当前键入的键码,实时进行『预测』。预测的内容包括:单词,词组,emoji 等等一切可能通过输入法发送的内容。这恰与TensorFlow Lite 的功能优势天然契合。

因此,在Google 发布 TensorFlow Lite (TF Lite) 后,kika技术团队立即着手升级开发。在开发过程中,kika发现TF Lite 对于 RNN/LSTM 的支持程度稍显不足,例如对于RNN的支持尚存在op支持不足的缺点。不过,kika团队在经历相当的研发投入后,已然可以尽量避免使用这些TF Lite不支持的 op,对于不得不使用的情况,也可以实现结合具体的业务逻辑,优化设计,使得在移动端部署的二次开发的工作量尽可能的小。

2018 年 1 月,kika成功地开发了基于TF Lite全新一代的 kika AI Engine。在客户端实现基于TF Lite模型的部署之后,kika分别测试了同一模型在 TF 完全版(TF Mobile)和TF Lite10, 000 次 Inference 的资源消耗情况,如下图所示。主要的 Metrics 包括内存占用 (memory),运行时间(speed)和静态链接库的大小 (image size)。

与TensorFlow共同进步 kika输入法引擎不断突破升级

可以看到,各项 Metrics 都得到的大幅的优化,这对于提升产品的整体性能与稳定度都十分有利。

与此同时,kika也再一次进行了线上产品的更新,使得用户拥有了更好的使用体验。事实上,除了输入法引擎之外,kika 技术团队近年来也一直在致力于采用 AI 技术解决内容推荐,语音识别和自然语义理解方面等方面的诸多实际问题,在客户端和服务端部署分别采用 TF Lite 和 TF Serving 这两个基于 TensorFlow 的优秀框架。

在 TensorFlow的加持下,kika输入法引擎不断突破升级,无疑将使得kika变革世界沟通的美好愿景加快实现。

极客网企业会员

免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,应及时向本网站提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后,将会依法尽快联系相关文章源头核实,沟通删除相关内容或断开相关链接。

2018-07-02
与TensorFlow共同进步 kika输入法引擎不断突破升级
作为享誉海外的人工智能公司,kika的使命一直是通过技术创新,以输入法为切入场景,帮助人们更加自由有趣地表达心中所想,让世界沟通变得更简单。

长按扫码 阅读全文