网络自助新闻发稿平台，价格低，发稿快

论文所涉及的模型实验是 SQU AD1.1和 SQU AD2.0上运行。实验采用 BERT-Large 作为基线模型,并在基础上进行了一系列改进。

首先,使用 BERT 分别编码 Q 和 P,从而实现注意力分离表示。然后执行一个注意力读者一样的方法,以获得最终的答案。我们把这个模型命名为SEPBERT Reader。接下来,将多模式建模添加到 SEPBERT Reader 中,以验证多模式读取策略。此外,还包括多模式阅读器的条件背景关注,然后得到一个新的模型,称为 CondAttention Reader。最后,将交互模块添加到 CondAttention Reader 中,这构成了最终的模型,涵盖了本文提到的所有改进方案。最后的模型叫做Force Reader。

结果表明,模型在SQUAD1.1 上已经超过了人类的性能。它也接近 SQUAD2.0 上的人类性能。

以下图6-8也直观地分析了注意力,直观地展示了模型的学习能力和可解释性。

综上,论文主要通过分析了 BERT 在机器阅读理解中的应用,提出了注意力分散问题,并对其对阅读理解的影响进行了详细分析。针对这一问题,论文提出了一种高效、直观的模型,将注意力分离表示、多模式阅读、 条件背景关注和交互推理结合起来。注意分离表示法有效地解决了注意去集中的问题。多模式阅读、有条件背景关注和互动推理可以使模型更好地适应阅读理解的高度交互。

本次论文的意义,不仅提升了机器阅读理解任务的执行能力,也为变压器模型的可解释性提供了一个新的论点。

91获客陈峥博士是谁?解读基于 BERT 的交互式机器读取器，陈峥博士作为91获客首席科学家,指导着91获客在人工智能领域的研发工作,一直积极投身于AI在互联网企业服务领域的落地应用。在不断强大的理论支撑和实践探讨下,91获客的AI能力也将获得极大突破,我们也将继续发挥AI和大数据技术的协同优势,创造更多跨行业跨领域的创新机遇,为企业营销行业以及企业客户注入更高更好的“新动能”。