QNet:一种量子本源序列编码器架构

摘要:在本文中,我们提出了一种名为QNet的全新序列编码器模型,它完全基于量子计算机进行推理,并且使用最少数量的量子比特。其中,$n$和$d$分别表示序列的长度和嵌入大小。传统的点积注意力机制的时间复杂度为$O(n^2 \cdot d)$,而QNet仅需$O(n+d)$的量子电路深度。此外,我们还介绍了一种名为ResQNet的量子-经典混合模型,它由多个QNet块通过残差连接相互关联,作为等同于Transformer编码器的结构。我们在各种自然语言处理任务上对我们的工作进行了评估,包括文本分类、评分预测和命名实体识别。我们的模型在经典的最先进模型的参数数量减少了千倍的情况下展现出了令人信服的性能。总而言之,本文通过在自然语言处理任务中进行实验,探讨了在近期量子计算机上利用机器学习处理顺序数据的优势。

作者:Wei Day, Hao-Sheng Chen, Min-Te Sun

论文ID:2210.17262

分类:Machine Learning

分类简称:cs.LG

提交时间:2023-08-29

PDF 下载: 英文版 中文版pdf翻译中