Transformer
Transformer
Title: Attention Is All You Need
Authors: Vaswani, Ashish
DOI: https://doi.org/10.48550/arXiv.1706.03762
Date: October 1, 2022
Finish time: 2022/10/07
Future: 应用于别的任务上面,图片语音视频,生物信息学
Meaning: 舍去了特征提取这一步,只关于注意力机制,训练速度更快效果更好
Year: 2017
关键词: AI, NLP
期刊杂志: NIPS2017
Reference: 【Transformer论文逐段精读【论文精读】】https://www.bilibili.com/video/BV1pu411o7BE?vd_source=5ec85dfc5468a21a485b1b1d4d271219
标题+作者
Attention Is All You Need
经验:每个作者名字后面都打了一个🌟号(行内打🌟一般都表示同等贡献,listing oder is random,每个作者都做出了贡献
...