Attention Is All You Need？重读经典与被隐匿的技术账本
二〇一七年，Google 的八位研究者发表了一篇题为《Attention Is All You Need》的论文。论文题目的口气极狂妄——“注意力就是你所需要的一切”。然而在随后的几年里，它不仅重塑了自然语言处理，更催生了今天席卷全球的大语言模型浪潮。 然而，当喧嚣的泡沫漫过地平线，当人们在赞叹与恐慌中不断交织，我们或许更应当重新坐下来，把这篇开山之作拆开看一看：它究竟在工程上做对了什么？而在那句轻巧的“All You Need”背后，又究竟隐匿了怎样庞大的现实代价？ ...