论文与阅读

经典论文

• Attention Is All You Need：Transformer 架构的代表性论文。
• BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding：理解预训练语言模型的重要论文。
• Language Models are Few-Shot Learners：GPT-3 论文，展示大模型的 few-shot 能力。

阅读建议

• 先读摘要、引言和结论，明确论文解决的问题。
• 结合图表理解模型结构和实验结论。
• 对关键论文保留自己的问题清单和复述笔记。