Transformer课程 第29章Transformer模型CTRL架构

第29章：使用Control code的文本生成Transformer模型CTRL架构内幕及完整源码实现
1，能够使用第一个Token作为control code的数学原理分析
2，控制生成内容的style、content及task-specific行为的架构设计
3，control code的来源：co-occure
4，生产coherent内容的关键是什么？
5，基于CLM的CTRL 设计实现
6，syntactically coherent text与semantically coherent text
7，CTRLTokenizer源码完整实现解析
8，CTRLTokenizer源码完整实现解析
9，positional_encoding源码完整实现解析
10，scaled_dot_product_attention源码完整实现解析
11，MultiHeadAttention源码完整实现解析
12，EncoderLayer源码完整实现解析
13，CTRLPreTrainedModel源码完整实现解析
14，CTRLLMHeadModel源码完整实现解析
15，CTRLModel源码完整实现解析
16，CTRLForSequenceClassification源码完整实现解析