Pytorch
TensorFlow

#
章末小测验

Test what you learned in this chapter!

###
1. emotion 数据集包含标记有情绪的 Twitter 消息。在 Hub 中搜索它，然后读取数据集卡。哪一个不是它的基本情感？

欢乐 爱 困惑 惊喜

###
2.在 Hub 中搜索 ar_sarcasm 数据集，它支持哪个任务？

情绪分类 机器翻译 命名实体识别 回答问题

###
3.BERT模型期望如何处理一对句子？

句子1 [SEP] 句子2 [CLS]句子1 句子2 [CLS]句子1 [SEP] 句子2 [SEP] [CLS]句子1 [SEP] 句子2

###
4. Dataset.map() 方法的好处是什么？

函数的结果会被缓存，因此如果我们重新执行代码，不会花费任何时间。 它可以应用多重处理，比在数据集的每个元素上逐个应用函数更快。 它不会将整个数据集加载到内存中，而是在处理一个元素后立即保存结果。

###
5.什么是动态填充？

它指的是将每批数据的输入填充到整个数据集中的最大长度。 当创建批处理时，将输入填充到该批处理中句子的最大长度。 当您填充输入时，每个句子与数据集中的前一个句子具有相同数量的标记。

###
6.校对函数的用途是什么？

它确保数据集中的所有序列具有相同的长度。 它把所有的样品放在一起成一批 它对整个数据集进行预处理。 它截断数据集中的序列。

###
7.当你用一个预先训练过的语言模型(例如 bert-base-uncased )实例化一个 AutoModelForXxx 类，这个类对应于一个不同于它所被训练的任务时会发生什么？

什么都没有，但是你得到了一个警告。 丢弃预训练模型的头部，并插入一个新的头部适合的任务。 丢弃预先训练好的模型头部。 无事发生，因为模型仍然可以针对不同的任务进行微调。

###
8. TrainingArguments 的目的是什么？

它包含使用`训练器`进行训练和评估的所有超参数。 它指定模型的大小。 它只包含用于评估的超参数。 它只包含用于训练的超参数。

###
9.为什么要使用 🤗Accelerate 库？

它提供了对更快的模型的访问。 它提供了一个高级 API，因此我不必实现自己的培训循环。 它使我们的训练循环工作在分布式策略上 它提供了更多的优化功能。
< > Update on GitHub