大模型笔试选择题：题组1

题目

1.（多选）以下选项中属于elmo、gpt、bert相同点的是

        A. 都可以解决一词多义问题

        B. 都是双向模型

        C. 都使用大规模文本进行预训练

        D. 都基于Transformer

解答

1.【答案】AC

【解析】

• 选项A：都可以解决一词多义问题​​

  ELMo、GPT和BERT都能生成上下文相关的词嵌入，因此都能解决一词多义问题。该选项正确。

• ​​选项B：都是双向模型​​

  ELMo是双向的（使用双向LSTM），BERT是双向的，但GPT是单向的（仅从左到右生成），因此不是所有模型都是双向的。该选项错误。

• ​​选项C：都使用大规模文本进行预训练​​

  ELMo、GPT和BERT都依赖于大规模文本语料进行预训练，这是它们的共同特点。该选项正确。

• ​​选项D：都基于Transformer​​

  ELMo基于LSTM，不是Transformer；GPT和BERT基于Transformer。因此不是所有模型都基于Transformer。该选项错误。

因此，正确选项是​​A和C​​。