19、问答系统优化与模型效率提升

问答系统优化与模型效率提升

1. 问答系统优化

1.1 模型微调与评估

在问答系统中，我们可以使用 FARMReader 加载模型进行微调。以 MiniLM 为例，操作步骤如下：
1. 加载模型：

minilm_ckpt = "microsoft/MiniLM-L12-H384-uncased"
minilm_reader = FARMReader(model_name_or_path=minilm_ckpt, progress_bar=False,
                           max_seq_len=max_seq_length, doc_stride=doc_stride,
                           return_no_answer=True)

2. 进行一轮微调：

minilm_reader.train(data_dir=".", use_gpu=True, n_epochs=1, batch_size=16,
             train_filename=train_filename, dev_filename=dev_filename)

3. 在测试集上进行评估：