onlyxinbaby的博客

交叉验证是为了避免随机性给模型带来的对比不公平的情况，所以在各种训练数据和测试数据的安排下对不同的模型结构进行多次训练和选择，求均值和方差之后进行对比。深度学习模型的交叉验证方法，是为了测试两种不同的模型结构的优势，而不是测试一种模型到什么时候收敛，初学的时候弄混了。一个attention的pytorch的实现的记录和参考吧。留一：这种实在数据非常非常少的时候用的。

ACC F1

advantages: 提供了与LLM进行交流的可解释的接口，通过template和demonstration将人类知识和LLM更好的结合；更像人类的预测思维，会根据类比；warmup是介于pretraining和 inference之间的，可选择的，一般是调整llm或者增加一些参数，不同于fine-tune，不会对llm针对具体任务进行训练。严格说ICL是prompt learning的子类，其中的demonstration和是prompt的一种，只不过demonstration是很多的xy对构成的。

LLM