- 博客(11)
- 收藏
- 关注
原创 大模型学习笔记(一)
但我们加了位置编码之后,模型就能“知道”哪个 token 在前,哪个在后,它也能学到:越靠近当前位置的 token,对预测当前词帮助越大,它是。简单说就是三条:1.最近的内容就是较为重要的(人类就是这样的)2.利用训练数据,位置编码,通过loss模型学会了远近概念,并得知近距离的loss低,注意力更聚集附近。强调:部署中的效果非线性受限!另外,日常的语言、代码、文档,本身就有“最近说的更重要”的规律,这些语言和任务的自然结构,构成了训练数据的分布,模型通过最大化下一个词的预测概率,自动内化了这些分布规律。
2025-06-27 23:37:06
1841
1
原创 学习记录7
大家1024快乐!1010看起来没问题了,但是有测试点没过,改完后发。PAT Basic Level1011 A+B 和 C (15 分)给定区间 [−231,231] 内的 3 个整数A、B和C,请判断A+B是否大于C。输入格式:输入第 1 行给出正整数T(≤10),是测试用例的个数。随后给出T组测试用例,每组占一行,顺序给出A、B和C。整数间以空格分隔。输出格式:对每组测试用例,在一行中输出Case #X: true如果A+B>C,否...
2021-10-24 20:59:33
115
原创 学习记录6
1009 说反话 (20 分)给定一句英语,要求你编写程序,将句中所有单词的顺序颠倒输出。输入格式:测试输入包含一个测试用例,在一行内给出总长度不超过 80 的字符串。字符串由若干单词和若干空格组成,其中单词是由英文字母(大小写有区分)组成的字符串,单词之间用 1 个空格分开,输入保证句子末尾没有多余的空格。输出格式:每个测试用例的输出占一行,输出倒序后的句子。输入样例:Hello World Here I Come输出样例:Come I Here World He
2021-10-23 18:48:16
117
原创 学习记录5
最近在复习,没更...007 素数对猜想 (20 分)让我们定义dn为:dn=pn+1−pn,其中pi是第i个素数。显然有d1=1,且对于n>1有dn是偶数。“素数对猜想”认为“存在无穷多对相邻且差为2的素数”。现给定任意正整数N(<105),请计算不超过N的满足猜想的素数对的个数。输入格式:输入在一行给出正整数N。输出格式:在一行中输出不超过N的满足猜想的素数对的个数。输入样例:20结尾无空行输出样例:4结尾无空行也
2021-10-21 20:35:22
103
原创 学习记录4
PAT (Basic Level) Practice (中文)1006 换个格式输出整数 (15 分)让我们用字母B来表示“百”、字母S表示“十”,用12...n来表示不为零的个位数字n(<10),换个格式来输出任一个不超过 3 位的正整数。例如234应该被输出为BBSSS1234,因为它有 2 个“百”、3 个“十”、以及个位的 4。输入格式:每个测试输入包含 1 个测试用例,给出正整数n(<1000)。输出格式:每个测试用例的输出占一行,用规定的...
2021-10-16 15:13:15
115
原创 学习记录3
PAT (Basic Level) Practice (中文)1005 继续(3n+1)猜想 (25 分)卡拉兹(Callatz)猜想已经在1001中给出了描述。在这个题目里,情况稍微有些复杂。当我们验证卡拉兹猜想的时候,为了避免重复计算,可以记录下递推过程中遇到的每一个数。例如对n=3进行验证的时候,我们需要计算 3、5、8、4、2、1,则当我们对n=5、8、4、2 进行验证的时候,就可以直接判定卡拉兹猜想的真伪,而不需要重复计算,因为这 4 个数已经在验证3的时候遇到过了,我们称 5、...
2021-10-16 14:11:08
129
原创 学习记录2
PAT (Basic Level) Practice (中文)1002 写出这个数 (20 分)读入一个正整数n,计算其各位数字之和,用汉语拼音写出和的每一位数字。输入格式:每个测试输入包含 1 个测试用例,即给出自然数n的值。这里保证n小于10^100。输出格式:在一行内输出n的各位数字之和的每一位,拼音数字间有 1 空格,但一行中最后一个拼音数字后没有空格。输入样例:1234567890987654321123456789结尾无空行输出样例:...
2021-10-14 22:38:37
145
1
原创 学习记录1
PAT (Basic Level) Practice (中文)1004 成绩排名 (20 分)读入n(>0)名学生的姓名、学号、成绩,分别输出成绩最高和成绩最低学生的姓名和学号。输入样例:3Joe Math990112 89Mike CS991301 100Mary EE990830 95结尾无空行输出样例:Mike CS991301Joe Math990112结尾无空行这是另外一道简单些的题目(所以先写了1004,1002正在写了55555~题目.
2021-10-12 21:13:33
136
原创 学习记录0
编程新人,学生。开此帖,以记录学习及其遇到的问题。欢迎各位学友一同交流。(虽然很菜就是了也期待各位dalao的指正。(感觉没人来看的233今天记录的是一道简单的题PAT (Basic Level) Practice (中文)1001 害死人不偿命的(3n+1)猜想 (15 分)卡拉兹(Callatz)猜想:对任何一个正整数n,如果它是偶数,那么把它砍掉一半;如果它是奇数,那么把(3n+1)砍掉一半。这样一直反复砍下去,最后一定在某一步得到n=1。卡拉兹在 1950 年的世界数...
2021-10-12 20:19:28
317
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅