18.es TF&IDF算法以及向量空间模型算法

1.boolean model
类似and这种逻辑操作符,先过滤出包含指定term的doc
query "hello world" --> 过滤 --> hello/world/hello&world
bool --> must/must not/should -->过滤-->包含/不包含/可能包含
doc -->不打分数-->正或反 true or false --> 为了减少后续要计算doc的数量,提升性能

2.TF/IDF
单个term在doc中的分数
query: hello world --> doc.content
doc1: java is my favourite programming language,hello world!!!
doc2: hello java, you are very good,oh hello world!!!

hello对doc1的评分
TF:term frequency
找到hello在doc1中出现了几次,1次,会根据出现的次数给个分数
一个term在一个doc中,出现的次数越多,name最后给的相关度评分就会越高

IDF: inversed document frequency
找到hello在所有的doc中出现的次数,3次
一个term在所有的doc中,出现的次数越多,那么最后给的相关度评分就会越低

length norm
hello搜索的那么field的长度,field长度越长,给的相关度评分越低,field长度越短,给的相关度评分越高

最后,会将hello这个term,对doc1的分数,综合TF,IDF,length norm,计算出来一个综合性的分数

hello world --> doc1 --> hello对doc1的分数,world对doc1的分数 --> 但是最后hello world query要对doc1有一个总的分数 --> vector space model

3.vector space model
多个term对一个doc的总分数
hello world --> es会根据hello world在所有doc中的评分情况,计算出一个query vector,query向量

hello 这个term 给的基于所有的doc的一个评分是2

world 这个term 给的基于所有doc的一个评分是5

那么 这个 query vector 就是 [2,5]

3个doc, 一个包含 1个term ，一个包含另一个term,一个包含2个term

3个doc 

doc1 : 包含 hello --> [2,0]

doc2：包含world -->[0,5]

doc3：包含hello,world -->[2,5]

会给每一个doc ，拿每个term 计算出一个分数来，hellow有分数，world有一个分数，再拿所有term的分数组成一个doc vector

画在一个图中，取每个doc vector 对query vector的弧度，给出每个doc对多个term的总分数

每个doc vector 计算出 对query vector的弧度，最后基于这个弧度给出一个doc 相对于query 中多个term的总分数，弧度越大，分数越低；弧度越小，分数越高

如果是多个term,那么就是线性代数来计算，无法用图展示