IBM model1

最新推荐文章于 2025-02-10 22:39:42 发布

DCD_Lin

最新推荐文章于 2025-02-10 22:39:42 发布

阅读量1.7k

点赞数

CC 4.0 BY-SA版权

分类专栏： ibm model1 文章标签： ibm model1

本文链接：https://blog.youkuaiyun.com/linmingan/article/details/70858024

ibm model1 专栏收录该内容

1 篇文章

订阅专栏

该博客介绍了IBM Model 1的实现过程，通过Python代码展示了如何处理中文和英文语料库，利用`reduce(operator.add)`合并词汇，并进行迭代更新概率模型。在每个迭代中，更新了联合概率和条件概率，并打印了每一步的结果。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

#-*- encoding:utf-8 -*-

import operator
CORPUS_CH = [ ['一本','書'], ['一本','雜誌'], ['這本','書'], ['這本','雜誌'], ]
CORPUS_EN = [ ['a','book'], ['a','magazine'], ['this','book'], ['this','magazine'], ]
f_word = list(set(reduce(operator.add,CORPUS_CH)))
e_word = list(set(reduce(operator.add,CORPUS_EN)))
T = {}

for k in range(5) :
  C = {}
  for m,l in zip(CORPUS_CH,CORPUS_EN):
    if k == 0:
      for fi in m:
        for ej in l:
          if "%s|%s"%(fi,ej) not in T:
            T["%s|%s"%(fi,ej)]  =  1.0/len(e_word)
    for i, fi in enumerate(m):  
      sum_t = sum([ T["%s|%s"%(fi,ej)] for ej in l]) * 1.0
      for j, ej in enumerate(l):
        delta = T["%s|%s"%(fi,ej)] / sum_t
        C["%s %s"%(ej, fi)] =  C.get("%s %s"%(ej, fi), 0) + delta
        C["%s"%(ej)] = C.get("%s"%(ej), 0) + delta
  print "---iteration:%s---"%(k) 
  for key in T:
    print key,":",T[key]
  for f in f_word:
    for e in e_word:
      if "%s %s"%(e, f) in C and "%s"%(e) in C:
        T["%s|%s"%(f,e)] = C["%s %s"%(e, f)] / C["%s"%(e)]
        
print "---iteration:%s---"%(k+1)
for key in T:
  print key,":",T[key]