IBM model1

最新推荐文章于 2025-02-10 22:39:42 发布

原创最新推荐文章于 2025-02-10 22:39:42 发布 · 1.7k 阅读

3 ·

CC 4.0 BY-SA版权

文章标签：

#ibm model1

ibm model1 专栏收录该内容

1 篇文章

订阅专栏

该博客介绍了IBM Model 1的实现过程，通过Python代码展示了如何处理中文和英文语料库，利用`reduce(operator.add)`合并词汇，并进行迭代更新概率模型。在每个迭代中，更新了联合概率和条件概率，并打印了每一步的结果。

部署运行你感兴趣的模型镜像

#-*- encoding:utf-8 -*-

import operator
CORPUS_CH = [ ['一本','書'], ['一本','雜誌'], ['這本','書'], ['這本','雜誌'], ]
CORPUS_EN = [ ['a','book'], ['a','magazine'], ['this','book'], ['this','magazine'], ]
f_word = list(set(reduce(operator.add,CORPUS_CH)))
e_word = list(set(reduce(operator.add,CORPUS_EN)))
T = {}

for k in range(5) :
  C = {}
  for m,l in zip(CORPUS_CH,CORPUS_EN):
    if k == 0:
      for fi in m:
        for ej in l:
          if "%s|%s"%(fi,ej) not in T:
            T["%s|%s"%(fi,ej)]  =  1.0/len(e_word)
    for i, fi in enumerate(m):  
      sum_t = sum([ T["%s|%s"%(fi,ej)] for ej in l]) * 1.0
      for j, ej in enumerate(l):
        delta = T["%s|%s"%(fi,ej)] / sum_t
        C["%s %s"%(ej, fi)] =  C.get("%s %s"%(ej, fi), 0) + delta
        C["%s"%(ej)] = C.get("%s"%(ej), 0) + delta
  print "---iteration:%s---"%(k) 
  for key in T:
    print key,":",T[key]
  for f in f_word:
    for e in e_word:
      if "%s %s"%(e, f) in C and "%s"%(e) in C:
        T["%s|%s"%(f,e)] = C["%s %s"%(e, f)] / C["%s"%(e)]
        
print "---iteration:%s---"%(k+1)
for key in T:
  print key,":",T[key]

您可能感兴趣的与本文相关的镜像