贝叶斯分类器

最新推荐文章于 2022-09-28 14:10:20 发布

weixin_30672019

最新推荐文章于 2022-09-28 14:10:20 发布

阅读量75

点赞数

CC 4.0 BY-SA版权

原文链接：http://www.cnblogs.com/caoke/p/11066206.html

博客介绍了分类相关的文件，包括 app.js、makeFeatures.js、config.js、utils/Bayes.js 等，提到将各文件特征组合成矩阵，还涉及单个特征存在时属于类别的概率计算，如 getFeaPosInTag.js 和 getFeaPosRect.js。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

app.js

//贝叶斯分类器
//特征字典：一些词语数组(改成了特征函数)，定义生产特征
//类别的训练集：找出特征在类别中的概率
//->产出概率矩阵
//特征组合全展开,找出特征相同，概率最大的列表
//生产特征组合字典，做判断
const fs=require('fs');
function getText(filepath){
    return fs.readFileSync(filepath).toString();
}

const makeFeatures=require('./makeFeatures')
const {tagNames,getTagIndex,getAllP}=require('./config')
const html=getText('./src/tag2/2.txt')
const nfeature=makeFeatures({html});
// console.log(getAllP(nfeature));
const index=getTagIndex(nfeature);
console.log(tagNames[index],index,tagNames);

特征函数 makeFeatures.js

//贝叶斯分类器
//特征字典：一些词语数组
//类别的训练集：找出特征在类别中的概率
//->产出概率矩阵
//特征组合全展开,找出特征相同，概率最大的列表
//生产特征组合字典，做判断
const locals={};
const funcArr=[
    function ({html,locals}) {
        if(html.indexOf('垃圾')>-1){
            return '1'
        }
        return '0'
    },
    function ({html,locals}) {
        if(html.indexOf('食品')>-1){
            return '1'
        }
        return '0'
    },
    function ({html,locals}) {
        if(html.indexOf('商品')>-1){
            return '1'
        }
        return '0'
    }
];

const crypto = require('crypto');
const cryptoPassFunc = function(password) {
    const md5 = crypto.createHash('md5');
    return md5.update(password).digest('hex');
};
locals.md5Cache={}
//生产特征
function makeFeatures({html}) {
    const md5=cryptoPassFunc(html)
    if(!locals.md5Cache[md5]){
        const req={
            locals:locals,
            html:html,
        };
        let s='';
        for(let i=0;i<funcArr.length;i++){
            s=s+funcArr[i](req);
        }
        locals.md5Cache[md5]=s;
    }
    return locals.md5Cache[md5];
}
module.exports=makeFeatures;

配置文件，定义了分类名称、训练集位置 config.js

//贝叶斯分类器
//特征字典：一些词语数组
//类别的训练集：找出特征在类别中的概率
//->产出概率矩阵
//特征组合全展开,找出特征相同，概率最大的列表
//生产特征组合字典，做判断
const glob=require('glob');
const Bayes=require('./utils/Bayes');

function getMaxIndex(arr) {
    let index=0;
    for(let i=1;i<arr.length;i++){
        if(arr[index].lessThan(arr[i])){
            index=i;
        }
    }
    return index;
}
const tagNames=glob.sync('./src/*/').map(function (path) {
    return path.replace(/\.\/src\/(.+)?\//,'$1')
})

const tagArr=[glob.sync("./src/tag1/*"),glob.sync("./src/tag2/*"),glob.sync("./src/tag3/*")]
//发生事件map表
const rect=Bayes.getFeaPosRect(tagArr)
// console.log(rect);

const featureMap={}

function getAllP(feature) {
    if(!featureMap[feature]){
        featureMap[feature]=Bayes.getAllP(feature,rect)
    }
    return featureMap[feature];
}
function getTagIndex(feature) {
    return getMaxIndex(getAllP(feature));
}
module.exports={
    getAllP,
    getTagIndex,
    tagNames,
};

入口工具，存在了bayes公式相关运算 utils/Bayes.js

//贝叶斯分类器
//特征字典：一些词语数组
//类别的训练集：找出特征在类别中的概率
//->产出概率矩阵
//特征组合全展开,找出特征相同，概率最大的列表
//生产特征组合字典，做判断

const getFeaPosRect=require('./getFeaPosRect');
const execMathExpress=require('./execMathExpress');
//特征n存在，属于类别m的概率
function getPSW(n,m,rect) {
    const PWS=rect[m][n];
    const PWSArr=rect.map(function (arr) {
        return arr[n];
    })
    const str=`${PWS}/(${PWSArr.join('+')})`;
    return execMathExpress(str)
}

//联合SW1*SWn
function getPE(feature,m,rect){
    const arr=[]
    for(let i =0;i<feature.length;i++){
        if(feature[i]=='1'){
            const PSW=getPSW(i,m,rect)
            arr.push(PSW)
        }
    }

    return execMathExpress(arr.join('*'))
}
//获取全概率 p1*pn
function getPEN(feature,rect){
    const arr=[]
    for(let i=0;i<rect.length;i++){
        arr.push(getPE(feature,i,rect))
    }
    const str=`${arr.join('+')}`;
    return execMathExpress(str)
}
//特征feature属于类别m的概率
function getP(feature,m,rect){
    const arr=[]
    for(let i=0;i<rect.length;i++){
        arr.push(getPE(feature,i,rect))
    }
    const pE=getPE(feature,m,rect);
    const pEN=getPEN(feature,rect);
    return execMathExpress(`(${pE})/(${pEN})`)
}
//特征feature属于所有类别的概率
function getAllP(feature,rect) {
    const arr=[];
    for(let i=0;i<rect.length;i++){
        arr.push(getP(feature,i,rect))
    }
    return arr;
}

module.exports={
    getFeaPosRect:getFeaPosRect,
    getAllP:getAllP,
}

每个文件都有特征，将特征组合成矩阵

//贝叶斯分类器
//特征字典：一些词语数组
//类别的训练集：找出特征在类别中的概率
//->产出概率矩阵
//特征组合全展开,找出特征相同，概率最大的列表
//生产特征组合字典，做判断

const fs=require('fs');
function getText(filepath){
    return fs.readFileSync(filepath).toString();
}
const makeFeatures=require('../makeFeatures');

function makeFeatureRect(fileArr) {
    const rect=[]
    for(let i=0;i<fileArr.length;i++){
        const html=getText(fileArr[i])
        const feature=makeFeatures({html})
        rect.push(feature)
    }
    return rect;
}
module.exports=makeFeatureRect;

单个特征存在的情况，属于类别的概率，getFeaPosInTag.js

//贝叶斯分类器
//特征字典：一些词语数组
//类别的训练集：找出特征在类别中的概率
//->产出概率矩阵
//特征组合全展开,找出特征相同，概率最大的列表
//生产特征组合字典，做判断
const makeFeatureRect=require('./makeFeatureRect')
//找出特征在类别中的概率
function getFeaPosInTag(fileArr) {
    const featureRect=makeFeatureRect(fileArr);
    const arr=[];
    for(let i=0;i<featureRect[0].length;i++){
        let num=0;
        const den=featureRect.length;
        for(let j=0;j<featureRect.length;j++){
            if(featureRect[j][i]==='1'){
                num++;
            }
        }
        arr.push(num+'/'+den);
    }
    return arr;
}
module.exports=getFeaPosInTag;

找出每个特征存在时，每个类别的概率，getFeaPosRect.js

//贝叶斯分类器
//特征字典：一些词语数组
//类别的训练集：找出特征在类别中的概率
//->产出概率矩阵
//特征组合全展开,找出特征相同，概率最大的列表
//生产特征组合字典，做判断
const getFeaPosInTag=require('./getFeaPosInTag')
//找出特征在类别中的概率，多个类别
function getFeaPosRect(tagArr) {
    const rect=[]
    for(let i=0;i<tagArr.length;i++){
        rect.push(getFeaPosInTag(tagArr[i]))
    }
    return rect;
}

module.exports=getFeaPosRect;