今天在利用word2vec训练模型的时候发现模型不可用。仔细排查了一下,发现是读写文件编码不统一的问题。
try (BufferedReader br = new BufferedReader(new InputStreamReader(
new FileInputStream(file),"UTF-8"))) {
String temp = null;
while ((temp = br.readLine()) != null) {
String[] split = temp.split(" ");
trainWordsCount += split.length;
for (String string : split) {
mc.add(string);
// System.out.println("词语:" + string);
}
}
}后来在算法训练工具类learn里面修改了读取文件时的编码(如上)。顺利进行后续操作。
本文记录了一次使用Word2Vec模型训练过程中遇到的问题及解决方案。主要原因是读写文件时编码设置不一致导致的数据错误。通过调整算法训练工具类中的文件读取编码为UTF-8,成功解决了该问题并继续后续的训练工作。

813

被折叠的 条评论
为什么被折叠?



