Hipi 文件的相关操作 Hib建立索引部分。

本文详细介绍了如何利用Hadoop和Hib进行大数量图片的存储和索引创建,以实现快速搜索相似图片的功能。通过自定义代码实现索引构建,并在夜间执行以优化性能。

图片文件上传的服务器 存储  

在hib里会自动进行打包,并且对每张图片的尺寸进行缩小和优化,对图片的质量会有一定的影响,不是很大。


要么是用于大数量图片的存储 要么利用Hadoop本身机制 的建立 索引,以便进行搜素。


现在做的项目就用到了 hip 和hadoop的搜索部分,业务要求上传一张照片,通过后台搜索返回最相似的自定义的几张图片。


这里记录简历索引需要用到的代码


public static void createIndex(){
String hostname = SysParameter.getParameter("hadoophost");
       String username = SysParameter.getParameter("hadoopusername");
       String password = SysParameter.getParameter("hadooppassword");
/*String hostname ="172.1.23.89";
       String username ="hadoop";
       String password = "hadoop";*/
       //指明连接主机的IP地址  
       Connection conn = new Connection(hostname);  
       System.out.println("liunx        "+username+" "+password);
       Session ssh = null;  
       try {  
           //连接到主机  
           conn.connect();  
           //使用用户名和密码校验  
           boolean isconn = conn.authenticateWithPassword(username, password);  
           if(!isconn){  
               System.out.println("用户名称或者是密码不正确");  
           }else{  
               System.out.println("已经连接OK");  
             ssh = conn.openSession();  
               //使用多个命令用分号隔开  
    ssh.execCommand("cd /usr/hadoop/hadoop-2.6.0/usr/;hadoop jar BuildIndex.jar  "+args[0]);  
               //只允许使用一行命令,即ssh对象只能使用一次execCommand这个方法,多次使用则会出现异常  

               //将屏幕上的文字全部打印出来  
                InputStream  is = new StreamGobbler(ssh.getStdout());  
               BufferedReader brs = new BufferedReader(new InputStreamReader(is));  
           while(true){  
                  String line = brs.readLine();  
                if(line==null){  
                      break;  
               }
                System.out.println(line);  
               }  
                 
           }  
           //连接的Session和Connection对象都需要关闭  
           ssh.close();  
           conn.close(); 
              
       } catch (IOException e) {  
           System.out.println("建立索引出现问题。。。。。"); 
           e.printStackTrace();  
       }  
}

由于每次上传后hib地址都会变,名字在变,所以我们要手动传,已用来保证程序的自动建立最新的hib文件索引

所以改了下程序的源码  是 buildIndex.CLASS 的mian 方法里 修改readxml.get_hibpath  改成 args[0] 变成手动操作。

在ssh 的运行指令最后 增加 一个参数 为args【0】 由程序来传入最新的Hib对象路径。

给hib文件 建立索引 用于搜索 这个过程很慢,一般需要3-5分钟,所以建议做一个定时器,放到半夜进行操作。

先展示下效果 https://pan.quark.cn/s/a4b39357ea24 遗传算法 - 简书 遗传算法的理论是根据达尔文进化论而设计出来的算法: 人类是朝着好的方向(最优解)进化,进化过程中,会自动选择优良基因,淘汰劣等基因。 遗传算法(英语:genetic algorithm (GA) )是计算数学中用于解决最佳化的搜索算法,是进化算法的一种。 进化算法最初是借鉴了进化生物学中的一些现象而发展起来的,这些现象包括遗传、突变、自然选择、杂交等。 搜索算法的共同特征为: 首先组成一组候选解 依据某些适应性条件测算这些候选解的适应度 根据适应度保留某些候选解,放弃其他候选解 对保留的候选解进行某些操作,生成新的候选解 遗传算法流程 遗传算法的一般步骤 my_fitness函数 评估每条染色体所对应个体的适应度 升序排列适应度评估值,选出 前 parent_number 个 个体作为 待选 parent 种群(适应度函数的值越小越好) 从 待选 parent 种群 中随机选择 2 个个体作为父方和母方。 抽取父母双方的染色体,进行交叉,产生 2 个子代。 (交叉概率) 对子代(parent + 生成的 child)的染色体进行变异。 (变异概率) 重复3,4,5步骤,直到新种群(parentnumber + childnumber)的产生。 循环以上步骤直至找到满意的解。 名词解释 交叉概率:两个个体进行交配的概率。 例如,交配概率为0.8,则80%的“夫妻”会生育后代。 变异概率:所有的基因中发生变异的占总体的比例。 GA函数 适应度函数 适应度函数由解决的问题决定。 举一个平方和的例子。 简单的平方和问题 求函数的最小值,其中每个变量的取值区间都是 [-1, ...
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值