微博mid和id转换

mid为62进制编码,id为常见的10进制编码。

id从低位到高位,7个数字为一组,转换为62进制,并顺序合并,即转换为mid。

mid从地位到高位,4个字母为一组,转换为10进制,并右移7位,计算和,得到id。

 

7位的10进制数最大为9999999,转换为62进制后为FXsj;8位的10进制数最大为99999999,转换为62进制后为9FXsj。

7位分隔10进制数,能保证最多获得4位62进制数。

 

 

参考了http://blog.youkuaiyun.com/dier4836/article/details/7827908,但是他的mid计算id有问题。

package com.founder.weibocrawler.util;

public class WeiboIDUtils {

    public static void main(String[] args) {
        System.out.println(Mid2Id("D5DVt7A9n"));
        System.out.println(Id2Mid("3913451191807261"));
    }

    public static String Mid2Id(String mid) {
        long id = 0L;
        // 从最后往前以4字节为一组读取字符
        int count = 0;
        for (int i = mid.length() - 4; i > -4; i = i - 4) {
            int offset = i < 0 ? 0 : i;
            int len = i < 0 ? mid.length() % 4 : 4;
            String str = Encode62ToLong(mid.substring(offset, offset + len)).toString();
            // 不足7位补0
            if (offset != 0)
                str = String.format("%07d", Long.valueOf(str));
            id = (long) (Long.valueOf(str) * Math.pow(10, 7 * count) + id);
            count++;
        }
        return id + "";
    }

    public static String Id2Mid(String id) {
        String mid = "";
        for (int i = id.length() - 7; i > -7; i = i - 7) {
            int offset = i < 0 ? 0 : i;
            int len = i < 0 ? id.length() % 7 : 7;
            String str = LongToEnode62(Long.valueOf(id.substring(offset, offset + len)));
            mid = str + mid;
        }
        return mid;
    }

    private static String str62keys = "0123456789abcdefghijklmnopqrstuvwxyzABCDEFGHIJKLMNOPQRSTUVWXYZ";

    public static Long Encode62ToLong(String str62) {
        long long10 = 0;
        for (int i = 0; i < str62.length(); i++) {
            double n = str62.length() - i - 1;
            long10 += Long.valueOf(str62keys.indexOf(str62.substring(i, i + 1)) * (long) Math.pow(62, n) + "");
        }
        return long10;
    }

    public static String LongToEnode62(long long10) {
        String str62 = "";
        int offset = 0;
        while (long10 != 0) {
            offset = Integer.valueOf(long10 % 62 + "");
            str62 = str62keys.substring(offset, offset + 1) + str62;
            long10 = (long) Math.floor(long10 / 62.0);
        }
        return str62;
    }
}

 

转载于:https://www.cnblogs.com/mahuan2/p/5948490.html

爬虫(Web Crawler)是一种自动化程序,用于从互联网上收集信息。其主要功能是访问网页、提取数据存储,以便后续分析或展示。爬虫通常由搜索引擎、数据挖掘工具、监测系统等应用于网络数据抓取的场景。 爬虫的工作流程包括以下几个关键步骤: URL收集: 爬虫从一个或多个初始URL开始,递归或迭代地发现新的URL,构建一个URL队列。这些URL可以通过链接分析、站点地图、搜索引擎等方式获取。 请求网页: 爬虫使用HTTP或其他协议向目标URL发起请求,获取网页的HTML内容。这通常通过HTTP请求库实现,如Python中的Requests库。 解析内容: 爬虫对获取的HTML进行解析,提取有用的信息。常用的解析工具有正则表达式、XPath、Beautiful Soup等。这些工具帮助爬虫定位提取目标数据,如文本、图片、链接等。 数据存储: 爬虫将提取的数据存储到数据库、文件或其他存储介质中,以备后续分析或展示。常用的存储形式包括关系型数据库、NoSQL数据库、JSON文件等。 遵守规则: 为避免对网站造成过大负担或触发反爬虫机制,爬虫需要遵守网站的robots.txt协议,限制访问频率深度,模拟人类访问行为,如设置User-Agent。 反爬虫应对: 由于爬虫的存在,一些网站采取了反爬虫措施,如验证码、IP封锁等。爬虫工程师需要设计相应的策略来应对这些挑战。 爬虫在各个领域都有广泛的应用,包括搜索引擎索引、数据挖掘、价格监测、新闻聚合等。然而,使用爬虫需要遵守法律伦理规范,尊重网站的使用政策,确保对被访问网站的服务器负责。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值