多线程下载

这个是下载的工具类,改编自网上找到的annegu兄的代码,这位仁兄是多线程断点,但是我这里不需要断点,所以做了简化。

import java.io.File;
import java.io.IOException;
import java.io.InputStream;
import java.io.RandomAccessFile;
import java.net.HttpURLConnection;
import java.net.URL;
import java.net.URLConnection;
import java.util.concurrent.CountDownLatch;
import java.util.concurrent.ExecutorService;
import java.util.concurrent.Executors;
import java.util.concurrent.TimeUnit;
import java.util.concurrent.atomic.AtomicBoolean;
import org.apache.commons.logging.Log;
import org.apache.commons.logging.LogFactory;

/**
 *
 *
 */
public class DownloadUtil {

    private static final Log log = LogFactory.getLog(DownloadUtil.class);
    private int threadNum = 5;
    private String urlStr;
    private File file = null;
    private AtomicBoolean statusError = new AtomicBoolean(false);
    private long sleepSeconds = 5;

    public DownloadUtil(String url, File file, int threadNum) {
        this(url, file, threadNum, 5);
    }

    public DownloadUtil(String url, File file, int threadNum, long sleepSec) {
        this.urlStr = url;
        this.file = file;
        if (threadNum > 0) {
            this.threadNum = threadNum;
        }
        if (sleepSec > 0) {
            this.sleepSeconds = sleepSec;
        }
    }

    public boolean download() {
        log.info("download the file " + file.getName() + " from " + urlStr);
        CountDownLatch latch = new CountDownLatch(threadNum);//这个是亮点
        try {
            file.createNewFile();
            HttpURLConnection con = (HttpURLConnection) new URL(urlStr).openConnection();
            setHeader(con);//这里是伪造头信息
            long contentLength = con.getContentLength();
            long threadLength = contentLength / threadNum;
            ExecutorService exec = Executors.newCachedThreadPool();
            for (int i = 0; i < threadNum; i++) {
                long end = threadLength * (i + 1) - 1;
                if (i == threadNum - 1) {
                    end = contentLength;
                }
                ChildThread thread = new ChildThread(this, latch, i,
                        threadLength * i, end);
                exec.execute(thread);
            }
            try {
                latch.await();
                exec.shutdown();
                if (file.length() != contentLength) {
                    log.warn("file download failed,because the size is not correct");
                    return false;
                }
                return true;
            } catch (InterruptedException e) {
                log.error(e.getMessage(), e);
            }
        } catch (IOException e) {
            log.error(e.getMessage(), e);
        }
        return false;
    }

    private class ChildThread implements Runnable {

        private DownloadUtil task;
        private int id;
        private long startPosition;
        private long endPosition;
        private final CountDownLatch latch;
        private RandomAccessFile file = null;

        public ChildThread(DownloadUtil task, CountDownLatch latch, int id,
                long startPos, long endPos) {
            super();
            this.task = task;
            this.id = id;
            this.startPosition = startPos;
            this.endPosition = endPos;
            this.latch = latch;
            try {
                file = new RandomAccessFile(task.file, "rw");
            } catch (IOException e) {
                log.error(e.getMessage(), e);
            }
        }

        public void run() {
            log.info("Thread " + id + " run ...");
            HttpURLConnection con = null;
            InputStream inputStream = null;
            for (;;) {
                try {
                    con = (HttpURLConnection) new URL(task.urlStr).openConnection();
                    setHeader(con);
                    // 设置连接超时时间为10000ms
                    con.setConnectTimeout(10000);
                    // 设置读取数据超时时间为10000ms
                    con.setReadTimeout(10000);

                    if (startPosition < endPosition) {
                        // 设置下载数据的起止区间
                        con.setRequestProperty("Range", "bytes=" + startPosition + "-" + endPosition);
                        log.debug("Thread " + id + " startPosition is " + startPosition + ", and endPosition is " + endPosition);

                        file.seek(startPosition);

                        // 判断http status是否为HTTP/1.1 206 Partial Content或者200 OK
                        // 如果不是以上两种状态,把status改为STATUS_HTTPSTATUS_ERROR
                        if (con.getResponseCode() != HttpURLConnection.HTTP_OK && con.getResponseCode() != HttpURLConnection.HTTP_PARTIAL) {
                            log.info("Thread " + id + ": code = " + con.getResponseCode() + ", status = " + con.getResponseMessage());
                            task.statusError.set(true);
                            file.close();
                            con.disconnect();
                            log.info("Thread " + id + " finished.");
                            latch.countDown();
                            break;
                        }

                        inputStream = con.getInputStream();
                        int len = 0;
                        byte[] b = new byte[1024];
                        while (!task.statusError.get() && (len = inputStream.read(b)) != -1) {
                            file.write(b, 0, len);
                            startPosition += len;
                        }

                        file.close();
                        inputStream.close();
                        con.disconnect();
                    }

                    log.info("Thread " + id + " finished.");
                    latch.countDown();
                    break;
                } catch (IOException ex) {
//                    log.error(ex.getMessage(), ex);
                    try {
                        TimeUnit.SECONDS.sleep(task.sleepSeconds);
                    } catch (InterruptedException e) {
                        log.error(e.getMessage(), e);
                    }
                    continue;
                }
            }
        }
    }

    private void setHeader(URLConnection con) {
        con.setRequestProperty(
                "User-Agent",
                "Mozilla/5.0 (X11; U; Linux i686; en-US; rv:1.9.0.3) Gecko/2008092510 Ubuntu/8.04 (hardy) Firefox/3.0.3");
        con.setRequestProperty("Accept-Language", "en-us,en;q=0.7,zh-cn;q=0.3");
//        con.setRequestProperty("Accept-Encoding", "aa");
        con.setRequestProperty("Accept-Charset",
                "ISO-8859-1,utf-8;q=0.7,*;q=0.7");
        con.setRequestProperty("Keep-Alive", "300");
        con.setRequestProperty("Connection", "keep-alive");
        con.setRequestProperty("If-Modified-Since",
                "Fri, 02 Jan 2009 17:00:05 GMT");
        con.setRequestProperty("If-None-Match", "\"1261d8-4290-df64d224\"");
        con.setRequestProperty("Cache-Control", "max-age=0");
//        con.setRequestProperty("Referer",
//                "http://www.skycn.com/soft/14857.html");
    }
}
 
标题SpringBoot智能在线预约挂号系统研究AI更换标题第1章引言介绍智能在线预约挂号系统的研究背景、意义、国内外研究现状及论文创新点。1.1研究背景与意义阐述智能在线预约挂号系统对提升医疗服务效率的重要性。1.2国内外研究现状分析国内外智能在线预约挂号系统的研究与应用情况。1.3研究方法及创新点概述本文采用的技术路线、研究方法及主要创新点。第2章相关理论总结智能在线预约挂号系统相关理论,包括系统架构、开发技术等。2.1系统架构设计理论介绍系统架构设计的基本原则和常用方法。2.2SpringBoot开发框架理论阐述SpringBoot框架的特点、优势及其在系统开发中的应用。2.3数据库设计与管理理论介绍数据库设计原则、数据模型及数据库管理系统。2.4网络安全与数据保护理论讨论网络安全威胁、数据保护技术及其在系统中的应用。第3章SpringBoot智能在线预约挂号系统设计详细介绍系统的设计方案,包括功能模块划分、数据库设计等。3.1系统功能模块设计划分系统功能模块,如用户管理、挂号管理、医生排班等。3.2数据库设计与实现设计数据库表结构,确定字段类型、主键及外键关系。3.3用户界面设计设计用户友好的界面,提升用户体验。3.4系统安全设计阐述系统安全策略,包括用户认证、数据加密等。第4章系统实现与测试介绍系统的实现过程,包括编码、测试及优化等。4.1系统编码实现采用SpringBoot框架进行系统编码实现。4.2系统测试方法介绍系统测试的方法、步骤及测试用例设计。4.3系统性能测试与分析对系统进行性能测试,分析测试结果并提出优化建议。4.4系统优化与改进根据测试结果对系统进行优化和改进,提升系统性能。第5章研究结果呈现系统实现后的效果,包括功能实现、性能提升等。5.1系统功能实现效果展示系统各功能模块的实现效果,如挂号成功界面等。5.2系统性能提升效果对比优化前后的系统性能
在金融行业中,对信用风险的判断是核心环节之一,其结果对机构的信贷政策和风险控制策略有直接影响。本文将围绕如何借助机器学习方法,尤其是Sklearn工具包,建立用于判断信用状况的预测系统。文中将涵盖逻辑回归、支持向量机等常见方法,并通过实际操作流程进行说明。 一、机器学习基本概念 机器学习属于人工智能的子领域,其基本理念是通过数据自动学习规律,而非依赖人工设定规则。在信贷分析中,该技术可用于挖掘历史数据中的潜在规律,进而对未来的信用表现进行预测。 二、Sklearn工具包概述 Sklearn(Scikit-learn)是Python语言中广泛使用的机器学习模块,提供多种数据处理和建模功能。它简化了数据清洗、特征提取、模型构建、验证与优化等流程,是数据科学项目中的常用工具。 三、逻辑回归模型 逻辑回归是一种常用于分类任务的线性模型,特别适用于二类问题。在信用评估中,该模型可用于判断借款人是否可能违约。其通过逻辑函数将输出映射为0到1之间的概率值,从而表示违约的可能性。 四、支持向量机模型 支持向量机是一种用于监督学习的算法,适用于数据维度高、样本量小的情况。在信用分析中,该方法能够通过寻找最佳分割面,区分违约与非违约客户。通过选用不同核函数,可应对复杂的非线性关系,提升预测精度。 五、数据预处理步骤 在建模前,需对原始数据进行清理与转换,包括处理缺失值、识别异常点、标准化数值、筛选有效特征等。对于信用评分,常见的输入变量包括收入水平、负债比例、信用历史记录、职业稳定性等。预处理有助于减少噪声干扰,增强模型的适应性。 六、模型构建与验证 借助Sklearn,可以将数据集划分为训练集和测试集,并通过交叉验证调整参数以提升模型性能。常用评估指标包括准确率、召回率、F1值以及AUC-ROC曲线。在处理不平衡数据时,更应关注模型的召回率与特异性。 七、集成学习方法 为提升模型预测能力,可采用集成策略,如结合多个模型的预测结果。这有助于降低单一模型的偏差与方差,增强整体预测的稳定性与准确性。 综上,基于机器学习的信用评估系统可通过Sklearn中的多种算法,结合合理的数据处理与模型优化,实现对借款人信用状况的精准判断。在实际应用中,需持续调整模型以适应市场变化,保障预测结果的长期有效性。 资源来源于网络分享,仅用于学习交流使用,请勿用于商业,如有侵权请联系我删除!
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值