关于CURL获取网页，返回的网页内容大小一直变化的原因

最新推荐文章于 2024-08-25 10:00:00 发布

meloyi

最新推荐文章于 2024-08-25 10:00:00 发布

阅读量3.4k

点赞数

分类专栏： C++ 文章标签： curl c++

本文链接：https://blog.youkuaiyun.com/meloyi/article/details/47315585

版权

C++ 专栏收录该内容

13 篇文章

订阅专栏

本文详细分析了一个用于检测网页篡改的程序，在获取网页大小时遇到的问题。通过观察调试信息，发现网页内容实际上是被压缩的。通过对相关代码段的调整，确保不接收压缩过的网页内容，程序能够正确地获取完整网页，从而解决大小变化的误报问题。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

最近在维护一个检测网页篡改检测的程序代码,代码会判断网页内容的大小，如果大小发生很大的变化就会报警，程序是通过CURL来获取网页大小的，程序运行在windows7下，使用的是VS2008

下面贴的代码是获取网页信息的函数：

int NetHelper::GetWebPageInfo( CString strUrl, bool bIsWap, bool bJustHeader, int& nFileSize, string& strContent )
{
    strContent.clear();
    nFileSize =0;

    init_curl initcurl;
    CURL * curl = initcurl.get_curl();
    CURLcode curlres;

    //libcurl初始化失败
    if(!curl)
    {
        strContent = "curl初始化失败！";
        return -1;
    }

    // 在堆栈上分配内存供 W2A等函数使用
    USES_CONVERSION;

    // 设置URL
    curl_easy_setopt(curl, CURLOPT_URL, W2A(strUrl));

    // 如果是ssl网站，不对ssl网站的证书进行验证
    curl_easy_setopt(curl,CURLOPT_SSL_VERIFYPEER,0);
    curl_easy_setopt(curl,CURLOPT_SSL_VERIFYHOST,0);

    curl_easy_setopt(curl,CURLOPT_COOKIEJAR,"e:\\cookie.txt");
    curl_easy_setopt(curl,CURLOPT_COOKIEFILE,"e:\\cookie.txt");

    // 超时设置
    curl_easy_setopt(curl,CURLOPT_TIMEOUT,10);

    if ( !bJustHeader )
    {
        // 设置读取HTTP返回内容的回调函数
        curl_easy_setopt(curl, CURLOPT_WRITEFUNCTION, write_callback);
        // 设置回调函数的参数，见write_callback函数的最后一个参数
        curl_easy_setopt(curl, CURLOPT_WRITEDATA, &strContent);
    }//end if  
    else
    {
        // 设置读取HTTP头部内容的回调函数
        curl_easy_setopt(curl,CURLOPT_HEADERFUNCTION,header_callback);
        // 设置回调函数的参数，见header_callback函数的最后一个参数, 如果没有用到，
        curl_easy_setopt(curl, CURLOPT_HEADERDATA, &strContent);
        curl_easy_setopt( curl, CURLOPT_NOBODY, 1 );
    }


    // 自动转向
    curl_easy_setopt(curl, CURLOPT_FOLLOWLOCATION, 1);

    // 设置头
    curl_slist *chunk = NULL;
    chunk = curl_slist_append( chunk, "Accept: text/html, application/xhtml+xml, */*" ); 
    chunk = curl_slist_append( chunk, "Accept-Language: zh-CN" ); 
    if ( bIsWap )
    {
        chunk = curl_slist_append( chunk, "User-Agent: Mozilla/5.0 (Linux; U; Android 2.3.4; zh-cn; GT-I9100 Build/GINGERBREAD) AppleWebKit/533.1 (KHTML, like Gecko) Version/4.0 Mobile Safari/533.1" ); 
    } //end if
    else
    {
        chunk = curl_slist_append( chunk, "User-Agent: Mozilla/5.0 (Windows NT 6.1) AppleWebKit/535.7 (KHTML, like Gecko)" ); 
    }
    chunk = curl_slist_append( chunk, "Accept-Encoding: gzip, deflate" ); 
    chunk = curl_slist_append( chunk, "Connection: Keep-Alive" );
    curl_easy_setopt( curl, CURLOPT_HTTPHEADER, chunk );

    strContent.clear();
    curlres = curl_easy_perform(curl);

    long nStatus;

    if( curlres == CURLE_OK )
    {
        //服务器返回码
        curl_easy_getinfo(curl, CURLINFO_RESPONSE_CODE, &nStatus);
        nFileSize = strContent.size();
    }
    else
    {
        nStatus = curlres;
    }

    return nStatus;
}