美国宣布爬虫合法,万亿级爬虫大军暗流涌动

爬虫究竟是合法还是违法的? 据说互联网上 50%以上的流量都是爬虫创造的,也许你看到很多热门数据都是爬虫所创造的,所以可以说无爬虫就无互联网的繁荣。 前天写了一篇文章《 只因写了一段爬虫,公司200多人被抓!》,讲述 程序员因写爬虫而被刑侦的事件。文章传播很广,评论中讨论最热是:爬虫究竟是合法还是违法的? 这个话题涉及到我们很多程序员的日常工作,所以有必要和大家细聊一下。 01.技术无罪? 很多朋友给我留言:技术是无罪... 阅读详情

据TechCrunch报道,在本周一的第二次裁决中,针对LinkedIn发起的长期法律诉讼,美国第九巡回上诉法院重申了其最初的决定,网络爬虫是合法的。这一具有里程碑意义的裁决,在美掀起轩然大波,面对万亿级的爬虫攻击,人人自危。

图源:TechCrunch

一、面对爬虫攻击,美企“无法可依”

2017年5月,LinkedIn致信hiQ,要求其停止未经授权的访问和数据爬取行为,随后hiQ向美国加州北部地区法院提出诉讼,主张LinkedIn的行为违反言论自由的规定。至此,LinkedIn也开启了长达5年的法律诉讼,这便是轰动科技圈的「hiQ Labs Inc v. LinkedIn Corporation」事件。

图源:Wikipedia

该案于2021年送达美国最高法,但最后又被送回至第九巡回上诉法院,由其重新审查。2022年4月18日,在第二次裁决中,第九巡回上诉法院重申了其最初的决定——网络爬虫是合法的。并表示,抓取互联网上公开数据的行为,并不违反美国《计算机欺诈和滥用法案》,即CFAA。对此,LinkedIn 发言人 Greg Snapper 在一份声明中表示,“我们对法院的判决感到失望,这只是一项初步裁决,案件还远未结束。”

很明显,在面对爬虫攻击时,即便强如硅谷巨头的领英,在法律层面依旧得不到有效的保护。那么在未来,会有更多的美企遭遇同样的问题,面对爬虫攻击,将陷入“无法可依”的窘境,人人自危。

二、爬虫攻击成为企业线上资产首要威胁

根据Akamai的统计,全球互联网流量中,近40%的流量由爬虫所占据。在2021年第二季度,全球遭遇的账户滥用攻击达到了700亿次,同比增长15%,更让人担心的是,日峰值超过10亿次的恶意登录行为变得逐渐频繁。据Check Point Research数据显示,相较于2020 年,2021 年黑产每周对企业的网络攻击数量增加了 50%。

图源:Check Point Research

图源:Akamai

据IDC预测,2022年超过50%的中国经济将建立在数字化的基础上。而随着产业数字化步伐的加快,爬虫攻击已渗透至各行各业。

2022年4月11日,数字出版服务平台「斑马中国」发布声明,存在部分用户使用外挂、机器、脚本、爬虫等违规行为,并最终通过网上代抢、代买等操作获利。

数字出版服务平台「斑马中国」遭遇爬虫攻击

以官方主推的西南首个航空3D数字出版物“金沙号”主题飞机为例,官方售价99元,分别于2022年4月18日、4月22日、4月25日分三批次在「斑马中国」官方平台限量发行。当前,在某二手交易平台,“金沙号”主题飞机已被炒至千元,足足翻了10倍。

除了规模与日俱增外,爬虫攻击的形式也越来越丰富,撞库攻击、银行卡攻击、库存囤积、薅羊毛、礼品卡攻击,这都是常见的攻击形式与目标。并且,黑产发起的万亿级爬虫攻击,会给企业造成大量的带宽资源消耗,从而占用大量的服务器资源。若服务器没有储备额外的业务并发,就会对正常业务造成影响,导致用户访问速度变慢,甚至服务器崩溃。

在互联网竞争白热化的今天,爬虫攻击已成为企业线上资产的首要威胁。

三、反爬利器-- 验证码

当然,企业针对爬虫的攻防战也从未停歇。在我们的日常生活中,反爬无处不在,例如:在浏览网站或者打开某个应用的时候,经常会遇到各式各样的验证码,在多数情况下这些验证码会出现在注册、登录场景,也可能会出现在访问页面的过程中,比如,看视频直播、玩游戏等过程中弹出的小窗口,严格来说,这些细节的背后,便是企业与爬虫大军的博弈。作为区分人类与机器的利器,验证码也成为当前最为常见与普遍的反爬虫解决方案之一。

如今,所谓的爬虫工具随处可见,为黑产进一步降低了攻击门槛。而面对爬虫攻击造成的各类威胁,企业面临的挑战有3个:

  1. 来自竞争对手的数据爬取行为

  2. 用户隐私数据泄露与账号盗用

  3. 对用户轻打扰,甚至零打扰

所以,面对日益泛滥的爬虫攻击,如何在兼顾用户体验的同时,做好防御黑产对业务的破坏,保证业务的正常开展,成为企业所面临的重大挑战。

国家企业信用信息公示系统部署极验「行为验证」

极验始终追求安全和体验的平衡,作为可信流量三要素重要一环,极验「行为验证」采用主动动态对抗,提供7层动态安全防护,通过不停的变化,使黑产攻击脚本失效,其中7层动态安全防御分别为:JS动态混淆、参数动态更新、全网风险库、验证形式、验证难度、行为算法模型、参数加密。单位周期内多达4,374种变化,大大提升黑产攻击成本。

而在用户体验方面,在轻点验证的瞬间,极验后台即可处理200多种单维度的策略检查。用户平均仅需 1.4s 就能通过验证,且支持无感探针模式,可进行用户无感风险检测。

极验「行为验证」,能够帮助企业应对复杂多变的安全形势,辅助监测平台流量,对风险流量进行有效拦截。最终,以其良好的用户体验,以及高效稳定的防御能力,在各行业头部企业中得到广泛应用。

结语

互联网竞争日趋白热化的当下,针对线上资产的竞争必将愈演愈烈,围绕爬虫攻击的利益摩擦也将越来越多。

站在市场的角度,需要平衡商业利益与公平竞争之间的关系,一方面,平台积累的数据及其来之不易的资源优势,值得保护,但不能过度保护,形成垄断;另一方面,商业利益不应该凌驾于公众利益之上,遵循用户选择、数据开放交换和共享以及数据安全的原则。而站在企业的角度,当数据保护存在定义模糊,甚至不在法律保障范围内,强有力的反爬手段将成为企业最后的护城河。

作为拥有9年一线黑产对抗经验的服务商,极验已成为全球32万家优秀企业的共同选择,每天提供超过14亿次的安全防护,守护企业线上资产安全。

【顺应时代潮流 我这里整理了很多Python学习资料上传到优快云官方了,有需要的朋友可以扫描下方二维码进行获取】

一、学习大纲

在这里插入图片描述

二、开发工具

在这里插入图片描述

三、Python基础材料

在这里插入图片描述

四、实战资料

在这里插入图片描述

USB的24脚和12脚TYPEC引脚定义 USB 是一种接口,用于将设备连接到计算机上。通过该连接,计算机可以向设备发送数据或检索来自设备的数据。USB 为开发者提供了一个标准接口,适用于多种不同类型的应用。借助于系统的设计过程,USB 设备易于连接和使用。本应用笔记会使该过程变得更加简单。以下是本应用笔记中会使用的概念:USB 历史USB 架构USB 物理接口USB 速度USB 电源USB 端点USB 通信协议USB 描述符USB 类设备USB 枚举与配置过程。 阅读详情

相关推荐

完整指南:从基础到高级使用 Semantic Kernel

通过本文的学习,你已经掌握了从基础到高级的使用方法。安装并配置。使用简单的文本生成和自然语言处理任务。利用任务链和工具扩展构建复杂的工作流。通过记忆管理上下文,创建更智能的应用。扩展多模态处理能力,集成图像和音频分析。将应用部署到云端,并通过 Azure Functions 提供智能服务。无论是构建简单的对话应用,还是创建多模态智能服务,都提供了强大的工具和灵活的扩展机制。希望这篇文章能帮助你更好地理解并运用这个框架,构建出更加智能和高效的应用。

net core ,前端 ,python 全栈开发 2804

Python爬虫技术到底违不违法,怎么才能合法挣钱?

近几年来,因为开发者使用爬虫技术锒铛入狱的案例越来越多。2015年,某公司授意五名程序员,利用网络爬虫获取一公司服务器的公交车行驶信息、到站信息等数据。这五名程序员需承担连带责任。2019年,某公司4名主管人员,利用爬虫技术,非法爬取某节跳动服务器存储中的视频数据,被告人依法被判处有期徒刑9-10个月,并处罚金。越来越多的案件,让开发者越发不安,爬虫也违法?公司要让我爬取数据,爬是不爬?爬吧?违法,不爬吧,也不好。使用爬虫技术,怎么规避风险?也成了一个大难题。

Python栈_基的博客 2049

mmsegmentation教程1:自定义数据集、config文件修改、训练教程

mmseg使用教程

weixin_42748439的博客 2万+

我收到一份《中国焦虑图鉴》

来不及了,快上车。上车前,中哥先问你三个问题: 1、你以为你在大众点评上找到的馆子,真的是几百个人给了好评,然后才出现在你的推荐里的吗? ...

weixin_34206899的博客 1023

ESP32-CAM与TFT屏幕实时图像传输:Arduino环境下的OV2640驱动实践

本文详细介绍了在Arduino环境下实现ESP32-CAM与TFT屏幕实时图像传输的完整实践方案。重点解析了OV2640摄像头的驱动配置、硬件引脚连接、TFT屏幕初始化及图像显示优化技巧,帮助开发者快速构建稳定的实时图像显示系统,适用于物联网监控、门禁系统等场景。

cuda7parallel的博客 113

Windows系统下LaTeX环境搭建与编辑器配置全攻略

本文详细介绍了在Windows系统下搭建LaTeX环境的完整流程,包括TeX Live的安装、TeXStudio编辑器的配置优化以及常见问题排查。特别针对中文用户推荐使用清华镜像源加速下载,并提供了XeLaTeX编译器配置、中文支持等实用技巧,帮助用户快速上手LaTeX文档编写。

weixin_42554408的博客 449

爬虫还能合法用吗?:深度剖析最高法典型案例背后的合规逻辑

破解爬虫合规难题,详解最高法典型案例中的合法实现路径。涵盖数据抓取边界、授权机制与典型应用场景,解析风险规避核心方法。通过真实案例揭示合规关键,为企业提供可落地的参考方案,值得收藏。

LearnPlex的博客 1731

ZYNQ-7035+HMCAD1511高速数据采集系统设计

高速数据采集是电子测量、雷达信号处理与通信基带验证的核心技术基础,其性能瓶颈常集中于采样率、通道同步性与实时处理能力。基于ADC采样原理与SoC异构架构,高带宽、低抖动时钟链路与FPGA+ARM协同处理成为突破关键。ZYNQ-7035凭借275K逻辑单元与千级DSP资源,显著提升LVDS数据流吞吐与片上滤波/触发等实时算法部署能力;HMCAD1511则以1GSPS四通道同步采样和8位分辨率,满足示波器级动态范围需求。该组合广泛应用于嵌入式信号采集平台开发、教学实验系统构建及国产化仪器原型验证。

weixin_28939623的博客 260

论Python爬虫是否合法(一定要看看)

网络爬虫作为一种计算机技术就决定了它的中立性,爬虫本身在法律上并不被禁止,爬虫本无罪,有罪的是贪得无厌、险恶的人心。正如水果刀本身在法律生并不被禁止,但你用来杀人,就等着坐牢吧!

职场摸鱼小专家 5775

EEGLAB安装、EDF数据导入、EEG预处理(Matlab)

目录下载和安装下载安装遇到问题及解决方案导入EDF数据EEG预处理 下载和安装 下载 链接:https://pan.baidu.com/s/17eMT6B7LgZ4PyqWvD5ixmg 提取码:12gz 安装 **第一步:**将下载下来的文件解压,修改名称为eeglab,将此文件夹存放在matlab的安装目录里的toolbox文件夹下,下图是我的路径,需要拷贝到自己相对应的路径中 第二步: 打开Matlab软件,点击主页中的设置路径 设置路径 点击添加并包含子文件夹,将eeglab文件夹添加进来,保

y18771025420的博客 1万+

龙芯3A5000开发板PMON升级UEFI固件实战指南

固件是计算机硬件与操作系统之间的关键桥梁,负责初始化硬件并引导系统启动。其工作原理是在上电后执行自检、加载引导程序,最终将控制权移交操作系统。在国产化平台中,采用标准化的UEFI固件具有重要技术价值,它能提供图形化配置界面、统一硬件驱动模型,并支持安全启动等现代特性,从而显著提升硬件兼容性与系统管理效率。这一技术广泛应用于PC、服务器及嵌入式设备,尤其在需要运行银河麒麟等主流操作系统的龙芯开发板场景中,将传统PMON固件升级至UEFI,能实现更流畅的系统安装与更稳定的运行体验。本文基于固件升级与UEFI引导

weixin_42664597的博客 560

爬虫到底违法吗?这位爬虫工程师给出了答案

作者 | 猪哥来源 | 裸睡的猪(ID:IT--Pig)一、自述1.关于大学我读的大学是个野鸡学校,虽说是一个计算机专业,但实际的课程内容很杂。CAD、3DMAX、Off...

Python大本营的博客 1万+

CDD数据库文件制作(二)——服务配置(0x27)

主要根据诊断调查表,针对0x27服务在CDD中的每一步配置给出详细介绍 1.会话切换配置 1.1.根据诊断调查表进行信息提取 1.2.子功能添加 1.2.1.Level1安全等级1创建 1.2.2.Level3安全等级3创建 1.2.3.安全等级名字查看与修改 1.3.会话切换信息提取(应用程序下) 1.4.会话转换配置(应用程序下) 1.5.会话切换信息提取(引导程序下) 1.6.会话转换配置(引导程序下) 2.安全等级配置信息提取 2.1.安全访问配置(level1) 2.2.安全访问配置(level2

LOVE135149的博客 2928

程序员爬虫竟构成犯罪?

近期,一起关于爬虫与反爬虫的诉讼案件再次被推到了公众面前。公交作为互联网从业者的必备通勤工具之一,是出行领域必争的板块。实时公交 APP 也就成为了热门的应用场景,它们不...

优快云资讯 2万+

复分析 阿尔福斯(Ahlfors) 第三版答案 英文

答案分为十章,有部分习题没有答案,全英文复分析阿尔福斯(Ahlfors) 第三版答案

pscad IEEE标准系统搭建说明

pscad IEEE标准系统搭建说明,包含典型的IEEE 9节点、14节点、30节点、39节点和118节点系统。内含标准测试系统的原始数据和潮流结果。

为何大量网站不能抓取?爬虫突破封禁的6种常见方法

在互联网上进行自动数据采集(抓取)这件事和互联网存在的时间差不多一样长。今天大众好像更倾向于用“网络数据采集”,有时会把网络数据采集程序称为网络机器人(bots)。最常用...

weixin_45583158的博客 2万+

IDEA的使用指南

IDEA基于java的使用手册,可以最快速的上手,在使用中不断的丰富自己的使用技巧.

llms.txt部署指南:给AI爬虫一张清晰的网站地图

写法建议:一句话说清楚你是做什么的,一句话说清楚你的核心优势,一句话说清楚你的目标客户是谁。特别是AI很看重时效性,如果你半年前写的llms.txt里说「我们专注B2B服务」,但现在你已经拓展到了B2C领域,AI读的还是旧信息,回答的时候就会说错。llms.txt是一个放在网站根目录下的纯文本文件(通常地址是yourdomain.com/llms.txt),格式类似于Markdown,用标题和列表的形式,把网站上最重要的内容、核心页面、关键信息整理成一份结构化的摘要,专门给AI大模型的爬虫读取。

GEOZF的博客 212

Outlook Express 6 (OE6) for Win7/Win8/Win10

英文版 Outlook Express6.0, 兼容Win7/Win10/WinXP,解压就可用。

GEO 上线前,先把这 3 类实体信号地基补上

做GEO优化前,先筑牢企业实体信号地基:部署官网结构化数据(JSON-LD、llms.txt、robots.txt放行AI爬虫),确保名称、地址、电话在官网、地图、工商信息中一致,争取权威第三方(党媒、百科、地图)中立提及。六项自检达标后,再系统产出内容。切忌未建地基就盲目发稿——否则AI无法“认出”你,再好的文案也白费。

auwayz的博客 243

电商业务 CC 防护架构:秒杀场景防爬虫防 CC,兼顾安全与用户体验

秒杀场景的 CC 防护没有银弹,本质是在「识别成本」和「误杀成本」之间做动态平衡。分层架构的价值在于:让低风险流量以最低成本通过,让高风险流量付出最高验证代价,同时用排队、异步通知、灰度放量等手段兜住真实用户的体验。而成本侧,则需要把高防账单当作架构的一部分来设计,提前设置封顶、按需升配、控制回源,才能让安全投入可持续。

2201_76066823的博客 366

高德地图POI爬虫:爬取商户与景点数据,做LBS应用

环节关键做法接口选型优先官方API多边形搜索,避免前端接口逆向的高维护成本突破200条上限矩形网格切分 / 四叉树递归,从空间上缩小请求范围网格粒度两阶段策略:粗网格定位,高密度区细分反爬重点不是IP封锁,而是JS Challenge、滑块和Key级风控代理配合站大爷隧道代理按Key绑定出口,分散累积请求,保持来源稳定数据清洗POI ID去重、类型过滤、坐标系确认LBS应用竞品密度、配套评估、热力图、业态结构分析POI数据的价值不在“采了多少条”,而在“覆盖得对不对”。

这家伙很懒,什么都没有留下 217

「屿梦星途GEO」系列 · 每日AI资讯解读

这把"一次性烧进权重"和"回答时临时检索并署名引用"在协议层分开了。:当网站用新 token 声明退出训练、却没显式写 Google-Extended 时,谷歌计划把它当作"你曾 disallow 过 Google-Extended"来处理——即"没写"不等于"默认允许",而是"默认拒绝"。但对做 GEO 的企业来说,真正要盯的不是"禁不禁训练",而是"让不让 AI 在回答时引用你"——后者(grounding)才是带来曝光与流量的那一道,而且微软、谷歌都给"允许被引用"留了换取点击的口子。

yumengxt的博客 212

AI搜索时代选品数据采集: MCP比爬虫稳在哪

💡 阅读提示: 这篇不站队, 只拆一件事 —— 选品取数用 MCP 和用爬虫, 到月底对账的时候差在哪。三个差异点, 两段能跑通的代码, 一次 47 道题的口径核对, 还有一个"接口挂了流水线别停"的处理方式。 结论先给:S

2601_96080792的博客 137

数据集市场 VS 自己写爬虫:什么时候该买,什么时候该抓?

数据团队面临“买还是抓”的核心决策:标准化、批量化需求优先采购数据集,高时效、定制化或长尾数据则评估自建采集。应从时效性、定制化与成本结构三维度比较,结合样本验证与总拥有成本(TCO)分析。推荐组合策略——用市场数据打底,通过Scraper Studio等工具按需抓取特殊字段,兼顾效率与灵活性。最终决策可收敛为三个问题:是否有现成数据?能否满足时效?是否需要定制字段?明确需求后,答案自现。

白洞,白色的明天在等着我们 1万+

Cloudflare 开始区分 AI 爬虫与个人 Agent:网站访问控制应该怎样设计?

Cloudflare 2026 年 11 月更新其 AI Agent 访问控制,将策略细化至个人 Agent 层级,支持按需设置允许、阻断或广告页限制等规则。新功能通过身份验证与行为分析区分真实用户代理与恶意自动化流量,强调“允许不等于无权限”,需结合业务鉴权。管理员可借助安全分析观察请求行为,动态调整策略,实现安全与可用性的平衡。

weixin_47502228的博客 748

京东商品采集+数据分析:Python爬虫遇到滑块怎么办!

京东的列表接口和页面结构随时可能改版,参数还可能带当次签名,我不能凭印象给你编一个域名或者 sign 算法,脚本里接口地址干脆留空,自己打开浏览器 Network 面板复制当次请求的地址和参数填进去,选择器同理从 Elements 面板复制。下面就可以接数据分析了。这是个右偏的长尾分布,只报一个均价很容易把人带偏,这是一个比较简单的实例应用。可以看到,正常页面返回 False,验证页和 403 都返回 True,退避序列按 2 秒、4 秒、8 秒往上走,四条样例数据也解析对了,这是一个比较简单的实例应用。

Z_suger7的博客 510

Scrapling:反爬越来越凶,它把隐身浏览器做进了爬虫库

装上 shell 扩展后,scrapling extract 一条命令抓页面存成 Markdown,或按 CSS 选择器抠字段,加 --impersonate chrome 能伪装浏览器指纹,加 --solve-cloudflare 直接过盾。还有一类页面,数据不走 HTML,走的是页面背后的接口。crawl4ai,路子更窄,专攻把网页转成喂给大模型的 Markdown,Scrapling 的 markdown 输出同样能干这件事。连远程浏览器的老写法会直接断,得换新的浏览器会话类,官方配了迁移指南。

m0_68631449的博客 700
上一篇: Python是什么?为什么Python这么火,学Python能干什么?
下一篇: 9个Python爬虫入门实例,建议收藏!!
大模型教程.
博客等级 码龄5年 5271粉丝 2873原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值