Python精确指南——第三章 Selenium和爬虫

3       Selenium

3.1     介绍

网络爬虫在互联网领域有着广泛的应用。

Selenium是一个页面自动化控制框架。能够模拟实际操作,自动化获取网站提供的页面资源信息。

Selenium能够自定义页面操作的行为,按照用户指定的跳转路径访问,具有实现跟实际用户一样填充信息、提交表单请求的能力,适用于专门网站特定信息的获取。比如:特定图片网站图片的获取,购物网站商品信息的获取等等。

3.2     下载与安装

Selenium最新的版本是3.8.0,目前支持Python 2.7和3.4+版本。

在线安装:pip install -U selenium

离线安装:在PyPI网站上下载对应安装包,参考1.4 章节Python安装包 进行离线安装。

3.3     关键技术要点

Selenium框架的开发步骤这里不做详细介绍,可以参考如下链接进行开发前学习。

开发文档及样例:

http://seleniumhq.github.io/selenium/docs/api/py/

Selenimu开发包API:

https://seleniumhq.github.io/selenium/docs/api/py/api.html

下面就开发中遇到的几个关键技术要点进行详解。

3.3.1  浏览器的选择

Selenium针对不同的浏览器有对应的驱动引擎,在64位系统上,一般IE是64bit。如果用32bit的IEDriverServer.exe,在第二页就会看到web browser not get,然后运行出错。但是如果用64bit的IEDriverServer.exe,在填表格的时候就会特别慢,原因不明。

使用不同的浏览器,需要使用到不同浏览器的驱动Driver,下面是各个浏览器Selenium Client Drivers的下载页面:

http://seleniumhq.org/download/

Ø  Selenium的WebDriver打开IE失败的解决办法

在运行IE浏览器时,会报下面的错误:

WebDriverException: Message: u'Unexpected error launching Internet Explorer. Protected Mode must be set to the same value (enabled or disabled) for all zones.'

两种方法:

1)修改IE的安全策略,就像Exception里面提示的那样。

2)在生成webdriver对象之前先执行这些代码:

from selenium.webdriver.common.desired_capabilities import DesiredCapabilities

DesiredCapabilities.INTERNETEXPLORER['ignoreProtectedModeSettings'] = True

firefox速度会比较快,首选firefox。

3.3.2  XPath

XPath是XML路径语言,用来查找定位xml树状结构中的节点,同样适用html。

参考学习手册:

http://www.w3school.com.cn/xpath/index.asp

判断定义好的xpath规则是否找到定位节点:

uname = self.master.html_elem.xpath("//tr/td/form[@name = 'frmResult']")     

    if len(uname) == 0:

        return False

3.3.3  StringIO

StringIO模块可以将内存中的xml结构字符串保存成离线html文件,实现在线转离线的功能:

import StringIO

blank _xml = StringIO.StringIO(<root></root>)

root_test = etree.parse(blank_xml)

root_test.write("test.xml")

3.3.4  lxml

第三方安装包lxml比Python自带的xml模块具有更为强大的解析xml或html的功能,推荐使用。最新的版本是4.1.1。

下载页面:

https://pypi.python.org/pypi/lxml/4.1.1

找到对应的版本,使用pip安装即可。

像3.3.3 StringIO章节中介绍的保存的离线xml或者html,lxml就可以像解析在线request请求到的网页内容一样进行解析:

url:

xxx_sample  = urllib2.urlopen(url).read()

Doc = html.fromstring(xxx_sample)

文件:

xxx_sample = HTML.parse('xxx_sample.htm')

Doc = xxx_sample.getroot()

3.3.5  解析器的选择

lxml有默认的解析器,但是对于非规则的网页处理非常不好。相当多的网站不是规则的html语法,所以需要选择外部的解析器。

在lxml里调用beautifulsoap。这个处理中文比较好,首选解析器。

3.3.6  中文字符的处理

Ø  基本支持

在源文件的第一行,在任何代码和注释前面,加入如下语句:

#encoding=utf-8

一般需要在写任何中文和代码之前加入这句话。如果先在代码里出现了中文,然后贴这句话,或导致乱码。

Ø  保存中文网页

保存网页数据。通常的网页数据是unicode,在eclispe中运行的时候可以正确的保存,但是单独运行就不行了。错误如下:

123.jpg

使用encode("gb2312", "replace")就可以解决问题。

代码如下:

file_object.write(page_text.encode("gb2312", "replace"))

Ø  Unicode字符串

所有涉及到中文的字符串前加上u,实际上,可以在使用#encoding=utf-8之后,任何字串,包括英文字前面加上u也都是没有问题,例子:

text1 = u”中文字符”

text2 = u”mystring”

Ø  中文字符的编码转换

在线request网页:

在读取文本或者读取网页内容的时候,有时候无法判断字符,需要使用import chardet来自动判断字符的编码格式,然后装换成unicode,例子:

   content = urllib2.urlopen(url_to_fetch).read()           

    xxx_encode = chardet.detect(content)

    unicode_content = unicode(content, xxx_encode["encoding"], "replace")

离线html网页:

解析中文离线网页的方法:

parser = etree.HTMLParser(encoding = 'gb2312')

xxx_sample = HTML.parse('xxx.htm', Parser)

xxx_root = xxx_sample.getroot()

ct = xxx_root.xpath('//title')

try_name = ct[0].text

这样就可以得到中文title。

Ø  中文字符的匹配

需要使用Python内置正则表达式re模块,例子:

中文正则

cn_str = u"计算机科学与技术"

m = re.search(u"([u4e00-u9fa5]+)科学")

t=m.group(1)

这样就可以得到“计算机”。

3.1.1  开发要点

  • 获得页面源码

page_text = chr_browser.page_source
  • 在页面执行自定义script脚本

平时用到的比较多的全选,复制等。

chr_browser.execute_script('document.execcommand("selectall"))

查找document.execcommand可以得到各种命令。

  • 打开多个Selenium控制的实例

Selenium控制的实例需要指定一个端口,默认使用的是一个,所以无法启动多个selenium的实例。如果指定了不同的端口,就能在一台PC上控制多个浏览器实例。

3.1.2  验证码的识别

在使用Selenium访问网站时,用户名和密码的表单提交相对简单,最难的是各个网站登录时的验证码识别。

Pytesseract:python封装的tesseract

Tesseract是图片识别的一个开源项目,托管网址:

https://github.com/tesseract-ocr/tesseract

PyPI下载路径和基本使用介绍:

https://pypi.python.org/pypi/pytesseract

Pytesseract的使用还依赖于PIL库,PIL只能使用exe安装,否则很麻烦,而且只支持32位的python,下载网址:

http://www.pythonware.com/products/pil/

Pytesseract其实并没有做什么事情,把命令打印出来,就是在线程里执行如下的结果:

['tesseract', 'C:\\Users\\L00163~1\\AppData\\Local\\Temp\\tess_2.bmp', 'C:\\Users\\L00163~1\\AppData\\Local\\Temp\\tess_3', '-l', 'eng']

很明显,Pytesseract把输入的流变成bmp文件,然后让tesseract.exe去识别,然后从文本文件里获得数据。

['tesseract', 'C:\\Users\\L00163~1\\AppData\\Local\\Temp\\tess_2.bmp', 'C:\\Users\\L00163~1\\AppData\\Local\\Temp\\tess_3', '-l', 'eng', 'batch.nochop', 'makebox']

D:\python\sdk\tesseract\tesseract-ocr-3.01-win32-portable\Tesseract-ocr\Tesseract.exe zhilian_code1.bmp ret.txt -l eng -psm 7

注意把tesseract的目录加入到路径里,必须重启才能让PATH生效。

追加:加到全局path里不行,会崩溃,把执行命令找出来,在dos下执行,就会看到崩溃的真正原因。是因为找不到“./tessdata/eng.traineddata”. 实际上是有这个文件的说明还是路径问题。干脆修改tesseract_cmd。Pytesseract本身是非常简单的,需要修改两处。注意只能修改Pytesseract安装包源码,而不是修改安装之后的文件,是改不了的。

在pytesseract.py里增加一个函数接口。

def set_tesseract_cmd(tesseract_file_path):

    tesseract_cmd = tesseract_file_path

另外在pytesseract的__init__.py里增加一句。

from pytesseract import set_tesseract_cmd

改完之后,重新执行setup.py build和setup.py install就可以了。

不过为了简单起见,直接把pytesseract.py复制到工程里就可以了,修改最方便。因为工程里import会优先找本地的文件,虽然同是也安装了pytesseract,但是使用的是本地的pytesseract.py。

在函数里修改文件的全局变量,需要加上global。如下面的修改

tesseract_cmd = 'tesseract'

def set_tesseract_cmd(tesseract_file_path):

tesseract_cmd = tesseract_file_path

是没有效果的,set_tesseract_cmd的tesseract_cmd是另外一个局部变量。

Ø  去底噪预处理

适合于底噪不是很强烈,并且没有单点深色噪音的识别码。

例如下图,来自于火车票订票网站。

import Image,ImageFilter

# load a color image

im = Image.open('passCodeAction.do6.jpg')

big_img = im.resize((120, 40))

bim = big_img.filter(ImageFilter.SMOOTH)

Lim = big_img.convert('L')

Lim.save('fun_Level.jpg')

Lim.show()

# setup a converting table with constant threshold

threshold = 160

table = []

for i in range(256):

    if i < threshold:

        table.append(0)

    else:

        table.append(1)

# convert to binary image by the table

bim = Lim.point(table, '1')

bim.show()

bim.save('fun_binary.tif')

Ø  去单点强底噪的方法

原始图片,虽然底噪简单,但是有不少单点的深色底噪。

处理方法:

im = Image.open(image_name)

      im = im.filter(ImageFilter.MedianFilter())

      enhancer = ImageEnhance.Contrast(im)

      im = enhancer.enhance(2)

      im = im.convert('1')

      im.show()

经过以上处理,按道理及按照网络上的资料,简单英文和数字的识别率是很高的,实际上在用验证码的时候,识别率很低。而绝大部分图形实际上是非常清楚的,比tesseract自带样本还要清楚。最后觉得原因可能是因为图片太小,只有80×80的原因。

尝试用windows自带的看图软件将识别码图片放大,然后截图,另存为一个文件,结果一下子就认准了,说明就是图片大小的问题,不是清晰度的原因。

Ø  图片放大方法

def dzoom_img(pic, ratio):

    w = pic.size[0] * ratio

    h = pic.size[1] * ratio

    big_pic = pic.resize((w,h), Image.BILINEAR)

    big_pic.show()

    big_pic.save('auto_big.bmp')

return big_pic

Ø  图片CROP

手工放大后用hypersnap截图如下,可以正常识别。

2q.jpg

但是用软件自动放大之后,什么都识别不出来,连乱码都没有了,对比下两个图,没什么区别,只是旁边多了一些黑点,猜想是不是因为这些黑点的原因导致认不出来。用工具将黑点全部去掉,结果能正常识别。所以还需要用软件把旁边的黑点crop掉。

3q.png

CROP的方法

    crop_reg = (20, 20, w-20, h-20)

big_pic = big_pic.crop(crop_reg)

Ø  获取验证码图片

参考多篇文章,最可靠的是截屏

查看元素信息如下:

image.png

截屏处理:

用图片软件看截屏的图和位置信息,可以看出,尺寸和size都是能对应上的,所以可以用crop函数精确的截取。不过同时要注意,图片周边的小点会产生明显的影响,所以直接在crop阶段去掉就可以了。在(515,165)处就能除掉边界。所以截取的区域为

(x-2, y-2,x+w-4, y+h-4)

Ø  白名单研究:只处理数字和字母

发现验证码的识别率很低,只有全数字的识别率高,尝试只识别数字和字母

D:\python\sdk\tesseract\tesseract-ocr-3.01-win32-portable\Tesseract-ocr\Tesseract.exe big_test4.png ret.txt -psm 7 char_digits

新建文件:

D:\python\sdk\tesseract\tesseract-ocr-3.01-win32-portable\Tesseract-ocr\tessdata\configs\char_digits

内容如下,限制只能识别这些字符

tessedit_char_whitelist 0123456789ABCDEFGHIJKLMNOPQRSTYVWXKZ

3.1.1  打包部署问题

Selenium工程开发完成后,在需要在不同机器上进行部署搭建,不能依赖开发环境,在打包完成后遇到有下面的问题,最终也是通过修改源码的方式完美解决。

Python打包的部分在后面的章节会详细介绍,这里只讨论IE浏览器和firefox浏览器的selenium工程打包部署过程中遇到问题的解决。以下打包过程使用PyInstaller工具。

Ø  Firefox浏览器

webdriver里使用firefox打包报错如下,找不到webdriver.xpi和webdriver_prefs.json两个文件:

image.png

解决方法:

用的2.48 selenium,修改两处firefox_profile.py源码文件。

然后把这两个文件复制到单文件的exe同路径下就可以用了。

2.48 selenium代码修改, 都是改了路径为当前路径。

image.png

修改为:

'''with open(os.path.join(os.path.dirname(__file__),

                                   WEBDRIVER_PREFERENCES)) as default_prefs:

                FirefoxProfile.DEFAULT_PREFERENCES = json.load(default_prefs)'''

           

   if os.path.exists(WEBDRIVER_PREFERENCES):

        with open(WEBDRIVER_PREFERENCES) as default_prefs:

             FirefoxProfile.DEFAULT_PREFERENCES = json.load(default_prefs)

   else:   

        with open(os.path.join(os.path.dirname(__file__),

                           WEBDRIVER_PREFERENCES)) as default_prefs:

             FirefoxProfile.DEFAULT_PREFERENCES = json.load(default_prefs)   

修改为:

'''if addon == WEBDRIVER_EXT:

           = os.path.join(os.path.dirname(__file__), WEBDRIVER_EXT)'''

   if addon == WEBDRIVER_EXT:

       if os.path.exists(WEBDRIVER_PREFERENCES):

           addon = os.path.join(WEBDRIVER_EXT)

       else:

           addon = os.path.join(os.path.dirname(__file__), WEBDRIVER_EXT)

Ø  IE浏览器

webdriver里使用ie打包的结果

这些是包含的文件

image.png

打包报错如下:

image.png

无论如何找不到dll,pyinstaller的各种方法都已经试过了,就是不行。

最后根据运行的提示信息,找到browser_man_lib.py的44行,点击进去找到webdriver.py,发现是这么一行代码:

try:

    self.iedriver = CDLL(os.path.join(os.path.dirname(__file__),"win32", "IEDriver.dll"))

except WindowsError:

    try:

        self.iedriver = CDLL(os.path.join(os.path.dirname(__file__),"x64", "IEDriver.dll"))

    except WindowsError:

        raise WebDriverException("Unable to load the IEDriver.dll component")

肯定是CDLL(os.path.join(os.path.dirname(__file__),"x64", "IEDriver.dll"))执行不成功,猜测CDLL 只是要load一个dll而已,并不是要求确定的路由,因为输入参数显然就是全路径的dll。所以先把这个路径打印出来。代码如下:

dll_test_path = os.path.join(os.path.dirname(__file__),"win32", "IEDriver.dll")

print dll_test_path

try:

    self.iedriver = CDLL(dll_test_path)

except WindowsError:

    try:

        self.iedriver = CDLL(os.path.join(os.path.dirname(__file__),"x64", "IEDriver.dll"))

    except WindowsError:

        raise WebDriverException("Unable to load the IEDriver.dll component")

最后在执行的时候发现打印如下:

E:\project\ryan_soft\py_depot\xxx_reaper_browser\src\build\pyi.win32\xxx_reape

r\outPYZ1.pyz\win32\IEDriver.dll

Traceback (most recent call last):

  File "<string>", line 352, in <module>

  File "<string>", line 336, in main

  File "<string>", line 243, in __init__

  File "E:\project\ryan_soft\py_depot\xxx_reaper_browser\src\build\pyi.win32\xxx_reaper\outPYZ1.pyz/browser_man_lib", line 44, in __init__

  File "E:\project\ryan_soft\py_depot\rsm_reaper_browser\src\build\pyi.win32\xxx_reaper\outPYZ1.pyz/selenium.webdriver.ie.webdriver", line 61, in __init__

selenium.common.exceptions.WebDriverException: Message: 'Unable to load the E:\\

project\\ryan_soft\\py_depot\\xxx_reaper_browser\\src\\build\\pyi.win32\\xxx_r

eaper\\outPYZ1.pyz\\win32\\IEDriver.dll'

说明执行程序试图找到outPYZ1.pyz\\win32\\IEDriver.dll,这显然是不可能的。所以需要修改一下路径,先尝试用绝对路径,代码修改如下,并且将

D:\Python27\Lib\site-packages\selenium-2.20.0-py2.7.egg\selenium\webdriver\ie\win32\ IEDriver.dll

复制到d:\\IEDriver.dll。重新编译打包。

dll_tmp_path = os.path.join("d:\\IEDriver.dll")

try:

    self.iedriver = CDLL(dll_tmp_path)

except WindowsError:

    try:

        self.iedriver = CDLL(os.path.join(os.path.dirname(__file__),"x64", "IEDriver.dll"))

    except WindowsError:

        raise WebDriverException("Unable to load the IEDriver.dll component")

这下问题解决了。当时使用相对路径肯定是不行的,所以采用相对路径测试。

将代码改为

dll_tmp_path = os.path.join("IEDriver.dll")

try:

    self.iedriver = CDLL(dll_tmp_path)

except WindowsError:

    try:

        self.iedriver = CDLL(os.path.join(os.path.dirname(__file__),"x64", "IEDriver.dll"))

    except WindowsError:

        raise WebDriverException("Unable to load the IEDriver.dll component")

然后将IEDriver.dll复制到调用打包后exe的路径,而不是exe的路径。区别在于,如果是命令行在其他目录调用exe,那么IEDriver.dll需要复制到那个路径。如果windows下双击,当然IEDriver.dll就是需要和exe同一个目录下。最干脆的解决方法是放到一个系统path能找到的地方,不管如何执行exe都没有问题。

3.1     注意事项

使用Selenium应用获取网站信息的时候,最好与网站官方有合作关系,否则在访问频率上需要格外注意。如果网站没有健全的后台系统,无节制的快速访问,有可能致使网站崩溃,或者IP地址及账户被官方记录,列入访问黑名单。

3.2     其他爬虫框架

下面简单介绍几种其他Python中常用的爬虫框架。

3.2.1  内置模块

Python内置的urllib和urllib2可以实现简单的request请求,获取服务器的反馈数据。

Post网页:

import urllib

import urllib2

    postdata=urllib.urlencode({

        'username':'psstby',

        'password':'by201109'

    })

   

    req = urllib2.Request(

    url = 'http://hwrd.zhaopin.com/loginmgr/loginproc.asp',

    data = postdata

)

urllib2.urlopen(req).read()

3.2.2  Scrapy

    Scrapy是一个为了爬取网站数据,提取结构性数据而编写的应用框架。 可以应用在包括数据挖掘,信息处理或存储历史数据等一系列的程序中。

    Scrapy 使用 Twisted这个异步网络库来处理网络通讯,架构清晰,并且包含了各种中间件接口,可以灵活的完成各种需求。

      官网地址:

https://scrapy.org/

3.2.3  PySpider

PySpider 是一个非常方便并且功能强大的爬虫框架,支持多线程爬取、JS动态解析,提供了可操作界面、出错重试、定时爬取等等的功能,使用非常人性化。

官网地址:

http://www.pyspider.cn/

开源托管地址:

https://github.com/binux/pyspider/

作者|lurayvis撰写初稿,fhk精美更新

Python精确指南-第三章selenium和爬虫.pdf

来源:华为云社区  作者:lurayvis

相关推荐

鸿蒙案例上新啦 | 购物、听歌、健身:15个模板带你一键激活社交娱乐

页面层级如何组织、跨页共享状态如何同步、列表与详情及个人中心如何形成稳定闭环。鸿蒙开发实践中心将这些高频消费与互动场景沉淀为可参考的标准模板,提供从业务架构到界面实现的快捷实践入口。更多实战案例欢迎前往鸿蒙开发实践中心案例中心查看并开启云端体验。

华为云官方博客 372

鸿蒙案例上新啦 | 出门打车、到家上课:25个模板带你一屏打通日常生活

如何合理拆分页面组件、如何建立单一可信的状态源、如何让用户在每一步操作中都获得明确反馈。鸿蒙开发实践中心以标准化的应用与元服务模板为入口,将清晰的业务架构与可复用的代码结构直观呈现。不妨立即挑选一个感兴趣的方向进入云端环境,从页面布局、组件封装、状态管理到路由组织,亲手跑通你的鸿蒙实战项目。

华为云官方博客 349

LakeAgent:DWS数据仓库的第二大脑,告别 “翻译式运维”,迈入智能自治时代

和普通 SQL 改写工具不同,LakeAgent 自动做多方案代价对比,主动规避负优化陷阱:补充分区键过滤实现剪枝,扫描分区由 37 收敛至 1,执行代价从 758.28 降至 113.74;未来的数据仓库,将不止能算、能存,更能看懂自己、诊断自己、理解自己。长久以来,数仓的智能都依附于人:信号需要人解读,瓶颈需要人研判,经验困在个体里,无法随底座永续生长。CPU 高、CPU 告警、CPU 诊断、CPU 使用率过高、CPU 满。语法、错误码、计费、性能调优、最佳实践、故障处置等全场景内容。

华为云官方博客 572

如何使用RDS Supabase后端BaaS能力:文件存储(File Storage)

• product-images(公开桶,允许公共读取):策略名称"Public read for product-images",允许SELECT,目标角色anon,策略定义bucket_id = 'product-images'。上传/删除需另配INSERT/DELETE策略,详见SQL。• product-specs(私有桶,仅认证用户访问自己的文件夹):建议拆为上传、读取、删除三条策略,策略定义均为 bucket_id = 'product-specs' 且仅限本人文件夹(详见下文 SQL)。

华为云官方博客 498

如何使用RDS Supabase后端BaaS能力:实时订阅与推送(Realtime)

Realtime 把数据库的每次变更同步到客户端:表里增、删、改一行,订阅者无需刷新页面或主动请求即可秒级收到。三大能力各司其职:• Postgres Changes — 监听表的 INSERT/UPDATE/DELETE,变化即通知• Broadcast — 客户端之间直接互发,适合瞬时通知、协同编辑• Presence — 跟踪频道里“谁在线”典型场景有实时数据展示(订单、库存、监控指标即时刷新)、即时通讯(消息收发、在线名单、“对方正在输入”)、协同编辑与实时通知。

华为云官方博客 486

AI Agent如何通过MCP连接到华为云RDS Supabase应用平台

Schema元数据列出所有可访问的表(按schema分组)。Schema元数据列出表的列及元数据(类型/默认值/约束)。Schema元数据列出所有约束(PK/FK/UNIQUE/CHECK/EXCLUDE)。可按schema/表/类型过滤。Schema元数据列出所有外键关系。可按schema/表过滤。Schema元数据列出所有索引及定义和大小。可按schema/表过滤。Schema元数据列出已应用的数据库迁移记录。Schema元数据列出已安装的PostgreSQL扩展。

华为云官方博客 488

华为大数据Flink让每一 CU 算力,跑出开源 5.74 倍的性能

1. 开源Apache Flink 已成为业界流计算事实标准,但在极端重负载场景下存在性能瓶颈。2. 华为大数据Flink通过多项自研深度优化,在执行计划、算子执行、状态存储三个层面构建协同的优化体系。3. Nexmark Benchmark 测试结果:整体性能提升 5.74 倍,极端重负载场景性能领先最高 18.3 倍。4. 100% 兼容 Apache Flink 1.20,业务代码零改造,无缝迁移。

华为云官方博客 394

LakeAgent实战 | 业务分析篇从一句提问到业务分析

本文以“订单金额变化”分析为例,展示LakeAgent如何通过自然语言提问,结合DataArtsStudio的数据资产与专业技能,帮助业务人员快速定位数据、生成SQL、追踪血缘、生成报告。从问题出发,逐步实现数据发现、变化洞察、原因追溯与团队协作,最终形成可复用的分析流程与企业规则,显著提升数据分析效率与一致性。

华为云官方博客 402

华为云RDS Supabase AI应用已开放公测 :30分钟搭建AI应用后端

认证、存储、实时推送、数据库API——4个后端模块,传统开发需要数周。今天,你只需要30分钟。AI创业公司的全栈开发工程师。上周老板说"下周要上线的AI对话应用,后端你来搞"——认证鉴权、数据库接口、文件存储、实时推送,每一个模块都需要数周搭建,而市场不会等你。小张打开华为云RDS Supabase,30分钟搭好认证、数据库API、对象存储,剩下的时间全用来打磨AI交互体验。基于开源Supabase+华为云RDS PostgreSQL全托管能力,为开发者提供。

华为云官方博客 410

如何使用RDS Supabase后端BaaS能力:数据库函数(Database Function)

上一篇介绍了 Database Data API——建表即自动生成增删改查接口,解决单表读写,但聚合统计、跨表事务、字段自动维护等逻辑已超出其能力边界。本篇推进到数据库函数(Database Function):把业务逻辑封装进数据库,前端通过 .rpc() 调用,由触发器自动响应数据变更。上一篇中,小张基于 Data API 完成了产品目录的建表与基础读写。但新需求随之而来:按分类统计产品数与价格区间、上架新品同时写产品表与定价表、产品修改后自动刷新更新时间。

华为云官方博客 473

如何使用RDS Supabase后端BaaS能力:创表即生成API(Database Data API)

认证、存储、实时推送、数据库API——4个后端模块,传统开发要数周。本系列逐个拆解,首篇聚焦数据库API(Database Data API):建表即得 API,无需手写后端。小张,AI创业公司的全栈工程师。老板让他做个产品目录页,展示产品与价格、支持上下架。传统做法要搭后端、写接口、配权限,工期少说1-2周;而在华为云RDS Supabase,建两张表、应用 SDK 直连,几分钟增删改查全跑通。

华为云官方博客 488

从一句话到一个能出去的链接,AI开发者空间做了什么

自行搭建的 Agent、正在使用的开源项目、团队既有的工具,都可以接入,可以通过AI创建或者手动搭建环境;华为云 AI开发者空间——面向开发者的云端一站式开发平台,做的就是把这段路接上:环境免安装,浏览器打开即为完整的 Linux 运行环境,预置的 AI 智能体开箱即用。第一个任务建议选能出结果的:做一个游戏、生成一个页面、创建一台实例,从需求走到可访问的链接,一次就能看清这个环境在做什么。沙箱是一个完整的 Linux 环境,依赖、服务、端口都是真实的,不是模拟。环境释放后,权限随之失效。

华为云官方博客 432

华为云码道配置自定义大模型,四种方式完整实操

案例介绍。

华为云官方博客 648

图数据库:实现穿透式监管的数据基座

穿透式监管标志着国企监管从“管企业”向“管资本”转型过程中的关键一跃。而图数据库正是这一跃的技术支点。从股权穿透到资金链穿透,从供应链穿透到数据穿透,华为GES图数据库正在将“穿透式监管”从理念变为可落地、可操作的实践。无论是天眼查式的全量链路查询,还是某集团财经的税务规则判断,抑或是芯片供应链式的部件风险分析,乃至通过Palantir构建决策知识图谱,其底层逻辑都是一致的——用图的力量,穿透一切形式的“隔离层”,直抵风险本质与责任核心。

华为云官方博客 671

《公共云三十问》正式收官,奔赴企业AI百场景新征程

今年6月底,公共云产业联盟重点推出《公共云三十问》专栏,以每周三问的节奏,连载十周,解读《先进公共云》白皮书,分享国计民生系列案例,旨在凝聚共识、推动落地实践。同时,专栏分析公共云在产业升级、民生福祉、科技创新、全球发展等方面的作用,梳理中国特色公共云发展路径:以普惠云拓展用云广度,以智算云提升用云深度,以自主云夯实用云厚度,以全球云打开用云跨度。这十问从专属云、行业云切入,深入政务、金融、交通、电力、钢铁、化工、油气、制造等国计民生场景,回答公共云“怎么用”。

华为云官方博客 474

开发者小技巧|IAM配置,让码道代码智能体连续30天免登录

案例介绍。

华为云官方博客 651

码道深度对接CodeArts,让需求自动落地为代码

案例介绍。

华为云官方博客 723

【公共云三十问 之三十】拥抱AI,企业如何建设面向智能体的专属云?

企业可分阶段建设覆盖开发、运行、运营及安全的一体化智能体平台——从构建一站式、高低码协同的智能体开发平台,到打造高性能、极致弹性的运行时环境,再到搭建AgentOps驱动的持续运营与运维体系,同时构建端到端、多层次的全链路安全防护体系。在数据湖建设方面,遵循“存量复用、平滑演进、AI导向、分步迭代”原则,分三阶段推进——打造AI多模数据湖核心能力、完成存算分离与统一元数据管理、实现闭环赋能全面支撑智能体规模化落地,在保护既有投资的前提下将传统数据平台转型为AI数据专属供给平台。

华为云官方博客 825

【公共云三十问 之二十九】国计民生之制造:制造云如何重塑数智时代的新质生产力?

平台打通软件交付的完整路径,覆盖需求管理、代码托管、代码检查、编译构建、制品仓库、部署、测试等关键环节,支持大模型能力融入研发全流程,实现从需求到交付的端到端管理。通过构建“研发一朵云”,方案打破地域与组织壁垒,实现跨团队协同开发,有效缩短软件交付周期,助力工业制造企业从“传统研发”走向“敏捷研发”,加速数智化转型进程。当制造云真正成为数据流通的平台、AI创新的底座,公共云的社会价值将从基础设施层向生产场景层持续延伸,为新型工业化建设和制造强国战略注入源源不断的动力,重塑数智时代的中国制造新质生产力。

华为云官方博客 793

告别重复手工迁仓,码道MCP+Skill实现仓库批量迁移

案例介绍。

华为云官方博客 792

【公共云三十问 之二十八】国计民生之油气:智算云如何叩响数智时代的“地心蓝金”?

西南油气田以“向地球深部要资源”为战略方向,联合以华为云Stack为代表的公共云服务商共同打造统一算力底座,建设西南区域数据湖与通用技术平台,构建“勘探开发工程技术、天然气生产过程管控、天然气产运储销”等三个一体化协同应用场景,支撑油气勘探、开发生产、管输储运等全业务链的数智化转型。当智算云真正成为数据流通的平台、AI创新的底座,油气田得以将算力效能、数据价值与智能技术深度融入勘探开发全链条,将“看不见的算力”转化为“摸得着的储量”,以智能化手段持续降低勘探风险、缩短发现周期、提高采收效率,确保生产安全。

华为云官方博客 613

【公共云三十问 之二十七】国计民生之化工:数智云如何重塑传统化工新范式?

在架构方面,方案构建云边协同的统一体系,涵盖AI协同、数据协同与运营协同三大维度——总部集中训练大模型,边缘节点负责推理执行,云边持续迭代,实现“边用边学”的智能闭环,模型平均精度提升20%以上。此外,方案提供一站式企业级工业物联网平台、数据湖与数据治理平台,覆盖工业数据分析“采、存、算、管、用”全流程,打通生产现场与管理系统间的数据壁垒,有效消除数据孤岛。层面,方案充分发挥软硬协同优势,实现计算、存储、网络与云平台的深度协同,训练线性度超95%,为大模型训练推理提供强劲算力支撑。▲化工“数智”新模式。

华为云官方博客 664

【公共云三十问 之二十六】国计民生之钢铁:数智云如何淬炼中国钢铁新力量?

同时,构建云边端协同的统一架构,支撑集团总部与各生产基地两级协同发展——总部集中训练大模型,边缘节点负责推理执行,云边持续迭代,实现训推一体化的资源调度与高效协同,为钢铁行业的数智化转型构建了坚实的算力底座。层面,方案构建覆盖“工业数采→边缘IT/OT融合→统一数据湖→数据治理平台→数据应用”全链路的一站式数据治理与流通平台,打通生产现场与管理系统间的数据壁垒,让数据“采得到、流得动、用得好”,加速数据价值从生产现场向经营决策层流动释放。湘潭钢铁集团的钢铁数智云,是钢铁工业智能云建设的标杆案例。

华为云官方博客 526

LakeWatch——MRS 智能运维Agent

从资源池、队列、作业等多个维度,对集群CPU与内存资源进行精细化分析与对比,直观呈现不同时间段的空闲、满载等使用状态,识别资源浪费,指导治理优化,为扩缩容决策提供数据支撑。对HDFS存储进行多维度深度分析(目录、用户、用户组等),涵盖使用量、增量、文件大小分布及数据热度等指标,帮助快速识别增长较快的目录、长期未访问的文件,统计目录文件数量与小文件占比,评估HDFS总存储量与扩缩容需求,为存储治理与资源规划提供全面数据支撑。Agent主动巡检,识别异常趋势并提前预警,让运维从"事后处理"转向"事前预防"。

华为云官方博客 516

华为云专题文档发布:丰富的AI案例、选型指导和概念解读

发布 “云服务选型”、“云计算概念”专题,提供云服务选型指导,助您选择匹配业务的云服务,解读云计算相关概念,开启云上学习之路。开发者工具和文档专区上线,提供从学习、实践到反馈的全链路支持。帮助中心新增100余篇AI案例。

华为云官方博客 286

一个人,也能用AI做点“星东西”

华为云星耀创想者大赛-2026华为云OPC创意大赛等你来~

华为云官方博客 291

从需求到可执行工作项:MCP+Skill 让智能体规划真正落地

回顾整个体验,以前让智能体帮我拆需求,它是洋洋洒洒给我列了一大篇 Markdown,看着挺像那么回事,但最后还是得我一条条往 CodeArts Req 里搬,搬完再手动挂父子关系、排日期,拆需求五分钟,搬运两小时。现在好了,MCP 给智能体接上了"手",Skill 给它装上了"项目经理的脑子",一句话下去,34 个工作项连带排期、层级关系全给我建好了,甘特图一拉,齐刷刷都在两周内,节省了多少工作量啊,美滋滋。本次实操在码道代码智能体基础上,构建了一套"需求→可执行工作项"的自动化规划方案。

华为云官方博客 579

华为云码道「码力续航计划」更新!

✅上新GLM‑5.3‑Flash,高速响应,代码生成、工程解析、Agent调试高效输出。新增GLM‑5.3‑Flash福利模型,每日解锁1000万免费Tokens。● 本次活动共发放总量价值100万元Tokens,发完即止!把耗算力的编码重活,交给华为云码道代码智能体🚀🚀。● 每日额度准时刷新,当日清零、次日满血重置。✅复杂算法、大项目解析、批量代码生成随便跑。✅不用抠额度、不用算消耗,放开调试大胆迭代。✅无需额外操作,登录即送,直接切换模型使用。● 把算力交给码道,让撸码不再内耗👏🏻。

华为云官方博客 695

【公共云三十问 之二十四】国计民生之交通:交通云如何铺就数智通衢新坦途?

交通行业作为支撑实体经济的关键基础设施,涵盖公路、铁路、机场、港口、地铁等众多子领域,其中,公路网络作为综合交通运输体系的基础骨架,承担着全国超过70%的客货运量,其数字化、智能化转型的需求尤为迫切。方面,提供Agent开发框架、知识库管理、RAG工程、意图识别、静态应用编排及模型评测等能力,支持客户将行业知识、业务流程与AI能力深度融合,快速构建面向收费稽核、路网调度、应急处置等场景的智能应用。开发并实现落地应用,全面覆盖建设、管理、养护、运营、服务、安全、办公七大业务领域。

华为云官方博客 464

【公共云三十问 之二十五】国计民生之电力:电力云如何点亮数智电力新引擎?

方案构建了覆盖数据获取、质量评估到标准化处理的全链路能力。基于公共云服务商智算底座及气象大模型,通过时空图神经网络重新建模产流机制,中国华电建成超50TB多源融合数据集,突破时空建模与机理融合等五大关键技术,短期径流预测精度较传统机理模型提升5个百分点以上,实现15天中期径流预测精度超85%,推理效率达秒级。基于气象大模型的基础架构与预训练能力,客户可直接在大模型之上开展增量训练与微调,充分利用场站所在区域的高精度历史数据(如3公里、1公里分辨率),针对不同场站和区域的地形地貌与气候特征进行模型调优。

华为云官方博客 381
上一篇: Python精确指南——第二章 界面开发
下一篇: Python精确指南——第四章-部署和技巧
华为云开发者联盟
华为云开发者联盟 企业官方账号 企业官方账号
博客等级 码龄10年 72万+粉丝 5985原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值