Scrapy教程 - (1) 安裝與創建專案

Scrapy教程 - (1) 安裝與創建專案

以Scrapy教程紀錄一下近期的學習，以便複習。使用環境為win + anaconda

安裝Scrapy

如沒有創建虛擬環境，可用以下語法創建

//env_name 虛擬環境名稱
conda create --name env_name python==3.9

//並用以下語法啟用環境
conda activate env_name

//如要跳出該虛擬環境
conda deactivate env_name

啟用虛擬環境後，在anaconda下可以使用

//安裝scrapy包
pip install scrapy

創建專案

安裝好Scrapy後，可以輸入 scrapy 查看相關語法使用

//創建新專案
//project_name為專案名稱
scrapy startproject project_name

創建好專案後，可以新增爬蟲

//新建爬蟲
//spider_name為爬蟲名稱
//domain.com是將要爬取的網站的域名
scrapy genspider spider_name domain.com

新增完畢後，主檔案為scrapy.cfg所在的位置，爬蟲會在spider folder裡面

//目錄
--project_name
	-scrapy.cfg
	--project_name
		-__init__.py
  		-items.py
  		-middlewares.py
  		-pipelines.py
  		-settings.py
  		--spiders
   			-__init__.py
   			-spider_name.py

簡單紀錄