分布式爬蟲管理平臺Crawlab發現挺不錯,但是官方文檔中涉及二次開發的環境啟動章節比較模糊。
最先需要的是克隆代碼
https://github.com/nickliqian/crawlab
前端部署
1、安裝node(網上node下載即可)
2、安裝基本依賴
cmd窗口使用administrator用戶運行執行:
npm install --global --production windows-build-tools
npm install -g node-gyp
npm install -g yarn
npm install node-sass
3、編譯代碼
這里的構建是指前端構建。在構建之前,我們需要配置一下前端的部署環境變量。
打開 ./frontend/.env.production,內容如下。
NODE_ENV='production'
VUE_App_BASE_URL=/api
VUE_APP_CRAWLAB_BASE_URL=https://api.crawlab.cn
VUE_APP_DOC_URL=http://docs.crawlab.cn
cd C:Users2230Desktopcrawlab-masterfrontend
yarn install
啟動:
npm run serve #啟動
npm run build:dev #開發環境構建
npm run build:prod #生產環境構建
4、驗證結果
訪問頁面:http://localhost:8080/#/login

附:編譯遇到的一些問題
- gyp verb `which` failed Error: not found: Python2
https://blog.csdn.net/qq_34527715/article/details/103376851
這個問題可以忽略直接執行如下命令,可以自動安裝python2軟件。
npm install -global -production windows-build-tools
- C:WindowsMicrosoft.NETFrameworkv4.0.30319msbuild.exe` failed with exit code: 1
https://blog.csdn.net/xf1195718067/article/details/78598599
管理員身份運行cmd
npm install -global -production windows-build-tools
后端編譯
1、基本軟件安裝
- 下載go 1.12+ 版本( https://studygolang.com/dl )
設置go到環境變量PATH中
- 下載redis
https://github.com/MicrosoftArchive/redis/releases
https://pan.baidu.com/s/17NYqI-UTAsynmRpHklX4Ig 提取碼:nh5p
- 下載MongoDB
http://dl.mongodb.org/dl/win32/x86_64
啟動(可以在PATH中設置MongoDB的bin目錄)
mongod.exe
--dbpath=C:Users2230Desktopcrawlabmongodb-win32-x86_64-2012plus-4.2.7db
--logpath=C:Users2230Desktopcrawlabmongodb-win32-x86_64-2012plus-4.2.7mongod.log
2、修改配置
主要修改redis和MongoDB的服務器地址(根據具體情況修改):
C:Users2230Desktopcrawlab-masterconfconfig.yaml
3、編譯代碼
設置一下 Go Module 的代理,將環境變量 GOPROXY 設置為 https://goproxy.cn。如果是 linux 或 mac,可以執行如下命令:
export GOPROXY=https://goproxy.cn
windows系統啟動cmd,執行如下:
set GOPROXY=https://goproxy.cn
開始編譯代碼執行如下命令:
cd C:Users2230Desktopcrawlab-masterbackend
go install
在執行go install時會出現如下錯誤,可能window系統不支持這些類庫,先直接注釋

注釋后在執行 go install ;這時直接注釋這個引入的模塊即可編譯成功

執行如下命令構建exe
go build
生產如圖exe文件

以上是構建項目。如果是啟動項目,可以直接使用命令:
cd C:Users2230Desktopcrawlab-masterbackend
go run main.go

另外也可以執行go build生產的crawlab.exe文件;在cmd命令行執行:

4、驗證結果
訪問:http://localhost:8080/#/login
輸入賬號密碼:admin / admin

看起來功能還是比較強大的,正在研究怎樣使用。如果大家有興趣的一起分享、學習。