日日操夜夜添-日日操影院-日日草夜夜操-日日干干-精品一区二区三区波多野结衣-精品一区二区三区高清免费不卡

公告:魔扣目錄網為廣大站長提供免費收錄網站服務,提交前請做好本站友鏈:【 網站目錄:http://www.ylptlb.cn 】, 免友鏈快審服務(50元/站),

點擊這里在線咨詢客服
新站提交
  • 網站:51998
  • 待審:31
  • 小程序:12
  • 文章:1030137
  • 會員:747

分布式爬蟲管理平臺Crawlab發現挺不錯,但是官方文檔中涉及二次開發的環境啟動章節比較模糊。

最先需要的是克隆代碼

https://github.com/nickliqian/crawlab

前端部署

1、安裝node(網上node下載即可)

2、安裝基本依賴

cmd窗口使用administrator用戶運行執行:

npm install --global --production windows-build-tools
npm install -g node-gyp
npm install -g yarn  
npm install node-sass

3、編譯代碼

這里的構建是指前端構建。在構建之前,我們需要配置一下前端的部署環境變量。

打開 ./frontend/.env.production,內容如下。

NODE_ENV='production'
    VUE_App_BASE_URL=/api
    VUE_APP_CRAWLAB_BASE_URL=https://api.crawlab.cn
    VUE_APP_DOC_URL=http://docs.crawlab.cn	
cd C:Users2230Desktopcrawlab-masterfrontend
yarn install

啟動:

npm run serve   #啟動
npm run build:dev   #開發環境構建
npm run build:prod   #生產環境構建

4、驗證結果

訪問頁面:http://localhost:8080/#/login

分布式爬蟲管理平臺Crawlab開發搭建

 

附:編譯遇到的一些問題

  • gyp verb `which` failed Error: not found: Python2

https://blog.csdn.net/qq_34527715/article/details/103376851

這個問題可以忽略直接執行如下命令,可以自動安裝python2軟件。

npm install -global -production windows-build-tools

  • C:WindowsMicrosoft.NETFrameworkv4.0.30319msbuild.exe` failed with exit code: 1

https://blog.csdn.net/xf1195718067/article/details/78598599

管理員身份運行cmd

npm install -global -production windows-build-tools

后端編譯

1、基本軟件安裝

  • 下載go 1.12+ 版本( https://studygolang.com/dl )

設置go到環境變量PATH中

  • 下載redis
https://github.com/MicrosoftArchive/redis/releases
https://pan.baidu.com/s/17NYqI-UTAsynmRpHklX4Ig  提取碼:nh5p
  • 下載MongoDB
http://dl.mongodb.org/dl/win32/x86_64

啟動(可以在PATH中設置MongoDB的bin目錄)

mongod.exe   
--dbpath=C:Users2230Desktopcrawlabmongodb-win32-x86_64-2012plus-4.2.7db  
--logpath=C:Users2230Desktopcrawlabmongodb-win32-x86_64-2012plus-4.2.7mongod.log 

2、修改配置

主要修改redis和MongoDB的服務器地址(根據具體情況修改):

C:Users2230Desktopcrawlab-masterconfconfig.yaml

3、編譯代碼

設置一下 Go Module 的代理,將環境變量 GOPROXY 設置為 https://goproxy.cn。如果是 linux 或 mac,可以執行如下命令:

 export GOPROXY=https://goproxy.cn  

windows系統啟動cmd,執行如下:

set GOPROXY=https://goproxy.cn 

開始編譯代碼執行如下命令:

 cd  C:Users2230Desktopcrawlab-masterbackend
 go install

在執行go install時會出現如下錯誤,可能window系統不支持這些類庫,先直接注釋

分布式爬蟲管理平臺Crawlab開發搭建

 

注釋后在執行 go install ;這時直接注釋這個引入的模塊即可編譯成功

分布式爬蟲管理平臺Crawlab開發搭建

 

執行如下命令構建exe

go build 

生產如圖exe文件

分布式爬蟲管理平臺Crawlab開發搭建

 

以上是構建項目。如果是啟動項目,可以直接使用命令:

cd  C:Users2230Desktopcrawlab-masterbackend
go run main.go
分布式爬蟲管理平臺Crawlab開發搭建

 

另外也可以執行go build生產的crawlab.exe文件;在cmd命令行執行:

分布式爬蟲管理平臺Crawlab開發搭建

 

4、驗證結果

訪問:http://localhost:8080/#/login

輸入賬號密碼:admin / admin

分布式爬蟲管理平臺Crawlab開發搭建

 

看起來功能還是比較強大的,正在研究怎樣使用。如果大家有興趣的一起分享、學習。

分享到:
標簽:爬蟲 分布式 管理
用戶無頭像

網友整理

注冊時間:

網站:5 個   小程序:0 個  文章:12 篇

  • 51998

    網站

  • 12

    小程序

  • 1030137

    文章

  • 747

    會員

趕快注冊賬號,推廣您的網站吧!
最新入駐小程序

數獨大挑戰2018-06-03

數獨一種數學游戲,玩家需要根據9

答題星2018-06-03

您可以通過答題星輕松地創建試卷

全階人生考試2018-06-03

各種考試題,題庫,初中,高中,大學四六

運動步數有氧達人2018-06-03

記錄運動步數,積累氧氣值。還可偷

每日養生app2018-06-03

每日養生,天天健康

體育訓練成績評定2018-06-03

通用課目體育訓練成績評定