亚洲综合原千岁中文字幕_国产精品99久久久久久久vr_无码人妻aⅴ一区二区三区浪潮_成人h动漫精品一区二区三

主頁 > 知識庫 > golang并發下載多個文件的方法

golang并發下載多個文件的方法

熱門標簽:南通如皋申請開通400電話 高德地圖標注口訣 廣州呼叫中心外呼系統 中國地圖標注省會高清 西部云谷一期地圖標注 浙江高速公路地圖標注 學海導航地圖標注 江西轉化率高的羿智云外呼系統 地圖標注的汽車標

背景說明

假設有一個分布式文件系統,現需要從該系統中并發下載一部分文件到本地機器。

已知該文件系統的部分節點ip, 以及需要下載的文件fileID列表,并能通過這些信息來拼接下載地址。

其中節點ip列表保存在xx_node.txt, 要下載的fileID保存在xx_fileID.txt中。

代碼示例

package main

import (
  "bufio"
  "flag"
  "fmt"
  "io"
  "math/rand"
  "net/http"
  "os"
  "time"
)

var (
  clustername = flag.String("clustername", "c1", "download clustername")
)

// 逐行讀取文件內容
func ReadLines(fpath string) []string {
  fd, err := os.Open(fpath)
  if err != nil {
    panic(err)
  }
  defer fd.Close()

  var lines []string
  scanner := bufio.NewScanner(fd)
  for scanner.Scan() {
    lines = append(lines, scanner.Text())
  }
  if err := scanner.Err(); err != nil {
    fmt.Fprintln(os.Stderr, err)
  }

  return lines
}

// 實現單個文件的下載
func Download(clustername string, node string, fileID string) string {
  nt := time.Now().Format("2006-01-02 15:04:05")
  fmt.Printf("[%s]To download %s\n", nt, fileID)

  url := fmt.Sprintf("http://%s/file/%s", node, fileID)
  fpath := fmt.Sprintf("/yourpath/download/%s_%s", clustername, fileID)
  newFile, err := os.Create(fpath)
  if err != nil {
    fmt.Println(err.Error())
    return "process failed for " + fileID
  }
  defer newFile.Close()

  client := http.Client{Timeout: 900 * time.Second}
  resp, err := client.Get(url)
  defer resp.Body.Close()

  _, err = io.Copy(newFile, resp.Body)
  if err != nil {
    fmt.Println(err.Error())
  }
  return fileID
}

func main() {
  flag.Parse()

  // 從文件中讀取節點ip列表
  nodelist := ReadLines(fmt.Sprintf("%s_node.txt", *clustername))
  if len(nodelist) == 0 {
    return
  }

  // 從文件中讀取待下載的文件ID列表
  fileIDlist := ReadLines(fmt.Sprintf("%s_fileID.txt", *clustername))
  if len(fileIDlist) == 0 {
    return
  }

  ch := make(chan string)

  // 每個goroutine處理一個文件的下載
  r := rand.New(rand.NewSource(time.Now().UnixNano()))
  for _, fileID := range fileIDlist {
    node := nodelist[r.Intn(len(nodelist))]
    go func(node, fileID string) {
      ch - Download(*clustername, node, fileID)
    }(node, fileID)
  }

  // 等待每個文件下載的完成,并檢查超時
  timeout := time.After(900 * time.Second)
  for idx := 0; idx  len(fileIDlist); idx++ {
    select {
    case res := -ch:
      nt := time.Now().Format("2006-01-02 15:04:05")
      fmt.Printf("[%s]Finish download %s\n", nt, res)
    case -timeout:
      fmt.Println("Timeout...")
      break
    }
  }
}

小結

下載時沒有用到默認的http Client, 并指定了超時時間;

下載文件時調用了系統調用, goroutine會被掛起;

下載文件完成后會喚醒被掛起的goroutine, 該goroutine執行完后面的代碼后便退出;

全局超時控制,超時后主線程退出。

以上這篇golang并發下載多個文件的方法就是小編分享給大家的全部內容了,希望能給大家一個參考,也希望大家多多支持腳本之家。

您可能感興趣的文章:
  • golang語言實現的文件上傳與文件下載功能示例
  • Golang實現異步上傳文件支持進度條查詢的方法
  • Golang+Android基于HttpURLConnection實現的文件上傳功能示例
  • golang簡單獲取上傳文件大小的實現代碼
  • 如何使用大學教育郵箱下載golang等軟件(推薦)
  • 解決 Golang VS Code 插件下載安裝失敗的問題
  • golang實現http server提供文件下載功能
  • Golang 使用http Client下載文件的實現方法
  • 下載golang.org/x包的操作方法
  • golang實現的文件上傳下載小工具

標簽:貴州 曲靖 吐魯番 許昌 保定 東營 德宏 常州

巨人網絡通訊聲明:本文標題《golang并發下載多個文件的方法》,本文關鍵詞  golang,并發,下載,多個,文件,;如發現本文內容存在版權問題,煩請提供相關信息告之我們,我們將及時溝通與處理。本站內容系統采集于網絡,涉及言論、版權與本站無關。
  • 相關文章
  • 下面列出與本文章《golang并發下載多個文件的方法》相關的同類信息!
  • 本頁收集關于golang并發下載多個文件的方法的相關信息資訊供網民參考!
  • 推薦文章
    99热精品在线| 一级片片| 精品毛片视频| 欧美a免费| 欧美夜夜骑 青草视频在线观看完整版 久久精品99无色码中文字幕 欧美日韩一区二区在线观看视频 欧美中文字幕在线视频 www.99精品 香蕉视频久久 | 亚洲精品影院| 欧美电影免费看大全| 黄色免费网站在线| 成人av在线播放| 亚洲女初尝黑人巨高清在线观看| 天堂网中文字幕| 99久久精品费精品国产一区二区| 精品国产香蕉在线播出| 日本久久久久久久 97久久精品一区二区三区 狠狠色噜噜狠狠狠狠97 日日干综合 五月天婷婷在线观看高清 九色福利视频 | 亚州视频一区二区| 国产激情视频在线观看| 天天做人人爱夜夜爽2020| 青青久久精品| 日韩av东京社区男人的天堂| 久久国产影院| 国产视频网站在线观看| 国产一区二区精品久久91| 可以免费看毛片的网站| 免费国产在线观看| 亚洲精品永久一区| 欧美一级视| 亚洲第一视频在线播放| 精品久久久久久中文| 99久久精品费精品国产一区二区| 久久99青青久久99久久| 亚洲天堂免费观看| 欧美国产日韩精品| 日本在线www| 日韩在线观看视频网站| 久久国产一久久高清| 欧美1区| 午夜在线观看视频免费 成人| 欧美一区二区三区在线观看| 成人影院一区二区三区| 日韩女人做爰大片| 免费毛片播放| 九九精品久久| 精品在线观看一区| 欧美激情中文字幕一区二区| 久草免费在线视频| 麻豆网站在线免费观看| 韩国毛片免费| 国产一区二区精品在线观看| 精品视频免费观看| 一级女性全黄久久生活片| 91麻豆精品国产综合久久久| 久久国产精品自线拍免费| 成人av在线播放| 精品视频一区二区三区免费| 国产一区免费在线观看| 国产麻豆精品高清在线播放| 天天色成人| 91麻豆tv| 欧美激情一区二区三区在线| 一级女性大黄生活片免费| 亚洲精品久久久中文字| 久久99青青久久99久久| 九九免费高清在线观看视频| 日韩专区一区| 亚洲第一视频在线播放| 久久国产精品永久免费网站| 日本久久久久久久 97久久精品一区二区三区 狠狠色噜噜狠狠狠狠97 日日干综合 五月天婷婷在线观看高清 九色福利视频 | 国产网站免费| 国产视频一区二区在线播放| 青青久热| 国产91视频网| 成人影视在线播放| 日本在线www| 成人a大片在线观看| 国产视频久久久久| 九九九在线视频| 尤物视频网站在线观看| 国产高清在线精品一区a| 欧美激情一区二区三区视频 | 人人干人人插| 亚洲精品影院久久久久久| 日本伦理黄色大片在线观看网站| 好男人天堂网 久久精品国产这里是免费 国产精品成人一区二区 男人天堂网2021 男人的天堂在线观看 丁香六月综合激情 | 国产视频一区二区在线播放| 欧美1卡一卡二卡三新区| 亚洲女人国产香蕉久久精品 | 日韩一级黄色片| 日韩av东京社区男人的天堂| 可以免费看毛片的网站| 亚洲天堂在线播放| 欧美一级视| 日本乱中文字幕系列| 深夜做爰性大片中文| 99久久精品国产片| 精品视频在线观看一区二区| 日日夜夜婷婷| 九九久久国产精品| 国产一区二区精品| 天天做日日爱夜夜爽| 尤物视频网站在线| 国产成人精品在线| 国产极品精频在线观看| 一级毛片视频在线观看| 欧美激情一区二区三区视频高清| 久久国产影视免费精品| 麻豆网站在线免费观看| 日韩在线观看视频网站| 一级女人毛片人一女人| 一a一级片| 亚久久伊人精品青青草原2020| 久久久久久久免费视频| 欧美激情影院| 青草国产在线观看| 欧美日本免费| 日韩专区第一页| 国产精品123| 欧美爱色| 黄视频网站在线观看| 精品久久久久久影院免费| 二级特黄绝大片免费视频大片| 欧美激情影院| 午夜激情视频在线播放| 91麻豆国产级在线| 尤物视频网站在线观看| 99热精品在线| 久久国产精品只做精品| 99久久精品国产高清一区二区 | 日韩在线观看视频黄| 黄色福利片| 一本高清在线| 色综合久久天天综合绕观看| a级毛片免费观看网站| 日韩免费在线视频| 精品国产香蕉在线播出 | 一本高清在线| 一级女性大黄生活片免费| 国产视频在线免费观看| 久久精品免视看国产明星| 91麻豆精品国产自产在线观看一区 | 久久久久久久久综合影视网| 日本免费看视频| 亚洲女人国产香蕉久久精品 | 成人在免费观看视频国产| 韩国毛片免费| 99热精品在线| 久久99这里只有精品国产| 久久精品大片| 91麻豆精品国产片在线观看| 黄视频网站在线看| 国产麻豆精品| 国产91丝袜在线播放0| 国产一区二区福利久久| 国产一区二区精品久久91| 天天做日日爱| 国产精品自拍亚洲| 色综合久久天天综合观看| 国产综合91天堂亚洲国产| 精品国产三级a| 午夜在线影院| 国产美女在线观看| 成人高清视频免费观看| 欧美日本国产| 日韩专区在线播放| 国产一区二区精品在线观看| 一级毛片视频免费| 色综合久久久久综合体桃花网| 九九九在线视频| 国产极品白嫩美女在线观看看| 精品久久久久久中文字幕一区| 久久国产影视免费精品| 免费的黄视频| 久久精品免视看国产明星| 99久久精品国产片| 天天色色网| 成人免费一级纶理片| 欧美1卡一卡二卡三新区| 久久精品大片| 欧美18性精品| 日韩专区一区| 欧美激情一区二区三区视频| 你懂的在线观看视频| 久久久久久久男人的天堂| 九九干| 久久精品店| 国产一区二区精品久久91| 国产精品1024永久免费视频 | 成人免费网站视频ww| 国产视频网站在线观看| 欧美爱爱动态| 国产一区精品| 亚州视频一区二区| 欧美激情一区二区三区中文字幕| 国产网站免费| 中文字幕Aⅴ资源网| 99久久网站| 欧美激情影院| 99久久精品国产片| 精品视频免费看| 毛片的网站| 欧美激情一区二区三区视频高清|