亚洲综合原千岁中文字幕_国产精品99久久久久久久vr_无码人妻aⅴ一区二区三区浪潮_成人h动漫精品一区二区三

主頁 > 知識庫 > Shell腳本實現亂序排列文件內容的多種方法(洗牌問題)

Shell腳本實現亂序排列文件內容的多種方法(洗牌問題)

熱門標簽:地圖標注輻射圖案 安裝外呼系統費用 電銷機器人 劍魚 衛星地圖標注地名 寧波智能外呼系統公司 聯通電話機器人怎么接 申請公司400電話要注意什么 曲阜400電話辦理 奧維互動地圖標注參數

洗牌問題:洗一副撲克,有什么好辦法?既能洗得均勻,又能洗得快?即相對于一個文件來說怎樣高效率的實現亂序排列?

ChinaUnix 確實是 Shell 高手云集的地方,只要你想得到的問題,到那里基本上都能找到答案。r2007 給出了一個取巧的方法,利用 Shell 的 $RANDOM 變量給原文件的每一行加上隨機的行號然后根據這個隨機行號進行排序,再把臨時加上去的行號給過濾掉,這樣操作之后得到的新文件就相當于被隨機“洗”了一次:

復制代碼 代碼如下:

while read i;do echo "$i $RANDOM";donefile|sort -k2n|cut -d" " -f1

當然如果你的源文件每行的內容比較復雜的話就必須對這段代碼進行改寫,但只要知道了處理的關鍵技巧,剩下的問題都不難解決。

另外一篇來自蘇蓉蓉的用 awk 來實現洗牌效果的隨機文件排序代碼分析(原貼在這里,以及對此帖的一個后續討論,如果你沒有登錄帳號的話可以到這里查看精華區文章)則寫的更為詳細:
--------------------------------------------------------------------
關于洗牌問題,其實已經有了一個很好的shell解法,這里另外給三個基于AWK的方法,有錯誤之處還請不吝指出。

方法一:窮舉

類似于窮舉法,構造一個散列來記錄已經打印行出現行的次數,如果出現次數多于一次則不進行處理,這樣可以防止重復,但缺點是加大了系統的開銷。

復制代碼 代碼如下:

awk -v N=`sed -n '$=' data` '
BEGIN{
FS="\n";
RS=""
}
{
srand();
while(t!=N){
  x=int(N*rand()+1);
  a[x]++;
  if(a[x]==1)
    {
        print $x;t++
    }
  }
}
' data

方法二:變換

基于數組下標變換的辦法,即用數組儲存每行的內容,通過數組下標的變換交換數組的內容,效率好于方法一。

復制代碼 代碼如下:

#! /usr/awk

BEGIN{
srand();
}

{
b[NR]=$0;
}

END{

C(b,NR);
for(x in b)
  {
    print b[x];
  }}

function C(arr,len,i,j,t,x){

for(x in arr)
  {
      i=int(len*rand())+1;
      j=int(len*rand())+1;
      t=arr[i];
      arr[i]=arr[j];
      arr[j]=t;
  }

}


方法三:散列

    三個方法中最好的。
    利用AWK中散列的特性(詳細請看:info gawk 中的7.x ),只要構造一個隨機不重復的散列函數即可,因為一個文件每行的linenumber是獨一無二的,所以用:

    隨機數+每行linenumber    ------對應------>    那一行的內容

    即為所構造的隨機函數。
    從而有:

復制代碼 代碼如下:

awk 'BEGIN{srand()}{b[rand()NR]=$0}END{for(x in b)print b[x]}' data

    其實大家擔心的使用內存過大的問題不必太在意,可以做一個測試:

測試環境:

PM 1.4GHz CPU,40G硬盤,內存256M的LAPTOP
SUSE 9.3  GNU bash version 3.00.16 GNU Awk 3.1.4

產生一個五十幾萬行的隨機文件,大約有38M:

復制代碼 代碼如下:

od /dev/urandom |dd  count=75000 >data

拿效率較低的方法一來說:

洗牌一次所用時間:

復制代碼 代碼如下:

time awk -v N=`sed -n '$=' data` '
BEGIN{
FS="\n";
RS=""
}
{
srand();
while(t!=N){
  x=int(N*rand()+1);
  a[x]++;
  if(a[x]==1)
    {
        print $x;t++
    }
  }
}
' data

結果(文件內容省略):
復制代碼 代碼如下:

real    3m41.864s
user    0m34.224s
sys     0m2.102s

所以效率還是勉強可以接受的。

方法二的測試:

復制代碼 代碼如下:

time awk -f awkfile datafile

結果(文件內容省略):
復制代碼 代碼如下:

real    2m26.487s
user    0m7.044s
sys     0m1.371s

效率明顯好于第一個。

接著考察一下方法三的效率:

復制代碼 代碼如下:

time awk 'BEGIN{srand()}{b[rand()NR]=$0}END{for(x in b)print b[x]}' data

結果(文件內容省略):
復制代碼 代碼如下:

real    0m49.195s
user    0m5.318s
sys     0m1.301s

對于一個38M的文件來說已經相當不錯了。
--------------------------------------------------------------------

附帶存一個來自 flyfly 寫的 python 版本亂序代碼:

復制代碼 代碼如下:

#coding:gb2312
import sys
import random

def usage():
print "usage:program srcfilename dstfilename"
global filename
filename = ""
try:
filename = sys.argv[1]
except:
usage()
raise()
#open the phonebook file

f = open(filename, 'r')
phonebook = f.readlines()
print phonebook
f.close()

#write to file randomly
try:
filename = sys.argv[2]
except:
usage()
raise()

f = open(filename, 'w')
random.shuffle(phonebook)
f.writelines(phonebook)
f.close()

標簽:安康 上饒 三門峽 江西 大慶 仙桃 大興安嶺 遵義

巨人網絡通訊聲明:本文標題《Shell腳本實現亂序排列文件內容的多種方法(洗牌問題)》,本文關鍵詞  Shell,腳本,實現,亂序,排列,;如發現本文內容存在版權問題,煩請提供相關信息告之我們,我們將及時溝通與處理。本站內容系統采集于網絡,涉及言論、版權與本站無關。
  • 相關文章
  • 下面列出與本文章《Shell腳本實現亂序排列文件內容的多種方法(洗牌問題)》相關的同類信息!
  • 本頁收集關于Shell腳本實現亂序排列文件內容的多種方法(洗牌問題)的相關信息資訊供網民參考!
  • 推薦文章
    亚洲精品中文一区不卡| 久久精品欧美一区二区| 一级女性全黄生活片免费| 一级毛片视频免费| 台湾毛片| 台湾毛片| 二级片在线观看| 欧美激情一区二区三区视频 | 精品在线视频播放| 日韩在线观看视频网站| 精品久久久久久中文| 欧美1区| 免费一级片网站| 欧美a级成人淫片免费看| 日韩在线观看免费| 成人影院一区二区三区| 青青青草视频在线观看| 久久成人亚洲| 国产伦久视频免费观看 视频| 99久久精品国产片| 精品国产一区二区三区精东影业| 91麻豆精品国产综合久久久| 欧美一区二区三区性| 99色精品| 99色视频在线观看| 四虎影视久久| 日韩在线观看视频免费| 一级毛片看真人在线视频| 成人免费网站久久久| 国产伦精品一区三区视频| 精品视频在线看| 日本免费看视频| 九九精品在线| 国产伦精品一区三区视频| 韩国三级视频网站| 欧美激情一区二区三区在线播放| 欧美激情影院| 亚洲女人国产香蕉久久精品| 精品久久久久久综合网 | 欧美a级成人淫片免费看| 亚洲精品影院| 人人干人人草| 99久久精品国产国产毛片| 九九久久99综合一区二区| 日本伦理片网站| 日本伦理片网站| 欧美国产日韩在线| 毛片成人永久免费视频| 91麻豆爱豆果冻天美星空| 久久精品大片| 九九热精品免费观看| 精品久久久久久综合网 | 久久国产一区二区| 免费一级片在线观看| 久草免费在线视频| 日本特黄特黄aaaaa大片| 精品国产一区二区三区国产馆| 欧美激情中文字幕一区二区| 精品国产一区二区三区久久久蜜臀| 999精品在线| 久久久久久久网| 国产一区二区精品| 久久久久久久免费视频| 精品久久久久久中文字幕一区 | 99热精品在线| 超级乱淫伦动漫| 国产一区二区福利久久| 国产极品精频在线观看| 成人免费一级纶理片| 青青久久精品| 国产不卡在线播放| 免费的黄色小视频| 日韩男人天堂| 国产不卡在线观看| 色综合久久天天综合绕观看| 99久久精品国产高清一区二区 | 深夜做爰性大片中文| 亚洲 激情| 成人免费网站久久久| 韩国妈妈的朋友在线播放| 精品视频免费在线| 国产视频网站在线观看| 日韩字幕在线| 成人免费高清视频| 青青青草影院 | 天天做日日干| 国产激情视频在线观看| 国产国语对白一级毛片| 成人免费一级毛片在线播放视频| 美女免费精品高清毛片在线视| 青青青草影院 | 香蕉视频一级| 好男人天堂网 久久精品国产这里是免费 国产精品成人一区二区 男人天堂网2021 男人的天堂在线观看 丁香六月综合激情 | 国产麻豆精品| 97视频免费在线观看| 欧美大片aaaa一级毛片| 国产精品自拍在线观看| 美国一区二区三区| 久久国产精品只做精品| 日本久久久久久久 97久久精品一区二区三区 狠狠色噜噜狠狠狠狠97 日日干综合 五月天婷婷在线观看高清 九色福利视频 | a级黄色毛片免费播放视频| 日韩一级黄色| 国产不卡福利| 午夜精品国产自在现线拍| 免费的黄视频| 精品国产亚一区二区三区| 日韩免费片| 黄色福利| 精品视频在线观看一区二区三区| 日本在线www| 久久精品人人做人人爽97| 91麻豆精品国产自产在线| 亚洲女人国产香蕉久久精品| 欧美一级视| 国产一级强片在线观看| 麻豆系列 在线视频| 久久精品道一区二区三区| 国产麻豆精品hdvideoss| 欧美激情一区二区三区在线| 亚欧乱色一区二区三区| 欧美a级片免费看| 青青青草影院| 高清一级片| 精品国产香蕉伊思人在线又爽又黄| 日韩免费在线视频| 欧美日本二区| 欧美爱色| 国产91精品一区| 国产伦精品一区三区视频| 一 级 黄 中国色 片| 成人高清视频在线观看| 国产a视频| 日本在线www| 午夜在线亚洲男人午在线| 久久精品道一区二区三区| 成人免费福利片在线观看| 成人免费福利片在线观看| 国产一级生活片| 美女免费精品视频在线观看| 天天做日日爱夜夜爽| 国产网站免费视频| 久久久成人网| 麻豆午夜视频| 国产成人精品综合在线| 香蕉视频亚洲一级| 久久成人综合网| 精品国产一级毛片| 国产激情一区二区三区| 色综合久久天天综合观看| 欧美激情伊人| 亚洲女人国产香蕉久久精品| 精品视频一区二区三区| 国产福利免费观看| 亚洲精品中文一区不卡| 成人高清免费| 日本特黄特色aaa大片免费| 欧美国产日韩久久久| 好男人天堂网 久久精品国产这里是免费 国产精品成人一区二区 男人天堂网2021 男人的天堂在线观看 丁香六月综合激情 | 精品国产一级毛片| 高清一级淫片a级中文字幕| 欧美a级大片| 黄色福利| 日本伦理黄色大片在线观看网站| 精品久久久久久中文| 国产精品1024永久免费视频| 九九干| 九九久久国产精品大片| 欧美1区2区3区| 国产伦精品一区三区视频| 精品在线观看国产| 久久国产精品只做精品| 精品视频在线看 | 日本免费乱人伦在线观看| 亚洲女初尝黑人巨高清在线观看| 久久福利影视| 天天做日日爱夜夜爽| 国产成人啪精品视频免费软件| 国产美女在线一区二区三区| 精品久久久久久中文| 青青青草视频在线观看| 久久国产精品只做精品| 国产麻豆精品hdvideoss| 久久精品店| 麻豆网站在线看| 日韩av片免费播放| 国产网站免费| 国产成人精品综合在线| 欧美电影免费| 人人干人人插| 久久精品免视看国产成人2021| 国产一区二区精品| 99热精品在线| 黄视频网站免费观看| 青青青草视频在线观看| 99久久精品国产国产毛片| 国产亚洲精品成人a在线| 一级女人毛片人一女人| 99久久精品国产免费| 99热精品一区| 国产视频一区二区在线观看|