파일의 모든 숫자를 빠르게 합산하려면 어떻게해야합니까?

수천 줄의 숫자가 들어있는 파일이 있습니다. 각 줄에는 한 줄이 있습니다.

34
42
11
6
2
99
...

파일의 모든 숫자의 합계를 인쇄하는 스크립트를 작성하려고합니다. 해결책이 있지만 그다지 효율적이지 않습니다. (실행하는 데 몇 분이 걸립니다.) 더 효율적인 솔루션을 찾고 있습니다. 어떤 제안?

펄 한 줄의 경우,이 같은 일이 기본적으로의 awk용액 아이 만 Hourieh의 대답은 :

 % perl -nle '$sum += $_ } END { print $sum'

Perl one-liners의 기능이 궁금한 경우 다음을 수행하십시오.

 %  perl -MO=Deparse -nle '$sum += $_ } END { print $sum'

그 결과 아무도 더 이상 스스로 작성하지 않는 형태의 프로그램이 더 장황합니다.

BEGIN { $/ = "\n"; $\ = "\n"; }
LINE: while (defined($_ = <ARGV>)) {
    chomp $_;
    $sum += $_;
}
sub END {
    print $sum;
}
-e syntax OK

낄낄 거림을 위해 1,000,000 숫자 (0-9,999 범위)의 파일 로이 작업을 시도했습니다. 내 Mac Pro에서는 거의 즉시 돌아옵니다. 내가 사용하는 mmap것이 정말 빠르기를 바 랐기 때문에 너무 나쁩니다. 그러나 그것은 같은 시간입니다.

use 5.010;
use File::Map qw(map_file);

map_file my $map, $ARGV[0];

$sum += $1 while $map =~ m/(\d+)/g;

say $sum;

awk를 사용할 수 있습니다 :

awk '{ sum += $1 } END { print sum }' file

지금까지 어떤 솔루션도 사용하지 않았습니다 paste. 여기 하나가 있습니다 :

paste -sd+ filename | bc

예를 들어, 1 <= n <= 100000 인 Σn을 계산하십시오.

$ seq 100000 | paste -sd+ | bc -l
5000050000

(호기심을 나타 내기 위해 주어진 양의 숫자를 양수로 seq n인쇄합니다 .)1nn

재미로 벤치마킹하자 :

$ for ((i=0; i<1000000; i++)) ; do echo $RANDOM; done > random_numbers

$ time perl -nle '$sum += $_ } END { print $sum' random_numbers
16379866392

real    0m0.226s
user    0m0.219s
sys     0m0.002s

$ time awk '{ sum += $1 } END { print sum }' random_numbers
16379866392

real    0m0.311s
user    0m0.304s
sys     0m0.005s

$ time { { tr "\n" + < random_numbers ; echo 0; } | bc; }
16379866392

real    0m0.445s
user    0m0.438s
sys     0m0.024s

$ time { s=0;while read l; do s=$((s+$l));done<random_numbers;echo $s; }
16379866392

real    0m9.309s
user    0m8.404s
sys     0m0.887s

$ time { s=0;while read l; do ((s+=l));done<random_numbers;echo $s; }
16379866392

real    0m7.191s
user    0m6.402s
sys     0m0.776s

$ time { sed ':a;N;s/\n/+/;ta' random_numbers|bc; }
^C

real    4m53.413s
user    4m52.584s
sys 0m0.052s

5 분 후 sed run을 중단했습니다

나는 다이빙을하고있다 루아, 그리고 그것은 빠릅니다 :

$ time lua -e 'sum=0; for line in io.lines() do sum=sum+line end; print(sum)' < random_numbers
16388542582.0

real    0m0.362s
user    0m0.313s
sys     0m0.063s

그리고 이것을 업데이트하는 동안 루비 :

$ time ruby -e 'sum = 0; File.foreach(ARGV.shift) {|line| sum+=line.to_i}; puts sum' random_numbers
16388542582

real    0m0.378s
user    0m0.297s
sys     0m0.078s

Ed Morton의 조언에 유의하십시오. $1

$ time awk '{ sum += $1 } END { print sum }' random_numbers
16388542582

real    0m0.421s
user    0m0.359s
sys     0m0.063s

대 사용 $0

$ time awk '{ sum += $0 } END { print sum }' random_numbers
16388542582

real    0m0.302s
user    0m0.234s
sys     0m0.063s

다른 옵션은 다음을 사용하는 것입니다 jq.

$ seq 10|jq -s add
55

-s( --slurp)는 입력 행을 배열로 읽습니다.

이것은 바로 Bash입니다.

sum=0
while read -r line
do
    (( sum += line ))
done < file
echo $sum

여기에 하나의 라이너가 있습니다.

( echo 0 ; sed 's/$/ +/' foo ; echo p ) | dc

이것은 숫자가 정수라고 가정합니다. 소수가 필요한 경우 시도하십시오

( echo 0 2k ; sed 's/$/ +/' foo ; echo p ) | dc

2를 필요한 소수 자릿수로 조정하십시오.

나는 GNU 데이터 매쉬를 그러한 작업에 사용하는 것을 선호합니다. perl 또는 awk보다 간결하고 읽기 쉽습니다. 예를 들어

datamash sum 1 < myfile

여기서 1은 데이터의 첫 번째 열을 나타냅니다.

$ perl -MList::Util=sum -le 'print sum <>' nums.txt

나는 이것을 위해 R을 사용하는 것을 선호한다 :

$ R -e 'sum(scan("filename"))'

cat nums | perl -ne '$sum += $_ } { print $sum'

( '종료'없는 브라이언 디 포이의 대답과 동일)

간결한 내용 :

# Ruby
ruby -e 'puts open("random_numbers").map(&:to_i).reduce(:+)'

# Python
python -c 'print(sum(int(l) for l in open("random_numbers")))'

펄 6

say sum lines

~$ perl6 -e '.say for 0..1000000' > test.in

~$ perl6 -e 'say sum lines' < test.in
500000500000

재미를 위해서 , Perl의 배열 수학 엔진 인 PDL 을 사용해 보자!

perl -MPDL -E 'say rcols(shift)->sum' datafile

rcols열을 행렬 (이 경우 1D)로 읽고 sum(깜짝) 행렬의 모든 요소를 ​​합합니다.

다음은 발전기 표현식과 함께 파이썬을 사용하는 솔루션입니다. 오래된 오래된 노트북에서 백만 개의 숫자로 테스트했습니다.

time python -c "import sys; print sum((float(l) for l in sys.stdin))" < file

real    0m0.619s
user    0m0.512s
sys     0m0.028s

난 그냥 지나갈 수 없어 ... 여기 내 하스켈 원 라이너가 있습니다. 실제로 꽤 읽을 수 있습니다.

sum <$> (read <$>) <$> lines <$> getContents

불행히도 ghci -e그것을 실행할 필요가 없으므로 주요 기능, 인쇄 및 컴파일이 필요합니다.

main = (sum <$> (read <$>) <$> lines <$> getContents) >>= print

명확히하기 위해, 우리는 전체 입력 (읽기 getContents하여 분할) lines, read숫자와 같은 sum. <$>이다 fmap운영자 - 확인이 모든 IO에서 발생하기 때문에 우리는 대신에 일반적인 기능이 응용 프로그램의 사용. 또한 목록에 있기 때문에 read추가가 필요 fmap합니다.

$ ghc sum.hs
[1 of 1] Compiling Main             ( sum.hs, sum.o )
Linking sum ...
$ ./sum 
1
2
4
^D
7

수레와 함께 작동하도록 이상한 업그레이드가 있습니다.

main = ((0.0 + ) <$> sum <$> (read <$>) <$> lines <$> getContents) >>= print

$ ./sum 
1.3
2.1
4.2
^D
7.6000000000000005

sed ':a;N;s/\n/+/;ta' file|bc

R 스크립트 실행

파일 이름의 인수를 취하고 행을 합치기 위해 R 스크립트를 작성했습니다.

#! /usr/local/bin/R
file=commandArgs(trailingOnly=TRUE)[1]
sum(as.numeric(readLines(file)))

다음과 같이 "data.table"또는 "vroom"패키지를 사용하여 속도를 높일 수 있습니다.

#! /usr/local/bin/R
file=commandArgs(trailingOnly=TRUE)[1]
sum(data.table::fread(file))

#! /usr/local/bin/R
file=commandArgs(trailingOnly=TRUE)[1]
sum(vroom::vroom(file))

벤치마킹

@glenn jackman 과 동일한 벤치마킹 데이터 .

for ((i=0; i<1000000; i++)) ; do echo $RANDOM; done > random_numbers

위의 R 호출과 비교하여 스크립트로 R 3.5.0을 실행하는 것은 동일한 Linux Debian 서버에서 다른 방법과 비교할 수 있습니다.

$ time R -e 'sum(scan("random_numbers"))'  
 0.37s user
 0.04s system
 86% cpu
 0.478 total

readLines가있는 R 스크립트

$ time Rscript sum.R random_numbers
  0.53s user
  0.04s system
  84% cpu
  0.679 total

data.table이있는 R 스크립트

$ time Rscript sum.R random_numbers     
 0.30s user
 0.05s system
 77% cpu
 0.453 total

빗자루와 R 스크립트

$ time Rscript sum.R random_numbers     
  0.54s user 
  0.11s system
  93% cpu
  0.696 total

다른 언어와 비교

동일한 하드웨어에서 제안 된 다른 방법으로 여기를 참조하십시오.

파이썬 2 (2.7.13)

$ time python2 -c "import sys; print sum((float(l) for l in sys.stdin))" < random_numbers 
 0.27s user 0.00s system 89% cpu 0.298 total

파이썬 3 (3.6.8)

$ time python3 -c "import sys; print(sum((float(l) for l in sys.stdin)))" < random_number
0.37s user 0.02s system 98% cpu 0.393 total

루비 (2.3.3)

$  time ruby -e 'sum = 0; File.foreach(ARGV.shift) {|line| sum+=line.to_i}; puts sum' random_numbers
 0.42s user
 0.03s system
 72% cpu
 0.625 total

펄 (5.24.1)

$ time perl -nle '$sum += $_ } END { print $sum' random_numbers
 0.24s user
 0.01s system
 99% cpu
 0.249 total

어크 (4.1.4)

$ time awk '{ sum += $0 } END { print sum }' random_numbers
 0.26s user
 0.01s system
 99% cpu
 0.265 total
$ time awk '{ sum += $1 } END { print sum }' random_numbers
 0.34s user
 0.01s system
 99% cpu
 0.354 total

C (클랑 버전 3.3; gcc (데비안 6.3.0-18) 6.3.0)

 $ gcc sum.c -o sum && time ./sum < random_numbers   
 0.10s user
 0.00s system
 96% cpu
 0.108 total

추가 언어로 업데이트

루아 (5.3.5)

$ time lua -e 'sum=0; for line in io.lines() do sum=sum+line end; print(sum)' < random_numbers 
 0.30s user 
 0.01s system
 98% cpu
 0.312 total

tr (8.26) 은 zsh와 호환되지 않는 bash로 시간을 설정해야합니다.

$time { { tr "\n" + < random_numbers ; echo 0; } | bc; }
real    0m0.494s
user    0m0.488s
sys 0m0.044s

sed (4.4) 는 zsh와 호환되지 않는 bash로 시간을 설정해야합니다.

$  time { head -n 10000 random_numbers | sed ':a;N;s/\n/+/;ta' |bc; }
real    0m0.631s
user    0m0.628s
sys     0m0.008s
$  time { head -n 100000 random_numbers | sed ':a;N;s/\n/+/;ta' |bc; }
real    1m2.593s
user    1m2.588s
sys     0m0.012s

참고 : 사용 가능한 메모리가 더 많은 시스템에서는 sed 통화가 더 빨리 작동하는 것 같습니다 (sed 벤치마킹에 사용되는 더 작은 데이터 집합에 유의하십시오)

줄리아 (0.5.0)

$ time julia -e 'print(sum(readdlm("random_numbers")))'
 3.00s user 
 1.39s system 
 136% cpu 
 3.204 total
$  time julia -e 'print(sum(readtable("random_numbers")))'
 0.63s user 
 0.96s system 
 248% cpu 
 0.638 total

R에서와 같이 파일 I / O 방법의 성능이 다릅니다.

C ++ "한 줄짜리":

#include <iostream>
#include <iterator>
#include <numeric>
using namespace std;

int main() {
    cout << accumulate(istream_iterator<int>(cin), istream_iterator<int>(), 0) << endl;
}

재미를위한 또 다른

sum=0;for i in $(cat file);do sum=$((sum+$i));done;echo $sum

또는 다른 배쉬 만

s=0;while read l; do s=$((s+$l));done<file;echo $s

그러나 awk 솔루션은 아마도 가장 컴팩트하기 때문에 가장 좋습니다.

C는 항상 속도에서 승리합니다.

#include <stdio.h>
#include <stdlib.h>

int main(int argc, char **argv) {
    ssize_t read;
    char *line = NULL;
    size_t len = 0;
    double sum = 0.0;

    while (read = getline(&line, &len, stdin) != -1) {
        sum += atof(line);
    }

    printf("%f", sum);
    return 0;
}

1M 숫자 타이밍 (파이썬 답변과 동일한 기계 / 입력) :

$ gcc sum.c -o sum && time ./sum < numbers 
5003371677.000000
real    0m0.188s
user    0m0.180s
sys     0m0.000s

루비로 :

ruby -e "File.read('file.txt').split.inject(0){|mem, obj| mem += obj.to_f}"

전체 파일을 읽어야한다는 점을 고려할 때 이보다 훨씬 나아질 수 있는지 모르겠습니다.

$sum = 0;
while(<>){
   $sum += $_;
}
print $sum;

나는 이것을 테스트하지 않았지만 작동해야합니다.

cat f | tr "\n" "+" | sed 's/+$/\n/' | bc

bc가 EOF 및 EOL을 처리하지 않는 경우 bc 전에 문자열에 "\ n"을 추가해야 할 수도 있습니다 (예 : echo를 통해).

다른 하나는 다음과 같습니다.

open(FIL, "a.txt");

my $sum = 0;
foreach( <FIL> ) {chomp; $sum += $_;}

close(FIL);

print "Sum = $sum\n";

Alacon 데이터베이스 용 명령 줄 유틸리티 인 Alacon을 사용하여이를 수행 할 수 있습니다 .

설치해야하는, 그래서 그것은, Node.js를 작동 Node.js를 다음 Alasql의 패키지를 :

TXT 파일에서 합계를 계산하려면 다음 명령을 사용할 수 있습니다.

> node alacon "SELECT VALUE SUM([0]) FROM TXT('mydata.txt')"

모든 새 줄을로 바꾸고 +추가 0하여 Ruby통역사 에게 보내는 것이 더 쉬운 것은 아닙니다 .

(sed -e "s/$/+/" file; echo 0)|irb

이없는 경우 (으)로 irb보낼 수 bc있지만 마지막 개 (개 중 개)를 제외한 모든 개행을 제거해야합니다 echo. tr에 박사 학위가없는 한, 이것을 사용 하는 것이 좋습니다 sed.

(sed -e "s/$/+/" file|tr -d "\n"; echo 0)|bc

이동 중 :

package main

import (
    "bufio"
    "fmt"
    "os"
    "strconv"
)

func main() {
    scanner := bufio.NewScanner(os.Stdin)
    sum := int64(0)
    for scanner.Scan() {
        v, err := strconv.ParseInt(scanner.Text(), 10, 64)
        if err != nil {
            fmt.Fprintf(os.Stderr, "Not an integer: '%s'\n", scanner.Text())
            os.Exit(1)
        }
        sum += v
    }
    fmt.Println(sum)
}

배쉬 변형

raw=$(cat file)
echo $(( ${raw//$'\n'/+} ))

$ wc -l file
10000 file

$ time ./test
323390

real    0m3,096s
user    0m3,095s
sys     0m0,000s

awk를 사용하는 쉘에서 아래 스크립트를 사용하여 그렇게했습니다.

    #!/bin/bash


total=0;

for i in $( awk '{ print $1; }' <myfile> )
do
 total=$(echo $total+$i | bc )
 ((count++))
done
echo "scale=2; $total " | bc