일부 숫자에 천 단위 구분 기호로 쉼표가 포함되어있을 때 데이터를 읽는 방법은 무엇입니까?


117

일부 숫자 값이 쉼표가있는 문자열로 표현되는 csv 파일 "1,513"1513있습니다. 예를 들어 . 데이터를 R로 읽는 가장 간단한 방법은 무엇입니까?

를 사용할 수는 read.csv(..., colClasses="character")있지만 해당 열을 숫자로 변환하기 전에 관련 요소에서 쉼표를 제거해야하며 깔끔한 방법을 찾을 수 없습니다.

답변:


141

확실하지에 대해 어떻게해야하는 read.csv제대로 해석,하지만 당신은 사용할 수있는 gsub대체하기 ","""하고, 다음에 문자열을 변환 numeric사용 as.numeric:

y <- c("1,200","20,000","100","12,111")
as.numeric(gsub(",", "", y))
# [1]  1200 20000 100 12111

이것은 또한 이전에 R-Help (및 Q2 여기 ) 에서 답변 되었습니다 .

또는 예를 들어 sed유닉스에서 파일을 사전 처리 할 수 ​​있습니다 .


60

read.table 또는 read.csv가이 변환을 반자동으로 수행하도록 할 수 있습니다. 먼저 새 클래스 정의를 만든 다음 변환 함수를 만들고 다음과 같이 setAs 함수를 사용하여 "as"메서드로 설정합니다.

setClass("num.with.commas")
setAs("character", "num.with.commas", 
        function(from) as.numeric(gsub(",", "", from) ) )

그런 다음 read.csv를 다음과 같이 실행하십시오.

DF <- read.csv('your.file.here', 
   colClasses=c('num.with.commas','factor','character','numeric','num.with.commas'))

3
이것은 아주 좋은 속임수입니다. 가져올 때 변환에 사용할 수 있습니다 (예 :를 사용하여 Y / N 값을 논리 벡터로 변환 setAs("character", "logical.Y.N", function(from) c(Y=TRUE,N=FALSE)[from] )).
Marek

1
유사한 문제 에서 동일한 트릭 사용 . 그리고 추가 하기 위해 하나 setClass("num.with.commas")또는 둘 중 하나를 사용하여 suppresMessage(setAs(.....))수업 누락에 대한 메시지를 피할 수 있습니다 .
Marek

안녕하세요 Greg,이 편리한 기능을 공유해 주셔서 감사합니다. 실행시 다음과 같은 경고가 표시됩니다. 서명이 ' "character", "num.with.commas"'인 'coerce'메서드 : "num.with.commas"클래스에 대한 정의가 없습니다. 문제가 무엇인지 알 수 있습니다. 나는 당신의 코드 단어를 가지고 있습니까?
TheGoat

비슷한 문제 링크를 확인하고 수업을 설정해야한다는 것을 알았습니다! 깔끔한 트릭에 감사드립니다.
TheGoat

17

데이터가 수정 될 때 더 쉬워지기 때문에 데이터를 사전 처리하는 것보다 R을 사용하고 싶습니다. Shane의 제안에 따라 gsub, 나는 이것이 내가 할 수있는 것처럼 깔끔하다고 생각합니다.

x <- read.csv("file.csv",header=TRUE,colClasses="character")
col2cvt <- 15:41
x[,col2cvt] <- lapply(x[,col2cvt],function(x){as.numeric(gsub(",", "", x))})

colClasses = "char"는 15:41 이외의 다른 열도 char 인 경우 모든 열을 char로 강제하지 않습니까? read.csv ()가 결정하고 열 15:41에있는 것을 변환하면 '더 많은'숫자 열을 얻을 수 있습니다.
Dirk Eddelbuettel

예,하지만 내 질문에 언급했듯이 다른 모든 열은 문자입니다. 대신 as.is = TRUE를 사용할 수 있습니다. 그러나 read.csv ()가 기본 인수를 사용하여 결정하도록하는 것은 문자처럼 보이는 요소를 숫자 열에 번거 로움을 유발하는 요소로 변환하여 as.numeric ()을 사용하여 올바르게 변환하지 않기 때문에 도움이되지 않습니다. .
Rob Hyndman

읽기 테이블의 dec = 인수를 "."로 설정하는 것을 고려해야합니다. 이것이 read.csv2의 기본값이지만 쉼표는 read.csv ()에 고정되어 있습니다.
IRTFM 2011 년

15

이 질문은 몇 년이 지났지 만 나는 그것을 우연히 발견했습니다.

readr라이브러리 / 패키지는 몇 가지 좋은 기능을 가지고 있습니다. 그중 하나는 이와 같은 "지저분한"열을 해석하는 좋은 방법입니다.

library(readr)
read_csv("numbers\n800\n\"1,800\"\n\"3500\"\n6.5",
          col_types = list(col_numeric())
        )

이것은

출처 : 로컬 데이터 프레임 [4 x 1]

  numbers
    (dbl)
1   800.0
2  1800.0
3  3500.0
4     6.5

파일을 읽을 때 중요한 점 : 위의에 대한 설명과 같이 사전 sed처리해야 하거나을 읽는 동안 처리해야합니다 . 종종 사후에 문제를 해결하려고하면 찾기 어려운 위험한 가정이 있습니다. (이것이 플랫 파일이 애초에 그렇게 악한 이유입니다.)

예를 들어,에 플래그를 지정하지 col_types않았다면 다음을 얻었을 것입니다.

> read_csv("numbers\n800\n\"1,800\"\n\"3500\"\n6.5")
Source: local data frame [4 x 1]

  numbers
    (chr)
1     800
2   1,800
3    3500
4     6.5

(이제는 대신 chr( character)입니다 numeric.)

또는 더 위험하게도 충분히 길고 대부분의 초기 요소에 쉼표가 포함되지 않은 경우 :

> set.seed(1)
> tmp <- as.character(sample(c(1:10), 100, replace=TRUE))
> tmp <- c(tmp, "1,003")
> tmp <- paste(tmp, collapse="\"\n\"")

(마지막 몇 가지 요소는 다음과 같습니다.)

\"5\"\n\"9\"\n\"7\"\n\"1,003"

그러면 그 쉼표를 전혀 읽는 데 어려움을 겪을 것입니다!

> tail(read_csv(tmp))
Source: local data frame [6 x 1]

     3"
  (dbl)
1 8.000
2 5.000
3 5.000
4 9.000
5 7.000
6 1.003
Warning message:
1 problems parsing literal data. See problems(...) for more details. 

7

및 파이프를 dplyr사용 하는 솔루션mutate_all

다음이 있다고 말합니다.

> dft
Source: local data frame [11 x 5]

   Bureau.Name Account.Code   X2014   X2015   X2016
1       Senate          110 158,000 211,000 186,000
2       Senate          115       0       0       0
3       Senate          123  15,000  71,000  21,000
4       Senate          126   6,000  14,000   8,000
5       Senate          127 110,000 234,000 134,000
6       Senate          128 120,000 159,000 134,000
7       Senate          129       0       0       0
8       Senate          130 368,000 465,000 441,000
9       Senate          132       0       0       0
10      Senate          140       0       0       0
11      Senate          140       0       0       0

연도 변수 X2014-X2016에서 쉼표를 제거하고 숫자로 변환하려고합니다. 또한 X2014-X2016이 요인 (기본값)으로 읽혀 진다고 가정 해 보겠습니다.

dft %>%
    mutate_all(funs(as.character(.)), X2014:X2016) %>%
    mutate_all(funs(gsub(",", "", .)), X2014:X2016) %>%
    mutate_all(funs(as.numeric(.)), X2014:X2016)

mutate_allfuns지정된 열에 내부 함수를 적용합니다.

한 번에 하나의 함수를 순차적으로 수행했습니다 (내부에서 여러 함수를 사용 funs하면 불필요한 열을 추가로 생성합니다).


3
mutate_each더 이상 사용되지 않습니다. mutate_at또는 이와 유사한 답변을 업데이트 하시겠습니까?
T_T

6

R에서 "전처리":

lines <- "www, rrr, 1,234, ttt \n rrr,zzz, 1,234,567,987, rrr"

사용할 수 readLines켜짐 textConnection. 그런 다음 숫자 사이에있는 쉼표 만 제거하십시오.

gsub("([0-9]+)\\,([0-9])", "\\1\\2", lines)

## [1] "www, rrr, 1234, ttt \n rrr,zzz, 1234567987, rrr"

쉼표를 소수점 구분 기호로 사용하는 read.csv2 (자동) 또는 read.table ( 'dec'매개 변수 설정 사용)에 의해 처리 될 수 있다는 점을 아는 것이 유용하지만이 질문과 직접 ​​관련이 없습니다.

편집 : 나중에 새 클래스를 설계하여 colClasses를 사용하는 방법을 발견했습니다. 보다:

숫자 클래스로 R에서 1000 구분 기호로 df를로드하는 방법은 무엇입니까?


감사합니다. 이것은 좋은 포인터 였지만 소수점이 여러 개인 숫자 (예 : 1,234,567.89)에서는 작동하지 않습니다. Google 스프레드 시트를 R로 가져 오기 위해이 문제를 해결하는 데 필요합니다 . 간단한 방법 은 stackoverflow.com/a/30020171/3096626 을 참조하세요. 여러 소수점에 대한 작업을 수행하는 함수
flexponsive

4

숫자가 "."로 구분 된 경우 ","(1.200.000,00)로 소수를 호출 gsub해야합니다.set fixed=TRUE as.numeric(gsub(".","",y,fixed=TRUE))


3

매우 편리한 방법은 readr::read_delim가족입니다. 여기에서 예를 들면 : 여러 구분 기호가있는 csv를 R로 가져 오면 다음과 같이 할 수 있습니다.

txt <- 'OBJECTID,District_N,ZONE_CODE,COUNT,AREA,SUM
1,Bagamoyo,1,"136,227","8,514,187,500.000000000000000","352,678.813105723350000"
2,Bariadi,2,"88,350","5,521,875,000.000000000000000","526,307.288878142830000"
3,Chunya,3,"483,059","30,191,187,500.000000000000000","352,444.699742995200000"'

require(readr)
read_csv(txt) # = read_delim(txt, delim = ",")

예상되는 결과는 다음과 같습니다.

# A tibble: 3 × 6
  OBJECTID District_N ZONE_CODE  COUNT        AREA      SUM
     <int>      <chr>     <int>  <dbl>       <dbl>    <dbl>
1        1   Bagamoyo         1 136227  8514187500 352678.8
2        2    Bariadi         2  88350  5521875000 526307.3
3        3     Chunya         3 483059 30191187500 352444.7

3

readr 라이브러리의 일부인 read_delim 함수를 사용하여 추가 매개 변수를 지정할 수 있습니다.

locale = locale(decimal_mark = ",")

read_delim("filetoread.csv", ';", locale = locale(decimal_mark = ","))

* 두 번째 줄의 세미콜론은 read_delim이 csv 세미콜론으로 구분 된 값을 읽음을 의미합니다.

이렇게하면 쉼표가있는 모든 숫자를 적절한 숫자로 읽는 데 도움이됩니다.

문안 인사

마테우스 카 니아


3

를 사용할 수도 readr::parse_number있지만 열은 문자 여야합니다. 여러 열에 적용하려면 다음을 사용하여 열을 반복 할 수 있습니다.lapply

df[2:3] <- lapply(df[2:3], readr::parse_number)
df

#  a        b        c
#1 a    12234       12
#2 b      123  1234123
#3 c     1234     1234
#4 d 13456234    15342
#5 e    12312 12334512

또는 mutate_atfrom dplyr을 사용 하여 특정 변수에 적용합니다.

library(dplyr)
df %>% mutate_at(2:3, readr::parse_number)
#Or
df %>% mutate_at(vars(b:c), readr::parse_number)

데이터

df <- data.frame(a = letters[1:5], 
                 b = c("12,234", "123", "1,234", "13,456,234", "123,12"),
                 c = c("12", "1,234,123","1234", "15,342", "123,345,12"), 
                 stringsAsFactors = FALSE)

1

전처리가 갈 길이라고 생각합니다. 정규식 바꾸기 옵션이있는 Notepad ++ 를 사용할 수 있습니다 .

예를 들어, 파일이 다음과 같은 경우 :

"1,234","123","1,234"
"234","123","1,234"
123,456,789

그런 다음 정규식을 사용하여 다음으로 "([0-9]+),([0-9]+)"대체 할 수 있습니다.\1\2

1234,"123",1234
"234","123",1234
123,456,789

그런 다음 x <- read.csv(file="x.csv",header=FALSE)파일을 읽는 데 사용할 수 있습니다 .


22
스크립팅 할 수있는 것은 무엇이든해야합니다. 손으로하면 오류가 발생할 수있을뿐만 아니라 재현성이 떨어집니다.
hadley
당사 사이트를 사용함과 동시에 당사의 쿠키 정책개인정보 보호정책을 읽고 이해하였음을 인정하는 것으로 간주합니다.
Licensed under cc by-sa 3.0 with attribution required.