기본 콘텐츠로 건너뛰기

R에서 데이터 저장하기와 불러내기



 앞서 데이터의 특성을 살펴보는 예제를 실행해봤습니다. 하지만 사실 더 중요한 이야기가 빠졌습니다. 그것은 바로 데이터를 불러내거나 혹은 저장하는 일이죠. 처음에 R을 공부할 때 데이터를 어떻게 불러내는지를 몰라서 고생했던 기억이 있습니다. R은 현존하는 거의 모든 데이터 파일을 불러낼 수 있는 능력이 있지만, 기본적으로 많이 사용하는 파일 구조는 CSV 입니다. 


 CSV에 익숙하지 않은 분들도 있겠지만, 사실 데이터에 있어서 여러 소프트웨어와 어플리케이션에서 취급하는 범용 형식입니다. Comma Separated Value 의 약자로 쉼표를 기준으로 항목을 구분하여 저장한 데이터를 이야기 합니다. 사실 엑셀에서도 기본 저장 형식인 xlsx 외에 csv 형식으로 파일 저장이 가능합니다. 


 일단 첫 번째 단계로 csv 형식으로 파일을 저장해 보겠습니다. 저장할 데이터는 앞서 다룬 예제인 다이아몬드입니다. 


library("ggplot2")
write.csv(diamonds,"H:/data/diamond.csv",row.names=F,na="")


 저장을 위한 기본 명령은 write.csv 입니다. 간단하죠. () 안에 저장할 데이터 프레임 이름을 적고 그 다음에 "" 안에 경로를 지정합니다. row.names=F,na="" 를 지정한 이유는 R 이 기본 상태에서는 열 이름과 더불어 NA (결측값) 을 같이 저장하기 때문입니다. 그러면 데이터가 변형될 뿐 아니라 데이터 크기가 커지면서 본래 원하는 형태와 데이터가 달라질 수 있습니다. 물론 반대로 이것을 원할 때는 지정하지 않아도 됩니다. 아무튼 이렇게 저장한 파일을 한 번 열어보겠습니다. 




 우리가 흔히 보는 엑셀에서 파일을 열어서 볼 수 있습니다. 사용하는 사람 입장에서는 xlsx 파일이나 csv 파일이나 사실 체감되는 차이는 없습니다. 하지만 R에서 불러내는 속도는 csv 파일이 훨씬 빠릅니다. 따라서 왠만하면 엑셀 파일이더라도 다른 이름으로 저장을 눌러서 csv 파일로 변환해서 처리하는 것이 훨씬 좋습니다. 


 여기서 한 가지 더 사족이라고 하면 이렇게 실제 데이터를 저장한 후 엑셀 같은 스프레드시트 프로그램에서 한번 데이터를 보는 것이 좋다는 것입니다. 앞서 본 데이터 기본 구조를 보는 과정에서 누락된 사실이 여기서 밝혀질 수 있습니다. 데이터 구조 파악을 위해서는 실제 데이터를 육안으로 한 번 확인하는 과정이 필요하다는 것이 개인적인 경험에서 나온 생각입니다. 


 이제 이렇게 저장한 파일을 읽어보겠습니다. 읽기 명령어 역시 간단합니다. read.csv를 사용하면 됩니다. 경로와 데이터를 지정하면 끝입니다. 


data=read.csv("H:/data/diamond.csv")


 데이터라는 새로운 데이터 프레임에 저장한 내용을 로드했습니다. 그러면 R 스튜디오에서는 이 데이터 프레임을 직접 볼 수 있는 스프레드시트를 제공합니다. 기본적인 환경에서는 우측 상단에 데이터 프레임이 표시되고 이를 클릭하면 좌측 상단에 그 내용이 표시됩니다. 따라서 엑셀 없이도 저장된 파일을 직접 볼 수 있는 것이죠. 다만 자세히 보려면 엑셀이 더 편할 수 있습니다. (아래 그림. 클릭하면 원본) 




 그런데 사용하다보면 부득이 엑셀 파일을 바로 읽어들이거나 저장해야 하는 경우도 있을 것입니다. 이 경우 xlsx 패키지를 설치한 후 write.xlsx와 read.xlsx를 사용해서 같은 방식으로 저장하고 불러올 수 있습니다. 


install.packages("xlsx")
require(xlsx)
write.xlsx(diamonds,"H:/data/diamond.xlsx",row.names=F)
data=read.xlsx("H:/data/diamond.xlsx")


 그런데 한 번 해보면 알겠지만, xlsx는 생각보다 저장에 시간이 오래 걸립니다. R에서는 csv 파일이 훨씬 편리하기 때문에 가능하면 엑셀 파일이더라도 csv 파일로 변경해서 사용하는 것이 좋습니다. 변경하는 것은 매우 간단합니다. 그냥 다른 이름으로 저장을 하면서 파일 형식에서 csv (쉼표로 분리)를 선택하면 그만입니다. 


 데이터를 입력할 때는 분명 엑셀이 좋은 도구입니다. 하지만 파일이 커질수록 속도가 상당히 느려지는 단점이 있어 빅데이터 처리를 위해서 좋은 도구라고 보기는 어렵습니다. 따라서 마이크로소프트도 액세스(Access)라는 별도의 프로그램을 개발한 것이죠. 액세스 파일은 물론 다양한 파일을 R에서 불러올 수 있으나 속도면에서는 csv 파일이 가장 좋다고 말씀드리고 싶습니다. 엑셀 파일을 R에서 저장하면 엑셀에서 하는 것보다 훨씬 오랜 시간이 걸립니다. 





댓글

이 블로그의 인기 게시물

세상에서 가장 큰 벌

( Wallace's giant bee, the largest known bee species in the world, is four times larger than a European honeybee(Credit: Clay Bolt) ) (Photographer Clay Bolt snaps some of the first-ever shots of Wallace's giant bee in the wild(Credit: Simon Robson)  월리스의 거대 벌 (Wallace’s giant bee)로 알려진 Megachile pluto는 매우 거대한 인도네시아 벌로 세상에서 가장 거대한 말벌과도 경쟁할 수 있는 크기를 지니고 있습니다. 암컷의 경우 몸길이 3.8cm, 날개너비 6.35cm으로 알려진 벌 가운데 가장 거대하지만 수컷의 경우 이보다 작아서 몸길이가 2.3cm 정도입니다. 아무튼 일반 꿀벌의 4배가 넘는 몸길이를 지닌 거대 벌이라고 할 수 있습니다.   메가칠레는 1981년 몇 개의 표본이 발견된 이후 지금까지 추가 발견이 되지 않아 멸종되었다고 보는 과학자들도 있었습니다. 2018년에 eBay에 표본이 나왔지만, 언제 잡힌 것인지는 알 수 없었습니다. 사실 이 벌은 1858년 처음 발견된 이후 1981년에야 다시 발견되었을 만큼 찾기 어려운 희귀종입니다. 그런데 시드니 대학과 국제 야생 동물 보호 협회 (Global Wildlife Conservation)의 연구팀이 오랜 수색 끝에 2019년 인도네시아의 오지에서 메가칠레 암컷을 야생 상태에서 발견하는데 성공했습니다.   메가칠레 암컷은 특이하게도 살아있는 흰개미 둥지가 있는 나무에 둥지를 만들고 살아갑니다. 이들의 거대한 턱은 나무의 수지를 모아 둥지를 짓는데 유리합니다. 하지만 워낙 희귀종이라 이들의 생태에 대해서는 거의 알려진 바가 없습니다.  (동영상)...

몸에 철이 많으면 조기 사망 위험도가 높다?

 철분은 인체에 반드시 필요한 미량 원소입니다. 헤모글로빈에 필수적인 물질이기 때문에 철분 부족은 흔히 빈혈을 부르며 반대로 피를 자꾸 잃는 경우에는 철분 부족 현상이 발생합니다. 하지만 철분 수치가 높다는 것은 반드시 좋은 의미는 아닙니다. 모든 일에는 적당한 수준이 있게 마련이고 철 역시 너무 많으면 여러 가지 질병을 일으킬 수 있습니다. 철 대사에 문제가 생겨 철이 과다하게 축적되는 혈색소증 ( haemochromatosis ) 같은 드문 경우가 아니라도 과도한 철분 섭취나 수혈로 인한 철분 과잉은 건강에 문제를 일으킬 수 있습니다. 하지만 높은 철 농도가 수명에 미치는 영향에 대해서는 잘 알려지지 않았습니다.   하버드 대학의 이야스 다글라스( Iyas Daghlas )와 임페리얼 칼리지 런던의 데펜더 길 ( Dipender Gill )은 체내 철 함유량에 영향을 미치는 유전적 변이와 수명의 관계를 조사했습니다. 연구팀은 48972명의 유전 정보와 혈중 철분 농도, 그리고 기대 수명의 60/90%에서 생존 확률을 조사했습니다. 그 결과 유전자로 예측한 혈중 철분 농도가 증가할수록 오래 생존할 가능성이 낮은 것으로 나타났습니다. 이것이 유전자 자체 때문인지 아니면 높은 혈중/체내 철 농도 때문인지는 명확하지 않지만, 높은 혈중 철 농도가 꼭 좋은 뜻이 아니라는 것을 시사하는 결과입니다.   연구팀은 이 데이터를 근거로 건강한 사람이 영양제나 종합 비타민제를 통해 과도한 철분을 섭취할 이유는 없다고 주장했습니다. 어쩌면 높은 철 농도가 조기 사망 위험도를 높일지도 모르기 때문입니다. 그러나 임산부나 빈혈 환자 등 진짜 철분이 필요한 사람들까지 철분 섭취를 꺼릴 필요가 없다는 점도 강조했습니다. 연구 내용은 정상보다 높은 혈중 철농도가 오래 유지되는 경우를 가정한 것으로 본래 철분 부족이 있는 사람을 대상으로 한 것이 아니기 때문입니다. 낮은 철분 농도와 빈혈이 건강에 미치는 악영향은 이미 잘 알려져 있기 때문에 철...

사막에서 식물을 재배하는 온실 Ecodome

 지구 기후가 변해가면서 일부 지역에서는 비가 더 많이 내리지만 반대로 비가 적게 내리는 지역도 생기고 있습니다. 일부 아프리카 개도국에서는 이에 더해서 인구 증가로 인해 식량과 물이 모두 크게 부족한 현상이 지속되고 있습니다. 이를 해결하기 위한 여러 가지 아이디어들이 나오고 있는데, 그 중 하나가 사막 온실입니다.   사막에 온실을 건설한다는 아이디어는 이상해 보이지만, 실제로는 다양한 사막 온실이 식물재배를 위해서 시도되고 있습니다. 사막 온실의 아이디어는 낮과 밤의 일교차가 큰 사막 환경에서 작물을 재배함과 동시에 물이 증발해서 사라지는 것을 막는데 그 중요한 이유가 있습니다.   사막화가 진행 중인 에티오피아의 곤다르 대학( University of Gondar's Faculty of Agriculture )의 연구자들은 사막 온실과 이슬을 모으는 장치를 결합한 독특한 사막 온실을 공개했습니다. 이들은 이를 에코돔( Ecodome )이라고 명명했는데, 아직 프로토타입을 건설한 것은 아니지만 그 컨셉을 공개하고 개발에 착수했다고 합니다.   원리는 간단합니다. 사막에 건설된 온실안에서 작물을 키움니다. 이 작물은 광합성을 하면서 수증기를 밖으로 내보네게 되지만, 온실 때문에 이 수증기를 달아나지 못하고 갖히게 됩니다. 밤이 되면 이 수증기는 다시 응결됩니다. 그리고 동시에 에코돔의 가장 위에 있는 부분이 열리면서 여기로 찬 공기가 들어와 외부 공기에 있는 수증기가 응결되어 에코돔 내부로 들어옵니다. 그렇게 얻은 물은 식수는 물론 식물 재배 모두에 사용 가능합니다.  (에코돔의 컨셉.  출처 : Roots Up)   (동영상)   이 컨셉은 마치 사막 온실과 이슬을 모으는 담수 장치를 합쳐놓은 것이라고 말할 수 있습니다. 물론 실제로도 잘 작동할지는 직접 테스트를 해봐야 알 수...