기본 콘텐츠로 건너뛰기

R을 이용해 간단한 신경망 만들기 (16)





 점점 인공지능 관련 포스팅이 복잡해지고 있어서 간단한 신경망 만들기는 아마도 이번까지 하고 다음부터는 로지스틱 회귀 분석을 진행하면서 R을 이용한 딥러닝으로 해야 할 것 같습니다. 아무튼 H2O 패키지는 상업용 인공지능 툴 답게 여러 가지 기능을 제공하는데, 그 중 흥미로운 것 가운데 하나가 바로 AutoML 기능입니다. 


 앞서 살펴본 것과 같이 인공 신경망에는 여러 가지 옵션이 존재하며 이 옵션을 어떻게 조정하는지에 따라 다른 결과가 나오게 됩니다. 최적의 결과를 얻기 위해서는 여러 번의 시행 착오를 거쳐야만 하는데, 상당히 많은 시간과 노력을 소모하게 됩니다. 따라서 여러 가지 모델을 테스트하고 이를 비교해서 최적 모델을 찾는 과정도 자동화할 수 있는 기법이 개발되었습니다. H2O의 AutoML 이 바로 그런 기능으로 딥러닝은 물론 랜덤 포레스트나 GBMs (Gradient Boosting Machines), Stacked Ensemble 같은 인공 지능 기법을 이용한 모델을 제시합니다. H2O.ai 에서 제시한 예제를 살펴보겠습니다. 


#autoML

library(h2o)

localH2O = h2o.init()

# Import a sample binary outcome train/test set into H2O
train <- a="" class="con_link" h2o.importfile="" href="https://s3.amazonaws.com/erin-data/higgs/higgs_train_10k.csv" style="overflow-wrap: break-word; text-decoration-line: none;" target="_blank">https://s3.amazonaws.com/erin-data/higgs/higgs_train_10k.csv
")
test <- a="" class="con_link" h2o.importfile="" href="https://s3.amazonaws.com/erin-data/higgs/higgs_test_5k.csv" style="overflow-wrap: break-word; text-decoration-line: none;" target="_blank">https://s3.amazonaws.com/erin-data/higgs/higgs_test_5k.csv
")

# Identify predictors and response
y <- response="" span="">
x <- names="" setdiff="" span="" train="" y="">

# For binary classification, response should be a factor
train[,y] <- as.factor="" span="" train="" y="">
test[,y] <- as.factor="" span="" test="" y="">

# Run AutoML for 20 base models (limited to 1 hour max runtime by default)
aml <- h2o.automl="" x="x," y="y,</span">
                  training_frame = train,
                  max_models = 20,
                  seed = 1)

# View the AutoML Leaderboard
lb <- aml="" leaderboard="" span="">
print(lb, n = nrow(lb))  # Print all rows instead of default (6 rows)

# The leader model is stored here
aml@leader

# If you need to generate predictions on a test set, you can make
# predictions directly on the `"H2OAutoML"` object, or on the leader
# model object directly

pred <- also="" aml="" h2o.predict="" nbsp="" predict="" span="" test="" works="">

pred


 이 예제는 테스트에 상당한 시간이 걸립니다. 논리 CPU 8개를 할당해도 20분 이상 걸리니 참고하시기 바랍니다. 아무튼 아래와 같은 결과를 얻을 수 있습니다. 




> print(lb, n = nrow(lb))  # Print all rows instead of default (6 rows)
                                              model_id       auc   logloss mean_per_class_error      rmse       mse
1     StackedEnsemble_AllModels_AutoML_20190324_225820 0.7890978 0.5524149            0.3196844 0.4326267 0.1871658
2  StackedEnsemble_BestOfFamily_AutoML_20190324_225820 0.7854526 0.5561179            0.3255787 0.4343390 0.1886503
3                         GBM_5_AutoML_20190324_225820 0.7808367 0.5599029            0.3408479 0.4361915 0.1902630
4                         GBM_2_AutoML_20190324_225820 0.7800364 0.5598060            0.3399258 0.4364149 0.1904580
5                         GBM_1_AutoML_20190324_225820 0.7798268 0.5608570            0.3350957 0.4366159 0.1906335
6                         GBM_3_AutoML_20190324_225820 0.7786685 0.5617903            0.3255378 0.4371886 0.1911339
7            GBM_grid_1_AutoML_20190324_225820_model_4 0.7777929 0.6275684            0.3187812 0.4667522 0.2178576
8            GBM_grid_1_AutoML_20190324_225820_model_1 0.7772185 0.6008910            0.3227162 0.4535716 0.2057272
9                         GBM_4_AutoML_20190324_225820 0.7714230 0.5697120            0.3374203 0.4410703 0.1945430
10           GBM_grid_1_AutoML_20190324_225820_model_2 0.7698263 0.6070157            0.3072613 0.4566813 0.2085578
11                        DRF_1_AutoML_20190324_225820 0.7428924 0.5958832            0.3554027 0.4527742 0.2050045
12                        XRT_1_AutoML_20190324_225820 0.7420910 0.5993457            0.3565826 0.4531168 0.2053148
13  DeepLearning_grid_1_AutoML_20190324_225820_model_5 0.7351121 0.6072728            0.3589475 0.4570660 0.2089094
14           GBM_grid_1_AutoML_20190324_225820_model_3 0.7279124 0.6889933            0.3598375 0.4763117 0.2268729
15           GBM_grid_1_AutoML_20190324_225820_model_5 0.7167078 0.6865927            0.3871737 0.4967212 0.2467320
16               DeepLearning_1_AutoML_20190324_225820 0.7041353 0.6277710            0.3983563 0.4669145 0.2180092
17  DeepLearning_grid_1_AutoML_20190324_225820_model_1 0.6959598 0.7166216            0.3989566 0.4849767 0.2352024
18  DeepLearning_grid_1_AutoML_20190324_225820_model_4 0.6945008 0.7056079            0.4041671 0.4878114 0.2379600
19           GLM_grid_1_AutoML_20190324_225820_model_1 0.6826524 0.6385205            0.3972341 0.4726827 0.2234290
20  DeepLearning_grid_1_AutoML_20190324_225820_model_3 0.6807204 0.6708166            0.4045776 0.4810438 0.2314031
21  DeepLearning_grid_1_AutoML_20190324_225820_model_2 0.6801893 0.7273539            0.4073531 0.4926833 0.2427368


 이 결과를 보면 1번에 StackedEnsemble_AllModels_AutoML_20190324_225820 모델이 가장 좋은 결과를 얻었습니다. 아래에서 이 모델에 대한 더 상세한 정보가 나옵니다. 


> # The leader model is stored here
> aml@leader
Model Details:
==============

H2OBinomialModel: stackedensemble
Model ID:  StackedEnsemble_AllModels_AutoML_20190324_225820 
NULL


H2OBinomialMetrics: stackedensemble
** Reported on training data. **

MSE:  0.1049423
RMSE:  0.323948
LogLoss:  0.3599495
Mean Per-Class Error:  0.1240032
AUC:  0.9527414
pr_auc:  0.9548414
Gini:  0.9054828

Confusion Matrix (vertical: actual; across: predicted) for F1-optimal threshold:
          0    1    Error         Rate
0      3906  799 0.169819    =799/4705
1       414 4881 0.078187    =414/5295
Totals 4320 5680 0.121300  =1213/10000

Maximum Metrics: Maximum metrics at their respective thresholds
                        metric threshold    value idx
1                       max f1  0.488791 0.889476 208
2                       max f2  0.369647 0.931987 253
3                 max f0point5  0.616275 0.897052 160
4                 max accuracy  0.517914 0.879400 197
5                max precision  0.948386 1.000000   0
6                   max recall  0.171604 1.000000 346
7              max specificity  0.948386 1.000000   0
8             max absolute_mcc  0.514976 0.757984 198
9   max min_per_class_accuracy  0.551951 0.877620 185
10 max mean_per_class_accuracy  0.536136 0.878565 190

Gains/Lift Table: Extract with `h2o.gainsLift(, )` or `h2o.gainsLift(, valid=, xval=)`

H2OBinomialMetrics: stackedensemble
** Reported on cross-validation data. **
** 5-fold cross-validation on training data (Metrics computed for combined holdout predictions) **

MSE:  0.1871658
RMSE:  0.4326267
LogLoss:  0.5524149
Mean Per-Class Error:  0.3196844
AUC:  0.7890978
pr_auc:  0.8047692
Gini:  0.5781957

Confusion Matrix (vertical: actual; across: predicted) for F1-optimal threshold:
          0    1    Error         Rate
0      2301 2404 0.510946   =2404/4705
1       680 4615 0.128423    =680/5295
Totals 2981 7019 0.308400  =3084/10000

Maximum Metrics: Maximum metrics at their respective thresholds
                        metric threshold    value idx
1                       max f1  0.350203 0.749553 274
2                       max f2  0.179339 0.860131 348
3                 max f0point5  0.614417 0.738955 156
4                 max accuracy  0.518482 0.713400 198
5                max precision  0.948036 1.000000   0
6                   max recall  0.067843 1.000000 393
7              max specificity  0.948036 1.000000   0
8             max absolute_mcc  0.535747 0.425420 190
9   max min_per_class_accuracy  0.531468 0.712181 192
10 max mean_per_class_accuracy  0.535747 0.713052 190

Gains/Lift Table: Extract with `h2o.gainsLift(, )` or `h2o.gainsLift(, valid=, xval=)`


 이 베스트 모델은 aml@leader에 저장되어 있으며 다른 모델을 지정하는 방법은 h2o.getModel()을 통해 가능합니다. 모델을 저장하는 방법은 h2o.saveModel()를 사용합니다 .이 때 경로도 같이 정해주어야 합니다. 



# save the model
model_path <- force="TRUE)</span" h2o.savemodel="" object="model," path="getwd(),">


# load the model
saved_model <- h2o.loadmodel="" model_path="" span="">



 참고 



라벨:

댓글

댓글 쓰기

이 블로그의 인기 게시물

세상에서 가장 큰 벌

( Wallace's giant bee, the largest known bee species in the world, is four times larger than a European honeybee(Credit: Clay Bolt) ) (Photographer Clay Bolt snaps some of the first-ever shots of Wallace's giant bee in the wild(Credit: Simon Robson)  월리스의 거대 벌 (Wallace’s giant bee)로 알려진 Megachile pluto는 매우 거대한 인도네시아 벌로 세상에서 가장 거대한 말벌과도 경쟁할 수 있는 크기를 지니고 있습니다. 암컷의 경우 몸길이 3.8cm, 날개너비 6.35cm으로 알려진 벌 가운데 가장 거대하지만 수컷의 경우 이보다 작아서 몸길이가 2.3cm 정도입니다. 아무튼 일반 꿀벌의 4배가 넘는 몸길이를 지닌 거대 벌이라고 할 수 있습니다.   메가칠레는 1981년 몇 개의 표본이 발견된 이후 지금까지 추가 발견이 되지 않아 멸종되었다고 보는 과학자들도 있었습니다. 2018년에 eBay에 표본이 나왔지만, 언제 잡힌 것인지는 알 수 없었습니다. 사실 이 벌은 1858년 처음 발견된 이후 1981년에야 다시 발견되었을 만큼 찾기 어려운 희귀종입니다. 그런데 시드니 대학과 국제 야생 동물 보호 협회 (Global Wildlife Conservation)의 연구팀이 오랜 수색 끝에 2019년 인도네시아의 오지에서 메가칠레 암컷을 야생 상태에서 발견하는데 성공했습니다.   메가칠레 암컷은 특이하게도 살아있는 흰개미 둥지가 있는 나무에 둥지를 만들고 살아갑니다. 이들의 거대한 턱은 나무의 수지를 모아 둥지를 짓는데 유리합니다. 하지만 워낙 희귀종이라 이들의 생태에 대해서는 거의 알려진 바가 없습니다.  (동영상)...
댓글 쓰기
자세한 내용 보기

몸에 철이 많으면 조기 사망 위험도가 높다?

 철분은 인체에 반드시 필요한 미량 원소입니다. 헤모글로빈에 필수적인 물질이기 때문에 철분 부족은 흔히 빈혈을 부르며 반대로 피를 자꾸 잃는 경우에는 철분 부족 현상이 발생합니다. 하지만 철분 수치가 높다는 것은 반드시 좋은 의미는 아닙니다. 모든 일에는 적당한 수준이 있게 마련이고 철 역시 너무 많으면 여러 가지 질병을 일으킬 수 있습니다. 철 대사에 문제가 생겨 철이 과다하게 축적되는 혈색소증 ( haemochromatosis ) 같은 드문 경우가 아니라도 과도한 철분 섭취나 수혈로 인한 철분 과잉은 건강에 문제를 일으킬 수 있습니다. 하지만 높은 철 농도가 수명에 미치는 영향에 대해서는 잘 알려지지 않았습니다.   하버드 대학의 이야스 다글라스( Iyas Daghlas )와 임페리얼 칼리지 런던의 데펜더 길 ( Dipender Gill )은 체내 철 함유량에 영향을 미치는 유전적 변이와 수명의 관계를 조사했습니다. 연구팀은 48972명의 유전 정보와 혈중 철분 농도, 그리고 기대 수명의 60/90%에서 생존 확률을 조사했습니다. 그 결과 유전자로 예측한 혈중 철분 농도가 증가할수록 오래 생존할 가능성이 낮은 것으로 나타났습니다. 이것이 유전자 자체 때문인지 아니면 높은 혈중/체내 철 농도 때문인지는 명확하지 않지만, 높은 혈중 철 농도가 꼭 좋은 뜻이 아니라는 것을 시사하는 결과입니다.   연구팀은 이 데이터를 근거로 건강한 사람이 영양제나 종합 비타민제를 통해 과도한 철분을 섭취할 이유는 없다고 주장했습니다. 어쩌면 높은 철 농도가 조기 사망 위험도를 높일지도 모르기 때문입니다. 그러나 임산부나 빈혈 환자 등 진짜 철분이 필요한 사람들까지 철분 섭취를 꺼릴 필요가 없다는 점도 강조했습니다. 연구 내용은 정상보다 높은 혈중 철농도가 오래 유지되는 경우를 가정한 것으로 본래 철분 부족이 있는 사람을 대상으로 한 것이 아니기 때문입니다. 낮은 철분 농도와 빈혈이 건강에 미치는 악영향은 이미 잘 알려져 있기 때문에 철...
댓글 쓰기
자세한 내용 보기

인슐린 주사 일주일에 한 번만 맞아도 된다?

   당뇨병은 관리가 까다로운 만성 질병 중 하나입니다. 특히 인슐린 주사가 필요한 경우에는 더 관리가 어렵습니다. 하루에 주사를 몇 번씩 맞아야 하면 찌르는 것도 고통이고 실수로 건너뛰거나 용량을 실수하는 경우도 드물지 않습니다. 특히 고령 환자의 경우 더 위험할 수 있습니다. 이런 문제를 극복하기 위해 여러 제약 회사들이 새로운 투여 방법과 인슐린 제제를 내놓고 있습니다.   최근 2상 임상 시험을 마친 노보 노디스크 ( Novo Nordisk )의 인슐린 아이코덱 ( icodec )은 일주일에 한 번 투여하는 장시간 인슐린 제제입니다. 아이코덱은 효소에 의해 분해되는 것을 막는 변형 인슐린 분자로 혈액에서 알부민과 결합해 서서히 분리되기 때문에 한 번 주사로도 일주일이나 효과를 유지할 수 있습니다.   하지만 이렇게 장시간 작용하는 인슐린 제제의 경우 환자의 식사나 운동 같은 상황 변화에 인슐린 농도가 적절하게 유지되지 않을 가능성이 있습니다. 이번 2상 임상시험에서는 247명의 당뇨 환자를 두 그룹으로 나눈 후 실험군은 일주일에 한 번씩 아이코덱을 투여받고 매일 위약을 투여받았습니다. 그리고 대조군은 반대로 일주일에 한 번씩 위약을 투여받고 하루에 한 번씩 장시간 인슐린 제제인 란투스 (Lantus, glargine) 100U을 투여받았습니다.   26주에 걸친 임상 실험 결과 하루에 한 번 란투스를 투여받은 그룹이나 일주일에 한 번 아이코덱을 투여받은 그룹에서 특별한 합병증 차이를 발견할 수 없었습니다. 혈당 조절의 지표인 당화 혈색소 (HbA1c) 농도 역시 아이코덱 그룹에서 1.33% 감소한 반면 란투스 그룹에서 1.15% 정도 감소해서 큰 차이는 없었습니다. 그렇다면 하루에 한 번 투여하는 대신 일주일에 한 번 투여하는 것이 더 편리하고 실수로 두 번 투여하거나 건너 뛸 위험성이 적을 것입니다. 이 연구 결과는 뉴잉글랜드 저널 오브 메디슨 ( New England Journal...
댓글 쓰기
자세한 내용 보기