분류없음2016.05.26 18:33

Kaggler 4번째 시도입니다. 이번에는 RF(Random Forest)를 가지고 Facebook competition에서 Awards를 받은 팀의 스크립트에 대해서 정리하고자 합니다. 


간단하게 문제는 페이스북데이터(평방 10km 그리드안에 약 30만개의 check-ins 정보)가 주어지고 시공간 정보에 의존하여 유저가 무슨 비지니스에 체크인하는지를 파악하는 문제이라고 합니다. 웃긴 부분은 place id를 기준으로 분류하면 100k 개의 종류가 있어서 대부분의 supervised learning 기술은 전체 dataset에서 안먹힐 거라고 합니다. 하지만 다행히 대부분의 종류들이 그리드의 특정 지역에서 cluster가 되어서 여기 팀은 그리드안의 작은 직사각형을 선택해서 그 범위안에서 검증을 해보았다고 합니다. 그래서 더 작은 스퀘어에서 약간의 실험적인 데이터 분석을 하고나면 예측을 위해서 random forest를 사용하여 결과 분석할 것이다라고 합니다.


아래는 사용한 라이브러리


library(data.table) #reading in the data
library(dplyr) #dataframe manipulation
library(ggplot2) #viz
library(ranger) #the random forest implementation
library(plotly) #3D plotting
library(tidyr) #dataframe manipulation

fb에 training dataset을 집어넣습니다.

fb <- fread("../input/train.csv", integer64 = "character", showProgress = FALSE)

그리고 나서 아까 말한 부분집하을 데이터에 선택합니다. 그 기준은  250 x 250meters 크기의 특정 직사각형의 데이터를 뽑고


fb %>% filter(x >1, x <1.25, y >2.5, y < 2.75) -> fb
head(fb, 3)
##    row_id      x      y accuracy   time   place_id
## 1:    600 1.2214 2.7023       17  65380 6683426742
## 2:    957 1.1832 2.6891       58 785470 6683426742
## 3:   4345 1.1935 2.6550       11 400082 6889790653

place_id와 시간, x,y는 좌표일테고... 그리고 accuracy는 뭘까요? 



small_train = fb[fb$time < 7.3e5,]
small_val = fb[fb$time >= 7.3e5,] 

여튼 kaggle에서 test 데이터로 돌려서 scoring을 할텐데 좀 더 유사하기 위해서 최근 데이터를 validation으로 두었다고 합니다.


자 분석을 시작해봅시다!!!


ggplot(small_train, aes(x, y )) +
    geom_point(aes(color = place_id)) + 
    theme_minimal() +
    theme(legend.position = "none") +
    ggtitle("Check-ins colored by place_id")




그림이 이쁘게 plotting이 ggplot으로 그려지긴 하나 겹쳐지는 부분이 꽤 있어 보여서 place_id군들이 잘 구분이 안되어질거 같습니다. 그래서!!! 공간에 시간 개념을 넣어서 plot을 그려보자고 하는군요... 즉 x,y말고도 3차원을 만들기위해 z좌표로 hour을 쓰겠다는거군요.. 여튼 아래 소스로 직접 보면 우선 500개 이하인 place_id들은 날리고 place_id list를 ids에 담네요 그리고 small_trainz라는 subset을 만듭니다. 그리고 그걸로 그리는데...


small_train %>% count(place_id) %>% filter(n > 500) -> ids
small_trainz = small_train[small_train$place_id %in% ids$place_id,]

plot_ly(data = small_trainz, x = x , y = y, z = hour, color = place_id,  type = "scatter3d", mode = "markers") %>% layout(title = "Place_id's by position and Time of Day")

type을 scatter3d로 줘서 그런지 이쁘네요...  kaggle에서 plot을 못가져오겠네요. 동적이라서!!!  여기에서 직접 보세요..

그렇지만 캡쳐해서 올리면.. 이렇습니다. 캬..




 중간에 Place_id's by position and Time of Day라고.. 차트가 hovering하면 3차원의 plot을 동적으로 보여주네요.. ㄷㄷㄷ  시간단위는 먼지 모르겠지만 여튼... hour를 넣고 안겹치게 잘 그려지네요!! 와우!! 시간 dimension을 넣었더니 이렇게 clear가 되는군요..  특정 지점에서 체크인이 몇시간 동안 멈췄다가 다시 체크인이 이뤄지고 있는 모습도 보이고요. 어떤 비지니스들은 꽤 낮 내내 높은 사용률이 보이고 비지니스마다 꽤 서로 다른 peaks를 가지고 있는 경향이 있네요. 또한 z=0과 z=24인 시점은 같은 것이라는 것도 유의해서 3d plot을 보라고 하는군요.  

 

하지만 아직 우리는 매우 많은 클래스들이 있습니다. (아까 많이 제외를 했기때문에..)

다시 small_train set을 가지고 와서 unique로 종류를 보면 770개의 business들이 있고요. 

length(unique(small_train$place_id))
## [1] 770

여기에서 빈도가 낮은 녀석들은 날리고 ...  3개 이하로 일어나는것들은 날리면 종류가 그래도 많이 준다고 합니다.  우리는 validation set을 가지고 있기 때문에 우리는 항상 다시 돌아와서 filter level을 조절할수 있죠. 더 나은 정교한 모델을 만들기 위해서 말이지요~~



small_train %>% count(place_id) %>% filter(n > 3) -> ids
small_train = small_train[small_train$place_id %in% ids$place_id,]

이렇게 필터링하고 나면 15595 트레이닝 샘플과 224개의 클래스를 가지고 이제 ML을 할 준비를 했다고 합니다..... 자 숲으로!!



원래 RF보다 ranger라는모듈(별도의 RF를 구현)을 사용했다고 합니다. 약 5배의 빠른 성능과 메모리 효율성이 좋다고 합니다. 여튼 이건 중요한 얘긴 아니고..

seed는 넘어가고 place_id를 classification의 factor로 사용을 했고 ranger를 이용하여 model_rf라는 RF모듈을 만드네요.  x와 y, accuracy, hour를 넣고 돌립니다. 그리고 random sampling은 100개를 해서 decision tree를 만드네요.


set.seed(131L)
small_train$place_id <- as.factor(small_train$place_id) # ranger needs factors for classification
model_rf <- ranger(place_id ~ x + y + accuracy + hour,
                   small_train,
                   num.trees = 100,
                   write.forest = TRUE,
                   importance = "impurity")
## Growing trees.. Progress: 48%. Estimated remaining time: 33 seconds.
pred = predict(model_rf, small_val)
pred = pred$predictions
accuracy = mean(pred == small_val$place_id) 

오래 걸리는군요.  만든 모델을 가지고 실제 small_val에서 돌려보면 accuracy가 0.5240919라고 하네요. 나쁘지 않다고 합니다. 물론 처음치고 나쁜 건 아니죠.  이 competition의 평가 metric은 3개의 test set의 mean average precision이라고 하네요. 그래서 class에 의한 votes/probabilities을 예측하고 점수를 개선하기 위해 보증된 top 3개의 id를 카운팅한다?? 뭔말인지.. 여튼.. 넘어갑니다 ㅡ.ㅡ


small_val$Correct = (pred == small_val$place_id)

ggplot(small_val, aes(x, y)) +
    geom_point(aes(color = Correct)) + 
    theme_minimal() +
    scale_color_brewer(palette = "Set1") +
    ggtitle("RF Results")



위의 plot은 모델을 가지고 우리가 맞은것과 틀린것을 표시한건데 accuray가 50% 살짝 넘엇었죠?보기에 correct한 checkin이 더 클러스터링이 된거 같다고 합니다. uncorrect한건 보면 균일하게 분배되어있는거 같고. 


그래서.. 어떤 종류의 RF가 잘못되는지 보자고 합니다. 이를 위해서 우리는 id별 accuracy를 보고 또한 id기준의  plot, validation set에 그것들이 얼마나 자주 나타나는지를 기준으로 한 걸 나타낼려고 합니다. 이 모델이 더 인깅가 있을 수록 더 정확하고 아닐 경우는 accuracy가 줄어드는걸 확인할수 있네요.. 봅시다.


#reordering the levels based on counts:
small_val$place_id <- factor(small_val$place_id,
                             levels = names(sort(table(small_val$place_id), decreasing = TRUE)))

small_val %>% 
    ggplot(aes(x = place_id)) + geom_bar(aes(fill = Correct)) + 
    theme_minimal() +
    theme(axis.text.x = element_blank()) +
    ggtitle("Prediction Accuracy by ID and Popularity") +
    scale_fill_brewer(palette = "Set1")


그럼 변수들의  중요성을.. 또한 보면...

data.frame(as.list(model_rf$variable.importance)) %>% gather() %>% 
    ggplot(aes(x = reorder(key, value), y = value)) +
    geom_bar(stat = "identity", width = 0.6, fill = "grey") +
    coord_flip() +
    theme_minimal() +
    ggtitle("Variable Importance (Gini Index)") +
    theme(axis.title.y = element_blank()) 


 흥미로운 점은 x보다 y가 중요하다는 것. 이건 다른 스크립트에서도 많이 관찰이 된다. place_id의 variaince는 y방향보다 x방향에서 더 크다. 이것은 y축이 더 place_id의 predictior로 좋고  RF가  그 스스로 이것을 알아낸다라는 것이다. hour또한 좋은 predictor이고 공간적인 지표보다는 못하다.  마지막으로 accuracy가 중요하다고 하빈다. 이것은 좀 미스테리하다고 합니다. 왜냐하면 우리는 실제 정의를 얻지 못하나 모델은 이게 중요하다고 한다. 마지막까지도... accuracy의 변수가 데이터에서 뭘 뜻하는지 모르고 종료합니다.


그리고.... 여기 아이디어에서 추가로 제안을 아래와 같이 하네요. 이것은 귀찮으니 걍 영어로... --a

한마디로 뭐.. grid사이즈를 다르게 주거나 다른 모델을 써보자는 얘기죠...


Here are a few sugesstions:

  • play with how big the grid size is and see if you can get better validation results
  • try different areas on the map
  • try different models (maybe xgboost or somehing simple like logistic regression)
  • split the grid into n*n little squares and run you algorithm in each of the squares - this might take a while though.




이상입니다.

저작자 표시
신고
Posted by 억사마