[Kaggle] 간단한 HousePrices 예측해보기

2주 전에 캐글문제 하나 풀고싶어서 주택가격예측 대회에 들어갔다.

들어가서 그냥 평균값으로만 전부 때려박으면 몇점나올까 궁금해서 해봤더니

0.4점나오길래, 1점이 만점이 아닌가 봤더니 0점에 근접할 수록 높은 점수였다. 아 그렇구나 하고 종료했었는데,

 

원래 하던거 끝난 기념으로 3시간동안 노래들으면서 끄적여봤다.

import numpy as np
import pandas as pd 

import os
for dirname, _, filenames in os.walk('./house_prices'):
    for filename in filenames:
        print(os.path.join(dirname, filename))

train_data = pd.read_csv('./house_prices/train.csv')
test_data = pd.read_csv('./house_prices/test.csv')



train_target = train_data["SalePrice"]
print(train_data.shape)
print(test_data.shape)
print("target : ",train_target)

캐글에서 데이터셋 가져오고,

 

train_data_backUp = train_data
test_data_backUP = test_data
train_target_backUp = train_target

train_data = train_data.drop(labels=["SalePrice"], axis= 1)
train_data.describe()

test_data.describe()

print(np.shape(train_data))
print(np.shape(train_target))
print(np.shape(test_data))


from sklearn.model_selection import train_test_split
x_train, y_test, x_label, y_label = train_test_split(train_data,
                                                    train_target, 
                                                    test_size=0.4, 
                                                    shuffle=True, 
                                                    random_state=1004)

print("------")
print(np.shape(x_train))
print(np.shape(y_test))
print(np.shape(x_label))
print(np.shape(y_label))
print(x_train.describe)
print(x_label.describe)

 

데이터 나눠주고,

x_train = (x_train - x_train.mean(axis=0)) / train_data.std(axis=0)
y_test = (y_test - y_test.mean(axis=0)) / y_test.std(axis=0)

print(x_train.describe)

x_train = x_train.fillna(0)
x_train = x_train.dropna(axis=1)
print(x_train.describe)

y_test = y_test.fillna(0)

데이터 전처리 간단하게 해주었다.

그러다가 그냥 데이터 안나누고 하나로 하고 간단히 해야겠다고 생각들어서

train_data = (train_data - train_data.mean(axis=0)) / train_data.std(axis=0)
train_data = train_data.fillna(0)
train_data = train_data.dropna(axis=1)
print(train_data.describe)

이렇게 train 데이터셋 전부 넣어볼려고 처리해놓았다.

그다음에 모델도 간단하게 제작해보았다.

from tensorflow.keras import models
from tensorflow.keras import layers

def build_model() :
    model = models.Sequential()
    model.add(layers.Dense(128, activation='relu', input_shape = (train_data.shape[1],)))
    model.add(layers.Dense(64, activation='relu'))
    model.add(layers.Dense(1))
    model.compile(optimizer = 'rmsprop', loss = 'mse', metrics = ['mae'])
    return model
    
model = build_model()

history = model.fit(train_data, train_target, epochs = 1000, batch_size=16, verbose =1)

val_mse, val_mae = model.evaluate(train_data, train_target, verbose=1)

mae_history = history.history['mae']

너무 빨리돌아서 에포크 1000해놓았다.

학습시키고 확인해보니

import matplotlib.pyplot as plt


plt.plot(range(1, len(mae_history) + 1), mae_history)
plt.xlabel('Epochs')
plt.ylabel('mae_history')
plt.show()

loss: 751364928.0000, mae: 13097.6797 이정도 나온 것 같다.

 

그리고 그냥 여기다가 테스트 데이터셋을 넣었다.

테스트 데이터셋도 전처리하고

test_data1 = test_data_backUP
test_data1 = test_data1.fillna(0)
test_data1 = test_data1.dropna(axis=1)

test_data1 = (test_data1 - test_data1.mean(axis=0)) / test_data1.std(axis=0)
test_data1 = test_data1.astype(float)

test_data1 = test_data1.fillna(0)
print(test_data1.describe())

이것저것 확인해보고 데이터맞추고 예측해보니

#print(train_data.describe())
# print(test_data1.describe())
# print(np.shape(test_data1))

#print(np.shape(y_test))
#test_data = (test_data - test_data.mean(axis=0)) / test_data.std(axis=0)
predict = model.predict(test_data1)
print(np.shape(predict))
print(predict)

값이 나왔길래 csv파일로 만들었다.

testR11 = pd.DataFrame(test_data_backUP["Id"])
testR22 = pd.DataFrame(predict)
result11 = pd.concat([testR11, testR22], axis=1)
print(result11)
result11.to_csv("210813_2.csv", index=False)

만들고 제출해보니

이렇게 되었다. 수정안하고 일회성으로 나온대로 넣고 끝내봤는데,

그냥 평균값넣는거보다 간단하게 모델만들고 다른 속성들 안따지고 돌려봐도 상대적으로 높게 나오는 것 같다.

 

여기서 각 속성들의 관계를 따지고, 문자열 속성들도 float형으로 바꾸고 돌리면 훨씬 높게나올것같다.

할일도 끝났고, 금요일이라 하루쉴겸 돌려봤는데 재밌었따.