- 기존의 GAN 기존의 GAN과 같은 생성모델은 레이어를 Dense층으로 연속해서 쌓아서 간단하게 Fully-connected로 연결되어 있고, 생성자는 계속해서 랜덤 노이즈값을 변환해 이를 판별자 모델에게 넘기고, 판별자는 진짜인지 가짜인지 판별하여 여기서 나오는 loss값으로 학습하여 만드는 과정. - What is DCGAN(Deep Convolutional Generative Adversarial Networks) DCGAN은 Fully-connected 구조의 대부분을 CNN 구조로 바꾼 Deep Convolution GAN. 랜덤 노이즈 값을 넣어 배치노멀라이즈하면서 업샘플링과 컨볼루션을하고, Discriminator에서는 컨볼루션 하면서, 기존의 GAN과 같이 마지막 출력층에 Flatten..

2주 전에 캐글문제 하나 풀고싶어서 주택가격예측 대회에 들어갔다. 들어가서 그냥 평균값으로만 전부 때려박으면 몇점나올까 궁금해서 해봤더니 0.4점나오길래, 1점이 만점이 아닌가 봤더니 0점에 근접할 수록 높은 점수였다. 아 그렇구나 하고 종료했었는데, 원래 하던거 끝난 기념으로 3시간동안 노래들으면서 끄적여봤다. import numpy as np import pandas as pd import os for dirname, _, filenames in os.walk('./house_prices'): for filename in filenames: print(os.path.join(dirname, filename)) train_data = pd.read_csv('./house_prices/train.csv'..

SeparableConv2D 입력 채널별로 따로따로 공간 방향의 합성곱 수행 후, 1*1 합성곱 (점별 합성곱)으로 출력 채널을 합치는 것. 이로 인해 공간 특성의 학습과 채널 방향 특성의 학습을 분리하는 효과를 얻을 수 있음. 모델 파라미터와 연산의 수를 크게 줄여주어 더 작고 빠른 모델을 제작할 수 있음. 여기서 1 * 1 합성곱이란, 1 * 1 크기의 Convolution Filter 사용한 Convolution Layer를 말하는데, Channel / Spatial의 특성파악에 도움이 된다. 이렇게 1*1 합성곱을 쓰면 파라미터 수가 확연히 줄게 된다. 일반적으로 합성곱에서 channel을 크게 주면 파라미터 수가 급격히 증가하는데, 1*1 합성곱을 사용하면 효율적으로 모델을 구성할 수 있음. 즉..

저장된 CNN 모델을 가져와서 이를 사용해 이미지의 필터를 먼저 시각화 해보았다. 그리고 고양이사진을 하나 가져와서 이를 전처리하여 출력하였다. img_path = './dogs-vs-cats/small/test_dir/test_cats_dir/cat.1700.jpg' from keras.preprocessing import image import numpy as np img = image.load_img(img_path, target_size=(150, 150)) img_tensor = image.img_to_array(img) img_tensor = np.expand_dims(img_tensor, axis=0) # 모델이 훈련될 때 입력에 적용한 전처리 방식을 동일하게 사용합니다 img_tensor ..

기존 Fullly Connected Layer와 CNN( Convolutional Neural Network)와 다른점 이미지 공간 정보를 유지한 상태로 학습이 가능하게 만든 모델 각 레이어의 입출력 데이터의 형상을 유지한다. 여러 개의 필터로 각 이미지의 특징을 추출하여 학습한다. 이미지 공간 정보를 유지하여 인접한 다른 이미지들과의 특징을 효과적으로 인식한다. 필터는 공유 파라미터이기에 기존 신경망보다 학습에 사용되는 파라미터가 적다. 컨브넷은 지역적이고 평행 이동으로 변하지 않는 특성을 학습함. CNN의 구조 이미지의 특징을 추출하는 부분인 Convolution Layer와 Pooling Layer, 클래스를 분류하는 Flatten Layer 부분으로 이루어져 마지막 Fully Connected N..

import gym import time env = gym.make('CartPole-v1') #강화학습 환경 불러오기 for i_episode in range(20): # 새로운 에피소드(initial environment)를 불러온다(reset) observation = env.reset() for t in range(100): env.render() #화면에 출력 / 행동 취하기 이전 환경에서 얻은 관찰값(obsevation)적용해서 그림 time.sleep(0.05) # 행동(action)을 취하기 이전에 환경에 대해 얻은 관찰값(observation) print('observation before action:') print(observation) action = env.action_space...

캐글(Kaggle)에서 데이터셋을 전부 다운받고, small폴더를 만들어서 train data, validation data, test data를 강아지와 고양이 각각 1000장, 500장, 500장을 분리해 총 4천장에 사진 데이터를 가지고 실습을 하였다. 그리고 가져온 사진 데이터들을 네트워크에 넣기 위해 부동 소수 타입의 텐서로 전처리 한다. 케라스에서 제공되는 ImageDataGenerator은 이미지 파일을 전처리된 배치 텐서로 바꾸어주는 제너레이터를 만드는 클래스이다. 즉, 사진 파일을 읽고, 타입을 RGB 픽셀 값으로 디코딩하고, 부동 소수타입의 텐서로 변환하여 픽셀값의 스케일을 0~255에서 0~1로 조정하는 과정을 쉽게 만들어주는 명령어이다. 모든이미지를 float형으로 255로 나누어 ..

from keras.datasets import boston_housing import numpy print(numpy.shape(boston_housing.load_data())) (train_data, train_labels), (test_data, test_labels) = boston_housing.load_data() print(len(train_data)) print(len(train_labels)) print(len(test_data)) print(len(test_labels)) print(numpy.shape(train_data)) print(numpy.shape(train_labels)) print(numpy.shape(test_data)) print(numpy.shape(test_lab..

optimizer, loss, metrics Optimizer는 학습 진행을 결정하는 방식으로 가중치를 어느 정도로 이동할 것인지를 결정하는 방법이다. Loss Function을 기반으로 네트워크가 어떻게 업데이트될건지 설정하고, 네트워크를 구성하는 알고리즘을 최적화 시킨다. 옵티마이저에는 Adam, RMSprop, SGD 등이 있다. Loss Function은 예측값과 실제값간의 차이를 표현한 수식으로, 학습에 사용되는 오차값인 피드백 신호를 정의하는 함수이며, 훈련을 하는 동안에 최소화가 될 값을 뜻한다. 주어진 문제에 대한 성공지표라고 말한다. 로스에는 binary_crossentropy, categorical_crossentropy 등이 있다. Metrics는 실제 화면상에 출력되는 값을 표현하는..

#시작 로이터(Reuters) 뉴스 데이터셋으로 단일 레이블 다중 분류 문제 다루기 목적 : 텍스트 분류 11258개의 기사와 46개의 뉴스 카테고리 분류. 각 토픽은 최소 10개이상의 샘플이 있음. from keras.datasets import reuters (train_data, train_labels), (test_data, test_labels) = reuters.load_data(num_words = 10000) #로이터 데이터셋 가져오고 각 데이터를 변수에 넣어줌 #훈련용데이터와 검증용 데이터 몇개로 분류되었는지 출력. print(len(train_data)) print(len(test_data)) print(train_data[1]) #2차원 배열로 들어가있음 print(train_labe..