to be a developer

  • 홈
  • 태그
  • 방명록

Overfitting 1

학습 관련 기술 정리

오버피팅- 신경망이 훈련 데이터에만 지나치게 적응되어 그 외의 데이터에는 제대로 대응하지 못하는 상태 - 오버피팅은 주로 1. 매개변수가 많고 표현력이 높은 모델일 때, 2. 훈련 데이터가 적을 때 나타난다.드롭아웃- 뉴런을 임의로 삭제하면서 학습하는 방법이다. - 훈련 때 은닉층의 뉴런을 무작위로 골라 삭제한다. 삭제된 뉴런은 신호를 전달하지 않게 된다. - 시험 때는 모든 뉴런에 신호를 전달한다. 단, 뉴런의 출력에 훈련 때 삭제 안 한 비율을 곱하여 출력한다.   적절한 하이퍼파라미터 값 찾기 각 층의 뉴런 수, 배치 크기, 학습률, 가중치 감소 등 신경망에는 여러개의 하이퍼파라미터가 등장한다. 이러한 하이퍼파라미터의 값을 적절히 설정하는 것은 모델의 성능에 큰 영향을 미친다. 하지만 그 값을 결정..

AI/밑바닥부터 시작하는 딥러닝 2024.07.13
이전
1
다음
더보기
프로필사진

to be a developer

  • 분류 전체보기 (18)
    • CS (2)
      • 자료구조 (1)
    • 코딩 테스트 (8)
    • AI (8)
      • 밑바닥부터 시작하는 딥러닝 (8)

Tag

Python, cnn구현, deeplearningfromscartch, 백준24444, 백준, 24444번, 너비우선탐색1, cnn, 파이썬, cnn시각화, 하이퍼파라미터최적화, 가중치의초깃값, 합성곱계층, 우박수열 정적분, 프로그래머스, 풀링계층, 밑바닥부터시작하는딥러닝, scratchfrom, deeplearningfromscratch, 매개변수갱신,

최근글과 인기글

  • 최근글
  • 인기글

최근댓글

공지사항

페이스북 트위터 플러그인

  • Facebook
  • Twitter

Archives

Calendar

«   2025/12   »
일 월 화 수 목 금 토
1 2 3 4 5 6
7 8 9 10 11 12 13
14 15 16 17 18 19 20
21 22 23 24 25 26 27
28 29 30 31

방문자수Total

  • Today :
  • Yesterday :

Copyright © AXZ Corp. All rights reserved.

티스토리툴바