반응형
- [ 인공지능/인공지능 기초 ]Univeral Approximation Theorem, Vanishing Gradient 방지2024-02-28 23:01:42어제 좀 달렸더니 아침에 못 일어났다...ㅎ 휴우... 겨우 시간 안에 작성했다;; 1. Univeral Approximation Theorem 지금까지 여러가지 액티베이션을 보면서 AI가 어떻게 학습하는지에 대해서 공부를 해보았다 근데 이렇게 만든 모델이 우리가 원하는 답을 잘 알려줄 수 있을까? 뭘 믿고? 무슨 근거로? 실컷 학습시켰더니 완전 이상하게 되어버릴 수도 있지 않은가 Univeral Approximation Theorem 이라는 증명이 이런 의심을 잠재워 줄 것이다 Univeral Approximation Theorem은 히든 레이어가 딱 한층만 있더라도 어떤 데이터든 Loss가 0인 연속 함수로 나타낼 수 있다라는 것을 보여준다 이렇게 히든 레이어 한 층만으로도 순차적으로 Loss 0인 ..
- [ 인공지능/프레임워크 or 라이브러리 ]자동 미분과 기울기, 모델 생성 후 테스트 및 검증해보기2024-02-11 16:52:06이제 파이토치를 통해 예시 데이터셋을 가져와서 모델을 생성해보고 테스트하고 검증하는 강의를 들었다 실습을 진행하면서 들은 생각은 너무 빠르게 지나간다는 점...? 이전부터 느끼고 있었던 패스트캠퍼스 강의들의 문제점이 느껴졌었다 새로운 기술들을 습득하고 배우는데에 있어서는 패스트캠퍼스 강의보다는 책을 읽어보던가 다른 강의들을 찾아보는 것을 추천한다 그럴 수 밖에 없는 것이 너무 많은 내용을 단기간에 전달하려고 하다보니 그런 것 같다. 하지만 그렇다고 패스트캠퍼스가 좋지 않다는 것은 아니다. 어느정도 기반 지식이 있고 다양한 오픈소스들 또는 관련 기술들을 접해보고 싶을 때는 패스트캠퍼스만한 게 없는 것 같다. 나는 인공지능이 처음이라 지금 머릿속이 매우 복잡하긴 하지만 내가 항상 생각하고 있는 낯섦을 익숙함..
반응형