Deep Learning
-
Bidirectional Encoder Representations from Transformers, BERTDeep Learning 2021. 8. 11. 14:05
1. BERT (Bidirectional Encoder Representations from Transformers) Bidirectional(양방향의) Encoder(입력을 숫자의 형태로 변경) Representations(표현) 즉, Transformers로 부터 양방향으로 입력을 숫자의 형태로 변경하는 모듈라고 이해 할 수 있다. 2. Transformers? 입력을 Encoder와 Decoder를 지나 원하는 아웃풋으로 변경하는 것 3. GPT vs BERT 위에서 언급한 Encoder, Decoder에서 GPT와 BERT의 큰 차이점을 알 수 있는데, BERT는 Encoder를 활용하여 양방향 처리하며, GPT는 Decoder를 활용하여 단방향 처리합니다. 예를 들어 GPT 학습은 비지도 학습으..
-
M1 mac(11.5.x) 에서 tensorflow2.5 설치Deep Learning 2021. 8. 10. 22:49
M1 mac에서 tensorflow를 설치하려고 하니 스트레스가 이만저만이 아니였다. 구글링을 통해서 찾아본 M1 mac tensorlfow 설치는 대부분 11.2version에서 호환 하는 듯 했고, 나는 'error: tensorflow_macos-0.1a3-cp38-cp38-macosx_11_0_arm64.whl is not a supported wheel on this platform.'라는 에러가 발생하면서 되지 않았다. 처음엔 anaconda가 문제인줄 알고 삭제 했다가 miniforge로 재설치하여도 같은 문제가 발생하였고, 포기하던 찰나에 성공하였다. 순서는 아래의 4가지로 정리할 수 있다. 1. miniforge 설치 - anaconda를 사용해서는 안되고, miniforge를 활용해야 ..
-
Geforce TRX 2080Ti CUDA, cuDNN 설치하기Deep Learning 2021. 4. 28. 14:09
01. 그래픽 카드 체크 윈도우10 그래픽 카드 확인하는 방법 윈도우10 그래픽 카드 확인하는 방법 환경: windows 10 보통 새로 나온 게임을 설치하기 전에 내 컴퓨터의 사양을 체크하게 됩니다. 게임에서는 컴퓨터 장치 중 그래픽 카드가 제일 중요합니다. CPU mainia.tistory.com 제어판\모든 제어판 항목\시스템\장치 관리자 => 디스플레이 어댑터에서 확인 가능 02. 그래픽 카드에 맞는 드라이버 설치 03. cuda 설치 아래의 링크에서 그래픽 카드에 맞는 Compute capability(version) 확인 en.wikipedia.org/wiki/CUDA 나는 7.5이기 때문에 7.0 ~ 11.1 까지 가능하겠다. 04. cuDNN 설치 05. cuDNN 파일 CUDA 폴도로 전..