Notice
Recent Posts
Recent Comments
Link
| 일 | 월 | 화 | 수 | 목 | 금 | 토 |
|---|---|---|---|---|---|---|
| 1 | 2 | 3 | 4 | |||
| 5 | 6 | 7 | 8 | 9 | 10 | 11 |
| 12 | 13 | 14 | 15 | 16 | 17 | 18 |
| 19 | 20 | 21 | 22 | 23 | 24 | 25 |
| 26 | 27 | 28 | 29 | 30 |
Tags
- 딥러닝
- 포인터
- 오블완
- convolution
- OpenGL
- Vision Transformer
- Diffusion
- 티스토리챌린지
- deformable covolution
- Unreal Engine
- DDPM
- CNN
- mobilenet
- Swin Transformer
- depthwise convolution
- 모수 추정 방법
- 최대 가능도 추정
- Image denoising
- Action Recognition
- Focal loss
- C++
- posec3d
- Deep Learning
- 최대 사후 확률
- computer graphics
- covolution
Archives
- Today
- Total
목록Swin Transformer (1)
심드렁하게 저장
Swin Transformer - 이론과 구현
Swin Transformer 개요Swin Transformer란 2021년에 발표한 대규모 비전 인식 모델이다. 해당 아키텍쳐가 제안된 논문은 "Swin Transformer: Hierarchical Vision Transformer using Shifted Windows"이다. 기존 트랜스포머를 기반으로 하는 모델의 공통적인 문제점은 고정된 패치 크기로 인해 세밀한 예측을 필요로 하는 Semantic Segmentation과 같은 작업에 적합하지 않다는 점이었다. 또한 트랜스포머의 Self Attention은 입력 이미지 크기에 대한 Quadratic 계산 복잡도를 가지므로 고해상도 이미지를 처리하기 어려웠다. 이러한 문제를 극복하기 위해 Hierarchy 특징 맵을 구성해 Linear 계산 복잡도를..
Artificial intelligence/Deep Learning
2025. 4. 21. 01:27