z '분류 전체보기' 카테고리의 글 목록 (7 Page)
본문 바로가기

분류 전체보기

(59)
[논문 리뷰] RCNN : Rich feature hierarchies for accurate object detection and semantic segmentation, 2014 시작하면서.. 예전에 공부했던 논문이긴한데, 그때는 완전 딥러닝 자체에 입문 단계였어서 이 논문에 대해 완전한 이해를 하지 못했었습니다. (구현도 못했음.) 그래서 Object Detection 분야에 대해 공부를 하기 전에 CNN을 이용한 object detection 모델의 조상격이라고 할 수 있는 RCNN에 대해 다시 공부하여 기초를 다지고자 논문을 공부했습니다. Abstract 이 논문에서 제시하는 approach는 두가지 key insights를 가지고 있습니다. high-capacity convolutional neural networks를 localize 및 segment object를 위해 적용할 수 있음. labeled data가 부족할 때는 pretrain을 통해 극복이 가능함. Int..
Deep Neural Network 경량화 (Inception, Xception) 참고 강의 : PR-034: Inception and Xception Reference 참고 논문 : Going deeper with convolutions, 2014 Xception: Deep Learning with Depthwise Separable Convolutions, 2017 참고 강의 : PR-034: Inception and Xception Deep Neural Network 경량화 비슷한 수준의 성능을 유지한 채 더 적은 파라미터 수와 연산량을 가지느 모델을 만드는 것 Image recognition, object detection 분야의 급격한 발달은 하드웨어 덕이 아닌 새로운 아이디어, 알고리즘, 그리고 새로운 Network 등장의 결과입니다. 최근에는 임베디드 시스템 및 모바일에 ..
[스터디] Recommender System : Toward the Next Generation of Recommender Systems : A Survey of the State-of-the-Art and Possible Extensions (2005) (1) 시작하면서.. 최근에 추천 시스템에 관한 스터디를 시작했습니다. 실제로 엄청 실용적이면서, 자금도 많이 몰리는 ? 그런 분야라서 관심이 갔습니다. 최근에 넷플릭스, 유튜브 등 영상 매체들이 엄청난 성장을 하면서 이러한 매체들은 우리 삶에 한 일부분이 되었습니다. 다른 사람들도 그러겠지만, 저는 유튜브를 보면 영상을 검색해서 볼 때 보다는 내가 흥미있는 영상이 나올 때 까지 새로고침 하면서 찾습니다. 여기에서 새로고침을 하면서 유튜브 추천 알고리즘이 추천해주는 영상에 대해서 만족도를 굉장히 높게 느끼는 사람 중 한명으로서 이 분야에 관심을 갖게되는 것은 자연스러운 절차라고 생각합니다. 때마침 추천 시스템 스터디를 할 기회가 생겨서 참여하게 되었습니다. 주마다 1회 미팅을 갖는 그런 형식이고 우선 2005년..
[논문 리뷰] SRFBN : Feedback Network for Image Super-Resolution, 2019 시작하면서... 이 논문은 Feedback Network를 이용한 SR을 제시하는데, 처음 시작 할 때 Feedback Network가 뭔지도 잘 모르고, 제가 평소에 잘 사용하지 않는 RNN 형식을 사용하기 때문에 이해 자체가 어려웠었습니다. 하지만 읽다보니까 진짜 신기하고 신박한 내용이어서 공부하길 잘 했다는 생각이 듭니다 ㅎㅎ.. Abstract 최근에 CNN, GAN 등 여러 모델에 대한 SR 방법들을 통해 SR에 대한 발전이 꾸준히 이뤄지고 있습니다. 하지만 Feedback Network를 이용한 SR 방법에 대해서는 개척이 되고 있지 않습니다. 그래서 이 논문에서는 Feedback Network를 이용한 SR 방법인, SRFBN(Image Super Resolution FeedBack Netw..
[논문 리뷰] EDSR, MDSR : Enhanced Deep Residual Networks for Single Image Super-Resolution, 2017 시작하면서.. 앞서 했었던 SRGAN은 Imagenet을 통한 훈련이 되어야 하는데, Imagenet의 크기가 너무 커서 코랩을 사용하는 필자는 적은 데이터셋으로 밖에 할 수가 없었습니다. 자원 부족으로 아무리 훈련을 시켜도 흐릿한 결과가 나와서 결과 도출은 우선 뒤로 미루고자 합니다.. ㅜㅜ (1e-5 learning rate로 4000에폭 돌리는게 남았지만..) 이번에 소개드릴 EDSR, MDSR도 마찬가지입니다. MDSR, EDSR 또한 각각 훈련시키는데 보통 4일, 8일이 소요되기 때문에 코랩을 사용하는 필자는 아무래도 훈련시키기 어려운 환경입니다. 그래서 혼자 코드를 우선 짜보고 깃허브를 보면서 혹시 틀린 부분이 있으면 수정해나가는 방식으로 공부를 해볼까 합니다. 혹시 자원 관련해서 괜찮은 해결..
확률 분포 (1) 시작하면서.. 여러 확률 분포를 공부하기 시작했는데 이번에는 베르누이 분포, 이항 분포 그리고 베타 분포에 대해서 알아보고자 합니다. 시작하기에 앞서 확률 분포가 목표로 하는 바를 설정해보겠습니다. 목표 밀도 추정 (Density Estimation) : 관찰 집합 x1, ... , xN이 주어졌을 때 확률 변수 x의 확률 분포 p(x)를 모델링 하는 것 이산 확률 변수의 이항분포와 다항분포, 연속확률 변수의 가우시안 분포 등은 매개변수적 분포 라고 불립니다. 이는 밀도 추정에 적용하기 위해서는 주어진 데이터 집합을 바탕으로 적절한 매개변수를 구해야하기 때문입니다. 베르누이 분포 둘 중 하나의 값을 갖는 확률 변수를 생각해 봅시다. \(x\in {0,1}\)일 때 \(p(x=1|\mu) = \mu\) 이..
[논문 리뷰] SRGAN : Photo-Realistic Single Image Super-Resolution Using a Generative Adversarial Network(2017) SRGAN 시작하면서.. super resolution 분야에 대해 이전에는 SRCNN을 공부하고 포스트를 게시했었는데요, 이번에는 2017년도 굿펠로우 교수님이 엄청 신박한 발상으로 들고나오신 GAN을 이용한 Super Resolution GAN에 대해 공부하고 포스트를 게시하겠습니다. SRCNN을 공부할 때, 그 논문에서 super resolution이 원래는 어떤 방식으로 이뤄졌으며, CNN은 동일한 작업을 할 수 있음을 비교하면서 보여줬었기 때문에 이번 논문은 전보다 비교적 쉽게 읽을 수 있었습니다. 역시 기초부터 하길 잘한 것 같습니다 ㅎㅎ Abstract 존재하는 SR의 문제 : 더 세밀한 texture details를 복원 할 수 없을까?? Super Resolution 문제를 해결하는데는 ..
가우시안 분포와 확률 시작하기에 앞서.. 몇일 전에 갑자기 학구열이 불타서 prml 책을 샀습니다.. 근데 이렇게 어려울 줄은 생각도 하지 못했네요 ㅜㅜ 이 책을 공부하는데 토대가 될 확률, 베이지안 관점에 대해 공부하려고 합니다. 포스팅 된 내용은 어느정도 prml 책에서 나옴을 알려드립니다. 가우시안 분포 $$ N(x|\mu, \sigma^{2}) = {1 \above 1pt (2\pi\sigma^{2})^{1 \above 1pt 2}}\exp{{-1 \above 1pt 2\sigma^{2}}(x-\mu)^{2}} $$ 가우시안에 대한 property \(\int^{\inf}_{-inf}N(x|\mu, \sigma^{2}) dx = 1\) \(N(x|\mu, \sigma^{2})>0\) \(E[x] = \int^{\inf..