분류 전체보기 (59) 썸네일형 리스트형 [스터디] Recommender System : Toward the Next Generation of Recommender Systems : A Survey of the State-of-the-Art and Possible Extensions (2005) (4) 시작하면서.. 지금까지 Recommender System의 여러 방법 중 Content-based methods, Collaborative methods를 살펴보았습니다. 보시면 아시겠지만 이 각각 방법들은 결점이 존재합니다. 그래서 이 둘을 적절히 같이 사용하여 limitation을 해결하고자 한 Hybrid 방법에 대해 알아보고, 이 논문의 conclusion을 짓고자 합니다. 이번 포스트를 마지막으로 추천시스템의 대략적인 개요를 살펴보고 다음부터는 원서로 스터디를 해서 그 원서 기준으로 여러 포스트를 작성하고자 합니다. Hybrid Methods 이번 포스트에는 Collaborative와 Content-based method를 결합하여 이 두 방법에 대한 limitation을 피할 수 있게끔 하는 .. [논문 리뷰] SAM Optimizer : Sharpness-Aware Minimization for Efficiently Improving Generalization Abstract 오늘날 heavily overparameterized model에서, training loss의 값은 model generalization ability에 대해서 이점을 크게 주지 않는다. 이는 training loss에 대해서만 최적화를 시작하면 suboptimal model quality를 얻음을 뜻합니다. 논문에서는 loss landscape와 generalization의 connection에 영감을 받아, novel effective procedure를 제시 합니다. (SAM) SAM은 낮은 loss를 갖는 neighborhoods를 찾고, 이 계산은 minmax optimization 결과를 갖습니다. Introduction 현대 머신러닝의 발전으로, 모델들은 점점 더 무거운 o.. [스터디] Recommender System : Toward the Next Generation of Recommender Systems : A Survey of the State-of-the-Art and Possible Extensions (2005) (3) 시작하면서.. 저번의 content-based methods에 이어서 similar user를 찾는 Collaborative Methods에 대해 이야기 해보겠습니다. Collaborative Methods Collaborative recommender systems (or collaborative filtering systems : CF)는 특정 user의 item utility를 이전에 다른 users의 rating을 기반으로 predict 하려 합니다. Formally, user \(c\)에 대한 item \(s\)의 utility \(u(c,s)\)는 utilites \(u(c_j,s)\)에 의해 측정됩니다. 이때 \(c_j\)는 user \(c\)와 similar한 user들의 set인 \(C\.. [논문 리뷰] : Manifold Mixup : Better Representations by Interpolating Hidden States 시작하면서.. 이전 포스트에서는 mixup에 대해 공부 했었습니다. 이번에는 이에 대한 연장선에 있다고 할 수 있는 Manifold Mixup에 대해 정리하겠습니다. Abstract Deep Neural Network는 train set과 test set이 slightly different 하면, 부정확한 결과를 내곤 합니다. 논문에서는 이에 대한 해결책으로 간단한 regularizer이며 덜 confident하게 predict 할 수 있도록 하는 Manifold Mixup을 소개합니다. Introduction Deep Neural Network는 여러 분야에서 SOTA Backbone으로 사용되고 있습니다. 하지만 deep neural network는 training set과 비슷한 instance에 .. [논문 리뷰] mixup : Beyond Empirical Risk Minimization 시작하면서.. 최근 학부연구생으로 연구실에 들어갔는데 cifar100에 대해 성능을 최대한 끌어올리는 과제를 받았습니다. 그래서 가장 보편적인 resnet부터 densnet 까지 사용해서 결과를 봐봤는데 test accuracy에 대해 75퍼를 넘기기가 힘들었습니다. 어느정도 한계를 느꼈고 paperswithcode에 가서 cifar 100 dataset에 대한 sota 모델이 뭐가있는지 봐봤습니다. 모델의 resolution, width, depth 비를 적절하게 학습하는 EfficientNet이 SOTA model인 듯 보였습니다만, 저의 눈을 사로잡았던건 바로 manifold mixup 이었습니다. manifold mixup을 공부하기 전에 mixup 논문을 읽어보았습니다. Abstract Larg.. [스터디] Recommender System : Toward the Next Generation of Recommender Systems : A Survey of the State-of-the-Art and Possible Extensions (2005) (2) 시작하면서.. 이전 포스트에서는 추천 시스템의 전체적인 내용, 그리고 방향성에 대해 간단히 이야기 해보았습니다. 이 포스트에서는 추천 시스템의 세 방법론 중 하나인 content-based method에 대해 이하기 하고자 합니다. Content-Based Methods 유저가 이전에 사용한 item과 비슷한 recommendation Content-based recommendation methods에서는 utility function \(u(c,s)\)가 측정됩니다. c는 user이고 s는 item 입니다. 예를 들어 movie recommendation을 생각해봅시다. user c가 이전에 높게 rating한 영화들과 공통점이 많은 것을 추천할 것입니다. (genre, director ...) Con.. [논문 리뷰] Faster R-CNN : Towards Real-Time Object Detection with Region Proposal Networks, 2016 Abstract 논문에서는 Region Proposal Network(RPN)을 소개합니다. 이는 full image convolutional features를 공유합니다. 이를 통해 cost free region proposal을 가능하게 합니다. RPN : Fully Convolution Network, each position에 대해 object bounds와 objectness score를 predict 합니다. Faster R-CNN은 RPN과 Fast R-CNN을 사용합니다. Index Terms : Object detection, Region Proposal, Convolutional Neural Network 포스트 필자는 이 논문에서 Region Proposal 방법이 가장 중요한 부분이.. [논문 리뷰] Fast R-CNN, 2015 시작하면서.. Fast R-CNN 이후에 당시 SOTA 였던 Faster R-CNN은 Fast R-CNN을 그대로 사용했기 때문에 서로 상당히 비슷합니다. (Faster R-CNN가 Fast R-CNN을 개선시킨 느낌) 그래서 이 게시물 후 바로 리뷰 하려고 합니다 ㅎㅎ,, 한번 공부 하실 때 Fast R-CNN과 Faster R-CNN을 한번에 공부하시는걸 추천드립니다 Abstract Fast R-CNN은 지난 work(R-CNN)에 대해 deep CNN을 이용하여 효율적인 classify object proposals 작업을 수행합니다. 이전 R-CNN보다 train단계가 9배 빠르고, test는 213배 정도 빠르다고 합니다 ㄷㄷ Introduction 분류 문제보다 더 복잡한 작업을 동반하는 Ob.. 이전 1 ··· 3 4 5 6 7 8 다음
