논문 리딩/ML
-
[논문 리딩] Choose Your Weapon: Survival Strategies for Depressed AI Academics논문 리딩/ML 2023. 4. 26. 15:01
Abstract 당신이 학계에 몸을 담은 AI 연구자이거나, 최근 AI 트렌드에 따라가지 못하는 것 같아 불안한 마음을 가지고 있거나, 혹은 AI연구에 필요한 충분한 인적/컴퓨팅 리소스가 없다고 느낀다면 당신은 혼자가 아니다. 최신 AI 연구에 대한 투자의 규모가 점점 방대해지면서, 세계적인 스케일에서 경쟁하기 위한 방법이나 자원을 찾기 어려워하는 연구자의 수는 점점 늘고 있다. 이 논문에서는 학계에 머무르면서도 경쟁력을 갖출 수 있는 방법들에 대해서 논의하고, 대학들이 이런 상황을 개선하기 위해서 어떤 행동을 취할 수 있을지에 대해서도 간단하게 이야기한다. 1. Introduction 대학에서 AI 연구를 업으로 삼은 사람이라면 DeepMind, OpenAI, GoogleBrain, Meta AI와 같..
-
[논문 리딩] Inductive Representation Learning on Large Graphs논문 리딩/ML 2021. 6. 14. 23:05
Inductive Representation Learning on Large Graphs 2017, WL Hamilton, R Ying, J Leskovec Abstract 큰 그래프에서 노드를 낮은 차원으로 임베딩하는 것은 내용 추천부터 프로틴 함수 식별까지, 여러 예측 과제에서 매우 유용하다고 증명되어 왔다. 그러나 지금까지 대부분의 접근들은 임베딩을 학습하는 동안 그래프의 모든 노드가 존재해야 한다는 전제를 가졌다. 이런 접근은 내재적으로 transductive하고 학습 기간 동안 없었던 노드들에 대해 일반화가 되지 않는다. 이 논문에서 제안하는 graphSAGE는 일반적인 inductive 프레임워크로써, 노드 피쳐 정보(텍스트 등)를 활용해 학습 데이터셋에 없었던 노드들에 대해서도 효율적으로 노..
-
[논문 리딩] XGBoost: A scalable Tree Boosting System논문 리딩/ML 2020. 7. 5. 12:47
XGBoost: A scalable Tree Boosting System T. Chen, C.Guestrin, 2016 Abstract Tree Boosting은 아주 효율적이고 널리 쓰이는 머신러닝 기법이다. 본 논문에서는 종단간 기계학습이자 scalable한 학습법인 XGBoost를 소개한다. * 종단간 학습(end-to-end learning): 데이터에서 목표한 결과를 사람의 개입 없이 얻는 것 * scalable machine learning: 어떤 양의 데이터에도 많은 양의 리소스(메모리 등)을 사용하지 않고 대응할 수 있는 알고리즘 1 Introduction 논문의 주요 contribution: We design and build a highly scalable end-to-end tree ..