ACML 2017

KAIST 전산학부 김기응 교수가 아시아 최대 기계학습 학회인 Asian Conference on Machine Learning (ACML) 2017의 Co-General Chair를 맡았다. 이 학회는 2017년 11월 서울 연세대학교에서 개최되고 전산학부의 오혜연 교수가 senior program committee, 양은호 교수가 keynote speaker로 활동한다.

8/22~23 기계학습 워크샵

KAIST 전산학부에서 후원하는 2016년 머신러닝 (Machine Learning) 여름 워크샵에 참여하실 학생들을 모집합니다. 이번 여름 워크샵은 8월 22-23일 오프라인과 온라인에서 동시에 진행되며, 참가비는 무료입니다. 온라인 교육플랫폼 elice에서 새로운 방식으로 머신러닝을 배워보세요!

  1. 머신러닝 여름 워크샵 소개
    학생 및 직장인 등 실무를 위한 머신러닝 알고리즘에 관심이 있으신 분들께 알맞은 프로그램이며, 전산전공이 아니거나 기계학습 및 알고리즘에 익숙하지 않은 분들도 참가가 가능합니다. 수업은 Python 언어로 진행됩니다.
  2.  수업 및 시간
    본 캠프는 8월 22-23일 오후 1시부터 5시까지 KAIST N1 다목적홀에서 오프라인 강의가 진행되며, 같은 시간 온라인에서 강의 영상을 스트리밍할 수 있습니다. 조교의 1:1 교육은 오프라인에서만 진행되며, 온라인에서는 수업을 듣는 학생 및 조교와의 채팅을 통해 도움을 받을 수 있습니다. 실습 문제는 캠프 이후에도 일정 기간 실행하실 수 있습니다. (정확한 종료 날짜는 아직 미정입니다.)
  3. 참가 방법
    모든 참가자분은 www.elice.io 에 접속하셔서 Facebook으로 가입하고, “2016 머신러닝 여름 워크샵” 강좌에 수강신청을 하신 뒤 “워크샵 등록 및 사전조사”를 진행하시면 워크샵 신청이 완료됩니다. 오프라인 강의는 선착순 150분을 선발하고, 그 외 참가자분은 온라인으로 캠프를 진행하실 수 있습니다. 8월 21일 (일요일) 오후 6시까지 등록해 주시기 바랍니다. 등록 마감 후 8월 21일 저녁에 선발된 수강자 명단이 공개됩니다.

많은 지원 부탁드립니다. 감사합니다!

Obama JAMA

기계학습과는 전혀 상관이 없지만… 미국의 오바마 대통령이 Journal of American Medical Association에 논문을 냈다. Peer review를 거치지 않은 Special article이라고 하지만 대통령이라는 직책을 맡아 하면서 저널 논문을 썼다는 것이 대단한 것 같다. Author Affiliation을 열어보면 President of the United States, Washington, DC 라고 나온다.

Screen Shot 2016-07-14 at 10.04.48 AM

Coursera의 Machine Learning 수업

요즘들어 기계학습을 어떻게 공부하면 좋은지 물어오는 학생들이 많다. 옆에 Resources 탭에 가면 텍스트북, 동영상 강의 등이 있는데, 그 중 가장 쉽게 접근할 수 있는 Coursera 강의만 소개하려고 한다.

여러 MOOC에 기계학습 강의들이 열리는 것은 다들 알고 있을 것 같다. 그 중 아마도 제일 유명한 Stanford  대학의 Andrew Ng의 강의가 현재 진행중이고, 2주에 한번씩 새로 시작하는 세션들이 있다.

또한 University of Washington의 Carlos Guestrin, Emily Fox 교수님들의 강의가 있는데, 이건 Specialization의 일부라서 수료증을 받으려며 돈을 내야하지만 청강은 무료로 할 수 있다. 지난 몇 년 동안 University of Washington이 매우 활발하게 기계학습 분야(+자연언어처리 분야) 교수님들을 리크루트 했는데 그 effort의 central outcome이 Guestrin/Fox 부부교수. 6월 20일에 새 세션이 시작하고, 한글 자막도 있다고 하니 좋은 기회인 것 같다.

머신러닝 사전 지식 추천 자료들

머신러닝 혹은 자연어처리를 배움에 있어서 여러 수업과 책을 비롯한 자료들이 많습니다. 하지만 어느 수업/자료가 그렇듯 배우는 사람이 이미 알고 있을 것이라 가정하는 것들이 많습니다. 이 글에서는 이러한 ‘이미 알고 있는 것’을 다시 한 번 정리할 수 있는 자료들을 정리해보겠습니다. 더하여 지속적으로 좋은 자료를 발견 시 업데이트 하겠습니다.

 

읽을 거리

 

수업

 

출처

 

NIPS 2015 Workshop 동영상

NIPS는 다른 학회들보다 워크샵들이 다양하고 활발하게 진행된다. 메인 학회의 발표는 최신 연구 결과 위주인 것에 반해 워크샵 톡들은 연구의 trend를 review 해주고 미래에 대한 vision, outlook을 제시해 주다보니, 잘 모르는 분야는 메인 학회 톡보다 워크샵 톡이 좀 쉽게 들리는 것 같다. 작년 12월에 열린 NIPS 2015 워크샵의 동영상이 며칠전에 공개되었다. 동영상들은 유투브에 올라와 있고 이 링크에 가면 목록을 볼 수 있다:  workshop schedule 

그 중 추천할만한 톡 하나는 딥러닝에서 중요한 non-convex optimization이 잘 설명되어 있는 Yann LeCun 의 톡:

Google I/O 2016 Machine Learning: Google’s Vision

2주 전쯤 진행된 구글 I/O에 나온 기계학습에 대한 discussion. 연구를 하는 사람들은 아니지만 구글 product에 기계학습이 어떻게 쓰이고 있는지, 앞으로 어떤 연구가 도움이 될지에 대한 좋은 industry perspective인 것 같다. 기억에 남는 얘기는 구글 내부적으로 “mobile first”라고 하던 것이 “AI first”라고 하는걸로 바뀌었다는 것. 그만큼 AI가 구글에서도 중요하다는 것이고 연구개발에 투자를 많이 해야 한다는 얘기로 해석할 수 있다. 그리고 또 하나는 “UI and AI should be proportional”. 이 얘기는 HCI 쪽 product를 하는 사람의 말이었는데, 사람들이 쉽게 쓰기 위한  UI의 발전은 이제 더이상 AI가 없이는 안된다, 그런 얘기인 것 같다.

정보과학회 워크샵 “생활속의 인공지능”

정보과학회의 인공지능연구회에서 주최하는 “생활속의 인공지능” 워크샵이 6월 3일 네이버 그린팩토리에서 열린다. 최근에 CMU에서 서울대로 오신 김건희 교수님 등 좋은 talk들이 기대되니 다음 링크를 통해 등록!

http://sigai.or.kr/workshop/ai-applications/2016/

Tensor Processing Unit (TPU) by Google

요즘 트렌드 중 하나는 기계학습 모델을 잘 학습하기 위해 processor를 특별히 만드는 것이다. 구글에서도 TensorFlow를 위해 TPU라는 custom hardware를 만들었다고 하는데… 대단하다는 생각이 들지만, 이 블로그 포스트만 읽어보면 TPU란 것이 정확히 어떤건지, 기존의 하드웨어와 어떤 성능 차이를 보이는지, 앞으로 어떻게 더 발전시키고 다른 사람들도 혹시 쓰게 할건지, 그런 중요한 detail을 알려주지를 않아 좀 아쉽다.

Google supercharges machine learning tasks with TPU custom chip

ICLR 2016

Representation Learning에 관한 학회 ICLR이 5월 초에 열렸다. Open review, ArXiv publication, live streaming 등 새로운 시도도 같이 하는 커뮤니티인 것 같다. 2015년 ICLR 비디오는 다 올라와 있는데, 올해 비디오는 아직 안 올라와서 waiting… 올해 accepted papers 보면서 개인적으로 관심이 가는 sub-fields:

프로그래밍(알고리즘)을 생성하는 NN:

  1. Neural Programmer: Inducing Latent Programs with Gradient Descent
    Arvind Neelakantan, Quoc Le, Ilya Sutskever
  2. Neural Programmer-Interpreters
    Scott Reed, Nando de Freitas
  3. Neural GPUs Learn Algorithms [code]
    Lukasz Kaiser, Ilya Sutskever

Bayesian approaches to NN:

  1. The Variational Fair Autoencoder
    Christos Louizos, Kevin Swersky, Yujia Li, Max Welling, Richard Zemel
  2. Variationally Auto-Encoded Deep Gaussian Processes
    Zhenwen Dai, Andreas Damianou, Javier Gonzalez, Neil Lawrence
  3. Variational Gaussian Process
    Dustin Tran, Rajesh Ranganath, David Blei
« Older posts