Deep Learning Meetup

Deep LearningライブラリDeeplearning4jの開発者でO'ReillyのDeep Learningを執筆中のAdam Gibson氏(Skymind CEO) が来日していてmeetupに参加させてもらった。

• 2日連続で同じ内容のスライドを聞いたが、理論面は比較的基礎的な話だった気がするが実践面ではやはりほとんどピンと来ないことばかりだった。以下の技術要素のいずれかの経験があれば少しはわかったかもしれない。
  • Kafka
  • CUDA
  • Hadoop
  • Spark
  • Theano
  • Torch

• 英語でよく聞き取れなかったが、まずData Pipelineの組み方からやってみろと言っていた気がする。（DL4Jドキュメントにも書いてある）

• recursive NNというものがある。文法学習に使われるらしいが、Elman Network(recurrent NNの一種)とは別。

• BLASがどうこうとかいう話で、昔習ったGotoBLASを思い出した。

• Scala Associationガチ勢の人が来ていたので、Scalaの勉強方法を教えてもらった。機械学習屋さんも結構PythonからScalaに流れているらしい。

  • 分散処理を書く。
  • Akka,ActorなどScala的な概念を使う
  • プロコンの問題を解く
  • Erlangとの違いを見る
  • JVMやClojureも並行でみてみる

• 脳計算科学の人のDLとWeb屋さんのDLでは（主に分散処理の必要性について）考え方に隔たりがある気がした。

• DLの価値を引き出すのはビッグデータなのかそうではないのかというところが何度も焦点になった。
• DLの勉強はどうするのがいいかという話で、とりあえずcourseraをやれとのこと。ただこのmeetupに参加している時点で、英語ネイティブじゃないことは差し引かれているとは思う。
• DL直接関係なさそうだけど雑談で教えてもらったのがSystem-on-a-chip - Wikipedia

stfuawsc.