GTC 2015 - Googleが「ディープラーニング」に対する取り組みを紹介

なのだという。

その後、しばらくディープラーニングに対する一般的な説明が続くがそこは省略して、Googleでのディープラーニング利用のところに話を進める。Googleでのディープラーニングの研究目標は「シンプルにすること」であり、それは

独自のディープラーニング用フレームワークを社内の誰でも利用可能にする(研究用としても製品用として利用可能なもの。すでに現実で起こっている問題のためにニューラルネットワークを使う開発が多数始まっている)。
ニューラルネットのアーキテクチャや学習の方法を簡単に記述できるようにする
ユーザーからのわずかな単純なヒントで耐故障性やリカバリー、並列化などを可能にすること

だとしている。

ディーン氏によると、ニューラルネットワークの学習時間は、研究に大きく影響するという。Googleでは学習時間に一月を超えるようなものはそもそも研究の対象にならない。1週間を超えるものでも重要な研究のみに限られる。数日かかるようなものは、許容範囲だが処理の並列化の研究対象でしかない。数時間以下の学習のものだけがインタラクティブな研究対象となり得るとしている。

巨大なニューラルネットワークの学習時間を短縮するには、処理を並列に行う必要があるが、それには、モデルを並列化する方法とデータを分割して行う方法がある。