Clik here to view.
プログラミング教育推進月間の教材について
PFNフェローの丸山です。2月18日に、PFNは文部科学省、総務省及び経済産業省の「未来の学び プログラミング教育推進月間」に協力して、小学校向けのプログラミング教材を作成することを発表しました。この教材は、今年の9月に一部の小学校で、総合学習の一環として利用されることを目指しています（指導案のページはこちらです）。この記事では、私達PFNがなぜこのような活動をしているかをお話ししたいと思います。...
View ArticleClik here to view.
GraphNVP
本記事は、2018年インターンシップ・PEとして勤務した Kaushalya Madhawa さんによる寄稿です。 本記事はこちらの英語ブログの日本語訳です。 本記事では、私たちが最近投稿した論文 “GraphNVP: An Invertible Flow Model for Generating Molecular Graphs” を紹介します。 コードも公開しています → Github...
View ArticleClik here to view.
再計算でニューラルネット学習時のメモリ消費を減らす
エンジニアの楠本です。深層学習で再計算と呼ばれる手法を使って学習時のメモリ消費を削減する研究や実装に取り組んでいるのでその紹介をしたいと思います。 背景 大規模なニューラルネットの学習ではしばしば誤差逆伝播（以下同様）で GPU のメモリ不足に陥ることがあります。 通常、誤差逆伝播ではパラメータについての勾配を求める際に必要な順伝播の計算結果を (途中の計算結果も含めて)...
View ArticleClik here to view.
化学反応におけるDeep learningの適用
近年様々な分野に対してDeep learningの応用が研究されてきています。 化学の分野でも物性値の予測モデルや、化合物の生成モデルの研究などが盛んになってきています。最近では、有機化合物の合成を行う際に必要な化学反応の予測をDeep learningで行うという試みが行われてきているのでその先行研究サーベイをしました。 サーベイ資料はこちらのSlideshareにアップロードしています。...
View ArticleClik here to view.
視覚からの触覚特性の推定 (ICRA2019 Best Conference Paper Award Finalist)
リサーチャーの高橋城志（Takahashi Kuniyuki）です． 2019年5月にロボティクス分野のトップ会議であるICRA2019が開催されました．そこに投稿された約2900件の論文から3件だけ選ばれるBest Conference Paper Award Finalistを受賞しました．この論文はリサーチャーのJethro...
View ArticleClik here to view.
Chanier Chemistryの大規模グラフのタスクへの拡張
本記事は、2019年インターンシップで勤務した 阿部健信 さんによる寄稿です。 こんにちは。2019年夏季インターンに参加した東京大学の阿部健信です。「Chanier-Chemistryの大規模グラフのタスクへの拡張」というテーマで取り組んだ内容を説明させていただきます。インターン内容のスライドはこちらにアップロードされています。 PFN Summer Internship 2019 /...
View ArticleClik here to view.
Implicit biasによる正則化効果
本記事は，2019年度インターン生だった東京大学 D1 の中島蒼さんによる寄稿です．中島さんはインターンシップにおいて，畳み込みニューラルネットワークの学習について研究を行いました．この記事は，インターンシップ中に文献調査していたimplicit bias に関するレビューとなっています． NN の学習はなぜうまくいくのか 畳み込みニューラルネットワーク（Convolutional NN;...
View ArticleClik here to view.
ニューラルネット3D表現に対する微分可能レンダラー
本記事は、2019年夏のインターンシップに参加された島田直治さんによる寄稿です。 PFNの2019年夏季インターンシップに参加させていただいた東京大学大学院・情報理工学系研究科・修士2年の島田直治 (http://ut25252.starfree.jp/) です。大学ではCG (コンピューター・グラフィックス)...
View ArticleClik here to view.
分散深層学習における耐故障性と可塑性
ImageNetを15分で学習して以来 [1]、Chainerと沢山のGPUを使って深層学習を並列化し、一回の学習に必要な時間を大きく短縮することができるようになりました。その後、ImageNetの学習は深層学習における並列化 ・高速化のデファクト標準ベンチマークとなりました...
View ArticleClik here to view.
深層学習モデルを用いたノンパラメトリック回帰問題に関する最近の研究
図1：ReLU-MLPによる2次関数の近似．このネットワークを用いるとHölder関数を効率的に近似できる（[Yarotsky, 2017]より引用）...
View Article
