Pseudo Theory of Everything

データサイエンス初心者物理学徒の奮闘記

【論文紹介】The Lottery Ticket Hypothesis

社内の論文紹介で使用したスライドを公開します。

読んだ論文はこちらです。

arxiv.org

かなり有名な論文なので既にご存じの方も多いと思いますが、せっかくなので公開させていただきます。

続きを読む

【論文紹介】E(n) Equivariant Graph Neural Networks

対称性が課された機械学習の理論に興味があり、なんとなく探していたところ、最近出た論文に読みやすそうなものがあったので読んでみました。次の論文を紹介したいと思います。

arxiv.org

続きを読む

Juliaの自動微分パッケージ Zygote の紹介

Zygoteパッケージ

Juliaの数値微分パッケージであるZygoteパッケージを簡単に紹介します。
Julia/Zygoteでは以前取り扱ったPyTorchの自動微分に比べ非常に簡単に少ないコード量で同等のことが実行できます。

続きを読む

PyTorch Tutorials : 60 MINUTE BLITZ/自動微分モジュール

AUTOGRAD: AUTOMATIC DIFFERENTIATION

PyTorchをはじめとするニューラルネットワークのライブラリ(のおそらく全て)は自動微分の機能を持ち合わせています。PyTorchも例外ではなく、自動微分モジュール autograd が存在します。今回のチュートリアルはその autograd がどのように使われ、どのようなことができるのかに触れ、次記事でニューラルネットワークの学習に進みます。

続きを読む

PyTorch Tutorials : 60 MINUTE BLITZ/PyTorchでのテンソルの扱い

What is PyTorch?

ディープラーニングを行う多くの場面で多次元のテンソルが利用されます。PyTorchではそのテンソルをどのように扱われているのかに触れていきます。

続きを読む