論文実装ICLR2021(Spotlight)のVery Deep VAEの実装を眺めてみた
階層的VAEの簡単な説明をした後、非常に深い層の階層的なVAEで鮮明な画像を出力できるVery Deep VAE(ICLR2021・Spotlight)の実装をざっくりと解説する。
2021-05
論文実装
論文紹介ICLR2021のデノイジングの論文の紹介
ICLR2021のデノイジングの論文(Fully Unsupervised Diversity Denoising with Convolutional Variational Autoencoders)の紹介。ノイズ画像のみを訓練画像とし、VAEの枠組みを利用してノイズモデルを学習させることで、確率的に複数のクリーンな画像を提示することを可能にした。
論文実装DatasetGAN（超簡略ver）を実装した話
DatasetGAN（超簡略ver）を実装してみたブログ。DatasetGANはStyleGANのAdaIN層の特徴を活用し、セグメンテーションデータセットを無限生成するが、普通のGANを使って、画像とラベルを無限生成することは半教師あり学習の手法として有望なのかを確かめる。
論文紹介CVPR2021(oral)の論文であるDatasetGANの紹介
CVPR2021のoral論文である、DatasetGAN: Efficient Labeled Data Factory with Minimal Human Effortの紹介。StyleGANの特徴マップから抽出した画素ごとの特徴を入力、少数の合成画像の画素ごとのアノテーションを教師とし、MLPを学習することで、「無限」のデータセットとそのアノテーションを生成する。
論文紹介Federated Learning（連合学習）のサーベイ論文の紹介
Federated Learning（連合学習）の定義を確認したあと、6つの要素（データの配置のされ方、機械学習モデル、プライバシー機構、通信構造、連合のスケール、連合のモチベーション）をもとにした連合学習の分類について詳しくみていく
論文紹介ICLR2021の自己教師あり分布外検知の論文の紹介
SSD: A Unified Framework for Self-Supervised Outlier Detectionの解説記事。自己教師あり学習の手法の一つである対照学習で特徴空間の学習を行い、k-meansを用いて分布内データのクラスタを推定し、特徴空間におけるマハラノビス距離を計算することで、分布内データのクラスラベルを使わずに分布外検知を行う。ICLR2021でアクセプトされた論文。
論文実装PySyftを使ってMNISTを分類する
Federated Learning(FL)は、プライバシーの観点からデータを外に持ち出せないときに、複数のデータの所有者が協力して機械学習モデルを訓練する方法である。PySyftはFederated Learningのための一つのライブラリであり、PytorchやTensorflowと一緒に利用可能である。今回はPySyftの簡単な使い方を説明する。
PRML混合ガウス分布のEMアルゴリズムによる推定
PRMLのEMアルゴリズムを実装
PRML混合ガウス分布の変分ベイズ法による推定
PRMLの変分ベイズ法の実装
論文実装VAEを利用した教師なし・半教師ありクラスタリング
VAEを利用した教師なし・半教師ありクラスタリングを実装した。