関数の平滑性に関する命題について解説する．

表題の通りです．以下にまとめました．

フロベニウスノルム 行列 $\mathbf{A}\in\mathbb{R}^{m\times n}$ に対して，その全成分の二乗和に対してルートをとったものをフロベニウスノルムといい，$\|\mathbf{A}\|_F$ で表す． また，次に述べるように $\|\mathbf{A}\|_F$ はトレースを用いて次のよ…

tl;dr Dual ascent method を振り返る Augmented Lagrangians method の概要について述べる toy problem に対して Augmented Lagrangians method を適用した結果について述べる モチベ 前回の記事では，等式制約付き最適化問題に対するラグランジュ双対問題…

tl;dr 共役関数を定義した後，等式制約付き最適化問題に対するラグランジュ双対問題を導出する 双対問題を解く "dual ascent method" について概説する toy problem に対して dual ascent method を適用した結果について述べる 共役関数 定義 真凸関数 $f\co…

tl;dr この記事では，以下の関数 $$ f(\mathbf{x}) = \sum_{i=1}^{n}\min \left\{x_i, (A\mathbf{x}+\mathbf{b})_i\right\} $$ が凹関数（Wikipedia）であることを見ていく．ここで，$A$ は適当な大きさの実行列であり，$\mathbf{b}$ は適当な大きさの実ベク…

二次関数の凸性と係数行列の半正定値性の関係について

フルランクな行列をランダムに生成する手法を教えて頂きました: https://t.co/mp7HaadpwZランダムなゼロでない固有値を対角にならべてから、ランダムなユニタリー行列で相似変換すれば良さそうです。ランダムなユニタリー行列はランダムなエルミート行列から…

CVXPY による制約付き最適化問題を求解

『非線形最適化の基礎』の pp.67 定理 2.50 に対する証明の補足です． ご指摘等ございましたら，@mirucaaura までご連絡ください． 参考文献 非線形最適化の基礎作者:福島 雅夫朝倉書店Amazon

『非線形最適化の基礎』の pp.47 定理 2.30 に対する証明の補足です． ご指摘等ございましたら，@mirucaaura までご連絡ください． 参考文献 非線形最適化の基礎作者:福島 雅夫朝倉書店Amazon

GW 期間中ということで時間が取れたので，最近勉強していた選択公理についての記事を Mathlog に書いてみました．記事は以下になります： mathlog.info 今後書くときのために，今回ハマったポイントについてメモしておきたいと思います． \labelおよび\refコ…

はじめに 問題設定 勾配降下法 近接勾配法 近接作用素 おわりに Refference 更新ログ この記事は「数理最適化 Advent Calendar 2020」の24日目の記事です． 23 日目は @Atsushi_twi さんによる 数理最適化初心者のための(線形)割当問題の概要とscipy.optimiz…

リーマン多様体上の最適化問題を，PythonのPymanoptソルバーを用いて実装する．

はじめに 相補性問題の定式化 相補性問題の再定式化 相補性問題に対するアルゴリズム アルゴリズム実装における注意点 B 劣微分 $V \in \partial_B \Phi(x)$ の導出 勾配ベクトル $\nabla\Psi(x)$ の導出 Python による実装 実装: 関数の定義 実装: 相補性問…

はじめに 半正定値行列のトレースの非負性 証明 半正定値行列のトレースに関する性質 証明 おわりに はじめに 本記事では，以下の二つの命題に対する証明について述べる： 半正定値行列のトレースは非負である． 半正定値行列のトレースが $0$ であるならば…