「統計学関連なんでもあり」の過去ログ--- 045

No.15623　複雑な制約条件の最適化問題　　【SVM勉強中です】　2011/11/04(Fri) 22:43

KPCAで得た各クラスの類似度を基にSVMで最大マージンを得たいのですが，SVMの最適化問題で，制約条件をどう目的関数に反映させればいいのか悩んでいます。

目的関数は　
Q（W，Z）＝1／2×クラスAの各軸の重みの2乗＋クラスの総和×クラスA以外の全教師ベクトルの総和×｛（マージンと誤認識のトレードオフパラメータ×全教師ベクトル数）／（クラス数の2倍×クラスA以外の入力データ）｝×クラスA以外のスラック変数の2乗

制約条件は
（クラスA以外のベクトルの重みWの転置×クラスA以外のベクトルの類似度）－（クラスAの重みWの転置×クラスAの類似度）＝1－クラスA以外のスラック変数Z

です。
あれこれ考えているのですが知識が足りず，目的関数にどうやって制約条件を反映させればいいのか，ヒントでも教えて頂けると助かります。
どうぞよろしくお願い致します。

No.15624　Re: 複雑な制約条件の最適化問題　　【ひの】　2011/11/05(Sat) 08:38

制約条件を，WまたはZを表す陽関数の形式で表現できれば，それを目的関数に代入すれば良いのではないですか。

No.15626　Re: 複雑な制約条件の最適化問題　　【SVM勉強中です】　2011/11/06(Sun) 16:38

ひの　様

教えてくださって，ありがとうございました。
大変助かりました。
制約条件を
　W＝
　Z＝
で表現して目的関数に代入すれば良い，ということですね。
陽関数という言葉も初めて知りました。
ありがとうございました。