SciPy オプティマイザー

SciPy のoptimizeモジュールは、一般的な数値最適化と方程式求解アルゴリズムの実装を提供します。これらの関数を直接呼び出して、関数の最小値や最大値の探索、方程式の根の求解などの実問題を解決できます。

NumPy 自体は主に配列計算と線形代数演算に重点を置いており、多項式の求根のためのツール(例えば、numpy.roots)を提供していますが、一般的な非線形方程式の数値求根インターフェース

は提供していません。

x + cos(x)

例えば、次の非線形方程式:scipy.optimize.rootこのような問題には、次の関数を使用できます:

  • fun関数を使用して解を求めます。この関数でよく使われる2つの主要パラメータは次のとおりです:
  • x0- 方程式を表す関数(戻り値が0のとき、方程式の根が見つかったことを示します)

root- 根の初期推定値OptimizeResult関数は結果オブジェクト(

)を返します。xこれには、求解状態、成功したかどうか、関数値、最終解などの情報が含まれます。

例

例x + cos(x) = 0方程式の根を

from scipy.optimize import root
from math import cos

def eqn(x):
    return x + cos(x)

myroot = root(eqn, 0)

print(myroot.x)
求める:
# print(myroot)

# 詳細情報を見る

[-0.73908513]

上記のコードを実行すると、出力結果は次のようになります:

例

from scipy.optimize import root
from math import cos

def eqn(x):
    return x + cos(x)

myroot = root(eqn, 0)

print(myroot)

例

     fjac: array([[-1.]])
      fun: array([0.])
  message: 'The solution converged.'
     nfev: 9
      qtf: array([-2.66786593e-13])
        r: array([-1.67361202])
   status: 1
  success: True
        x: array([-0.73908513])

上記のコードを実行すると、出力結果は次のようになります:

  • successここで:
  • messageアルゴリズムが正常に収束したかどうかを示します
  • x求解プロセスの結果の説明

最小化関数

最小化関数

数学や工学の問題では、関数は通常、曲線として表されます。曲線にはたいてい高点と低点が存在します。曲線の高点は。

最大値曲線の低点は。

最小値曲線全体の中で最も高い点は大域的最大値、。

その他の高いが最高ではない点は局所的最大値同様に、曲線全体の中で最も低い点は大域的最小値。

、scipy.optimize.minimize()その他の低いが最低ではない点は

minimize()局所的最小値

  • funSciPy では、

  • x0関数を使用して関数の最小値を求めることができます。

  • methodこの関数でよく使われるパラメータの説明は次のとおりです:'CG'、'BFGS'、'Newton-CG'、 'L-BFGS-B'、'TNC'、 'COBYLA'、'SLSQP'

  • callback- 最小化したい目的関数

  • options- 変数の初期推定値

    {
        "disp": boolean,  # 是否打印详细的优化过程信息
        "gtol": number    # 梯度收敛容差(部分算法适用)
    }

例

- 各反復の終了時に呼び出されるコールバック関数x² + x + 2:

from scipy.optimize import minimize

def eqn(x):
    return x**2 + x + 2

mymin = minimize(eqn, 0, method='BFGS')

print(mymin)

- その他の制御パラメータの辞書。例:

       fun: 1.75
  hess_inv: array([[0.50000001]])
       jac: array([0.])
   message: 'Optimization terminated successfully.'
      nfev: 8
       nit: 2
      njev: 4
    status: 0
   success: True
         x: array([-0.50000001])

例x ≈ -0.5BFGS 法を使って関数を最小化する1.75上記のコードを実行すると、出力結果は次のようになります:

minimize()結果からわかるように、関数はconstraintsのところで最小値を取得し、

対応する最小関数値はmethod='Nelder-Mead'、

これは解析計算の結果と一致します。successこの関数は制約付き最適化問題もサポートしており、fun次のパラメータを使用してx等式または不等式の制約条件を追加できます。successより複雑な実際の応用シーンに適しています。

方程式の求根(発展)

などの勾配情報を必要としない最適化アルゴリズムを選択できます。root()このような方法は、シンプレックス探索によって最適解に徐々に近づきます。fsolve()実際の使用では、

例

フィールドは最適な目的関数値です。fsolveフィールドは最適解です。常に確認することをお勧めします。x + cos(x) = 0:

from scipy.optimize import fsolve
from math import cos

def eqn(x):
    return x + cos(x)

result = fsolve(eqn, 0)
print(result)

状態を確認して、求解結果が信頼できることを確認してください。

[-0.73908513]

fsolve()方程式の求根(発展)root()に加えて、fsolve関数のほかに、SciPy は

方程式の根を求めるための関数も提供しています。

その使用法はより簡潔で、簡単な方程式を素早く解くのに適しています。x² - 4 = 0例

例

from scipy.optimize import root

def eqn(x):
    return x**2 - 4

を解きます:
for guess in [-3, 0, 3]:
    result = root(eqn, guess)
    if result.success:
        print(f上記のコードを実行すると、出力結果は次のようになります:)

解の配列を直接返します。一方、

初始值 -3 -> 根: -2.000000
初始值  0 -> 根:  2.000000
初始值  3 -> 根:  2.000000

より多くの情報を含む結果オブジェクトを返します。解だけが必要な簡単なシーンでは、

の方が便利です。args複数の初期値による求解

例

from scipy.optimize import root

def eqn(x, a, b):
    return a * x + b * cos(x)

以下は
result = root(eqn, 0, args=(2, 1))
print(fの2つの根を求める例です:)

例

解: -0.450184

制約付き最適化

minimize()"初期値 {guess:2d} -> 根: {result.x

例

パラメータ付き方程式の求解x² + y²実際の問題では、方程式にはしばしばパラメータが含まれます。次のパラメータを使ってx + y = 1:

from scipy.optimize import minimize

def objective(x):
    return x[0]**2 + x[1]**2

def constraint(x):
    return x[0] + x[1] - 1

パラメータを目的関数に渡すことができます:
con = {'type': 'eq', 'fun': constraint}
result = minimize(objective, [0, 0], constraints=con)

print(f例)
print(f# 2x + cos(x) = 0 を解く)

"解: {result.x

最优解: x=0.500000, y=0.500000
最小值: 0.500000

上記のコードを実行すると、出力結果は次のようになります:'eq'制約付き最適化'ineq'この関数は、等式制約と不等式制約を含む制約条件の追加をサポートしています。

境界制約付き最適化

例bounds最小化:

例

にx ∈ [0, 2]# 制約を定義(x - 1)² + 2:

from scipy.optimize import minimize

def objective(x):
    return (x - 1)**2 + 2

"最適解: x={result.x
bounds = [(0, 2)]
result = minimize(objective, 0, bounds=bounds)

print(f"最小値: {result.fun:.6f}")
print(f上記のコードを実行すると、出力結果は次のようになります:)

制約の種類

最优解: x=1.000000
最小值: 2.000000

勾配なし最適化

は不等式制約(制約関数が0以上でなければならない)を表します。Nelder-Mead境界制約付き最適化

例

パラメータで変数の値の範囲を制限できます:sin(x) + 0.5*x:

from scipy.optimize import minimize
from math import sin

def objective(x):
    return sin(x) + 0.5 * x

result = minimize(objective, 0, method='Nelder-Mead')
print(f例)
print(f範囲内で最小化)
print(f# 境界を定義)

"最適解: x={result.x

最优解: x=-1.047198
最小值: -1.523599
是否成功: True

よくある質問とアドバイス

  • 上記のコードを実行すると、出力結果は次のようになります:勾配なし最適化
  • 目的関数が微分不可能であるか、導関数の計算が難しい場合は、勾配情報を必要としない最適化アルゴリズムを使用できます。例えばsuccess法:
  • 例Nelder-Mead 法を使って最小化するBFGS"最適解: x={result.xL-BFGS-B"最小値: {result.fun:.6f}"Nelder-Mead。
  • "成功したか: {result.success}"上記のコードを実行すると、出力結果は次のようになります:
  • よくある質問とアドバイス適切な初期値を選ぶargs- 初期値の選択は求解結果に大きく影響します。求解前に目的関数を簡単に可視化または分析することをお勧めします。

まとめ

- 常にoptimizeフィールドを確認して、アルゴリズムが正常に収束したことを確認してください。求解に失敗した場合は、初期値や最適化アルゴリズムを変更してみてください。

  • 適切なアルゴリズムを選ぶ:root()とfsolve()- 制約のない問題には、
  • は良いデフォルトの選択肢です。:minimize()高次元の問題には、次を試すことができます:method。
  • 微分不可能な関数には、複数の根の問題への対応constraints- 複数の根が存在する問題では、複数の異なる初期値から求解することをお勧めします。
  • パラメータの受け渡し- 次を使用してboundsパラメータは変数の値の範囲を制限する
  • 勾配なし法:Nelder-Mead微分不可能な関数に適用可能

これらの基本機能を習得した後、読者はさらに探索することができるoptimizeモジュールのさらなる機能、例えば曲線フィッティング(curve_fit)basinhopping、differential_evolution)などの高度な機能。

その他の拡張