SciPy-Optimierer

SciPysoptimizeModul bietet Implementierungen gängiger numerischer Optimierungs- und Gleichungslösungsalgorithmen. Wir können diese Funktionen direkt aufrufen, um praktische Probleme zu lösen, wie das Finden des Minimums oder Maximums einer Funktion oder das Finden der Wurzeln von Gleichungen.

NumPy selbst konzentriert sich hauptsächlich auf Array-Berechnung und Operationen der linearen Algebra. Es bietetWerkzeuge zur Polynomwurzelbestimmung(wie zum Beispielnumpy.roots), bietet jedoch keine generischenumerische Schnittstelle zur Nullstellensuche für nichtlineare Gleichungen.

Zum Beispiel die folgende nichtlineare Gleichung:

x + cos(x)

Für solche Probleme können Sie diescipy.optimize.rootFunktion verwenden, um sie zu lösen. Die beiden zentralen Parameter, die diese Funktion üblicherweise verwendet, sind wie folgt:

  • fun- Die Funktion, die die Gleichung repräsentiert (ein Rückgabewert von 0 zeigt an, dass die Nullstelle gefunden wurde)
  • x0- Die Anfangsschätzung für die Nullstelle

rootDie Funktion gibt ein Ergebnisobjekt zurück (OptimizeResult), das Informationen wie den Lösungsstatus, ob es erfolgreich war, den Funktionswert und die endgültige Lösung enthält.

Die tatsächliche Lösung ist imxAttribut des zurückgegebenen Objekts gespeichert. Beispiel:

Beispiel

Finden Sie diex + cos(x) = 0Nullstelle der Gleichung:

from scipy.optimize import root
from math import cos

def eqn(x):
    return x + cos(x)

myroot = root(eqn, 0)

print(myroot.x)
# Weitere Informationen anzeigen
# print(myroot)

Das Ausführen des obigen Codes erzeugt die folgende Ausgabe:

[-0.73908513]

Wenn Sie das zurückgegebene Objekt direkt ausgeben, können Sie vollständigere Informationen zur Lösung anzeigen:

Beispiel

from scipy.optimize import root
from math import cos

def eqn(x):
    return x + cos(x)

myroot = root(eqn, 0)

print(myroot)

Das Ausführen des obigen Codes erzeugt die folgende Ausgabe:

     fjac: array([[-1.]])
      fun: array([0.])
  message: 'The solution converged.'
     nfev: 9
      qtf: array([-2.66786593e-13])
        r: array([-1.67361202])
   status: 1
  success: True
        x: array([-0.73908513])

Wobei:

  • successGibt an, ob der Algorithmus erfolgreich konvergiert ist
  • messageBeschreibt das Ergebnis des Lösungsprozesses
  • xDie endgültige Wurzel der erhaltenen Gleichung

Minimierungsfunktionen

In Problemen der Mathematik und des Ingenieurwesens kann eine Funktion normalerweise als Kurve dargestellt werden, und die Kurve hat oft Hoch- und Tiefpunkte.

Die Hochpunkte einer Kurve heißenMaxima。

Die Tiefpunkte einer Kurve heißenMinima。

Der höchste Punkt auf der gesamten Kurve wird alsglobales Maximumbezeichnet, während die anderen höheren, aber nicht höchsten Punkte alslokale Maxima bezeichnet werden.。

Ähnlich wird der niedrigste Punkt auf der gesamten Kurve alsglobales Minimumbezeichnet, während die anderen niedrigeren, aber nicht niedrigsten Punkte alslokale Minima bezeichnet werden.。

In SciPy können Sie diescipy.optimize.minimize()-Funktion verwenden, um das Minimum einer Funktion zu finden.

minimize()Die häufig verwendeten Parameter der Funktion werden im Folgenden beschrieben:

  • fun- Die zu minimierende Zielfunktion

  • x0- Die Anfangsschätzung für die unabhängige Variable

  • method- Der Name des verwendeten Optimierungsalgorithmus. Gängige optionale Werte sind:'CG'、'BFGS'、'Newton-CG'、 'L-BFGS-B'、'TNC'、 'COBYLA'、'SLSQP'

  • callback– Eine Callback-Funktion, die nach jeder Iteration aufgerufen wird

  • options– Ein Dictionary weiterer Steuerparameter, zum Beispiel:

    {
        "disp": boolean,  # 是否打印详细的优化过程信息
        "gtol": number    # 梯度收敛容差(部分算法适用)
    }

Beispiel

Verwenden Sie die BFGS-Methode, um die Funktion zu minimierenx² + x + 2:

from scipy.optimize import minimize

def eqn(x):
    return x**2 + x + 2

mymin = minimize(eqn, 0, method='BFGS')

print(mymin)

Das Ausführen des obigen Codes erzeugt die folgende Ausgabe:

       fun: 1.75
  hess_inv: array([[0.50000001]])
       jac: array([0.])
   message: 'Optimization terminated successfully.'
      nfev: 8
       nit: 2
      njev: 4
    status: 0
   success: True
         x: array([-0.50000001])

Aus dem Ergebnis können wir sehen, dass die Funktion beix ≈ -0.5ihr Minimum erreicht, und der entsprechende minimale Funktionswert ist1.75, was mit dem analytischen Ergebnis übereinstimmt.

minimize()Die Funktion unterstützt auch Optimierungsprobleme mit Nebenbedingungen. Sie können Nebenbedingungen über denconstraintsParameter angeben, indem Sie Gleichheits- oder Ungleichheitsbedingungen angeben, was für komplexere praktische Anwendungsszenarien geeignet ist.

Wenn die Zielfunktion nicht direkt differenziert werden kann, können Siemethod='Nelder-Mead'`Nelder-Mead` oder andere Optimierungsalgorithmen, die keine Gradienteninformationen benötigen. Solche Methoden nähern sich der optimalen Lösung schrittweise durch Simplex-Suche.

In der Praxis,successDas Feld `success` gibt an, ob die Optimierung erfolgreich konvergiert ist,funDas Feld `fun` ist der optimale Zielfunktionswert,xund das Feld `x` ist die optimale Lösung.successEs wird empfohlen, immer den Status `success` zu prüfen, um die Zuverlässigkeit der Lösung sicherzustellen.

Fortgeschrittene Wurzelbestimmung

Zusätzlich zu derroot()Funktion, bietet SciPy außerdem diefsolve()Funktion zum Lösen von Gleichungswurzeln. Sie ist prägnanter und eignet sich zum schnellen Lösen einfacher Gleichungen.

Beispiel

Verwenden Siefsolvezu lösenx + cos(x) = 0:

from scipy.optimize import fsolve
from math import cos

def eqn(x):
    return x + cos(x)

result = fsolve(eqn, 0)
print(result)

Das Ausführen des obigen Codes erzeugt die folgende Ausgabe:

[-0.73908513]

fsolve()Es gibt direkt ein Array von Lösungen zurück, währendroot()Letzteres gibt ein Ergebnisobjekt zurück, das mehr Informationen enthält.fsolveErsteres ist bequemer.

Lösen mit mehreren Anfangswerten

Bei Gleichungen mit mehreren Wurzeln kann das Starten von unterschiedlichen Anfangswerten unterschiedliche Wurzeln liefern. Das Folgende löstx² - 4 = 0die beiden Wurzeln:

Beispiel

from scipy.optimize import root

def eqn(x):
    return x**2 - 4

# Aus verschiedenen Anfangswerten lösen
for guess in [-3, 0, 3]:
    result = root(eqn, guess)
    if result.success:
        print(ff"Anfangswert {guess:2d} -> Wurzel: {result.x)

Das Ausführen des obigen Codes erzeugt die folgende Ausgabe:

初始值 -3 -> 根: -2.000000
初始值  0 -> 根:  2.000000
初始值  3 -> 根:  2.000000

Gleichungen mit Parametern lösen

In praktischen Problemen enthalten Gleichungen oft Parameter. Wir können zusätzliche Parameter über dieargsParameter:

Beispiel

from scipy.optimize import root

def eqn(x, a, b):
    return a * x + b * cos(x)

# Löse 2x + cos(x) = 0
result = root(eqn, 0, args=(2, 1))
print(ff"Lösung: {result.x)

Das Ausführen des obigen Codes erzeugt die folgende Ausgabe:

解: -0.450184

Optimierung mit Nebenbedingungen

minimize()Die Funktion unterstützt das Hinzufügen von Nebenbedingungen, einschließlich Gleichheitsnebenbedingungen und Ungleichheitsnebenbedingungen. Hier ist ein Beispiel für ein Optimierungsproblem mit Nebenbedingungen:

Beispiel

Minimierex² + y², mit der Nebenbedingungx + y = 1:

from scipy.optimize import minimize

def objective(x):
    return x[0]**2 + x[1]**2

def constraint(x):
    return x[0] + x[1] - 1

# Nebenbedingungen definieren
con = {'type': 'eq', 'fun': constraint}
result = minimize(objective, [0, 0], constraints=con)

print(ff"Optimale Lösung: x={result.x)
print(ff"Minimalwert: {result.fun:.6f}")

Das Ausführen des obigen Codes erzeugt die folgende Ausgabe:

最优解: x=0.500000, y=0.500000
最小值: 0.500000

Arten von Nebenbedingungen'eq'Gibt eine Gleichheitsnebenbedingung an (die Nebenbedingungsfunktion muss gleich 0 sein),'ineq'Gibt eine Ungleichungsnebenbedingung an (die Nebenbedingungsfunktion muss größer oder gleich 0 sein).

Optimierung mit Schranken

Zusätzlich zu funktionalen Nebenbedingungen können Sie auch denboundsParameter verwenden, um den Wertebereich der unabhängigen Variablen einzuschränken:

Beispiel

Inx ∈ [0, 2]Innerhalb des Bereichs minimieren(x - 1)² + 2:

from scipy.optimize import minimize

def objective(x):
    return (x - 1)**2 + 2

# Schranken definieren
bounds = [(0, 2)]
result = minimize(objective, 0, bounds=bounds)

print(ff"Optimale Lösung: x={result.x)
print(ff"Minimalwert: {result.fun:.6f}")

Das Ausführen des obigen Codes erzeugt die folgende Ausgabe:

最优解: x=1.000000
最小值: 2.000000

Gradientenfreie Optimierung

Wenn die Zielfunktion nicht differenzierbar ist oder ihre Ableitung schwer zu berechnen ist, können Sie einen Optimierungsalgorithmus verwenden, der keine Gradienteninformationen benötigt, wie z. B. dieNelder-MeadMethode:

Beispiel

Verwenden Sie die Nelder-Mead-Methode zum Minimierensin(x) + 0.5*x:

from scipy.optimize import minimize
from math import sin

def objective(x):
    return sin(x) + 0.5 * x

result = minimize(objective, 0, method='Nelder-Mead')
print(ff"Optimale Lösung: x={result.x)
print(ff"Minimalwert: {result.fun:.6f}")
print(ff"Success: {result.success}")

Das Ausführen des obigen Codes erzeugt die folgende Ausgabe:

最优解: x=-1.047198
最小值: -1.523599
是否成功: True

Häufige Probleme und Vorschläge

  • Wählen Sie einen geeigneten Anfangswert- Die Wahl des Anfangswerts hat großen Einfluss auf das Lösungsergebnis. Es wird empfohlen, vor dem Lösen eine einfache Visualisierung oder Analyse der Zielfunktion durchzuführen.
  • Überprüfen Sie den Konvergenzstatus- Überprüfen Sie immer densuccess`success`-Feld, um sicherzustellen, dass der Algorithmus erfolgreich konvergiert ist. Wenn das Lösen fehlschlägt, versuchen Sie, den Anfangswert oder den Optimierungsalgorithmus zu ändern.
  • Wählen Sie einen geeigneten Algorithmus- Für unbeschränkte Probleme,BFGS`BFGS` ist eine gute Standardwahl; bei hochdimensionalen Problemen können Sie `L-BFGS-B` ausprobieren;L-BFGS-Bfür nicht differenzierbare Funktionen verwenden Sie `Nelder-Mead`.Nelder-Mead。
  • Umgang mit mehreren Nullstellen- Bei Problemen mit mehreren Nullstellen wird empfohlen, ausgehend von mehreren unterschiedlichen Anfangswerten zu lösen.
  • Parameterübergabe- Verwenden Sie denargs`args`-Parameter, um zusätzliche Argumente zu übergeben und die Verwendung globaler Variablen zu vermeiden.

Zusammenfassung

SciPysoptimizeModul bietet leistungsstarke Werkzeuge zur Optimierung und zum Lösen von Gleichungen:

  • Nullstellensuche:root()undfsolve()zum Lösen nichtlinearer Gleichungen
  • Unbeschränkte Optimierung:minimize()kombiniert mit demmethod`method`-Parameter zur Implementierung mehrerer Algorithmen
  • Optimierung unter Nebenbedingungen: über denconstraints`constraints`-Parameter zum Hinzufügen von Gleichheits- und Ungleichheitsnebenbedingungen
  • Grenzbeschränkungen: verwendenboundsParameter begrenzt den Bereich der Variablenwerte
  • Gradientenfreie Methoden:Nelder-MeadAnwendbar auf nicht differenzierbare Funktionen

Nach Beherrschung dieser grundlegenden Funktionen können Leser weiter erkundenoptimizeWeitere Funktionen des Moduls, wie Kurvenanpassung (curve_fit), globale Optimierung (basinhopping、differential_evolution) und weitere fortgeschrittene Funktionen.

Weitere Erweiterungen