SciPy-Optimierer
SciPysoptimizeModul bietet Implementierungen gängiger numerischer Optimierungs- und Gleichungslösungsalgorithmen. Wir können diese Funktionen direkt aufrufen, um praktische Probleme zu lösen, wie das Finden des Minimums oder Maximums einer Funktion oder das Finden der Wurzeln von Gleichungen.
NumPy selbst konzentriert sich hauptsächlich auf Array-Berechnung und Operationen der linearen Algebra. Es bietetWerkzeuge zur Polynomwurzelbestimmung(wie zum Beispielnumpy.roots), bietet jedoch keine generischenumerische Schnittstelle zur Nullstellensuche für nichtlineare Gleichungen.
Zum Beispiel die folgende nichtlineare Gleichung:
x + cos(x)
Für solche Probleme können Sie diescipy.optimize.rootFunktion verwenden, um sie zu lösen. Die beiden zentralen Parameter, die diese Funktion üblicherweise verwendet, sind wie folgt:
- fun- Die Funktion, die die Gleichung repräsentiert (ein Rückgabewert von 0 zeigt an, dass die Nullstelle gefunden wurde)
- x0- Die Anfangsschätzung für die Nullstelle
rootDie Funktion gibt ein Ergebnisobjekt zurück (OptimizeResult), das Informationen wie den Lösungsstatus, ob es erfolgreich war, den Funktionswert und die endgültige Lösung enthält.
Die tatsächliche Lösung ist imxAttribut des zurückgegebenen Objekts gespeichert. Beispiel:
Beispiel
Finden Sie diex + cos(x) = 0Nullstelle der Gleichung:
from math import cos
def eqn(x):
return x + cos(x)
myroot = root(eqn, 0)
print(myroot.x)
# Weitere Informationen anzeigen
# print(myroot)
Das Ausführen des obigen Codes erzeugt die folgende Ausgabe:
[-0.73908513]
Wenn Sie das zurückgegebene Objekt direkt ausgeben, können Sie vollständigere Informationen zur Lösung anzeigen:
Beispiel
from math import cos
def eqn(x):
return x + cos(x)
myroot = root(eqn, 0)
print(myroot)
Das Ausführen des obigen Codes erzeugt die folgende Ausgabe:
fjac: array([[-1.]])
fun: array([0.])
message: 'The solution converged.'
nfev: 9
qtf: array([-2.66786593e-13])
r: array([-1.67361202])
status: 1
success: True
x: array([-0.73908513])
Wobei:
- successGibt an, ob der Algorithmus erfolgreich konvergiert ist
- messageBeschreibt das Ergebnis des Lösungsprozesses
- xDie endgültige Wurzel der erhaltenen Gleichung
Minimierungsfunktionen
In Problemen der Mathematik und des Ingenieurwesens kann eine Funktion normalerweise als Kurve dargestellt werden, und die Kurve hat oft Hoch- und Tiefpunkte.
Die Hochpunkte einer Kurve heißenMaxima。
Die Tiefpunkte einer Kurve heißenMinima。
Der höchste Punkt auf der gesamten Kurve wird alsglobales Maximumbezeichnet, während die anderen höheren, aber nicht höchsten Punkte alslokale Maxima bezeichnet werden.。
Ähnlich wird der niedrigste Punkt auf der gesamten Kurve alsglobales Minimumbezeichnet, während die anderen niedrigeren, aber nicht niedrigsten Punkte alslokale Minima bezeichnet werden.。
In SciPy können Sie diescipy.optimize.minimize()-Funktion verwenden, um das Minimum einer Funktion zu finden.
minimize()Die häufig verwendeten Parameter der Funktion werden im Folgenden beschrieben:
-
fun- Die zu minimierende Zielfunktion
-
x0- Die Anfangsschätzung für die unabhängige Variable
-
method- Der Name des verwendeten Optimierungsalgorithmus. Gängige optionale Werte sind:
'CG'、'BFGS'、'Newton-CG'、'L-BFGS-B'、'TNC'、'COBYLA'、'SLSQP' -
callback– Eine Callback-Funktion, die nach jeder Iteration aufgerufen wird
-
options– Ein Dictionary weiterer Steuerparameter, zum Beispiel:
{ "disp": boolean, # 是否打印详细的优化过程信息 "gtol": number # 梯度收敛容差(部分算法适用) }
Beispiel
Verwenden Sie die BFGS-Methode, um die Funktion zu minimierenx² + x + 2:
def eqn(x):
return x**2 + x + 2
mymin = minimize(eqn, 0, method='BFGS')
print(mymin)
Das Ausführen des obigen Codes erzeugt die folgende Ausgabe:
fun: 1.75
hess_inv: array([[0.50000001]])
jac: array([0.])
message: 'Optimization terminated successfully.'
nfev: 8
nit: 2
njev: 4
status: 0
success: True
x: array([-0.50000001])
Aus dem Ergebnis können wir sehen, dass die Funktion beix ≈ -0.5ihr Minimum erreicht, und der entsprechende minimale Funktionswert ist1.75, was mit dem analytischen Ergebnis übereinstimmt.
minimize()Die Funktion unterstützt auch Optimierungsprobleme mit Nebenbedingungen. Sie können Nebenbedingungen über denconstraintsParameter angeben, indem Sie Gleichheits- oder Ungleichheitsbedingungen angeben, was für komplexere praktische Anwendungsszenarien geeignet ist.
Wenn die Zielfunktion nicht direkt differenziert werden kann, können Siemethod='Nelder-Mead'`Nelder-Mead` oder andere Optimierungsalgorithmen, die keine Gradienteninformationen benötigen. Solche Methoden nähern sich der optimalen Lösung schrittweise durch Simplex-Suche.
In der Praxis,successDas Feld `success` gibt an, ob die Optimierung erfolgreich konvergiert ist,funDas Feld `fun` ist der optimale Zielfunktionswert,xund das Feld `x` ist die optimale Lösung.successEs wird empfohlen, immer den Status `success` zu prüfen, um die Zuverlässigkeit der Lösung sicherzustellen.
Fortgeschrittene Wurzelbestimmung
Zusätzlich zu derroot()Funktion, bietet SciPy außerdem diefsolve()Funktion zum Lösen von Gleichungswurzeln. Sie ist prägnanter und eignet sich zum schnellen Lösen einfacher Gleichungen.
Beispiel
Verwenden Siefsolvezu lösenx + cos(x) = 0:
from math import cos
def eqn(x):
return x + cos(x)
result = fsolve(eqn, 0)
print(result)
Das Ausführen des obigen Codes erzeugt die folgende Ausgabe:
[-0.73908513]
fsolve()Es gibt direkt ein Array von Lösungen zurück, währendroot()Letzteres gibt ein Ergebnisobjekt zurück, das mehr Informationen enthält.fsolveErsteres ist bequemer.
Lösen mit mehreren Anfangswerten
Bei Gleichungen mit mehreren Wurzeln kann das Starten von unterschiedlichen Anfangswerten unterschiedliche Wurzeln liefern. Das Folgende löstx² - 4 = 0die beiden Wurzeln:
Beispiel
def eqn(x):
return x**2 - 4
# Aus verschiedenen Anfangswerten lösen
for guess in [-3, 0, 3]:
result = root(eqn, guess)
if result.success:
print(ff"Anfangswert {guess:2d} -> Wurzel: {result.x)
Das Ausführen des obigen Codes erzeugt die folgende Ausgabe:
初始值 -3 -> 根: -2.000000 初始值 0 -> 根: 2.000000 初始值 3 -> 根: 2.000000
Gleichungen mit Parametern lösen
In praktischen Problemen enthalten Gleichungen oft Parameter. Wir können zusätzliche Parameter über dieargsParameter:
Beispiel
def eqn(x, a, b):
return a * x + b * cos(x)
# Löse 2x + cos(x) = 0
result = root(eqn, 0, args=(2, 1))
print(ff"Lösung: {result.x)
Das Ausführen des obigen Codes erzeugt die folgende Ausgabe:
解: -0.450184
Optimierung mit Nebenbedingungen
minimize()Die Funktion unterstützt das Hinzufügen von Nebenbedingungen, einschließlich Gleichheitsnebenbedingungen und Ungleichheitsnebenbedingungen. Hier ist ein Beispiel für ein Optimierungsproblem mit Nebenbedingungen:
Beispiel
Minimierex² + y², mit der Nebenbedingungx + y = 1:
def objective(x):
return x[0]**2 + x[1]**2
def constraint(x):
return x[0] + x[1] - 1
# Nebenbedingungen definieren
con = {'type': 'eq', 'fun': constraint}
result = minimize(objective, [0, 0], constraints=con)
print(ff"Optimale Lösung: x={result.x)
print(ff"Minimalwert: {result.fun:.6f}")
Das Ausführen des obigen Codes erzeugt die folgende Ausgabe:
最优解: x=0.500000, y=0.500000 最小值: 0.500000
Arten von Nebenbedingungen'eq'Gibt eine Gleichheitsnebenbedingung an (die Nebenbedingungsfunktion muss gleich 0 sein),'ineq'Gibt eine Ungleichungsnebenbedingung an (die Nebenbedingungsfunktion muss größer oder gleich 0 sein).
Optimierung mit Schranken
Zusätzlich zu funktionalen Nebenbedingungen können Sie auch denboundsParameter verwenden, um den Wertebereich der unabhängigen Variablen einzuschränken:
Beispiel
Inx ∈ [0, 2]Innerhalb des Bereichs minimieren(x - 1)² + 2:
def objective(x):
return (x - 1)**2 + 2
# Schranken definieren
bounds = [(0, 2)]
result = minimize(objective, 0, bounds=bounds)
print(ff"Optimale Lösung: x={result.x)
print(ff"Minimalwert: {result.fun:.6f}")
Das Ausführen des obigen Codes erzeugt die folgende Ausgabe:
最优解: x=1.000000 最小值: 2.000000
Gradientenfreie Optimierung
Wenn die Zielfunktion nicht differenzierbar ist oder ihre Ableitung schwer zu berechnen ist, können Sie einen Optimierungsalgorithmus verwenden, der keine Gradienteninformationen benötigt, wie z. B. dieNelder-MeadMethode:
Beispiel
Verwenden Sie die Nelder-Mead-Methode zum Minimierensin(x) + 0.5*x:
from math import sin
def objective(x):
return sin(x) + 0.5 * x
result = minimize(objective, 0, method='Nelder-Mead')
print(ff"Optimale Lösung: x={result.x)
print(ff"Minimalwert: {result.fun:.6f}")
print(ff"Success: {result.success}")
Das Ausführen des obigen Codes erzeugt die folgende Ausgabe:
最优解: x=-1.047198 最小值: -1.523599 是否成功: True
Häufige Probleme und Vorschläge
- Wählen Sie einen geeigneten Anfangswert- Die Wahl des Anfangswerts hat großen Einfluss auf das Lösungsergebnis. Es wird empfohlen, vor dem Lösen eine einfache Visualisierung oder Analyse der Zielfunktion durchzuführen.
-
Überprüfen Sie den Konvergenzstatus- Überprüfen Sie immer den
success`success`-Feld, um sicherzustellen, dass der Algorithmus erfolgreich konvergiert ist. Wenn das Lösen fehlschlägt, versuchen Sie, den Anfangswert oder den Optimierungsalgorithmus zu ändern. -
Wählen Sie einen geeigneten Algorithmus- Für unbeschränkte Probleme,
BFGS`BFGS` ist eine gute Standardwahl; bei hochdimensionalen Problemen können Sie `L-BFGS-B` ausprobieren;L-BFGS-Bfür nicht differenzierbare Funktionen verwenden Sie `Nelder-Mead`.Nelder-Mead。 - Umgang mit mehreren Nullstellen- Bei Problemen mit mehreren Nullstellen wird empfohlen, ausgehend von mehreren unterschiedlichen Anfangswerten zu lösen.
-
Parameterübergabe- Verwenden Sie den
args`args`-Parameter, um zusätzliche Argumente zu übergeben und die Verwendung globaler Variablen zu vermeiden.
Zusammenfassung
SciPysoptimizeModul bietet leistungsstarke Werkzeuge zur Optimierung und zum Lösen von Gleichungen:
- Nullstellensuche:
root()undfsolve()zum Lösen nichtlinearer Gleichungen - Unbeschränkte Optimierung:
minimize()kombiniert mit demmethod`method`-Parameter zur Implementierung mehrerer Algorithmen - Optimierung unter Nebenbedingungen: über den
constraints`constraints`-Parameter zum Hinzufügen von Gleichheits- und Ungleichheitsnebenbedingungen - Grenzbeschränkungen: verwenden
boundsParameter begrenzt den Bereich der Variablenwerte - Gradientenfreie Methoden:
Nelder-MeadAnwendbar auf nicht differenzierbare Funktionen
Nach Beherrschung dieser grundlegenden Funktionen können Leser weiter erkundenoptimizeWeitere Funktionen des Moduls, wie Kurvenanpassung (curve_fit), globale Optimierung (basinhopping、differential_evolution) und weitere fortgeschrittene Funktionen.