怎么用python梯度下降法求极小值

1036
2024/5/25 17:18:15
栏目: 编程语言
开发者测试专用服务器限时活动,0元免费领,库存有限,领完即止! 点击查看>>

要使用 Python 实现梯度下降法求极小值,首先需要定义一个目标函数和它的梯度。然后编写梯度下降算法来迭代更新参数,直到满足停止条件(比如迭代次数达到一定值或者参数变化小于某个阈值)为止。

以下是一个简单的示例代码,以求解目标函数 f(x) = x^2 的极小值为例:

import numpy as np

# 定义目标函数和梯度函数
def f(x):
    return x**2

def gradient(x):
    return 2*x

# 梯度下降算法
def gradient_descent(learning_rate, max_iter, epsilon):
    x = 10  # 初始值
    for i in range(max_iter):
        grad = gradient(x)
        x_new = x - learning_rate * grad
        if abs(x_new - x) < epsilon:
            break
        x = x_new
    return x

# 设置超参数
learning_rate = 0.1
max_iter = 1000
epsilon = 1e-5

# 调用梯度下降算法求解极小值
result = gradient_descent(learning_rate, max_iter, epsilon)
print("极小值为:", result)
print("目标函数在极小值处的取值为:", f(result))

在上面的代码中,我们首先定义了目标函数 f(x) = x^2 和它的梯度函数 gradient(x) = 2*x。然后编写了梯度下降算法 gradient_descent,在每一次迭代中更新参数 x,直到满足停止条件为止。最后调用 gradient_descent 函数求解目标函数的极小值。

你可以根据实际需求修改目标函数、梯度函数、超参数等来求解不同的函数的极小值。希望对你有帮助!

辰迅云「云服务器」,即开即用、新一代英特尔至强铂金CPU、三副本存储NVMe SSD云盘,价格低至29元/月。点击查看>>

推荐阅读: 如何在Python中创建和使用类