m***w
发帖数: 404 | 1 网上搜索了好多，也尝试了很多，感觉都不行，很多太复杂，不知道怎么用。
我用matlab，只想解一个非常简单的问题：
U = a^T*K^(-1)*a
想要minimize U, K是N*N的connivance matrix，由一些hyperparameters决定；a是N*1
的vector，已知。想要通过optimize U来求解最优的hyperparameter。
我希望的是函形式是 [U, hyperparameters]= BFGS(func)。
包子求。 |
t******i
发帖数: 35 | 2 如果把K表示成hyperparameter的函数: K ＝f(hyperparameters)，不知道f 是什么形
式的，不然没法知道知否保证得到最优解。 |
m***w
发帖数: 404 | 3 K里面每一项都是kernel func，所以肯定没法求全局最优。但我只要local optima即可 |
t******i
发帖数: 35 | 4 那样的话，我感觉除非能够把问题近似活着转化成Convex Optimization，一般也就是
用迭代类的解法，像你说的BFGS，Gaussian-Newton等。很多算法就是找个比较好的
initial values, 或者多找一些initial values，找最好的local optimum. |
m***w
发帖数: 404 | 5 K里面每一项都是kernel func，所以肯定没法求全局最优。但我只要local optima即可 |
m***w
发帖数: 404 | 6 你说的对，我只要local optima就行，任意一个就行。我自己也可以写，但发现有些不
知道为什么的错误，所以就想求成熟的解nonconvex的package或者程序
【在 t******i 的大作中提到】
: 那样的话，我感觉除非能够把问题近似活着转化成Convex Optimization，一般也就是
: 用迭代类的解法，像你说的BFGS，Gaussian-Newton等。很多算法就是找个比较好的
: initial values, 或者多找一些initial values，找最好的local optimum.
|
t******i
发帖数: 35 | |
m***w
发帖数: 404 | |
t******i
发帖数: 35 | 9 试试看 Python 的 BFGS（ http://docs.scipy.org/doc/scipy/reference/optimize.html）咋样。如果也是很慢，估计是问题本身复杂，只有再试试C++的 BFGS 的库 。 |
m***w
发帖数: 404 | 10 嗯 谢谢支持 请收包子
【在 t******i 的大作中提到】
: 试试看 Python 的 BFGS（ http://docs.scipy.org/doc/scipy/reference/optimize.html）咋样。如果也是很慢，估计是问题本身复杂，只有再试试C++的 BFGS 的库 。
|
