f**********d
发帖数: 4960 | 1 f(x,y)求极值
x,y都是scalar那当然好说
fxx fyy-fxy fxy是jacobian行列式为正时有极值
现在问题是如果y是一个矩阵 如何判定？ |
d*****u
发帖数: 17243 | 2 原理是一样的吧。
x, y都是scalar的话，你这个实际上已经是对二维向量求导了。
如果y是矩阵，可以展开成nx1的向量计算，
不影响结果。
【在 f**********d 的大作中提到】
: f(x,y)求极值
: x,y都是scalar那当然好说
: fxx fyy-fxy fxy是jacobian行列式为正时有极值
: 现在问题是如果y是一个矩阵 如何判定？
|
d**s
发帖数: 4741 | |
s***h
发帖数: 487 | |
n***y
发帖数: 2730 | 5 那不就是个n维极值么，你把变量排一方块儿和排成一顺儿没差别。看Hesssian Matrix
, 正定是极小，负定极大，其他为鞍面或degenerated cases. 另外那个矩阵不叫
Jacobian矩阵，教Hessian矩阵。 Jacobian矩阵不是干这使的。 |
d*****u
发帖数: 17243 | 6 Hessian是二次导数了，可以用来判定极大或极小，但不能用来求极值本身。求极值还
是要用Jacobian
Matrix
【在 n***y 的大作中提到】
: 那不就是个n维极值么，你把变量排一方块儿和排成一顺儿没差别。看Hesssian Matrix
: , 正定是极小，负定极大，其他为鞍面或degenerated cases. 另外那个矩阵不叫
: Jacobian矩阵，教Hessian矩阵。 Jacobian矩阵不是干这使的。
|
s***h
发帖数: 487 | 7 老邢这网站回帖的经常是乱码 。。。 不过免费的就算了 。。。 当然军版讨论数学是
图个啥 。。。 |
m**********e
发帖数: 12525 | 8 你懂个屁
楼主这种情况，涉及全局极值和局域极值
至于全局极值，涉及函数ergodicity
没那么简单
Matrix
【在 n***y 的大作中提到】
: 那不就是个n维极值么，你把变量排一方块儿和排成一顺儿没差别。看Hesssian Matrix
: , 正定是极小，负定极大，其他为鞍面或degenerated cases. 另外那个矩阵不叫
: Jacobian矩阵，教Hessian矩阵。 Jacobian矩阵不是干这使的。
|
d**s
发帖数: 4741 | 9 jacobian换元才用
【在 d*****u 的大作中提到】
: Hessian是二次导数了，可以用来判定极大或极小，但不能用来求极值本身。求极值还
: 是要用Jacobian
:
: Matrix
|
s***h
发帖数: 487 | 10 你们走火入魔了 。。。
: 你懂个屁
: 楼主这种情况，涉及全局极值和局域极值
: 至于全局极值，涉及函数ergodicity
: 没那么简单
: Matrix
【在 m**********e 的大作中提到】
: 你懂个屁
: 楼主这种情况，涉及全局极值和局域极值
: 至于全局极值，涉及函数ergodicity
: 没那么简单
:
: Matrix
|
|
|
m**********e
发帖数: 12525 | 11 这智商
jacobian就是切空间性质，知道了jacobian就知道了局域极值
【在 d**s 的大作中提到】
: jacobian换元才用
|
m**********e
发帖数: 12525 | 12 走什么魔
多元函数全局极值，解析上毫无通用办法，数值上一般假定ergodicity后用mont carlo
模拟退火,或遗传算法，等等。。多如牛毛
【在 s***h 的大作中提到】
: 你们走火入魔了 。。。
:
:
: 你懂个屁
:
: 楼主这种情况，涉及全局极值和局域极值
:
: 至于全局极值，涉及函数ergodicity
:
: 没那么简单
:
: Matrix
:
|
d**s
发帖数: 4741 | 13 废话 谁不知道要先求一阶导
【在 m**********e 的大作中提到】
: 这智商
: jacobian就是切空间性质，知道了jacobian就知道了局域极值
|
s***h
发帖数: 487 | 14 这些主要是纯数纯物理有用。工业界都不太用，除非没有其他的办法。
好处是对任何函数（满足一定属性）都使用。
但工业界很少解“任何函数”问题。基本上都是 application specific 算法。
: 走什么魔
: 多元函数全局极值，解析上毫无通用办法，数值上一般假定ergodicity后用mont
carlo
: 模拟退火,或遗传算法，等等。。多如牛毛
【在 m**********e 的大作中提到】
: 走什么魔
: 多元函数全局极值，解析上毫无通用办法，数值上一般假定ergodicity后用mont carlo
: 模拟退火,或遗传算法，等等。。多如牛毛
|
n***y
发帖数: 2730 | 15 你丫就扯淡吧。你知道ergodic的定义是什么吗？ergodicity, weak mixing, strong
mixing有什么差别？
【在 m**********e 的大作中提到】
: 你懂个屁
: 楼主这种情况，涉及全局极值和局域极值
: 至于全局极值，涉及函数ergodicity
: 没那么简单
:
: Matrix
|
n***y
发帖数: 2730 | 16 另外你举个ergodic不mixing得例子？傻逼！你爷爷得dissertation就是ergodic
theory
carlo
【在 m**********e 的大作中提到】
: 走什么魔
: 多元函数全局极值，解析上毫无通用办法，数值上一般假定ergodicity后用mont carlo
: 模拟退火,或遗传算法，等等。。多如牛毛
|
s***h
发帖数: 487 | 17 你们玩的太深奥 。。。 俺最近比较忙，缺乏体力 。。。
: 另外你举个ergodic不mixing得例子？傻逼！你爷爷得dissertation就是ergodic
: theory
: carlo
【在 n***y 的大作中提到】
: 另外你举个ergodic不mixing得例子？傻逼！你爷爷得dissertation就是ergodic
: theory
:
: carlo
|
n***y
发帖数: 2730 | 18 别听他瞎扯，不着边际。
ergodic
【在 s***h 的大作中提到】
: 你们玩的太深奥 。。。 俺最近比较忙，缺乏体力 。。。
:
:
: 另外你举个ergodic不mixing得例子？傻逼！你爷爷得dissertation就是ergodic
:
: theory
:
: carlo
:
|
s***h
发帖数: 487 | 19 其实这是个哲学问题，也就是工业界求可行解，到底是用逻辑严密干净的解决方案，还
是 come on whatever works 就上 。。。更上一层次，人工智能的智力，本身也可能
就是不那么逻辑严密干净的 。。。 忘了那个讨论相关学术名词了 。。。
: 别听他瞎扯，不着边际。
: ergodic
【在 n***y 的大作中提到】
: 别听他瞎扯，不着边际。
:
: ergodic
|
s***h
发帖数: 487 | 20 应该是 meta heuristics 领域的哲学问题 。。。
: 其实这是个哲学问题，也就是工业界求可行解，到底是用逻辑严密干净的解决方
案，还
: 是 come on whatever works 就上 。。。更上一层次，人工智能的智力，本身
也可能
: 就是不那么逻辑严密干净的 。。。 忘了那个讨论相关学术名词了 。。。
【在 s***h 的大作中提到】
: 其实这是个哲学问题，也就是工业界求可行解，到底是用逻辑严密干净的解决方案，还
: 是 come on whatever works 就上 。。。更上一层次，人工智能的智力，本身也可能
: 就是不那么逻辑严密干净的 。。。 忘了那个讨论相关学术名词了 。。。
:
:
: 别听他瞎扯，不着边际。
:
: ergodic
:
|
|
|
s***h
发帖数: 487 | 21 查了一下，坑爹术语没查出来，忘了。算了不找了。
: 应该是 meta heuristics 领域的哲学问题 。。。
: 案，还
: 也可能
【在 s***h 的大作中提到】
: 应该是 meta heuristics 领域的哲学问题 。。。
:
:
: 其实这是个哲学问题，也就是工业界求可行解，到底是用逻辑严密干净的解决方
: 案，还
:
: 是 come on whatever works 就上 。。。更上一层次，人工智能的智力，本身
: 也可能
:
: 就是不那么逻辑严密干净的 。。。 忘了那个讨论相关学术名词了 。。。
:
|
h*****0
发帖数: 1 | |
f**********d
发帖数: 4960 | 23 笔误了，是Hessian matrix。
不过你没说出我问题的答案，应该是找Hessian matrix's determinant, which is a
matrix here, is positive semidefinite or not. If it is then there is an
extremity.
Matrix
【在 n***y 的大作中提到】
: 那不就是个n维极值么，你把变量排一方块儿和排成一顺儿没差别。看Hesssian Matrix
: , 正定是极小，负定极大，其他为鞍面或degenerated cases. 另外那个矩阵不叫
: Jacobian矩阵，教Hessian矩阵。 Jacobian矩阵不是干这使的。
|
s***h
发帖数: 487 | 24 Hessian matrix positive definite 说明是 convex function，只有一个极致。
但 Nonconvex function 也可以有极致，还可以很多。
: 笔误了，是Hessian matrix。
: 不过你没说出我问题的答案，应该是找Hessian matrix's determinant, which
is a
: matrix here, is positive semidefinite or not. If it is then there is
an
: extremity.
: Matrix
【在 f**********d 的大作中提到】
: 笔误了，是Hessian matrix。
: 不过你没说出我问题的答案，应该是找Hessian matrix's determinant, which is a
: matrix here, is positive semidefinite or not. If it is then there is an
: extremity.
:
: Matrix
|
s***h
发帖数: 487 | 25 Nonconvex function 可以有极致，也可以没有，俗话说：inconclusive 。。。 如果
没有记错
: Hessian matrix positive definite 说明是 convex function，只有一个极致。
: 但 Nonconvex function 也可以有极致，还可以很多。
: is a
: an
【在 s***h 的大作中提到】
: Hessian matrix positive definite 说明是 convex function，只有一个极致。
: 但 Nonconvex function 也可以有极致，还可以很多。
:
:
: 笔误了，是Hessian matrix。
:
: 不过你没说出我问题的答案，应该是找Hessian matrix's determinant, which
: is a
:
: matrix here, is positive semidefinite or not. If it is then there is
: an
:
: extremity.
:
: Matrix
|
s***h
发帖数: 487 | 26 不过人生的乐趣在于 explore new things 。。。 Linear algebra 都是已经被古人类
嚼烂大街的 。。。 够用就行，不够用的 Google 之 。。。
: Nonconvex function 可以有极致，也可以没有，俗话说：inconclusive 。。。
如果
: 没有记错
【在 s***h 的大作中提到】
: Nonconvex function 可以有极致，也可以没有，俗话说：inconclusive 。。。 如果
: 没有记错
:
:
: Hessian matrix positive definite 说明是 convex function，只有一个极致。
:
: 但 Nonconvex function 也可以有极致，还可以很多。
:
: is a
:
: an
:
|
f**********d
发帖数: 4960 | 27 你弄错了，梯度为0，hessian不正定是鞍点，说明此驻点不是极值点。
hessian矩阵是对应一维函数时在驻点的二阶导数的*绝对值*，所以hessian正定包括
convex和concave两种情况。
which
【在 s***h 的大作中提到】
: Hessian matrix positive definite 说明是 convex function，只有一个极致。
: 但 Nonconvex function 也可以有极致，还可以很多。
:
:
: 笔误了，是Hessian matrix。
:
: 不过你没说出我问题的答案，应该是找Hessian matrix's determinant, which
: is a
:
: matrix here, is positive semidefinite or not. If it is then there is
: an
:
: extremity.
:
: Matrix
|
s***h
发帖数: 487 | 28 Optimization theory 里把 convex 和 concave 都笼统叫 convex，因为 concave 给
upside down 翻过来还是男上女下 convex，trivial difference。
既不是 convex 也不是 concave 叫 nonconvex 。
如果我没有记错。
: 你弄错了，梯度为0，hessian不正定是鞍点，说明此驻点不是极值点。
: hessian矩阵是对应一维函数时在驻点的二阶导数的*绝对值*，所以hessian正定
包括
: convex和concave两种情况。
: which
【在 f**********d 的大作中提到】
: 你弄错了，梯度为0，hessian不正定是鞍点，说明此驻点不是极值点。
: hessian矩阵是对应一维函数时在驻点的二阶导数的*绝对值*，所以hessian正定包括
: convex和concave两种情况。
:
: which
|
f**********d
发帖数: 4960 | 29 okay，这个我知道。
但是hessian不正定，那是鞍点，无极值。
给
【在 s***h 的大作中提到】
: Optimization theory 里把 convex 和 concave 都笼统叫 convex，因为 concave 给
: upside down 翻过来还是男上女下 convex，trivial difference。
: 既不是 convex 也不是 concave 叫 nonconvex 。
: 如果我没有记错。
:
:
: 你弄错了，梯度为0，hessian不正定是鞍点，说明此驻点不是极值点。
:
: hessian矩阵是对应一维函数时在驻点的二阶导数的*绝对值*，所以hessian正定
: 包括
:
: convex和concave两种情况。
:
: which
|
s***h
发帖数: 487 | 30 另外的分歧，你说的可能是对单个点而言，我说的是对一个区间或者整个函数域而言。
: 你弄错了，梯度为0，hessian不正定是鞍点，说明此驻点不是极值点。
: hessian矩阵是对应一维函数时在驻点的二阶导数的*绝对值*，所以hessian正定
包括
: convex和concave两种情况。
: which
【在 f**********d 的大作中提到】
: okay，这个我知道。
: 但是hessian不正定，那是鞍点，无极值。
:
: 给
|
|
|
s***h
发帖数: 487 | 31 我们可能是单点跟区间的分歧 。。。 其实我都记不得了，以前为写程序时看过浅说
。。。 现在也不干那事了 。。。
: okay，这个我知道。
: 但是hessian不正定，那是鞍点，无极值。
: 给
【在 f**********d 的大作中提到】
: okay，这个我知道。
: 但是hessian不正定，那是鞍点，无极值。
:
: 给
|
s***h
发帖数: 487 | 32 曾经有段时间为了写程序，突击了 linear algebra 。
但后来才知道上班大部分时间在搞 metaheuristics for application-specific input
problem/function/data set 。。。 也就是这世上没多少完美而单纯的村姑，人生的
乐趣在于如何啪啪外表清纯内心风骚的系花，如何啪系花啪得投其所好 。。。
: 我们可能是单点跟区间的分歧 。。。 其实我都记不得了，以前为写程序时看过
浅说
: 。。。 现在也不干那事了 。。。
【在 s***h 的大作中提到】
: 我们可能是单点跟区间的分歧 。。。 其实我都记不得了，以前为写程序时看过浅说
: 。。。 现在也不干那事了 。。。
:
:
: okay，这个我知道。
:
: 但是hessian不正定，那是鞍点，无极值。
:
: 给
:
|
m**********e
发帖数: 12525 | 33 这些人根本没从事过相关工作，仅夏季吧说
一个多维函数，就像一座山，可以有复杂的地形，可以有local min, local max,
global min，global max，
如果你需要寻找global min/max,光靠切空间的稳定性理论是无法达到目标的，因为你
不知道
什么地方还有个min或者max
所以目前都是用数值方法，最常用的是用monte carlo进行退火，当然沿用了物理学中
的假定，
退火足够缓慢终归能将物质置于最低能级稳定态，这是最常用也是最可靠的办法
但是这些数值方法都是假定ergodicity后得到的，特别是函数复杂，计算规模巨大的情
况下，
真的是不是符合ergodicity,谁都不知道
which
【在 s***h 的大作中提到】
: Hessian matrix positive definite 说明是 convex function，只有一个极致。
: 但 Nonconvex function 也可以有极致，还可以很多。
:
:
: 笔误了，是Hessian matrix。
:
: 不过你没说出我问题的答案，应该是找Hessian matrix's determinant, which
: is a
:
: matrix here, is positive semidefinite or not. If it is then there is
: an
:
: extremity.
:
: Matrix
|
