经过之前的学习，相信大家已经对运筹学的网络计划的内容有了一定的了解，接下来小编将带你学习新一章——非线性规划的内容，让我们先来了解一下非线性规划的诞生和发展历程，然后共同走近非线性规划领域的代表人物——库恩和塔克，去领略他们精彩的一生。

 

运筹说建构知识体系，解析学习要点运  筹  优  化  领  域  教  学  媒  体

视频课程已上线！！!

欢迎大家关注同名抖音和哔哩哔哩账号！

经过之前的学习，相信大家已经对运筹学的网络计划的内容有了一定的了解，接下来小编将带你学习新一章——非线性规划的内容，让我们先来了解一下非线性规划的诞生和发展历程，然后共同走近非线性规划领域的代表人物——库恩和塔克，去领略他们精彩的一生

01非线性规划的发展起源非线性规划是一种优化问题，它的目标函数和约束条件包含非线性的数学表达式它的发展历史可以追溯到20世纪早期，但其正式诞生可以追溯到1940年代末和1950年代初期的工作首先，我们先来回顾一下线性规划是如何诞生的，在此基础上再去探究非线性规划的起源。

线性规划（Linear Program）的萌芽出现于第二次世界大战前后1939年前苏联数学家康托洛维奇（Leonid V. Kantorovich）出版了著作《生产组织和计划中的数学方法》，在书中提出了线性规划模型，用来解决下料问题和运输问题，这标志着线性规划的诞生。

随着线性规划领域的不断深耕与发展，人们开始意识到线性规划方法的局限性，即它只适用于目标函数和约束条件是线性的问题

《Theory of Games and Economic Behavior》书籍封面随着这一发现，人们开始寻找解决非线性规划问题的方法1951年，美国数学家乔治·丹齐格（George Dantzig）在一篇论文中提出了非线性规划问题的第一个有效方法，称为“单纯形法”。

这种方法扩展了求解线性规划问题的思路，并在此基础上得出了可分离规划和二次规划的n种解法丹齐格提出的单纯形法具有划时代的意义，也为后续各种非线性规划问题的求解方法的提出和发展奠定了基础同年，哈罗德·库恩 (Harold Kuhn)和阿尔伯特·W·塔克（Albert W. Tucker）发表了一篇关于最优性条件（即库恩塔克条件）的论文，标志着非线性规划的诞生。

非线性规划模型示例02非线性规划的发展历程☆初期阶段（20世纪早期-1950年代）在非线性规划问题的发展初期，主要集中在问题的形式化和求解方法的探索上其中一些重要的事件如下：1917年，俄国数学家A.D.亚历山德罗夫（A. D. Александров）提出了非线性规划问题，他将非线性规划问题转化为求解最大值或最小值的问题。

1939年，安斯特尼（Hestenes）和斯蒂菲尔（Stiefel）发表了一篇论文，提出了梯度投影法，这是非线性规划中最早的求解方法之一该方法通过投影操作将约束条件转化为线性形式，从而得到一个可求解的问题。

1951年，乔治·丹齐格（George Dantzig）提出了线性规划的单纯性算法，为优化问题的求解提供了更为高效的方法1951年，库恩(H.W.Kuhn)和阿尔伯特·W·塔克（Albert W. Tucker）发表了一篇关于最优性条件（后来称为库恩－塔克条件）的论文，是非线性规划正式诞生的一个重要标志。

☆研究进展（1960年代-1970年代）在这一时期，非线性规划问题的研究进展迅速，主要集中在理论分析和算法的改进上其中一些重要的事件如下：1960年代，库恩（Kuhn）和塔克（Tucker）提出了对偶理论，将线性规划的理论扩展到了非线性规划中。

他们发现非线性规划的对偶问题可以通过求解原始问题的拉格朗日函数最小化问题来得到，从而得到原始问题的最优解1963年，鲍威尔（Powell）提出了逐步优化算法，该算法是目前最有效的非线性规划优化方法之一该算法通过迭代地求解一系列线性规划子问题来逼近非线性规划问题的最优解。

1978年，洛克菲勒（Rockafellar）发表了《凸分析》，该书成为凸优化的标志性著作凸优化是非线性规划中一个重要的子领域，该书的出版对凸优化理论和算法的发展做出了重要贡献☆新的进展（1980年代-1990年代）。

在这一时期，随着计算机技术的发展，非线性规划问题的求解能力得到了进一步的提高其中一些重要的事件如下：1983年，格瑞万克（Griewank）和科利斯（Corliss）发表了一篇论文，介绍了自适应正则化方法，该方法用于求解非线性规划中的约束问题。

该方法通过将罚函数参数调整为自适应值，从而避免了罚函数参数选取不当导致的数值不稳定问题1987年，诺赛达尔（Nocedal）和赖特（Wright）发表了《数值优化》，该书成为了现代优化算法的重要参考书该书涵盖了各种优化算法的理论基础和实现方法，包括非线性规划的优化算法。

1988年，鲍威尔（Powell）发表了一篇论文，提出了新的信赖域算法，该算法通过迭代求解一系列局部二次近似模型来逼近非线性规划问题的最优解这个算法适用于具有复杂结构和多个局部最优解的问题1990年代，人工神经网络和遗传算法等新的算法开始应用于非线性规划问题的求解。

这些算法具有一定的鲁棒性和全局搜索能力，可以用于求解具有复杂结构和非凸约束的非线性规划问题☆现代发展（21世纪）在21世纪，随着计算机性能的不断提高和优化算法的发展，非线性规划问题的求解能力得到了进一步的提高。

其中一些重要的事件如下：2001年，诺赛达尔（Nocedal）和赖特（Wright）合著了《数值优化》，该书第二版更新了现代优化算法的理论和应用，涵盖了更多的数值算法和计算实例2006年，鲍伊德（Boyd）和范登贝格（Vandenberghe）合著了《凸优化》，该书介绍了凸优化的理论和算法，并将其应用于机器学习和信号处理等领域。

2014年，有关学者提出了一种新的非线性规划算法，称为两阶段方法该方法通过将非线性规划问题转化为两个子问题，一个是最优性子问题，一个是可行性子问题，从而在不需要求解KKT条件的情况下得到非线性规划问题的最优解。

2020年，Google发表了一篇论文，介绍了他们开发的一个基于机器学习的非线性规划求解器该求解器使用神经网络对非线性规化问题进行建模和求解，通过学习已有问题实例的解决方法，从而更快速、准确地求解新问题。

注：KKT最优化条件是卡罗需（Karush）以及库恩（Kuhn）和塔克（Tucker）先后独立发表出来的，但在库恩（Kuhn）和塔克（Tucker）发表之后才逐渐受到重视，因此多数情况下记载成库恩-塔克条件(Kuhn-Tucker conditions)。

KKT(Karush-Kuhn-Tucker)条件，是非线性规划领域里最重要的理论成果之一，是确定某点为极值点的必要条件对于凸规划，KKT点就是优化极值点(充分必要条件)03非线性规划领域的风云人物简单了解过非线性规划的起源和发展历程后，想必各位读者朋友对上文提到的对非线性规划的诞生与发展作出重大贡献的两位著名科学家——库恩和塔克感到十分好奇，下面小编将带着大家一起去了解一下库恩和塔克。

库恩与纳什（左一库恩）哈罗德·W·库恩（Harold W. Kuhn），1925年7月29日-2014年7月2日）是美国著名数学家，主要研究领域是优化理论、博弈论和组合数学等方面生平纪事哈罗德·库恩 (Harold Kuhn) 于1925年出生于加利福尼亚州圣莫尼卡。

尽管1944年至1946年在美国陆军服役，但他仍于1947年从加州理工学院毕业，之后他进入普林斯顿大学攻读数学研究生于1948年获得硕士学位，然后获得博士学位毕业后，他在普林斯顿大学任教并继续从事数学研究，直到1959年转到普林斯顿高等研究院。

他在普林斯顿高等研究院工作了大约30年，并在此期间成为数学、经济学和计算机科学领域的重要人物

阿尔伯特·W·塔克（Albert W. Tucker）（1905年11月28日-1995年1月25日）是一位美国著名的数学家、运筹学家和经济学家他是20世纪50年代最杰出的运筹学家之一，被誉为“运筹学之父”。

生平纪事阿尔伯特·塔克（Albert William Tucker），加拿大人，1905年出生于加拿大，1928年获得多伦多大学学士，1932年获得普林斯顿大学博士，博士导师是所罗门·莱夫谢茨1932-33年他在哈佛大学和芝加哥大学做研究，1933年他开始长期在普林斯顿大学数学系任教，1974年退休，1995年去世。

他担任普林斯顿大学数学系的系主任长达20年1961-62年他担任美国数学协会（MAA）主席在晚年，他继续从事运筹学和组合优化等领域的研究，并且与其他著名的数学家，如约翰·冯·诺伊曼（John von Neumann）和乔治·达内（George Dantzig）合作。

阿尔伯特·W·塔克于1995年去世，享年80岁他留下了许多具有重要意义的数学贡献和著作，对运筹学和组合优化领域产生了深远的影响库恩与塔克说起库恩与塔克的关系，就不得不提到一个关键人物——约翰·冯·诺伊曼（John von Neumann），两人都是约翰·冯·诺伊曼的学生，也就是师兄弟。

有趣的是，美国著名数学家、经济学家、《美丽心灵》男主角原型约翰·福布斯·纳什（John Forbes Nash）是库恩一生的朋友和同事，而塔克又是纳什在普林斯顿大学的研究生论文导师库恩与塔克师出同门，两人虽相差20岁，却痴迷于相同的研究领域，他们受到老师约翰·冯·诺伊曼的影响，将博弈论和优化理论相结合，开创了博弈论在经济学和管理学等领域的应用。

在非线性规划领域，也提出了具有划时代意义的KKT条件，标志着非线性规划的正式诞生库恩与塔克在自己的专业领域不断深耕，学术成果在相关领域影响深远，两人也一起获得了1980年约翰·冯·诺依曼理论奖，名垂青史。

看到这里，大家是不是对非线性规划的诞生和发展过程以及做出突出贡献的名家有了更深入的了解呢？下面就让我们继续探索非线性规划世界的其他内容吧！参考来源http://wkv4.ym11.cn/bchttp://wkvg.ym11.cn/b8

https://zh.wikipedia.org/wiki/%E9%98%BF%E5%B0%94%E4%BC%AF%E7%89%B9%C2%B7W%C2%B7%E5%A1%94%E5%85%8B作者 | 葛彦泽 张巧英

责编 | 陈梦审核 | 徐小峰YUNCHOUSHUO 

往期推荐

运筹说 第94期｜论文速读之基于关键路...运筹说 第93期 | 算法介绍之网络计划技术运筹说 第92期｜爱思维尔"高被引学者"运筹说 第91期 | 网络计划经典例题讲解运筹说 第90期 | 网络计划-图解评审法

运筹说 第89期 | 网络计划-网络计划的优化运筹说 第88期 | 新春送祝福，运筹说全体...运筹说 第87期 | 网络计划-时间参数的计算运筹说 第86期｜运筹说2022年度总结运筹说 第85期 | 只有初中学历的数学家

运筹说 第84期 | 网络计划-网络图的基本概念运筹说 第83期 | 我国网络计划奠基人——华罗庚运筹说 第82期 | 算法介绍之图与网络分析（二）运筹说 第81期 | 图与网络分析经典例题讲解运筹说 第80期｜最小费用最大流问题

运筹说 第79期｜论文速读之双目标岛屿旅行商问题运筹说 第78期 | 最大流问题运筹说 第77期 | 算法介绍之图与网络分析（一）运筹说 第76期 | 最短路问题运筹说 第75期 | 数学家欧拉也玩跨界

运筹说 第74期 | 图与网络分析基本知识梳理运筹说 第73期 | 图论创始人“数学之王”——欧拉运筹说 第72期 | 算法介绍之动态规划（二）运筹说 第71期｜论文速读之时间背包问题运筹说 第70期 | 算法介绍之动态规划（一）

运筹说 第69期 | 动态规划经典例题讲解运筹说 第68期｜2022年最新影响因子正式发布...运筹说 第67期 | 动态规划模型的建立与求解运筹说 第66期 | 贝尔曼也有“演讲恐惧症”？运筹说 第65期 | 动态规划的基本概念和基本原理

运筹说 第64期丨动态规划奠基人——理查...运筹说 第63期｜论文速读之无人机车辆路径问题运筹说 第62期 | 算法介绍之整数规划（二）运筹说 第61期 | 整数规划经典例题讲解运筹说 第60期 | 0-1型整数规划和指派问题

运筹说 第59期 | 不喜欢数学的数学家？运筹说 第58期 | 算法介绍之整数规划 （一）运筹说 第57期 | 整数规划的分支定界法运筹说 第56期 | 整数规划的数学模型&割平面法运筹说 第55期丨整数规划先驱——Ralp

...运筹说 第54期 | 目标规划的灵敏度分析运筹说 第53期 | 智能优化算法介绍之粒子群算法运筹说 第52期 |论文速读之搜救资源...运筹说 第51期 | 目标规划经典例题讲解运筹说 第50期 | 图解法与单纯形法求解目标规划

运筹说 第49期 | 走近“数理经济学之父—帕累托”运筹说 第48期 | 新春送祝福，运筹说全...运筹说 第47期 | 算法介绍之目标规划运筹说 第46期 | 目标规划-数学模型运筹说 第45期 | 

多目标规划发展及其提出者...运筹说 第44期 | 2021感谢有你！运筹说 第43期 | 运输问题硬核知识点梳理—运...运筹说 第42期 | 算法介绍之运输问题（二）运筹说 第41期 | 运输问题硬核知识点梳理—表

...运筹说 第40期 | 论文速读之囚犯运输问题运筹说 第39期 | 运输问题经典例题讲解运筹说 第38期 | “迟到”的毕业证-趣闻轶事（三）运筹说 第37期 | 快看经管类2021年全球高被...

运筹说 第36期 | 算法介绍之运输问题运筹说 第35期 | 运输问题硬核知识点梳理—运输...运筹说 第34期 | 运输问题发展应用及领域风云人物运筹说 第33期 | 参数线性规划运筹说 第32期 | 对偶理论与灵敏度分析—灵

...运筹说 第31期 | 对偶理论与灵敏度分析—对偶...运筹说 第30期 | 算法介绍之对偶单纯形法运筹说 第29期 | 对偶理论与灵敏度分析—影子价格运筹说 第28期 | 论文速读之环境经济学中...

运筹说 第27期 | 重磅统计！2021中国高校...运筹说 第26期 | 2022泰晤士世界大学...运筹说 第25期 | 对偶理论经典例题讲解运筹说 第24期 | 博弈论里有只“大象”？-趣...运筹说 第23期 | 对偶理论与灵敏度分析—对偶

...运筹说 第22期 | 对偶理论及其提出者—约...运筹说 第21期 | 算法介绍之列生成算法运筹说 第20期 | 算法介绍之单纯形法运筹说 第19期 | 线性规划经典例题讲解运筹说 第18期 | 快报-ABS最新版出炉，快看

...运筹说 第17期 | 论文速读之线性规划运筹说 第16期 | 线性规划硬核知识点...运筹说 第15期 | 趣闻轶事（一）运筹说 第14期 | 算法介绍之图解法运筹说 第13期 | 线性规划硬核知识点梳理—数

...运筹说 第12期 | 佳片推荐之 “心灵捕手”运筹说 第11期 | 线性规划之父 — George ...运筹说 第10期 | 敲黑板！学习运筹学，怎么能...运筹说 第9期 | 运筹会议，学术盛宴！群英...

运筹说 第8期 | 巨额奖金？大厂offer？都在这...运筹说 第7期 | 重磅！学习运筹学不可不看...运筹说 第6期 | 运筹学自媒体的“百家争鸣”运筹说 第5期 | 运筹学江湖的形成运筹说 第4期

 | 掌握运筹学软件，走遍天下都不怕！运筹说 第3期 | 学好运筹学，找个工作还不简单？！运筹说 第2期 | 运筹学知识学习路线图运筹说 第1期 | 知识体系

免责声明：本站所有信息均搜集自互联网，并不代表本站观点，本站不对其真实合法性负责。如有信息侵犯了您的权益，请告知，本站将立刻处理。联系QQ：1640731186