非線性系統

在物理科学中，如果描述某个系统的方程其输入（自变数）与输出（应变数）不成正比，则称为非线性系统。由于自然界中大部分的系统本质上都是非线性的，因此许多工程师、物理学家、数学家和其他科学家对于非线性问题的研究都极感兴趣。非线性系统和线性系统最大的差别在于，非线性系统可能会导致混沌、不可预测，或是不直观的结果。
一般来说，非线性系统的行为在数学上是用一组非线性联立方程来描述的。非线性方程里含有由未知数构成的非一次多项式；换句话说，一个非线性方程并不能写成其未知数的线性组合。而非线性微分方程，则是指方程里含有未知函数及其导函数的乘幂不等于一的项。在判定一个方程是线性或非线性时，只需考虑未知数（或未知函数）的部分，不需要检查方程中是否有已知的非线性项。例如在微分方程中，若所有的未知函数、未知导函数皆为一次，即使出现由某个已知变数所构成的非线性函数，我们仍称它是一个线性微分方程。
由于非线性方程非常难解，因此我们常常需要以线性方程来近似一个非线性系统（线性近似）。这种近似对某范围内的输入值（自变数）是很准确的，但线性近似之后反而会无法解释许多有趣的现象，例如孤波、混沌和奇点。这些奇特的现象，也常常让非线性系统的行为看起来违反直觉、不可预测，或甚至混沌。虽然“混沌的行为”和“随机的行为”感觉很相似，但两者绝对不能混为一谈；也就是说，一个混沌系统的行为绝对不是随机的。
举例来说，许多天气系统就是混沌的，微小的扰动即可导致整个系统产生各种不同的复杂结果。就目前的科技而言，这种天气的非线性特性即成了长期天气预报的绊脚石。
某些书的作者以非线性科学来代指非线性系统的研究，但也有人不以为然：
“在科学领域里使用‘非线性科学’这个词，就如同把动物学里大部分的研究对象称作‘非大象动物’一样可笑。”
——斯塔尼斯拉夫．乌拉姆

非线性递回关系

若将一个序列前项和后项之间的关系定义成某个非线性映射，则称为非线性递回关系，例如单峰映射和侯世达数列。由非线性递回关系构成的非线性离散模型，在实际应用中包括NARMAX（Nonlinear AutoRegressive Moving Average with eXogenous inputs，外部输入非线性自回归移动平均）模型、非线性系统辨识和分析程序等。这些方法可以用来分析时域、频域和时空域（spatio-temporal domains）里复杂的非线性行为。

非线性微分方程

若描述一个系统的微分方程是非线性的，则称此系统为非线性系统。含有非线性微分方程的问题，系统彼此间的表现差异极大，而每个问题的解法或是分析方法也都不一样。非线性微分方程的例子如流体力学的纳维-斯托克斯方程，以及生物学的洛特卡－沃尔泰拉方程。
解非线性问题最大的难处在于找出未知的解：一般来说，我们无法用已知的解来拼凑出其他满足微分方程的未知解；而在线性的系统里，却可以利用一组线性独立的解，透过叠加原理组合出此系统的通解。例如满足狄利克雷边界条件的一维热传导问题，其解（时间的函数）可以写成许多不同频率之正弦函数的线性组合，而这也让它的解很弹性、具有很大的变化空间。通常我们可以找到非线性微分方程的特解，但由于此时叠加原理并不适用，故无法利用这些特解来建构出其他新的解。

偏微分方程

研究非线性偏微分方程最常见也最基础的方法就是变数变换，变换以后的方程会较简单，甚至有可能会变成线性方程。有时候，变数变换后的方程可能会变成一个或两个以上的常微分方程（如同用分离变数法解偏微分方程），不管这些常微分方程可不可解，都能帮助我们了解这个系统的行为。
另一个流体力学和热力学里常用的方法（但数学性较低），是利用尺度分析来简化一个较一般性的方程，使它仅适用在某个特定的边界条件上。例如，在描述一个圆管内一维层流的暂态时，我们可以把非线性的纳维-斯托克斯方程简化成一个线性偏微分方程；这时候尺度分析提供了两个特定的边界条件：一维和层流。
其他分析非线性偏微分方程的方法还有特征线法，以及上述分析常微分方程时常用的方法。