数学基础
12神经网络中的数学基础：梯度下降和反向传播
[toc] 神经网络中的数学基础：梯度下降和反向传播 随着人工智能和机器学习的发展，神经网络已经成为了许多应用中的主要技术。然而，神经网络的训练和优化仍然是一个具有挑战性的问题，其中涉及到许多数学基础和算法。在这篇文章中，我们将讨论神经网络中的两个关键概念：梯度下降和反向传播。 ## 1. 引言 神 ......
组合数学基础（卡特兰数）
引例1、（姐妹洗碗问题） 思考过程： 横坐标表示姐姐洗完的碗的个数，纵坐标表示妹妹摞碗的个数，前提条件为妹妹摞碗的个数不能超过姐姐洗完的碗的个数，要求摞法的方案数实际上是求从坐标（0，0）到坐标（5，5）的所有满足条件的路径数。 引例2、（进出栈问题） 思考过程： 本质上和姐妹洗碗问题一致，都是求方 ......
机器学习数学基础之信息论
信息论背后的原理是：从不太可能发生的事件中能学到更多的有用信息。 发生可能性较大的事件包含较少的信息 发生可能性较小的事件包含较多的信息 独立事件包含额外的信息 对于事件 $\mathbf x=x$，定义自信息self-information为： $$ I(x)=-\log P(x) $$ 自信息仅 ......
AcWing算法基础课 数学知识（二）
一、欧拉函数 公式及其简单的证明 欧拉定理 若$a$与$n$互质，则有$a^{\phi(n)} \equiv 1 (mod \quad n)$ 简单证明 定义求欧拉函数 时间复杂度$O(\sqrt{n})$ int phi(int n) { int res = n; for (int i = 2; ......
深度学习的数学基础: 函数/参数优化/矩阵运算/向量化/卷积运算/张量运算
1. 函数与导数 函数是一种映射关系，将一个或多个自变量的取值映射为一个因变量的取值。 函数的导数表示函数在某一点处的变化率，即函数图像在该点的切线斜率。 导数可以用来求解函数的最值、优化问题、拟合曲线等。 常见的求导方法包括使用基本导数公式、链式法则、反函数法则、隐函数法则等。 导数具有一些重要性 ......
强化学习之路二 人工智能数学基础-函数篇
一次函数：y=kx+b (k≠0) 二次函数：y=ax2+bx+c (a≠0) 三次函数 y=ax^3+bx^2+cx+d (a≠0，b，c，d为常数） 四次函数y=ax4+bx3+cx2+dx+e (a≠0，b，c，d，e为常数) 绝对值函数 y=∣x∣ 常作abs(x) 几何意义 ∣x∣表示x轴 ......
算法学习笔记(16): 组合数学基础
组合数学基础 本文部分运用到了生成函数的知识 如果直接食用本文结论，请忽略下列链接。 生成函数参考博客：普通型生成函数 - Ricky2007 - 博客园 我认为讲的不错 组合数学非常有用！我们先从一点点简单的性质开始 简单原理 加法原理 这非常简单，我们举一个例子即可：考虑我有 $5$ 个红苹果和 ......