AI大模型与数学·第45课 级数刷题集训2:数列收敛VS级数收敛(AI数值稳定性核心)
一、本课定位上一节我们建立了级数认知:AI的智能来自「级数无限逼近」本课解决整个AI训练最容易混淆的数学问题:90%的人分不清两件事数列收敛(单项越来越小)级数收敛(无限累加不爆炸)AI梯度爆炸、Loss抖动、训练崩溃、模型不收敛,全部来自这两个概念。我们巩固一下,数列与级数在大模型中的应用与区别数列:按次序排出来一串数;级数:数列逐项相加的无穷求和。数列管迭代过程;级数管函数逼近、收敛判断、截断计算,是大模型训练、推理、理论证明的底层数学工具。一、数列在大模型的应用梯度下降迭代数列权重更新:w_{k+1}=w_k-\eta \nabla L(w_k)每一轮权重 w_0,w_1,w_2…w_k 构成数列。数列收敛:权重逐步稳定,损失下降,训练正常;数列发散:学习率过大,权重震荡爆炸,训练崩溃。大模型训练本质就是看参数数列是否收敛。文本token序列(离散数列)输入句子拆成token编号 [t_1,t_2,t_3…t_n],就是离散整数数列。Transformer全部工作就是建模这个数列内部依赖;自注意力计算数列各个位置之间关联。解码器生成文本,是一步一步产出token,生成的输出本身就是不断延长的数列。残差网络、多层堆叠数列每一层网络输出 x_1,x_2…x_L,构成状态数列;残差连接保证这个数列不会快速发散,缓解梯度消失。二、级数(泰勒级数、幂级数、傅里叶级数)核心应用激活函数的多项式逼近(泰勒级数)计算机硬件不会直接算 e^x、\tanh、\text{GELU},把函数展开成泰勒无穷级数,只取前有限项做近似计算。ex=1+x+\

相关新闻

-65-杨逢昌:6S整改台账如何搭建,实现所有问题可追溯

-65-杨逢昌:6S整改台账如何搭建,实现所有问题可追溯

《6S管理实战专栏》 三环实战篇(第65篇) 杨逢昌使命: 用6S的力量,让10万名朋友实现高效愉悦的生活与工作。前言杨逢昌,国家注册管理咨询师、经济师、人力资源管理师,机械工厂6S专家、钣金工厂6S专家。在《6…

2026/8/23 17:25:14 阅读更多 →
第 2 篇:「从 500ms 到 7ms」— SQLite FTS5 的魔法

第 2 篇:「从 500ms 到 7ms」— SQLite FTS5 的魔法

系列导航: 目录 | 1️⃣ 噩梦 | 2️⃣ FTS5 | 3️⃣ 并发 | 4️⃣ 降级 | 5️⃣ 生命周期 | 6️⃣ 基准 | 7️⃣ 禁止 开场:用数据库的方式思考搜索 前面我们看到暴力遍历的灾难。现在问题是:用什么来解决? 如果我告诉你&#…

2026/8/23 17:28:00 阅读更多 →
RAG 评测体系完整指南

RAG 评测体系完整指南

RAG 评测体系完整指南 RAG(检索增强生成)的评测核心,是围绕「检索是否找得准」和「生成是否用得对」两大核心问题展开,区别于纯大模型的生成质量评测,也不同于 Agent 的全链路决策评测,其核心目标是控制幻觉…

2026/8/22 16:26:36 阅读更多 →

最新新闻

如何用LizzieYzy做免费围棋AI分析:新手完整复盘指南

如何用LizzieYzy做免费围棋AI分析:新手完整复盘指南

如何用LizzieYzy做免费围棋AI分析:新手完整复盘指南 【免费下载链接】lizzieyzy LizzieYzy - GUI for Game of Go 项目地址: https://gitcode.com/gh_mirrors/li/lizzieyzy 刚下完一局棋,想知道自己输在哪一步关键手?把棋谱拖进 Lizzi…

2026/8/24 4:38:32 阅读更多 →
darktable 新手指南:3 个场景跑通 RAW 导入、暗房开发与批量导出

darktable 新手指南:3 个场景跑通 RAW 导入、暗房开发与批量导出

darktable 新手指南:3 个场景跑通 RAW 导入、暗房开发与批量导出 【免费下载链接】darktable darktable is an open source photography workflow application and raw developer 项目地址: https://gitcode.com/GitHub_Trending/da/darktable darktable 是一…

2026/8/24 4:38:32 阅读更多 →
Vue.js百度地图组件完整指南:vue-baidu-map 30 个组件一次讲清

Vue.js百度地图组件完整指南:vue-baidu-map 30 个组件一次讲清

Vue.js百度地图组件完整指南:vue-baidu-map 30 个组件一次讲清 【免费下载链接】vue-baidu-map Baidu Map components for Vue 2.x 项目地址: https://gitcode.com/gh_mirrors/vu/vue-baidu-map 核心关键词: Vue.js百度地图组件、百度地图Vue封装…

2026/8/24 4:38:32 阅读更多 →
Rufus制作U盘启动盘指南:三步把系统镜像装进U盘

Rufus制作U盘启动盘指南:三步把系统镜像装进U盘

Rufus制作U盘启动盘指南:三步把系统镜像装进U盘 【免费下载链接】rufus The Reliable USB Formatting Utility 项目地址: https://gitcode.com/GitHub_Trending/ru/rufus 给新电脑装系统,很多人卡在制作U盘启动盘这第一步:镜像损坏、U…

2026/8/24 4:38:32 阅读更多 →
5分钟上手KittenTTS:轻量级多语言TTS从安装到语音风格切换

5分钟上手KittenTTS:轻量级多语言TTS从安装到语音风格切换

5分钟上手KittenTTS:轻量级多语言TTS从安装到语音风格切换 【免费下载链接】KittenTTS State-of-the-art TTS model under 25MB 😻 项目地址: https://gitcode.com/gh_mirrors/ki/KittenTTS KittenTTS 是一个开源文本转语音库:模型文…

2026/8/24 4:38:32 阅读更多 →
《牛来》抽象头像生成器上线:硬核·狂野·帅得有棱有角!

《牛来》抽象头像生成器上线:硬核·狂野·帅得有棱有角!

🎬 看了《牛来》还没换头像? 电影《牛来》以其独特的抽象画风和魔性美学席卷网络,你是否也想拥有同款风格的个性头像?现在,机会来了! 🚀 《牛来》抽象头像生成器 正式上线! 我们隆…

2026/8/24 4:37:32 阅读更多 →

日新闻

前端内容安全与依赖审计实践

前端内容安全与依赖审计实践

前端内容安全与依赖审计实践 前端安全依赖分层防护。没有任何单一配置能替代输出编码、权限校验和依赖更新。 把不可信内容当作数据 默认使用框架的转义能力;确需渲染 HTML 时,先在服务端或可信的客户端库中进行白名单过滤。避免把用户输入直接赋给 inne…

2026/8/24 1:08:15 阅读更多 →
Windows登录密码存储机制全解析:从哈希算法到安全加固实战

Windows登录密码存储机制全解析:从哈希算法到安全加固实战

1. 项目概述:Windows登录密码的“黑匣子”每次你按下CtrlAltDel,输入密码,然后看到那个熟悉的桌面,这背后发生了一系列复杂而精密的操作。作为一名长期与Windows系统打交道的从业者,我经常被问到:“我的密码…

2026/8/24 1:08:15 阅读更多 →
AI面试系统安全挑战与解决方案

AI面试系统安全挑战与解决方案

1. 项目概述:AI面试系统的安全挑战去年参与某跨国企业AI面试系统部署时,遇到一个典型案例:候选人在视频面试中无意提到竞争对手产品名称,系统竟自动将该信息关联到企业知识库并生成竞品分析报告。这个看似"智能"的功能&…

2026/8/24 1:08:15 阅读更多 →

周新闻

[光学原理与应用-521]:对光的错误理解与纠偏

[光学原理与应用-521]:对光的错误理解与纠偏

首先光是一种能量的载体和形态,宏观上观察到的光是由无数个微观的光量子组成的,每个光子在产生的瞬间,其在真空的空间中以确定不变的速度沿着一个初始的方向一直向前,在微观层面,每个光量子的运动轨迹是以波函数所展现…

2026/8/24 0:06:02 阅读更多 →
SIP通话转接原理与REFER方法实战解析

SIP通话转接原理与REFER方法实战解析

1. 通话转接不是“挂断再拨号”,而是SIP会话的动态重定向你有没有遇到过这样的场景:客服坐席A正在和客户通电话,突然需要把这通对话无缝转给专家坐席B,客户完全感知不到中间的断连——既没听到忙音,也没被要求重新拨号…

2026/8/24 0:20:20 阅读更多 →
Kolla-ansible单节点OpenStack部署实战:从环境准备到排坑指南

Kolla-ansible单节点OpenStack部署实战:从环境准备到排坑指南

1. 为什么选择Kolla-ansible来部署单节点OpenStack?如果你正在寻找一种能把OpenStack从“概念”快速变成“可用的实验环境”的方法,那么Kolla-ansible几乎是当前最主流、最省心的选择。我见过太多人卡在手动编译依赖、配置服务、处理版本冲突的泥潭里&am…

2026/8/24 0:14:11 阅读更多 →

月新闻

免费解锁百度网盘SVIP加速:macOS用户必备的下载提速终极指南

免费解锁百度网盘SVIP加速:macOS用户必备的下载提速终极指南

免费解锁百度网盘SVIP加速:macOS用户必备的下载提速终极指南 【免费下载链接】BaiduNetdiskPlugin-macOS For macOS.百度网盘 破解SVIP、下载速度限制~ 项目地址: https://gitcode.com/gh_mirrors/ba/BaiduNetdiskPlugin-macOS 还在为百度网盘macOS版的龟速下…

2026/8/23 18:47:06 阅读更多 →
终极ncmdump指南:3分钟实现网易云NCM音乐解密与格式转换

终极ncmdump指南:3分钟实现网易云NCM音乐解密与格式转换

终极ncmdump指南:3分钟实现网易云NCM音乐解密与格式转换 【免费下载链接】ncmdump 项目地址: https://gitcode.com/gh_mirrors/ncmd/ncmdump 还在为网易云音乐下载的NCM格式文件无法在其他播放器播放而烦恼吗?ncmdump解密工具帮你轻松解决这个困…

2026/8/23 12:10:44 阅读更多 →
HarmonyOS 应用开发《掌上英语》第81篇: 智能体卡片:为英语学习 App 打造桌面级学习助手

HarmonyOS 应用开发《掌上英语》第81篇: 智能体卡片:为英语学习 App 打造桌面级学习助手

AgentCard 智能体卡片:为英语学习 App 打造桌面级学习助手适用平台:HarmonyOS 7.0 (API 26 Beta)一、引言 HarmonyOS 7.0(API 26 Beta)新增了 AgentCard 智能体卡片能力,这是继 HMAF(鸿蒙智能体框架&#x…

2026/8/22 3:22:48 阅读更多 →