CUDA 概述CUDA 全称 Compute Unified Device Architecture即统一计算设备架构由 NVIDIA 推出简单理解CUDA 是一种让显卡GPU不止能画图还能进行通用计算的技术平台CUDA 包含如下三个层面一个并行计算架构NVIDIA 从 2006 年起在其 GPU 中内置了这种架构。拥有 CUDA 架构的 GPU 内部有成千上万个小型计算核心非常适合同时处理大量简单、独立的计算任务。 一套编程语言和API它扩展了 C/C 等语言并提供了函数库。开发者可以用较熟悉的代码直接编写在 GPU 上运行的程序 一个运行时环境包括驱动程序、编译器等工具链负责将写的代码编译成 GPU 能执行的指令并管理 CPU 和 GPU 之间的数据传输CUDA 的典型应用场景如下人工智能与深度学习这是目前 CUDA 最火爆的应用。训练 ChatGPT 等大模型的底层计算矩阵乘法、卷积几乎都由 CUDA 加速 科学计算与模拟天气预报、分子动力学、基因分析、天体物理模拟等需要海量数值计算的领域 图形图像与视频处理实时渲染光线追踪、图像风格迁移、视频编解码、Adobe 软件的很多特效加速。 金融计算期权定价、风险评估等需要大规模蒙特卡洛模拟的场景 密码破解与渗透测试利用 GPU 暴力破解哈希密码