在GPU服务器整租过程中，会遇到一些选择型号过程中的一些常见问题，如下面这块区别

CUDA Core与Tensor Core的区别主要体现在其设计目的、计算能力和应用场景上。以下是它们之间的详细对比：

一. 设计目的：

   CUDA Core是NVIDIA推出的统一计算架构中的核心组成部分，它是一种全能通吃型的浮点运算单元。CUDA Core的名称正式出现在NVIDIA的Fermi架构（2010年）中，此前的名称包括processor core、streaming processors (SPs) 或 thread processors。

   Tensor Core是专为执行张量或矩阵运算而设计的专用执行单元。这些运算是深度学习所采用的核心计算函数。Tensor Core的出现相对较晚，它在NVIDIA的Volta、Turing和Ampere GPU架构中均有配备。

二. 计算能力：

   CUDA Core包含一个整数运算逻辑单元（ALU）和一个浮点运算单元（FPU），能进行一种fused multiply-add (FMA)的操作，即一个加乘操作的融合。这种操作在不掉精度的情况下，单指令完成乘加操作，并且支持32-bit精度。

   Tensor Core每个时钟周期可执行64次浮点混合乘加（FMA）运算，其在训练方面能够提供高达12倍的teraflops (TFLOPS) 峰值，而在推理方面则可提供6倍的TFLOPS峰值。Tensor Core使用的计算能力要比CUDA Core高得多，因此能够加速处于深度学习神经网络训练和推理运算核心的矩阵计算。

三. 应用场景：

   CUDA Core在显卡里是并行运行的，CUDA Core越多，算力越强。它负责执行通用计算任务，如图形渲染、物理模拟等。

   Tensor Core则主要用于深度学习领域的训练和推理任务。由于其专为矩阵运算设计，Tensor Core能够显著加速神经网络中的矩阵-矩阵乘法（GEMM）运算，这是神经网络训练和推理的核心。

四. 发展历程：

   CUDA Core随着NVIDIA GPU架构的演进而不断发展，从最初的Fermi架构到现在的Ampere架构，其性能不断提升。

   Tensor Core则经历了从Volta架构的第一代Tensor Core，到Turing架构的第二代Tensor Core，再到Ampere架构的第三代Tensor Core的演进。每一代Tensor Core都引入了新的功能和性能提升，以更好地支持深度学习任务。

所以就应用场景分区分，CUDA Core和Tensor Core在设计目的、计算能力和应用场景上存在显著差异。CUDA Core是一种通用计算单元，而Tensor Core则是专为深度学习中的矩阵运算而设计的专用执行单元。

【北京GPU租赁服务电话 13521310298 13693103363】