人工智能 概念

p2:人工智能发展的要素(CPU与GPU)

  • 数据
  • 算法
  • 计算力
    • CPU,GPU,TPU
  • 计算力之CPU、GPU对比:
    • CPU主要适合I\O密集型的任务
    • GPU主要适合计算密集型任务
  • 提问:什么类型的程序适合在GPU上运行?

(1)计算密集型的程序。

所谓计算密集型(Compute-intensive)的程序,就是其大部分运行时间花在了寄存器运算上,寄存器的速度和处理器的速度相当,从寄存器读写数据几乎没有延时。可以做一下对比,读内存的延迟大概是几百个时钟周期;读硬盘的速度就不说了,即便是SSD, 也实在是太慢了。  

(2)易于并行的程序。

GPU其实是一种SIMD(Single Instruction Multiple Data)架构, 他有成百上千个核,每一个核在同一时间最好能做同样的事情。

CPU和GPU的区别:http://www.sohu.com/a/201309334_468740

Google TPU 介绍:https://buzzorange.com/techorange/2017/09/27/what-intel-google-nvidia-microsoft-do-for-ai-chips/