矩阵乘法:AI 脑子里的乘法口诀表到底有多变态?

线性代数 Nov 15, 2023

从小学题说起

9×9=81 句口诀,而两个 1000×1000 矩阵相乘要算 10 亿次乘法。这就是 AI 每天干的事。

矩阵乘法:左边行 × 右边列,对应相乘再相加

神经网络本质上就是一堆矩阵相乘。每个神经元做 W × x + b,几千亿个同时做,就产生了智能。

所谓的 AI,不过是一群矩阵在疯狂相乘,乘着乘着就学会了写诗。

GPU 比 CPU 快是因为矩阵乘法可以并行计算。AI = 矩阵乘法器,GPU = 算盘

Tags