生成AIの爆発的普及に伴い、世界中でデータセンターの消費電力が深刻な課題となった。そこで一躍脚光を浴びたのが、AIモデルの「量子化(Quantization)」と呼ばれる技術だ。従来、AIの内部計算には小数点を含む複雑な「浮動小数点数」が使われていた。これを精度の損失を最小限に抑えつつ「整数」だけの計算に置き換える手法が、今や業界の標準となっている。
整数による乗算や加算は、浮動小数点計算に比べてハードウェアへの負担が圧倒的に軽い。エネルギー消費量は数分の一にまで激減する。スマホやウェアラブル端末のローカル環境で高度なAIを滑らかに動かせるようになった背景には、こうした「小数点を捨てて整数に立ち返る」という逆転の発想が存在する。