社内でLLMを動かそうという話になると、最初に出てくるのはたいていGPUの型番です。 その次に出てくるのが、電力と冷却と納期の話。 「推論だけなら、別にGPUじゃなくてもいいのでは」と思ったことがある人もいるかもしれません。

NPUやGPUのニューラルエンジンを搭載したデバイスでは、これらの専用ハードウェアを使用してAIワークロードが実行される。ただし、常に専用ハードウェアが使用されるとは限らず、実際にはCPUや標準GPUにフォールバックして動作することがある。 処理が ...

2026年9月10日、Qualcommが次世代のプレミアムSnapdragonプラットフォームに搭載する新しい 「Hexagon NPU」の詳細を明らかにしました。 NPUとは「Neural Processing Unit」の略で、AI処理を効率よく実行するために設計されたプロセッサです。 最近のスマートフォンでは、写真の補正や音声認識だけでなく、生成AIを端末内で動かすためにもNPUが使われるよ ...

翌日起きてみたら、PCの画面にはDOOMが起動していた。Claude ...

AMDは8月28日、「フィジカルAI」および「ロボティクス市場」に向けた戦略について、報道関係者向けにラウンドテーブルを開催した。同社は、CPU、GPU、NPUを統合した「AMD Ryzen AI Embedded X100」シリーズをAIロボットの頭脳となるコンピューティング基盤として展開するとともに、「FPGA」や「Adaptive SoC」をセンサー、関節、リアルタイム制御などに活用する。

NPUが使われないのはなぜ？ Copilot+ PCは高性能なNPUを搭載したAI PCだ。ただし、全ての動作がNPUで高速化するという話ではない。あくまでNPUを活用するソフトに限り、AI処理が高速だったり、低消費電力で実行できたりする。 本連載ではさまざまなNPU対応 ...

ローカルLLMの推論をNPUで回すという選択肢 ここからが本レビューのハイライトとなる。これまでRyzen AIプロセッサ搭載機でローカルLLMを運用する際は、「LM Studio」などのツールを用いてモデルを実行するのが一般的だった。 もちろんLM Studio以外にも選択肢は ...

背景のぼかしや動画のアップスケールなど、最近はローカル処理でもAIモデルを用いたものが増加の一途をたどっているが、こうしたAIワークロードの計算負荷は一般の処理よりも重い傾向にある。そのため、こうした処理はなるべくCPUで行わず、最新GPUに ...

「FuriosaAIは第1世代半導体Warboy（ウォーボーイ）の量産実績があり、信頼性の高い製品調達が可能だと判断した。さらに、第2世代半導体であるRenegade（RNGD）の大規模言語モデル（LLM）処理能力を、M4CXRのAI機能に活用できる。来年以降はRNGDを活用し、LLMの代替 ...