| YANG YILING | D, 中間発表 | コンピューティング・アーキテクチャ | 中島 康彦, | 林 優一, | 張 任遠, | KAN Yirong, | PHAM HOAI LUAN, | Le Vu Trung Duong |
| 安藤 拓翔 | M, 2回目発表 | コンピューティング・アーキテクチャ | 中島 康彦, | 林 優一, | 張 任遠, | KAN Yirong, | PHAM HOAI LUAN, | Le Vu Trung Duong |
|
title: AI Application Implementation and Software-Stack Improvements for Energy-Efficient Workloads on a CGLA
abstract: This reseach AI workload execution on IMAX, a CPU-Grounded Linear Array (CGLA). The goal is to reduce energy cost while preserving the execution flow of existing open-source AI applications. GPUs provide high throughput for LLM inference, speech recognition, and image generation, but power consumption is high. Fixed-function accelerators can reduce energy for narrow targets, but they are difficult to adapt to changing model structures and quantization formats. The work implements IMAX execution paths for llama.cpp, whisper.cpp, and stable-diffusion.cpp. The scope includes quantized and FP16 matrix operations, offload boundaries, data-transfer policy, host-side control, CPU fallback, and phase-wise profiling. The LLM evaluation finds that decode execution on CGLA is constrained by LOAD, DRAIN, and host-side overhead rather than arithmetic alone. Under a 28 nm ASIC projection, the evaluated IMAX-based design improves PDP by up to 44.4x and EDP by up to 11.5x over an RTX 4090 for representative workloads. Q-Snap improves prompt-processing throughput by 1.62x. DRAIN-path restructuring raises transfer rate from 0.264 Gbps to 1.077 Gbps for Qwen3-0.6B Q8_0. The results support a software-stack view of CGLA acceleration. language of the presentation: English | ||||||||
| 岡本 光 | M, 2回目発表 | コンピューティング・アーキテクチャ | 中島 康彦, | 林 優一, | 張 任遠, | KAN Yirong, | PHAM HOAI LUAN, | Le Vu Trung Duong |
| 堤 悠太 | M, 2回目発表 | コンピューティング・アーキテクチャ | 中島 康彦, | 林 優一, | 張 任遠, | KAN Yirong, | PHAM HOAI LUAN, | Le Vu Trung Duong |
| 清水 瑛音 | M, 2回目発表 | 光メディアインタフェース | 向川 康博, | 清川 清, | 藤村 友貴, | 北野 和哉 | |
| 森近 拓生 | M, 2回目発表 | 光メディアインタフェース | 向川 康博, | 清川 清, | 藤村 友貴, | 北野 和哉 | |
| MIN ZIYU | D, 中間発表 | サイバネティクス・リアリティ工学 | 清川 清, | 向川 康博, | 内山 英昭, | Perusquia Hernandez Monica, | 平尾 悠太朗 |
| YU XINMENG | M, 2回目発表 | 光メディアインタフェース（マルチモーダル環境認識） | 向川 康博☆, | 川西 康友, | 薗頭 元春, | 藤村 友貴, | 北野 和哉 |