📰 記事 生成AI・モデル圧縮
注目度: 高 Score 22/30
📅 2026-07-18T23:40:43.000Z
🌐 日本語
「スマホで動く」270億パラメーターLLM「Bonsai 27B」登場
カリフォルニア工科大学発のAIスタートアップ・PrismMLは7月15日、「Bonsai 27B」を発表した。「Qwen3.6 27B」をベースとしたマルチモーダルモデルで、Apache 2.0ライセンスの下でオープンソース提供。27Bモデルは通常16ビット精度で約54GB、4ビット版でも約18GBのメモリを要するため、スマートフォンでの実行は困難だった。Bonsai 27Bはパラメータ重みを1～2ビットに削減。1-bit版は3.9GBでiPhone実行可能、Ternary版は5.9GBでノートPC向け。ベンチマーク（知識、推論、数学、コーディング等15項目）では、Ternary版がフル精度の95%、1-bit版が90%の性能を維持したとしている。
💭 スマートフォンでの大規模モデル実行が可能になることで、AI活用がデバイス上で完結する環境が整備される。これにより、ユーザーがクラウド依存を減らし、エッジデバイスでの直接的なAI実装が加速。組織内でのオンデバイスAI導入試験が実装可能な段階に進んだ。