ポイント
- オンデバイスAIはサーバーに尋ねずに機器の中で直接判断する方式です。
- 行き来がないので答えがすぐに出て、電波のない場所でもそのまま動きます。
- 判断のために写真や言葉をサーバーに送る必要がないのでプライバシーを守るのに有利です。
- 代わりに大きさと電力の限界があります。小さく整えたモデルしか入らず、長く動かすと熱くなります。
- 最近の機器にはこの計算だけを専門に担う専用部品が別に入っているものが多いです。
たとえで理解する
難しい計算を人に尋ねるには電話をかけるかどこかにつながなければなりません。ところが鞄の中の電卓はその必要がありません。飛行機の中でも電波の切れた地下でも、ボタンを押した瞬間に答えが出ます。押した数字をどこかへ送る必要もないので、人に見せたくない金額をたたいても気楽です。
もちろん電卓が全部やってくれるわけではありません。体が小さいのでできることは決まっていて、表を何千行も扱わなければならなければ結局は大きな機械の前へ行くことになります。それでも一日に出会う計算の大半はこの小さな機械で足ります。
手の中の機器が自分で判断する方式はこの電卓と同じです。これがオンデバイスAIです。
くわしく
行き来がないことの意味
サーバーに尋ねる方式は、要求が機器を離れてどこかの機械まで行って答えを持って戻ってこなければなりません。この往復はどれほど短くても時間がかかり、電波が弱いと何倍にも延びます。
機器の中で処理すればこの区間がまるごと消えます。カメラを向けた瞬間に枠が付き、話した瞬間に字幕が付く反応を電波の状態に関係なく出すには、この方式が有利です。地下鉄や山の中のように電波のない場所でも同じように動きます。
機器がサーバーの事情に振り回されないという点もあります。サービスが一時止まっても、要求が集中して遅くなっても、自分の機器の中で動く機能はそのままです。
専用部品が別にあります
最近出る機器にはこの計算だけを専門に担う部品が入っているものが多いです。こうした部品がなければ一般の処理装置やグラフィック装置が代わりに計算しますが、同じ仕事に電気をずっと多く使います。グラフィック装置のほうが速い場合もありますが、バッテリーで常に点けておくには専用部品が有利です。画面を描いたりプログラムを動かしたりする部品とは別に、ごくわずかな電気で決まった形の計算を素早く処理するよう作られたかけらです。
おかげでバッテリーを大きく減らさずに常に動かしておけます。写真アプリが自動で顔別にまとめておいたり、キーボードが次の単語を示してくれたり、通話中の雑音を取り除いたりする働きが、静かにこの部品の上で動いていることが多いです。
それでも限界ははっきりしています。専用部品といってもサーバーに置かれた機械に比べればとても小さいので、何でも任せられるわけではありません。
小さく作ってこそ入ります
機器に入れるにはモデルを小さくしなければなりません。最初から小さく作ったモデルを使うこともあれば、大きいモデルの判断を小さいモデルに移し替えることもあります。
数値の目盛りを粗くして体積を減らす方法も広く使われます。とても細かい部分が少し崩れる代わりに、大きさが数分の一に減り速度も上がります。機器に入るモデルの大半はこの手入れを経ます。
こうして小さくしたモデルは決まった用件では十分によくこなしますが、初めて見る形の難しい要求には揺らぎやすいです。何を機器に任せ何を任せないかを決めることが大事な理由です。
機器とサーバーを分けて使います
実際のサービスはどちらか一方だけを選びません。軽い用件は機器の中ですぐ処理し、難しい要求だと判断されればそのときだけサーバーへ渡す方式をよく使います。普段は速く静かで、必要なときだけ外へ出る形です。
ブラウザAIと混同しやすいですが、ブラウザAIも計算を機器の中で行うという点ではオンデバイスAIの一種です。ただ普通オンデバイスAIというと、スマホやノートパソコンの機能に付いているものを指すことが多いので、分ける基準はどこに付いているかです。ブラウザAIはウェブページを開いて初めて始まり、ブラウザが許した分だけ機器の力を使います。機器の機能そのものに付いているほうは、カメラを起動したりキーボードを打ったりする瞬間にすでに動いていることが多いです。
自分のパソコンにプログラムを入れて大きいモデルを動かすローカル実行も計算は機器の中で行いますが、性格が違います。そちらは自分で選んでインストールしますが、機器の機能に付いているほうは機器に最初から入っていることが多いです。
もう少し正確に
機器の中の専用部品は、ニューラルネットワークの計算によく出る形の演算を少ない電力で処理するよう作られた回路です。ここに載せるにはモデルを機器用の形式に変え、目盛りを減らす手入れを経ます。機器の中で少しずつ学ばせる方式も少しずつ増えています。それぞれの機器で学んだ結果だけを集めて全体を改善する形なので、資料そのものは機器に残ります。
たとえがずれる点もあります。電卓は同じボタンを押せばいつも同じ答えを正確に出しますが、機器の中のモデルはもっともらしいほうを推定するので、光や角度が少し変わっただけでも判断が揺らいだり間違えたりします。電卓の機能は買った日のままですが、機器の中のモデルは更新で静かに変わることもあります。機器で動くという事実がそのまま安全を意味するわけでもありません。判断は中で行っても、その結果をアプリが外へ送るよう作ることはできるので、案内と権限設定も一緒に見る必要があります。
やってみる
よくある誤解
オンデバイスAIはインターネットがまったく要らないと思われがちですが、実際にはモデルを更新したり難しい要求を渡したりするときは今でも接続が使われます。
機器の中で動くのだから無条件に安全だと思われがちですが、実際には判断だけ中で行い結果は外へ送るアプリもあるので確認が必要です。
機器の中で動くものは性能がひどいと思われがちですが、実際には顔の整理や字幕のように決まった用件ではサーバーに劣らずよくこなします。
ひとこと要約
オンデバイスAIは鞄の中の電卓のように機器の中で即座に答えを出す方式であり、速く静かな代わりに大きさと電力という限界を抱えています。
誤りや、もっと良いたとえがありますか？ 修正を提案する · 最終更新 2026-10-18