メディアテックは、いくつかのAndroid携帯電話に強力なAIアプリを提供する予定です | ENBLE

MediaTech plans to provide powerful AI apps to several Android smartphones | ENBLE

Nadeem Sarwar / ENBLE

あなたはすでにいくつかの生成型AIアプリをスマートフォンで試したことがあるかもしれません。OpenAIのChatGPTやHeyPiなどのチャット型AIアプリや、Runway MLのようなアプリを使えば、スマートフォンでAI生成のビデオを作成することができます。

しかし、ほとんどの生成型AIアプリはクラウドベースのコンピューティングに依存しており、つまりすべてのAI処理がクラウド上で行われます。つまり、Xboxキットがコンソールゲームをスマートフォンやタブレットでストリーミングする際に、Microsoftのサーバーセンターで重い処理を行うのと同じです。

MediaTekは、スマートフォン上でのデバイス内生成型AIコンピューティングを実現しようとしています。この野心的な目標は、今年の終わりまでにAndroid搭載のスマートフォンに搭載されるMediaTekの次世代チップセットで具現化されます。この取り組みには、Facebookの親会社であるMetaの支援も受けており、基盤となるLlama 2モデルが生成型AIアプリの基礎として提供されています。

このデバイス内生成型AI処理のアプローチによる様々な利点をMediaTekは提唱しています。これには、「シームレスなパフォーマンス、より高いプライバシー、より優れたセキュリティと信頼性、低レイテンシ、ほとんどまたはまったく接続のないエリアでの作業能力、およびより低い運用コスト」が含まれます。

スマートフォン上での生成型AIの高速化

Tushar Mehta / ENBLE

今後のMediaTekのトップエンドチップは、スマートフォン用の生成型AI体験を向上させるために3つの主要な戦術を採用します。まず第一に、Metaが開発したオープンソースの大規模言語モデルであるLlama 2を最適化した専用ソフトウェアスタックを搭載します。Llama 2は2022年7月にリリースされ、研究や商用利用に無料で使用できます。Llama 2を利用したアプリはまだ多くはありませんが、現在はGPTベースのAIアプリが注目されています。しかし、MetaはMediaTekのライバルであるQualcommを含むスマートフォン業界のプレーヤーを積極的に募集しています。

MediaTekと同様に、QualcommもMetaと提携し、2024年からはそのフラッグシップチップを搭載したスマートフォンでLlamaベースのアプリのデバイス内処理を展示します。両社は他の分野、例えば自動車やXRハードウェア、スマートホームデバイスなどもターゲットにしており、トップティアのシリコンによるデバイスローカルの生成型AIの取り組みを支援しています。

Nadeem Sarwar / ENBLE

MediaTekの今後のAI対応フラッグシップチップでは、”transformer backbone acceleration”を利用した強化されたAI処理ユニット(APU)も使用されます。トランスフォーマーは、GPT(Generative Pre-Trained Transformers)などの大規模言語モデルを作成するためのニューラルネットワークアーキテクチャの一種です。これにより、ChatGPTやMicrosoftのBing Chatなどの製品が生まれました。

最後に、MediaTekの新しいチップはDRAMモジュールを利用して、Llamaベースの生成型AIアプリのユーザーエクスペリエンスを向上させます。DRAM(Dynamic Random Memory)は、アプリの作業データを保存する高速かつ低レイテンシのメモリモジュールです。スマートフォンに搭載されるDRAMの容量が増えれば、問題なくバックグラウンドで実行することができるアプリの数も増えます。OnePlusなどのスマートフォンメーカーが24GBのDRAMを搭載している理由があります。

これらのAIのアップグレードがあなたにもたらすもの

Joe Maring / ENBLE

上記の調整が施されることで、MediaTekは、今後のAIチップによってLLM(Llama)およびAIGC(Artificial Intelligence-Generated Content)の体験が向上し、処理要件の大部分がローカルのハードウェアに移されると述べています。

具体的には、MetaのLlama 2モデルの能力とそれをベースに構築されたアプリの種類によって、処理が高速化されるタスクは異なります。Llama 2はテキストベースの自然言語モデルであり、ChatGPTやBardと同様のトリックを行うことができます。クエリを処理し、トレーニングデータに基づいて回答を提供したり、テキストを要約したり拡張したりすることができます。

MediaTekに関しては、これが初めてのこの種のAIパートナーシップではありません。今年の7月、同社はUnityの中国支部と契約を結び、ゲームセグメントでの生成型AIアプリケーションの探索を行いました。

MediaTekは、Llama 2アプリを搭載した新しいチップが年末までにスマートフォンに登場することを期待していますので、実際の製品でこれがどのように見えるかを見るまで、それほど長く待つ必要はありません。