MediaTek、MetaのLlama 2プラットフォームを活用し、生成AIを強化

[広告_1]

SGGPO 2023年8月25日 10時37分

世界的な半導体企業である MediaTek は、同社の次世代オープンソース大規模言語モデル (LLM) である Meta の Llama 2 と緊密に連携していくことを発表した。

MediaTekは完全なエッジコンピューティングエコシステムの構築を目指す

MediaTek は、Meta の LLM と MediaTek の最新 APU および NeuroPilot AI プラットフォームを使用して、スマートフォン、IoT、車両、スマートホーム、その他のエッジコンピューティングデバイスにわたる AI アプリケーション開発を加速するように設計された完全なエッジコンピューティングエコシステムの構築を目指しています。

現在、Generative AI処理のほとんどはクラウド経由で行われています。しかし、MediaTekのLlama 2モデルを使用すれば、Generative AIアプリケーションをデバイス上で直接実行できるようになります。

これにより、スムーズなパフォーマンス、プライバシーの強化、セキュリティと信頼性の向上、レイテンシの低減、接続がほとんどまたはまったくないエリアでの作業能力の向上、運用コストの削減など、開発者とユーザーにさまざまなメリットがもたらされます。

エッジコンピューティングデバイスで生成AIを真に活用するには、エッジデバイスメーカーは、ハイエンドで低消費電力のAIプロセッサと、より高速で信頼性の高い接続性を導入し、コンピューティング能力を強化する必要があります。MediaTekの5Gモバイルチップは、AIノイズ低減、AI解像度向上など、様々な生成AI機能を実行するために設計されたAPUを搭載しています。

さらに、今年後半に発表予定のMediaTekの次世代フラッグシッププロセッサは、Llama 2の実行に最適化されたソフトウェアスタックに加え、Transformerコアアクセラレーションを搭載したアップグレードされたAPU、DRAM面積と帯域幅の削減、そしてLLMとAIGC性能のさらなる向上を実現します。これらの進歩により、デバイス上でのAI生成ユースケースの迅速な開発が促進されます。

MediaTekは、今年後半に市場投入が予定されている同社の次世代主力SoCを搭載したスマートフォンで、Llama 2ベースのAIアプリケーションが利用可能になると予想している。

[広告2]
ソース