MediaTek nutzt Metas Llama 2-Plattform zur Verbesserung der generativen KI

SGGPO 25. August 2023 10:37

MediaTek, das globale Halbleiterunternehmen, hat angekündigt, dass es eng mit Metas Llama 2 zusammenarbeitet, dem Open-Source-Large Language Model (LLM) der nächsten Generation des Unternehmens.

MediaTek zielt darauf ab, ein komplettes Edge-Computing-Ökosystem aufzubauen

Mithilfe von Metas LLM sowie den neuesten APUs und der NeuroPilot-KI-Plattform von MediaTek möchte MediaTek ein komplettes Edge-Computing-Ökosystem aufbauen, das die Entwicklung von KI-Anwendungen für Smartphones, IoT, Fahrzeuge, Smart Homes und andere Edge-Computing-Geräte beschleunigen soll.

Derzeit erfolgt die generative KI-Verarbeitung größtenteils über die Cloud. Mit den Llama 2-Modellen von MediaTek können generative KI-Anwendungen jedoch direkt auf dem Gerät ausgeführt werden.

Dies bietet Entwicklern und Benutzern zahlreiche Vorteile, darunter reibungslose Leistung, verbesserten Datenschutz, mehr Sicherheit und Zuverlässigkeit, geringere Latenz, verbesserte Arbeitsfähigkeit in Bereichen mit geringer oder keiner Konnektivität und niedrigere Betriebskosten.

Um die Vorteile generativer KI auf Edge-Computing-Geräten voll auszuschöpfen, müssen die Hersteller dieser Geräte auf hochwertige, stromsparende KI-Prozessoren und schnellere, zuverlässigere Konnektivität setzen, um die Rechenleistung zu verbessern. Jeder der 5G-Mobilchips von MediaTek ist heute mit APUs ausgestattet, die für eine Vielzahl generativer KI-Funktionen wie KI-Rauschunterdrückung, KI-Auflösungsverbesserung und mehr ausgelegt sind.

Darüber hinaus wird MediaTeks Flaggschiff-Prozessor der nächsten Generation, der voraussichtlich noch in diesem Jahr auf den Markt kommt, über einen optimierten Software-Stack für Llama 2 sowie eine verbesserte APU mit Transformer-Core-Beschleunigung, reduziertem DRAM-Bereich und Bandbreitennutzung sowie weiter verbesserter LLM- und AIGC-Leistung verfügen. Diese Fortschritte ermöglichen die schnelle Entwicklung von Anwendungsfällen für generative KI auf dem Gerät.

MediaTek geht davon aus, dass KI-Anwendungen auf Basis von Llama 2 auf Smartphones verfügbar sein werden, die mit seinem Flaggschiff-SoC der nächsten Generation ausgestattet sind und voraussichtlich noch in diesem Jahr auf den Markt kommen werden.

Quelle: https://www.sggp.org.vn/mediatek-su-dung-nen-tang-llama-2-cua-meta-de-nang-cao-ai-tao-sinh-post703005.html