MediaTek nutzt Metas Llama 2-Plattform zur Verbesserung der generativen KI

SGGPO 25.08.2023 10:37

MediaTek, ein globales Halbleiterunternehmen, hat angekündigt, dass es eng mit Metas Llama 2 zusammenarbeitet, dem Open-Source-Large Language Model (LLM) der nächsten Generation des Unternehmens.

MediaTek zielt darauf ab, ein komplettes Edge-Computing-Ökosystem aufzubauen

Mithilfe von Metas LLM sowie den neuesten APUs und der NeuroPilot-KI-Plattform von MediaTek möchte MediaTek ein komplettes Edge-Computing-Ökosystem aufbauen, das die Entwicklung von KI-Anwendungen für Smartphones, IoT, Fahrzeuge, Smart Homes und andere Edge-Computing-Geräte beschleunigen soll.

Derzeit erfolgt die Verarbeitung generativer KI größtenteils über die Cloud. Mit den Llama 2-Modellen von MediaTek können generative KI-Anwendungen jedoch direkt auf dem Gerät ausgeführt werden.

Dies bietet Entwicklern und Benutzern zahlreiche Vorteile, darunter reibungslose Leistung, verbesserten Datenschutz, mehr Sicherheit und Zuverlässigkeit, geringere Latenz, verbesserte Arbeitsfähigkeit in Bereichen mit geringer oder keiner Konnektivität und niedrigere Betriebskosten.

Um generative KI auf Edge-Computing-Geräten wirklich nutzen zu können, müssen die Hersteller von Edge-Geräten hochwertige, stromsparende KI-Prozessoren sowie schnellere und zuverlässigere Konnektivität einsetzen, um die Rechenleistung zu verbessern. Jeder der heutigen 5G-Mobilchips von MediaTek ist mit APUs ausgestattet, die für eine Vielzahl generativer KI-Funktionen wie KI-Rauschunterdrückung, KI-Auflösungsverbesserung und mehr ausgelegt sind.

Darüber hinaus wird MediaTeks Flaggschiff-Prozessor der nächsten Generation, der voraussichtlich noch in diesem Jahr auf den Markt kommt, über einen optimierten Software-Stack für Llama 2 sowie eine verbesserte APU mit Transformer-Core-Beschleunigung, reduziertem DRAM-Bereich und Bandbreitennutzung sowie weiter verbesserter LLM- und AIGC-Leistung verfügen. Diese Fortschritte ermöglichen die schnelle Entwicklung von Anwendungsfällen für generative KI auf dem Gerät.

MediaTek geht davon aus, dass KI-Anwendungen auf Basis von Llama 2 auf Smartphones verfügbar sein werden, die mit seinem Flaggschiff-SoC der nächsten Generation ausgestattet sind und voraussichtlich noch in diesem Jahr auf den Markt kommen werden.

Quelle: https://www.sggp.org.vn/mediatek-su-dung-nen-tang-llama-2-cua-meta-de-nang-cao-ai-tao-sinh-post703005.html