OpenAI veröffentlicht erstes Open-Source-Reasoning-Modell für Snapdragon-Geräte

(Auszug aus der Pressemitteilung)

OpenAI hat sein erstes Open-Source-Reasoning-Modell, gpt-oss-20b, veröffentlicht, das direkt auf Geräten mit Snapdragon Flaggschiff-Prozessoren läuft. Dies markiert einen bedeutenden Meilenstein, da OpenAIs fortschrittliche Modelle bisher ausschließlich in der Cloud verfügbar waren.

Durch frühzeitigen Zugang zum Modell und Integrationstests mit der Qualcomm AI Engine und dem Qualcomm AI Stack wurde festgestellt, dass dieses 20B-Parameter-Modell ein Chain-of-Thought-Prompting (Gedankenketten) unterstützt, das vollständig auf dem Gerät abläuft.

Entwickler können auf das Modell über beliebte Plattformen wie Hugging Face und Ollama zugreifen. Die Integration mit Ollamas leichtem, Open-Source-LLM-Framework ermöglicht es, gpt-oss-20b direkt auf Geräten mit Snapdragon-Compute-Plattformen auszuführen, inklusive Websuche und weiteren Features direkt verfügbaren Funktionen. Nutzer können zudem den Turbomodus von Ollama erkunden, um weitere Funktionen des Modells zu entdecken.

Weitere Informationen zur Implementierung werden in Kürze im Qualcomm AI Hub verfügbar sein.