Microsoft ist integrieren OpenAIs Open-Gewichts-Sprachmodelle, GPT-OSS, in die Azure AI Foundry und Windows AI Foundry und erweitern das KI-Toolset. Diese Erweiterung führt ein GPT-OSS-120B und GPT-OSS-20B Modelle zu PCs.
Das GPT-OSS-120B-Modell ist für leistungsstarke Argumentationsanwendungen ausgelegt. Umgekehrt arbeitet das GPT-OSS-20B-Modell auf PCs, die mit Grafikverarbeitungseinheiten ausgestattet sind, die mindestens 16 Gigabyte Speicher besitzen. Entwickler erhalten vollen Zugriff auf die Modellgewichte und ermöglichen die Feinabstimmung für verschiedene Anwendungen, einschließlich Offline-Funktionalität oder spezialisierte Industrieassistenten. Dieser Open-Gewicht-Zugriff ermöglicht es den Teams, diese Modelle zu überprüfen, Segmente zu überprüften, zu überprüft oder zu exportieren, um den Azure Kubernetes Service (AKS) oder lokale Maschinen von Microsoft zu übernehmen.
Azure AI Foundry bietet eine Reihe von Tools, die Modellbewertung, Feinabstimmung und Einsatz unterstützen, mit einem Katalog von mehr als 11.000 Modellen. Gleichzeitig erweitert Foundry Local die Unterstützung von On-Device-Support und unterstützt Benutzer, die lokale Inferenzfunktionen für Sicherheitsüberlegungen oder Offline-Zugänglichkeit benötigen. Das GPT-OSS-20B-Modell von OpenAI ist derzeit unter Windows verfügbar, wobei die MacOS-Kompatibilität für eine zukünftige Version geplant ist. Beide Modelle behalten die Kompatibilität mit der gemeinsamen Antworten -API bei.
Microsoft gibt an, dass diese Initiative darauf abzielt, die Flexibilität, Transparenz und operative Entscheidungen für Entwickler und Unternehmen bei der Verwendung und dem Management künstlicher Intelligenz in Cloud-, On-Device- und Randumgebungen zu verbessern.
