Neuchips, ein Anbieter von AI-anwendungsspezifischen integrierten Schaltkreisen (ASICs), hat eine Partnerschaft mit Shareguru von VECOW und Golden Smart Home (GSH) Technology Corp. angekündigt, um eine Offline-Generative-KI-Lösung für die proprietäre Datenverarbeitung zu entwickeln. Die Zusammenarbeit soll es Unternehmen ermöglichen, Echtzeit-Erkenntnisse aus internen Datenbanken mithilfe natürlicher Sprachanfragen zu extrahieren.
Die Partnerschaft konzentriert sich auf die Herausforderungen der komplexen SQL -Datenverarbeitung und die Notwendigkeit von Datenschutz. Die Lösung kombiniert Vecows ECX-3100 RAG EDGE AI Inference Workstation, GSHs Shareguru QA 2.0-Lösung und Gen-AI-Karte von Neuchips Viper.
Zu den wichtigsten Aspekten der kollaborativen Lösung gehören:
- Offline -Datenverarbeitung: Die Neuchips ‚Viper Series -Karte ermöglicht die lokale Verarbeitung der Shareguru -Lösung und verbessert die Datenschutz und Sicherheit.
- Abfragen der natürlichen Sprache: Mit dem System können Benutzer SQL -Abfragen mithilfe menschlicher Sprache generieren, den Datenzugriff vereinfachen und die Abhängigkeit von SQL -Fachkenntnissen verringern.
- Stromeffizienz: Neuchips unterstreicht die Fähigkeit der Viper -Serie, 12 Milliarden Parametermodelle bei 45 -W -Stromverbrauch zu unterstützen.
- RAG-fähige LLM: Die Lösung nutzt die Abruf-Generation (RAG), um Zugriff auf aktuelle Daten zu gewährleisten, ohne die Modellumschulung zu erfordern.
- Hardwarespezifikationen: Die AI Accelerator Card der Neuchips Viper Series verfügt über 32 GB Speicherkapazität und native Unterstützung des nativen BF16 -Modells.
Agora startet die Konversations-KI-Engine, um Echtzeit-Sprachinteraktionen zu demokratisieren
Neuchips betont, dass die Karte der Viper -Serie einen erheblichen Teil der generativen KI -Verarbeitung von der CPU lädt. VECOW unterstreicht die Rolle der Lösung bei der Erfüllung der wachsenden Nachfrage nach generativen AI-Anwendungen und multimodaler großer Sprachmodelle (LLMs). Die Shareguru -Plattform von GSH bietet die SLM -Lösung, die mit der Neuchips -Hardware interagiert.
Die Unternehmen werden ihre kollaborative Lösung bei Embedded World 2025 in Nürnberg am Stand von Vecow in Nürnberg vorstellen. Neuchips kündigte auch zukünftige Pläne an, sich bis 2026 auf Multi-Modalität-ASICs mit geringer Leistung zu konzentrieren.
Ausgewähltes Bildnachweis: Google DeepMind/Unsplash
