OpenAI Q-Star wurde kürzlich zum Mittelpunkt einer bahnbrechenden Enthüllung in der KI-Branche Reuters Bericht. In einem mutigen Schritt vor dem vorübergehenden Ausscheiden von CEO Sam Altman verfasste eine Gruppe von Forschern des Unternehmens einen wichtigen Brief an den Vorstand. Diese zuvor nicht veröffentlichte Korrespondenz löste Besorgnis über eine KI-Entwicklung aus, die stark genug ist, um eine Gefahr für die Menschheit darzustellen. Altman, eine führende Persönlichkeit im Bereich der generativen KI, sah sich mit der Entscheidung des Vorstands konfrontiert, ihn von seiner Rolle zu entfernen, ein Schritt, der unter anderem durch diesen Brief beeinflusst wurde.
Vor dem Hintergrund dieser dramatischen Ereignisse standen über 700 Mitarbeiter kurz vor dem Rücktritt und erwogen als Zeichen der Verbundenheit mit Altman einen Wechsel zu Microsoft, einem wichtigen Unterstützer. Der Brief war einer von mehreren Gründen für die Entscheidung des Vorstands, Altman zu entlassen, einschließlich der Befürchtungen, KI-Fortschritte vorzeitig zu kommerzialisieren, ohne deren Auswirkungen vollständig zu verstehen. Bemühungen, den Brief zur Überprüfung zu erhalten, blieben erfolglos, und die Autoren reagierten nicht auf Anfragen nach weiteren Informationen.
JUST IN: Sam Altmans Entlassung wurde von OpenAIs geheimer bahnbrechender KI namens Q* (möglicherweise Q-Learning) vorangetrieben.
Darüber hinaus gibt es heute enorme Entwicklungen in der KI durch Inflection AI, Google Bard, Neuralink, ElevenLabs, Screenshot-to-Code und 9 neue KI-Tools.
Hier finden Sie ALLES, was Sie wissen müssen:
— Rowan Cheung (@rowancheung) 23. November 2023
Was wissen wir über OpenAI Q-Star?
Im Anschluss an Anfragen von ReutersOpenAI bestätigte intern die Existenz eines Projekts namens „Q*“ und den oben genannten Brief an den Vorstand, obwohl das Unternehmen auf eine öffentliche Stellungnahme verzichtete. Diese interne Anerkennung, die durch eine Nachricht von Mira Murati, einer erfahrenen Führungskraft bei OpenAI, übermittelt wurde, sollte die Mitarbeiter auf eine mögliche Berichterstattung in den Medien vorbereiten, ohne die Einzelheiten der Berichte zu überprüfen.
In den Korridoren von OpenAI wächst die Überzeugung, dass Q* (ausgesprochen Q-Star) einen bedeutenden Schritt in ihrem Streben nach künstlicher allgemeiner Intelligenz (AGI) darstellt. AGI bezieht sich im Sinne von OpenAI auf autonome Systeme, die in der Lage sind, Menschen bei den meisten wirtschaftlich bedeutsamen Aufgaben zu übertreffen. Eine Quelle, die wegen der unbefugten Offenlegung Anonymität bevorzugt, enthüllte, dass dieses neue Modell mit erheblicher Rechenleistung bei der Lösung spezifischer mathematischer Herausforderungen nachweislich leistungsfähig ist, wenn auch auf einem Niveau, das mit dem von Grundschülern vergleichbar ist. Der Erfolg bei diesen ersten mathematischen Aufgaben hat bei Forschern großen Optimismus hinsichtlich der potenziellen Fähigkeiten von Q-Star geweckt.
Die Mathematik steht derzeit an der Spitze der generativen KI-Entwicklung. Während bestehende KI bei sprachbasierten Aufgaben durch die Vorhersage des nächsten Wortes hervorragende Leistungen erbringt, können ihre Reaktionen variieren. Die Bewältigung mathematischer Probleme, auf die es definitive Antworten gibt, deutet jedoch auf eine Entwicklung hin zu KI mit Denkfähigkeiten hin, die mit der menschlichen Intelligenz vergleichbar sind. Dies könnte Bereichen wie der neuartigen wissenschaftlichen Forschung erheblich zugute kommen.
In ihrem Brief wiesen die OpenAI-Forscher sowohl auf die bemerkenswerten Fähigkeiten der KI als auch auf ihre potenziellen Risiken hin. Auf die Einzelheiten der Sicherheitsbedenken wurde nicht näher eingegangen, aber das Thema hochintelligenter Maschinen, die eine Bedrohung für die Menschheit darstellen, ist in Informatikkreisen seit langem Gegenstand einer Debatte.
Darüber hinaus arbeitet das „AI Scientist“-Team von OpenAI, ein Zusammenschluss der Teams „Code Gen“ und „Math Gen“, an der Optimierung von KI-Modellen, um das Denken zu verbessern und möglicherweise wissenschaftliche Arbeiten durchzuführen, was einen bedeutenden Schritt in der KI-Entwicklung darstellt.
Sam Altman spielte eine Schlüsselrolle dabei, ChatGPT zu einem beispiellosen Erfolg zu verhelfen und es zu einer der am schnellsten wachsenden Softwareanwendungen aller Zeiten zu machen. Seine Führung war maßgeblich daran beteiligt, bedeutende Investitionen und Computerressourcen von Microsoft zu sichern, entscheidende Schritte zur Erreichung von AGI.
Kürzlich stellte Altman bei einer Demonstration mehrere neue Tools vor und deutete auf einem Gipfel in San Francisco bevorstehende Durchbrüche bei AGI an. „Vier Mal in der Geschichte von OpenAI, das letzte Mal erst vor wenigen Wochen, habe ich den Nervenkitzel erlebt, den Schleier der Unwissenheit zurückzudrängen und die Grenzen des Entdeckens voranzutreiben. „Teil solcher Momente zu sein, ist die berufliche Ehre meines Lebens“, teilte er auf dem Gipfel der Asien-Pazifik-Wirtschaftskooperation mit.
Doch in einer überraschenden Wendung der Ereignisse Altman wurde entlassen Am folgenden Tag wurde er vom Vorstand seines Amtes enthoben. Das Entwicklerforum von OpenAI diskutiert bereits Gerüchte über Q-Star, aber es gibt noch nichts Endgültiges.
Hervorgehobener Bildnachweis: Andrew Neel/Unsplash
