Unconventional AI hat ein experimentelles Bilderzeugungsmodell vorgestellt, das herkömmliches rechenintensives Rechnen durch ein simuliertes Netzwerk physikalischer Oszillatoren ersetzt. Das Startup sagt, dass der zugrunde liegende Ansatz letztendlich bis zu 1.000 Mal weniger Energie verbrauchen könnte als aktuelle KI-Systeme.
Das Modell mit dem Namen Un-0 ist der erste Proof of Concept des Unternehmens. Unconventional AI wurde von Forschern gegründet, darunter MIT-Assoziierter Professor Michael Carbin, Stanford-Assistenzprofessorin Sara Achour, der ehemalige Google-Ingenieur MeeLan Lee und der ehemalige Databricks AI-Chef Naveen Rao. Das Team veröffentlichte am 25. Juni technische Details und veröffentlichte das Modell über GitHub.
Die meisten Computer führen Berechnungen durch, indem sie Milliarden von Transistoren schnell zwischen dem Ein- und Aus-Zustand umschalten. Auf Diffusionsmodellen basierende Bildgeneratoren beginnen mit visuellem Rauschen und berechnen wiederholt, was entfernt werden muss, um das gewünschte Bild zu erzeugen, wobei sie typischerweise zwischen 20 und 50 Verfeinerungsschritte durchlaufen.
Un-0 repräsentiert stattdessen Informationen durch Oszillatoren, physikalische Systeme, die sich wiederholende Wellen erzeugen. Verbundene Oszillatoren beeinflussen sich auf natürliche Weise gegenseitig, bis sich ihre Rhythmen anzugleichen beginnen, ein Prozess, der im Kuramoto-Modell beschrieben wird.
Um ein Bild zu erzeugen, ordnet das System Kategorien wie Schuhen oder Schleppen unterschiedliche Oszillatorphasenmuster zu. Eine kleinere Gruppe, die mit dem gewünschten Muster konfiguriert ist, fungiert als Aufforderung und zieht das größere Netzwerk zufällig positionierter Oszillatoren nach und nach in die gleiche Anordnung.
Anschließend zeichnet das System die Endphasen der Oszillatoren als numerisches Raster auf. Ein separater Decoder wandelt dieses Raster in Pixelwerte um, um das Bild zu erzeugen.
Unkonventionelle KI argumentiert, dass physische Oszillator-Hardware weit weniger Strom verbrauchen könnte, da der Strom kontinuierlich durch geschlossene Kreisläufe fließen würde, anstatt durch Billionen von Transistorschaltvorgängen gezwungen zu werden. Das bestehende Un-0-Modell liefert diese Einsparungen noch nicht, da es die Oszillatoren auf herkömmlicher Hardware simuliert. Das Unternehmen plant letztendlich die Entwicklung spezieller Chips auf Oszillatorbasis.
Die Forscher testeten Un-0 mit den Bilddatensätzen CIFAR-10 und ImageNet 64×64. Auf CIFAR-10 verbesserte sich der Fréchet-Inception-Distance-Score von 11,01 mit 1.024 Oszillatoren auf 8,76 mit 4.096 Oszillatoren. Niedrigere Werte weisen darauf hin, dass die generierten Bilder den Referenzdaten ähnlicher sind.
Auf ImageNet 64×64 verbesserte sich die Punktzahl von 8,41 mit 6.656 Oszillatoren auf 6,74 mit 16.384 Oszillatoren. Die Forscher sagten, die Ergebnisse seien vergleichbar mit frühen Bildgeneratoren wie BigGAN von Google und iDDPM von OpenAI, warnten jedoch davor, die Zahlen als Referenzpunkte und nicht als direkt äquivalente Messungen zu betrachten.
Das Team erkannte, dass aktuelle Bildgeneratoren immer noch eine bessere Gesamtqualität liefern und gleichzeitig ihre Parameter effizienter nutzen. Unconventional AI hat die Modellgewichte, den Trainingscode und die Ablationsskripte veröffentlicht, damit andere Forscher den Ansatz testen und ihre eigenen Simulationen durchführen können.
