Wie die neurosymbolische KI das logische Argumentieren mit LLMs vereint

KI ist gut in der Mustererkennung, kämpft aber mit Argumentation. In der Zwischenzeit ist die menschliche Erkenntnis tief in Logik und Kohärenz verwurzelt. Was wäre, wenn wir könnten? Kombinieren Sie das Beste aus beiden Welten-Die rohe Verarbeitungskraft großer Sprachmodelle (LLMs) und das strukturierte, regelbasierte Denken der symbolischen KI?

Dies ist das Ziel dahinter Neurosymbolische AIein neuer Ansatz, der tiefes Lernen mit kohärenzgetriebener Inferenz (CDI) verschmilzt. Forscher Huntsman und Thomas schlagen eine Methode vor, die es LLMs ermöglicht logische Beziehungen konstruieren aus der natürlichen Sprache, die Tür zu öffnen zu öffnen Bessere Entscheidungsfindung, Problemlösung und sogar kI-gesteuerte rechtliche Argumentation.

Diese Studie “,“Neurosymbolische künstliche Intelligenz über Großsprachenmodelle und kohärenzgetriebene Inferenz„Durchgeführt von Steve Huntsman und Jewell Thomas aus Cynnovative, untersucht einen neuartigen Ansatz zur Integration von Kohärenz-gesteuerten Inferenz (CDI) in Großsprachmodelle (LLMs). Durch die Entwicklung eines Algorithmus, der die Aussagen der natürlichen Sprache in strukturierte Kohärenzdiagramme verwandelt, rekonstruieren die Forscher die Fähigkeit der AI -Modelle, logische Beziehungen zu rekonstruieren.

Was ist kohärenzgetriebene Schlussfolgerung?

Kohärenzgetriebene Inferenz (CDI) ist eine Möglichkeit, Entscheidungen zu treffen, basierend darauf, wie gut eine Reihe von Vorschlägen zusammenpassen. Anstatt einzelne Fakten einfach zu akzeptieren oder abzulehnen, baut CDI a Grafik der BeziehungenGewichte zuweisen konsistent Und widersprüchlich Aussagen.

Ein Kohärenzdiagramm würde diese Aussagen verbinden und Erzählen Sie ihre KonsistenzAI bei der Bestimmung Welche Aussagen sind am wahrscheinlichsten wahr?.

Das Problem? Bisher mussten diese Grafiken sein manuell gebaut– Ein sorgfältiger und unpraktischer Prozess. Die neue Forschung schlägt einen Algorithmus vor, der kann automatisch generieren Diese Grafiken von natürliche Spracheingabe und testen Sie, wie gut LLMs sie rekonstruieren können.

Warum kleine KI -Modelle nicht mit großen Schritt halten können

Lehre LLMs zum Aufbau logischer Strukturen unterrichten

Die Forschermethode umfasst zwei wichtige Schritte:

1. Vorschläge erzeugen: Eine Reihe von Aussagen wird in der natürlichen Sprache erstellt, die eine logische Struktur widerspiegelt.
2. Rekonstruktion von Kohärenzdiagrammen: LLMs werden dann aufgefordert, diese Aussagen zu analysieren und die zugrunde liegende Graphenstruktur wieder aufzubauen.

Auf diese Weise sind KI -Modelle dazu gezwungen Denken Sie eher nach MenschenBewertung nicht nur einzelne Fakten, sondern auch Wie sie eine Verbindung zu einem breiteren Wissensnetz herstellen.

Kann Ai es richtig machen?

Die Studie testete verschiedene LLMs aus GPT-4O und Claude 3.5 Zu Open-Source-Modelle wie Qwen-32B und Lama-3.3. Die Ergebnisse waren überraschend vielversprechend– Einige Modelle waren in der Lage, Kohärenzdiagramme mit hoher Genauigkeit zu rekonstruieren, selbst unter ungewisse oder mehrdeutige Bedingungen.

Interessant, Modelle optimiert für die Argumentationwie O1-Mini und QWQ-32Bdie Beste gespielt. Dies deutet darauf hin, dass KI -Systeme speziell für trainiert wurden Strukturierte Problemlösung Kann allgemeine LLMs bei der Umstellung komplexer Argumentationsaufgaben übertreffen.

Im Kern von kohärenzgetriebene Inferenz (CDI) ist die Idee, dass Wissen nicht nur eine Sammlung von ist Isolierte Fakten– Es ist ein Netzwerk von Interdependente Wahrheiten. Die Methode, die von Huntsman und Thomas Structures Wissen als Wissen eingeführt wurde KohärenzdiagrammWo:

• Knoten Repräsentieren von Vorschlägen (z. B. „Den Haag ist das Kapital“).
• Kanten darstellen Konsistenz oder Inkonsistenz zwischen diesen Aussagen.

Wenn ein Vorschlag Unterstützt einen anderenes bekommt a positive Verbindung. Wenn zwei Aussagen widersprechen, erhalten sie eine negative Verbindung. Das Ziel? Zu Kohärenz maximieren durch Trennung wahre und falsche Aussagen in verschiedene Cluster.

Das Problem, die kohärenteste Partition in einer Grafik zu finden Maxeine bekannte rechnerische Herausforderung. Die neurosymbolische KI befasst sich mit der Kombination von LLMs natürlicher Sprachverständnis mit CDIs graphischer Begründung.

Der Ansatz der Forscher lässt sich inspirieren Sowohl Psychologie als auch Informatik. CDI wurde verwendet, um zu modellieren menschliche Entscheidungsfindungrechtliche Überlegungen und sogar kausale Schlussfolgerung in der Wissenschaft. Bisher mussten CDI -Graphen manuell konstruiert werden.

Um diesen Prozess zu automatisieren, schlägt die Studie einen Algorithmus vor, der:

1. Verwandelt natürliche Sprachaussagen in ein strukturiertes Kohärenzdiagramm.
2. Trainiert LLMs, um diese Diagramme zu rekonstruierenTesten ihrer Fähigkeit, Beziehungen zwischen Fakten zu identifizieren.
3. Benchmarks Leistung über verschiedene KI -Modelle hinwegAnalyse, wie gut sie logische Konsistenz bewahren.

Um zu testen, wie gut LLMs mit kohärenzgesteuerter Inferenz umgehen, generierten die Forscher synthetische Kohärenzdiagramme und fütterten sie in verschiedene KI-Modelle. Diese Grafiken enthielten sowohl konsistente als auch widersprüchliche Aussagen und forderten die Modelle auf, logische Strukturen zu identifizieren, anstatt nur Informationen zu erfassen.

Sie testeten:

• Claude 3.5 und GPT-4O (High-End Commercial LLMs)
• QWQ-32B, O1-Mini und Lama-3 (Open-Source-Modelle optimiert für die Argumentation)
• PHI-4 und Gemini 1.5/2.0 (kleinere und mittelgroße Modelle)

Die Ergebnisse zeigten, dass:

• Modelle, die für die Argumentation optimiert wurden (wie O1-Mini und QWQ-32B), übertrafen die allgemeinen LLMs signifikant übertrieben.
• Einige Modelle rekonstruierten das ursprüngliche Kohärenzdiagramm erfolgreich – selbst wenn sie unsichere oder mehrdeutige Informationen konfrontiert sind.
• LLMs hatten mit komplexeren logischen Strukturen zu kämpfen, insbesondere wenn mehrere Aussagen voneinander abhängig waren.

Diese Forschung ist ein wichtiger Schritt in Richtung Wirklich intelligente KI. Anstatt Sprache als zu behandeln Statistisches Ratenspielkohärenzgetriebene Inferenz zwingt AI zu Bewerten Sie die logische Konsistenzführen zu:

• Zuverlässigere KI -Ausgänge (Weniger Halluzination, genaueres Denken)
• Bessere Erklärung (KI -Entscheidungen, die auf expliziten logischen Strukturen basieren)
• Verbesserte Problemlösung (anwendbar auf Recht, Wissenschaft und Governance)

Ausgewähltes Bildnachweis: Tara Winstead/Pxels