Der Aufstieg großer Sprachmodelle (LLMs) und fundamentale KI -Modelle hat die Softwarelandschaft revolutioniert und bietet Produktingenieuren ein immenses Potenzial, um Benutzererlebnisse zu verbessern. Aber wie können Unternehmen diese Technologie effektiv nutzen?
Ich sprach mit Igor Luchenkovein Produktingenieur für künstliche Intelligenz, der die Infrastruktur aufgebaut hat, um LLMs im Maßstab zu nutzen, und die Hackathon -Plattform erstellt Hackathonparty Um Einblicke in die angewandte KI in Produkttechnik zu gewinnen und Benutzer glücklich zu machen.
KI in SaaS -Lösungen definieren
Luchenkov definiert angewandte KI im aktuellen SaaS -Kontext, wie sich um grundlegende Modelle abgeleitet, die abgeleitet sind Llms.
„Ein grundlegendes Modell ist ein maschinenlernender Algorithmus, der auf massive Datenmenge ausgebildet ist“, sagte Luchenkov. „Diese Modelle können Text, Bilder, Ton und praktisch jede Eingabe in einer bestimmten Domäne verstehen.“
Er verweist auf bekannte Beispiele wie Openais GPT und Anthropics Claude sowie Open-Source-Alternativen wie Deepseek R1, Mistral, Gemma und Lama. Die Anwendungen sind riesig und reicht von Chatbots und Besprechungsinstrumenten bis hin zu Codegenerierung und KI-angetriebenen Datenanalyse-Plattformen.
„Das Spektrum möglicher Anwendungsfälle ist sehr hoch und noch nicht festgelegt“, sagte Luchenkov.
Bewertung der Notwendigkeit angewandter KI
Luchenkov rät einen pragmatischen Ansatz bei der KI -Implementierung.
„Erstellen Sie zunächst ein Produkt, das den Kunden einen Mehrwert bringt. Mach es ohne KI “, sagte Luchenkov zu mir. Dies ermöglicht eine Grundlinie, mit der AI -Initiativen verglichen werden können. Die Schlüsselfrage lautet dann: Gibt es einen guten Anwendungsfall für KI?
„Wir suchen nach Produktmöglichkeiten, bei denen menschliche, nachdenkliche Entscheidungen erforderlich sind“, sagte Luchenkov. „Der Fokus sollte auf der Automatisierung von Aufgaben und der Steigerung der Benutzerproduktivität liegen.“
Luchenkov illustriert dies mit seiner Arbeit bei Klärenwo KI Powers die Vorbereitung, E -Mail -Zeichnen und Zusammenfassung in ihrem CRM trifft.
„Wir haben ein klares Problem, das seit Jahrzehnten im Raum bekannt ist (Kundenbeziehung ist ein langer, gründlicher Prozess) und es mit KI erleichtert“, sagte Luchenkov. „Unternehmen sollten“ das Problem identifizieren, das ein intelligentes System benötigt, um gelöst zu werden, und sicherzustellen, dass dieses Problem gelöst wird. “
Er empfiehlt auch, die ML-Regeln von Google zu beraten AI/ML -Systeme.
Überlegte Überlegungen zur Infrastruktur
Luchenkov betont, dass angewandte KI -Anwendungen in erster Linie Anwendungen sind, die Lösungen für herkömmliche Herausforderungen für die Software -Engineering wie Skalierbarkeit, Reaktionszeiten, Überwachung und Warnungen erfordern. AI führt jedoch ihre eigenen Überlegungen ein.
„Sie müssen nach Modellleistung des Modells, Verschiebungen der Datenverteilung und anderen für Ihre besonderen Aufgabe spezifischen Dinge suchen“, sagte Luchenkov. Die Beobachtbarkeit ist entscheidend für das Verständnis der Auswirkungen von Systemänderungen auf Leistung und Geschäftsmetriken. Grundmodelle stellen auch einzigartige Herausforderungen auf, insbesondere bei der Bewertung offener Antworten.
Luchenkov zitiert das Beispiel eines Modells, in dem Text zusammengefasst ist: „Woher wissen Sie, ob LLM einen Text richtig zusammenfasst und keine Dinge ausmacht?“ Metriken wie AI -Richter und Verwirrung können verwendet werden, aber die spezifische Wahl hängt vom Anwendungsfall ab.
„Bewerten und überwachen Sie im Allgemeinen Kennzahlen, die für Ihre spezielle Aufgabe sinnvoll sind“, sagte Luchenkov.
Demokratisierung der KI -Verwendung
Luchenkov ist der Ansicht, dass angewandte KI für alle in einer Organisation zugänglich sein sollte.
„KI ist heutzutage eine Ware“, sagte Luchenkov. Die Einschränkung des Zugangs behindert die Innovation. Abgesehen von Produktteams schlägt er vor, ein dediziertes KI -F & E -Team zu errichten, um aufstrebende Modelle und Techniken zu verfolgen und neue Anwendungsfälle zu erkunden.
„Das Ziel eines solchen Teams ist es, neue Anwendungsfälle für die Verwendung von KI im Produkt aufzudecken und in verschiedenen Bereichen des Produkts innovativ zu sein“, sagte Luchenkov.
Er empfiehlt auch die Bücher “Entwerfen von maschinellem Lernsystemen“ Und „KI -Ingenieurwesen”Von Chip Huyen finden Sie weitere Informationen zur Infrastruktur und Bewertung.
Die Risiken von KI mildern
KI, das auf riesigen Datensätzen geschult ist, die häufig Vorurteile und Fehlinformationen enthalten, birgt inhärente Risiken. Luchenkov unterstreicht das Potenzial von KI, schädliche oder unangemessene Antworten zu erzeugen, und zitiert einen Chatbot, der Selbstmord vorschlug.
„Jeder solche Präzedenzfall ist eine Tragödie für Menschen und ein großer Reputationsverlust für das Unternehmen“, sagte Luchenkov.
Selbst scheinbar harmlose Fehler wie falsche Kundenunterstützungsreaktionen können das Vertrauen beschädigen und zu negativen Werbung führen. Er bekräftigt die Bedeutung einer ständigen Überwachung und Bewertung, um die Leistung zu gewährleisten und potenzielle Probleme zu identifizieren.
Bedenken hinsichtlich der Bedenken hinsichtlich der Reputation
Luchenkov erkennt das Potenzial für Reputationsschäden aufgrund der Unvorhersehbarkeit von AI an. Er verweist auf Beispiele von AI -Assistenten, die bizarre Aussagen machen oder voreingenommene Antworten erzeugen.
„Deshalb ist es entscheidend, angemessene Schutzmaßnahmen vorhanden zu haben, wie die Inhaltsfilterung und die menschliche Aufsicht“, sagte Luchenkov.
Er merkt an, dass menschliche Überwachung in sensiblen Bereichen wie Gesundheitswesen, Finanzen und Rechtsdienstleistungen von wesentlicher Bedeutung ist, um die Genauigkeit, Einhaltung und ethische Verantwortung sicherzustellen. Das ultimative Ziel, schließt Luchenkov, ist es, „die Vorteile der KI zu nutzen, gleichzeitig den Ruf Ihres Unternehmens zu schützen und das Kundenvertrauen aufrechtzuerhalten“.
