Zurück zur Übersicht
LangSmith Bring Your Own Cloud (BYOC) auf AWS ab sofort allgemein verfügbar für Enterprise-Teams
ProduktstartLangChainAWSEnterprise

LangSmith Bring Your Own Cloud (BYOC) auf AWS ab sofort allgemein verfügbar für Enterprise-Teams

LangChain hat die allgemeine Verfügbarkeit (General Availability) von LangSmith Bring Your Own Cloud (BYOC) auf Amazon Web Services (AWS) bekannt gegeben. Diese Lösung ermöglicht es Enterprise-Teams, die Funktionen von LangSmith für Observability, Evaluierung und Deployment direkt innerhalb ihrer eigenen Virtual Private Cloud (VPC) zu nutzen. Damit adressiert LangChain die spezifischen Anforderungen großer Unternehmen an Datensicherheit und Compliance, indem eine verwaltete Plattform in der kontrollierten Infrastruktur des Kunden bereitgestellt wird. Die Ankündigung markiert einen wichtigen Meilenstein für Unternehmen, die LLM-Anwendungen skalieren möchten, während sie gleichzeitig die volle Hoheit über ihre Datenströme in der AWS-Cloud behalten.

LangChain

Die wichtigsten Punkte

  • Allgemeine Verfügbarkeit: LangSmith BYOC ist nun offiziell für Enterprise-Kunden auf AWS (Amazon Web Services) verfügbar.
  • VPC-Integration: Die Plattform wird innerhalb der kundeneigenen Virtual Private Cloud (VPC) betrieben, was maximale Datensicherheit gewährleistet.
  • Umfassendes Funktionsset: Das Angebot umfasst verwaltete Lösungen für Observability, Evaluierung und Deployment von KI-Anwendungen.
  • Enterprise-Fokus: Die Lösung ist speziell darauf ausgelegt, die strengen Compliance-Anforderungen großer Organisationen zu erfüllen.

Analyse

Sicherheit und Kontrolle durch das BYOC-Modell auf AWS

Die Einführung von LangSmith Bring Your Own Cloud (BYOC) als allgemein verfügbare Lösung auf AWS stellt eine strategische Erweiterung für das Ökosystem von LangChain dar. Das Hauptaugenmerk liegt hierbei auf der Verbindung von zwei Welten: der Benutzerfreundlichkeit einer verwalteten Plattform und der Sicherheit einer privaten Cloud-Infrastruktur.

Indem LangSmith innerhalb der Virtual Private Cloud (VPC) des Kunden operiert, bleiben alle sensiblen Datenströme, die bei der Entwicklung und dem Betrieb von Large Language Models (LLMs) anfallen, in der Hoheit des Unternehmens. Dies ist besonders für Enterprise-Teams in regulierten Branchen von Bedeutung, da so die Einhaltung interner Sicherheitsrichtlinien und externer Datenschutzvorgaben erleichtert wird. Die Infrastruktur wird zwar von LangChain verwaltet, befindet sich jedoch physisch und logisch im Sicherheitsbereich des Kunden.

Optimierung des KI-Lebenszyklus: Observability, Evaluierung und Deployment

Die GA-Veröffentlichung (General Availability) bringt drei Kernkomponenten in die VPC der Kunden: Observability, Evaluierung und Deployment. Diese Funktionen decken den gesamten Lebenszyklus einer KI-Anwendung ab.

  1. Observability: Enterprise-Teams erhalten tiefe Einblicke in die Funktionsweise ihrer KI-Modelle. Traces und Protokolle können analysiert werden, um die Performance zu überwachen und Fehlerquellen in Echtzeit zu identifizieren – alles innerhalb der gesicherten AWS-Umgebung.
  2. Evaluierung: Die systematische Bewertung von Modellantworten ist entscheidend für die Qualitätssicherung. Durch die Integration in die eigene VPC können Unternehmen auch sensible Testdaten für diese Evaluierungsprozesse nutzen, ohne ein Sicherheitsrisiko einzugehen.
  3. Deployment: Die Bereitstellung von Anwendungen wird durch die verwaltete Umgebung vereinfacht. Teams können ihre KI-Lösungen schneller skalieren, da die notwendige Infrastruktur nahtlos in die bestehende AWS-Landschaft integriert ist.

Strategische Bedeutung für Enterprise-Workflows

Mit diesem Schritt reagiert LangChain auf den wachsenden Bedarf an professionellen Werkzeugen für das sogenannte LLMOps (Large Language Model Operations). Für viele Großunternehmen war die Nutzung von SaaS-Tools bisher aufgrund von Sicherheitsbedenken eingeschränkt. Die Verfügbarkeit von LangSmith BYOC auf AWS räumt diese Hindernisse aus dem Weg. Es ermöglicht eine nahtlose Integration in bestehende AWS-Workflows und nutzt die bewährte Infrastruktur des weltweit führenden Cloud-Anbieters, um KI-Projekte von der Experimentierphase in den produktiven Unternehmenseinsatz zu überführen.

Bedeutung für die KI-Branche

Die Bereitstellung von LangSmith BYOC auf AWS unterstreicht den Trend zur Professionalisierung der KI-Entwicklungstools. Es zeigt, dass der Markt für KI-Infrastruktur reift und Anbieter zunehmend Lösungen liefern, die den hohen Sicherheitsstandards von Enterprise-Kunden gerecht werden. Die Wahl von AWS als Plattform für die allgemeine Verfügbarkeit festigt zudem die Position von LangChain als zentralem Akteur im Bereich der LLM-Entwicklungswerkzeuge für den Unternehmenseinsatz.

Häufig gestellte Fragen

Was bedeutet "Bring Your Own Cloud" (BYOC) bei LangSmith?

BYOC bedeutet, dass die LangSmith-Plattform innerhalb der Cloud-Infrastruktur (VPC) des Kunden installiert und betrieben wird. LangChain übernimmt dabei das Management der Software, während der Kunde die volle Kontrolle über seine Daten und die zugrunde liegende AWS-Umgebung behält.

Welche Vorteile bietet die Nutzung innerhalb einer VPC?

Die Nutzung innerhalb einer Virtual Private Cloud (VPC) bietet höchste Sicherheit, da Daten die geschützte Umgebung des Unternehmens nicht verlassen. Dies ist essenziell für die Einhaltung von Compliance-Vorgaben und den Schutz geistigen Eigentums bei der Arbeit mit KI-Modellen.

Für wen ist LangSmith BYOC auf AWS gedacht?

Das Angebot richtet sich primär an Enterprise-Teams, die komplexe KI-Anwendungen entwickeln und dabei auf professionelle Werkzeuge für Observability, Evaluierung und Deployment angewiesen sind, ohne Kompromisse bei der Datensicherheit einzugehen.

Ähnliche Nachrichten

Tool Retrieval in der Gemini API: Google kündigt Vorschau für KI-Agenten an
Produktstart

Tool Retrieval in der Gemini API: Google kündigt Vorschau für KI-Agenten an

Google stellt Tool Retrieval als Vorschau in der Gemini API bereit. Die Funktion soll KI-Agenten Zugang zu Hunderten von Werkzeugen ermöglichen und dabei weniger Tokens benötigen. Damit verbindet die Ankündigung zwei Aspekte: die Zahl der Werkzeuge, auf die Agenten zugreifen können, und den dafür nötigen Tokenverbrauch. Wie groß die Einsparung ausfällt, geht aus der Meldung des Google AI Blog nicht hervor. Sie nennt weder einen konkreten Vergleichswert noch erläutert sie, wie Tool Retrieval technisch funktioniert. Auch welche Werkzeuge zur Verfügung stehen und ob oder wann die Funktion über die Vorschau hinaus verfügbar sein wird, bleibt offen. Die Meldung beschreibt somit den angekündigten Nutzen, liefert aber keine technischen Details oder Messwerte.

LangSmith Tool Gateway startet in die öffentliche Beta und regelt Werkzeugaufrufe von KI-Agenten
Produktstart

LangSmith Tool Gateway startet in die öffentliche Beta und regelt Werkzeugaufrufe von KI-Agenten

LangChain meldet, dass LangSmith Tool Gateway als öffentliche Beta verfügbar ist. Das Produkt verwaltet bei jedem Werkzeugaufruf eines KI-Agenten die Zugangsdaten, die Identität und den Zugriff. Zum genannten Funktionsumfang gehören außerdem Richtlinien, Freigaben und Ablaufspuren. Die Meldung beschreibt damit zwei Seiten der Werkzeugnutzung: die Verwaltung von Zugangsdaten, Identität und Zugriff einerseits sowie die Kontrolle und Nachverfolgung von Aufrufen andererseits. Entscheidend für die Einordnung ist, dass LangChain diese Funktionen auf einzelne Werkzeugaufrufe bezieht. Wie Richtlinien festgelegt werden, wann Freigaben erforderlich sind und welche Informationen die Ablaufspuren enthalten, geht aus der Meldung nicht hervor. Der ausdrücklich genannte Veröffentlichungsstatus ist die öffentliche Beta.

Google stellt Gemini Decision 1 vor: Das Modell wählt Antworten aus, statt sie zu schreiben
Produktstart

Google stellt Gemini Decision 1 vor: Das Modell wählt Antworten aus, statt sie zu schreiben

Mit Gemini Decision 1 stellt Google ein Modell vor, das Antworten auswählt, statt sie zu schreiben. Nach der Meldung hat das Modell genau diese eine Aufgabe und verfasst dabei selbst keinen Text. Auf der Eingabeseite kann es Texte, Bilder, Videos, Audio und PDFs verarbeiten. Die Verarbeitung erfolgt in einem einzigen Vorwärtsdurchlauf. Pro Anfrage unterstützt Gemini Decision 1 bis zu 262.144 Eingabetokens. Die Meldung unterscheidet damit zwischen den vielfältigen Eingaben, die das Modell lesen kann, und seiner eng umrissenen Aufgabe bei der Antwort: Es formuliert keine eigene Antwort, sondern trifft eine Auswahl. Die genannte Tokenobergrenze bezieht sich auf die Eingabe pro Anfrage, nicht auf eine Textausgabe.