Generative KI in Notebook-Umgebungen SageMaker - Amazon SageMaker KI

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Generative KI in Notebook-Umgebungen SageMaker

Jupyter AI ist eine Open-Source-Erweiterung zur JupyterLab Integration generativer KI-Funktionen in Jupyter-Notebooks. Über die Chat-Oberfläche von Jupyter AI und Magic-Befehle können Benutzer mit Code experimentieren, der aus Anweisungen in natürlicher Sprache generiert wurde, vorhandenen Code erklären, Fragen zu ihren lokalen Dateien stellen, ganze Notebooks erstellen und vieles mehr. Die Erweiterung verbindet Jupyter-Notebooks mit großen Sprachmodellen (LLMs), mit denen Benutzer Text, Code oder Bilder generieren und Fragen zu ihren eigenen Daten stellen können. Jupyter AI unterstützt Anbieter generativer Modelle wie AI21 Anthropic AWS (JumpStart und Amazon Bedrock), Cohere und OpenAI.

Sie können Amazon Q Developer auch als sofort einsatzbereite Lösung verwenden. Anstatt manuell eine Verbindung zu einem Modell einrichten zu müssen, können Sie Amazon Q Developer mit minimaler Konfiguration verwenden. Wenn Sie Amazon Q Developer aktivieren, wird es zum Standardlösungsanbieter in Jupyter AI. Weitere Informationen über die Verwendung von Amazon Q Developer finden Sie unter SageMaker JupyterLab.

Das Paket der Erweiterung ist in Amazon SageMaker Distribution Version 1.2 und höher enthalten. Amazon SageMaker Distribution ist eine Docker-Umgebung für Datenwissenschaft und wissenschaftliche Datenverarbeitung, die als Standard-Image für JupyterLab Notebook-Instances verwendet wird. Benutzer verschiedener IPython Umgebungen können Jupyter AI manuell installieren.

In diesem Abschnitt geben wir einen Überblick über die KI-Funktionen von Jupyter und zeigen, wie Modelle konfiguriert werden, die von JumpStart oder Amazon Bedrock aus JupyterLaboder Studio Classic-Notebooks bereitgestellt werden. Ausführlichere Informationen zum Jupyter-AI-Projekt finden Sie in der zugehörigen Dokumentation. Alternativ finden Sie im Blogbeitrag Generative KI in Jupyter einen Überblick und Beispiele der wichtigsten Funktionen von Jupyter AI.

Bevor Sie Jupyter AI verwenden und mit Ihrem interagieren, stellen Sie sicher LLMs, dass Sie die folgenden Voraussetzungen erfüllen:

  • Für Modelle, die von gehostet werdenAWS, sollten Sie den ARN Ihres SageMaker KI-Endpunkts haben oder Zugriff auf Amazon Bedrock haben. Bei anderen Modellanbietern sollten Sie über den API-Schlüssel verfügen, der zur Authentifizierung und Autorisierung von Anfragen an Ihr Modell verwendet wird. Jupyter AI unterstützt eine Vielzahl von Modellanbietern und Sprachmodellen. Informieren Sie sich in der Liste der unterstützten Modelle über die neuesten verfügbaren Modelle. Informationen zur Bereitstellung eines Modells in JumpStart finden Sie unter Bereitstellen eines Modells in der JumpStart Dokumentation. Sie müssen Zugriff auf Amazon Bedrock beantragen, um es als Ihren Modellanbieter verwenden zu können.

  • Stellen Sie sicher, dass Jupyter-AI-Bibliotheken in Ihrer Umgebung vorhanden sind. Falls nicht, installieren Sie das erforderliche Paket, indem Sie den Anweisungen unter folgen. Installation von Jupyter AI

  • Machen Sie sich mit den Funktionen von Jupyter AI in Greifen Sie auf die Funktionen von Jupyter AI zu vertraut.

  • Konfigurieren Sie die Zielmodelle, die Sie verwenden möchten, indem Sie den Anweisungen unter folgen. Konfigurieren Sie Ihren Modellanbieter

Nachdem Sie die erforderlichen Schritte abgeschlossen haben, können Sie mit fortfahrenVerwenden Sie Jupyter AI in oder Studio Classic JupyterLab .

Themen