übersicht über Microsoft Foundry Toolkit für Visual Studio Code

Microsoft Foundry Toolkit für Visual Studio Code ist eine Erweiterung zum Erstellen, Testen, Bereitstellen, Auswerten und Überwachen von KI-Apps und -Agents. Verwenden Sie es lokal, oder stellen Sie eine Verbindung mit Microsoft Foundry her, um Ihren KI-Entwicklungsworkflow zu verwalten, ohne Visual Studio Code zu verlassen.

Foundry Toolkit ist der neue Name für AI Toolkit. Es enthält auch die Funktionen, die zuvor von der separaten Microsoft Foundry-Erweiterung bereitgestellt wurden, sodass Sie mit lokalen Ressourcen und Foundry-Ressourcen in einer Erweiterung arbeiten können.

Wer sollte Foundry Toolkit verwenden?

Foundry Toolkit unterstützt verschiedene Rollen und Ebenen der KI-Entwicklungserfahrung:

• Anwendungsentwickler können generative KI-Features zu Web-, Desktop- und mobilen Apps hinzufügen.
• KI- und Machine Learning-Techniker können Modelle und Agents vergleichen, anpassen, optimieren und bereitstellen.
• Datenwissenschaftler und Forscher können mit Eingabeaufforderungen, Modellen, Datasets und Bewertungskriterien experimentieren.
• Lehrkräfte und Schüler können generative KI-Konzepte durch interaktive Spielplätze und lokale Modelle erkunden.

Organisieren des Toolkit-Arbeitsbereichs

Foundry Toolkit trennt Ressourcen, die Sie von Aktionen haben, die Sie ausführen können. Die Erweiterung hat drei Hauptabschnitte.

Die genauen Tools und Ressourcentypen können sich ändern, wenn sich die Erweiterung weiterentwickelt. Verwenden Sie die Toolkit-Ansicht, um die Features in Ihrer installierten Version anzuzeigen.

Arbeiten mit Modellen

Das Foundry Toolkit bietet einen End-to-End-Modellentwicklungsworkflow:

• Verwenden Sie den Modellkatalog , um Modelle von Foundry und externen Anbietern zu ermitteln oder lokale Modelle über ONNX, Ollama und Foundry Local zu verwenden.
• Vergleichen Sie Modelle und Testaufforderungen, Parameter, Bilder und Anlagen im Modell-Playground.
• Konvertieren, Quantisieren, Optimieren und Auswerten unterstützter Modelle für die lokale Windows Bereitstellung.
• Optimieren Sie unterstützte Modelle lokal mit einer GPU oder remote mit Azure Container Apps.
• Profil CPU-, GPU- und NPU-Verwendung für unterstützte Windows Machine Learning-Workloads.

Agenten erstellen und betreiben

Foundry Toolkit unterstützt Prompt-Agents und codebasierte gehostete Agents. Starten Sie mit Einen Agenten erstellen, um Agent Builder, Beispiele für gehostete Agenten und Copilot-unterstütztes Codieren zu vergleichen.

Der Agent-Generator unterstützt auch lokal gespeicherte Eingabeaufforderungen. Ihre Werkzeuge, Optionen für strukturierte Ausgaben und zur Auswertung von Datensätzen unterscheiden sich von denen der Foundry-Prompt-Agenten. Lokale Speicherung bedeutet nicht, dass die Modellinferenz auf Ihrem Computer ausgeführt wird. Siehe "Arbeiten mit lokalen Eingabeaufforderungen".

Während der Entwicklung haben Sie folgende Möglichkeiten:

• Verwenden Sie den Agent-Generator , um Unterhaltungen zu testen, Eingabeaufforderungs-Agent-Versionen zu speichern und Clientcode zu generieren, der einen gespeicherten Foundry-Agent aufruft.
• Verwenden Sie den Toolkatalog , um Foundry-Tools, MCP-Server (Model Context Protocol) und Toolboxs zu ermitteln und sie dann agents hinzuzufügen.
• Verwenden Sie agent inspector , um lokale Agents zu debuggen, Streamingantworten und Toolaufrufe zu überprüfen und die Workflowausführung zu visualisieren.
• Stellen Sie gehostete Agenten über den Foundry Agent Service aus Quellcode oder einem Containerimage bereit.
• Testen Sie bereitgestellte Agenten im Playground für gehostete Agenten, überprüfen Sie Protokolle und Ablaufverfolgungen und verwalten Sie Versionen.
• Bewerten Sie Modelle, Prompts und Agenten anhand von Datensätzen, integrierten Evaluatoren oder benutzerdefinierten Kriterien.

Einige Toolkit-Funktionen sind als Vorschau verfügbar. Lesen Sie die Versionshinweise zum Foundry Toolkit, um Einzelheiten zur Version zu erhalten.

Verwalten von Foundry-Ressourcen

Melden Sie sich bei Azure an, und legen Sie ein Foundry-Projekt fest, um Cloudressourcen aus Visual Studio Code zu verwalten. Sie haben folgende Möglichkeiten:

• Durchsuchen Sie Foundry-Projekte und die ressourcen, die für Ihr Konto verfügbar sind.
• Ermitteln und Bereitstellen von Modellen aus dem Foundry-Modellkatalog.
• Zeigen Sie Modellendpunkte und Authentifizierungsinformationen an.
• Prompt-Agents erstellen und versionieren sowie gehostete Agents bereitstellen und testen.
• Überprüfen und Testen vorhandener deklarativer Workflows vor der Migration.
• Durchsuchen Sie Tools und Wissensquellen, die von Ihren Agents verwendet werden.
• Öffnen Sie während der Entwicklung Evaluationen, Konversationen, Protokolle und Traces.

Verwenden Sie für eine umfassendere Ressourcenverwaltung das Foundry-Portal. Verwenden Sie zum Automatisieren eines Workflows im Anwendungscode die Microsoft Foundry-SDKs.

Verwandte Inhalte

• Installieren des Foundry Toolkits für Visual Studio Code
• Einrichten eines Foundry-Projekts in Visual Studio Code
• Melden eines Problems mit dem Foundry Toolkit
• Erstellen eines Agents mit Microsoft Foundry Toolkit