Notebookcheck Logo

Nvidia erweitert ChatRTX: Kostenloser lokaler Chatbot für PCs mit Nvidia RTX-Grafikkarten erhält neue Bild- und Sprachfunktionen

Nvidia erweitert ChatRTX um neue Bild- und Sprachfunktionen (Bild: Nvidia).
Nvidia erweitert ChatRTX um neue Bild- und Sprachfunktionen (Bild: Nvidia).
Nvidia hat ChatRTX, einen kostenlosen lokalen AI-Chatbot, der auf PCs mit Nvidia-Grafikkarten der Serien RTX 30 oder 40 läuft, um neue Bild- und Sprachfunktionen erweitert. Die von ChatRTX analysierten Informationen werden nicht online gesendet und bleiben somit geschützt.

Nvidia hat die Fähigkeiten von Chat for RTX (ChatRTX) erweitert, indem in der neuesten Version zusätzliche Large Language Models (LLM) sowie Bild- und Sprachunterstützung hinzugefügt wurden. Der kostenlose lokale Chatbot muss keine Daten online senden, wenn er mit Benutzerinformationen arbeitet, so dass die Chats anonym bleiben.

Es gibt verschiedene LLMs für unterschiedliche Zwecke - allgemeine Chats, wissenschaftliches Arbeiten, das Schreiben von Aufsätzen und vieles mehr. Einige LLMs haben auch eine strenge Zensur, so dass einige LLMs nützlicher sind als andere. Zu den bisher verfügbaren TensorRT-LLMs gehören das Standardmodell Mistral und Llama 2. Nvidia hat ChatRTX für zwei neue Modelle, Gemma und ChatGLM3, freigegeben:

  • Gemma ist ein von Google DeepMind entwickeltes LLM, das 2024 als Modell mit zwei bzw. sieben Milliarden Parametern veröffentlicht wurde. Die Modelle sind hoch entwickelt, um sensible Sprache, persönliche Informationen und riskante oder gefährliche Antworten herauszufiltern.
  • ChatGLM3 ist ein von Zhipu AI und Tsinghua KEG entwickeltes LLM, das 2023 als Modell mit sechs Milliarden Parametern veröffentlicht wurde. Das zweisprachige chinesisch-englische Modell ist als starke Open-Source-Konkurrenz zu OpenAIs ChatGPT gedacht.

Nvidia hat das neuronale Netzwerk CLIP von OpenAI in ChatRTX integriert, um Bilder automatisch zu erkennen und den dazugehörigen Text zuzuordnen. Wird CLIP beispielsweise mit einem Bild eines Fernsehmoderators, Kameras und Lichtern in einem Raum gefüttert, erkennt es das Bild als Foto eines Fernsehstudios. Auf diese Weise kann ChatRTX mit Bildern arbeiten, ohne dass die Inhalte manuell beschriftet werden müssen. Das Spracherkennungssystem Whisper von OpenAI wurde ebenfalls in ChatRTX integriert und ermöglicht es den Anwendern, ChatRTX-Aufforderungen per Sprache zu nutzen.

Wer den lokalen ChatRTX-Bot ausprobieren möchte, kann Nvidia ChatRTX hier herunterladen, sofern die folgenden Systemvoraussetzungen erfüllt sind: Der lokale Chatbot läuft auf PCs mit einer Grafikkarte der Nvidia GeForce RTX 30 oder 40 Serie, andere Ampere- und Ada-basierte Grafikkarten mit mindestens 8 GB VRAM werden ebenfalls unterstützt. Weitere Systemvoraussetzungen sind Windows 11, 16 GB RAM, mindestens 35 GB freier Festplattenspeicher und die Treiberversion 535.11 oder höher.

static version load dynamic
Loading Comments
Diesen Artikel kommentieren / Antworten
Teilen Sie diesen Artikel, um uns zu unterstützen. Jeder Link hilft!
> Notebook Test, Laptop Test und News > News > Newsarchiv > News 2024-05 > Nvidia erweitert ChatRTX: Kostenloser lokaler Chatbot für PCs mit Nvidia RTX-Grafikkarten erhält neue Bild- und Sprachfunktionen
Autor: David Chien,  7.05.2024 (Update: 15.08.2024)