Zum Inhalt springen

RedPajama

Offene Trainingsdaten und Sprachmodelle, mit denen du das Training von LLMs erklären kannst.

Fortbildung & WissenEinschätzung3/5
Tool öffnen: RedPajama, externe Seite, neues FensterÖffnet together.ai in einem neuen Fenster
Teilen:
Datenschutz
Grün: geringe Bedenken
Preis
Kostenlos
Server
Selbst hosten möglich
Bildungslizenz
Keine Angabe

Worum es geht

RedPajama ist ein Projekt von Together AI und Forschungspartnern. Es stellt offene Trainingsdatensätze und darauf trainierte Sprachmodelle bereit. Der Code zur Aufbereitung der Daten liegt offen auf GitHub, so kann jeder den Datensatz nachbauen. Das eignet sich für KI-Kurse, die das Training von Sprachmodellen von Grund auf erklären.

Wofür im Alltag

RedPajama eignet sich für Kurse über das Training von Sprachmodellen. Daten und Code zur Datenaufbereitung liegen offen. So zeigst du, woraus ein Modell lernt und wie ein Trainingsdatensatz entsteht.

Einstieg

Datensätze und Modelle über Hugging Face. GPU für Training.

Stärken und Schwächen

Stärken

  • Code zur Datenaufbereitung offen auf GitHub (Apache-2.0)
  • Offene Datensätze
  • Geeignet für Unterricht über das Training von Sprachmodellen
  • Reproduzierbar

Schwächen

  • Primär für Forschung und Lehre
  • Nicht für Produktiv-Einsatz
  • Technisches Verständnis erforderlich

Datenschutz und Kosten im Detail

Grün: geringe Bedenken

Datensätze und Modelle lassen sich herunterladen. Die Modelle betreibst du auf eigener Hardware.

Anbieter
Together AI mit Forschungspartnern (u. a. Ontocord.ai, ETH DS3Lab, Stanford CRFM, Hazy Research)
Server
Selbst hosten möglich
Preis
Kostenlos · Open Source, kostenlos

Angaben ohne Gewähr. Mit den Angaben des Anbieters ist dieser Eintrag noch nicht abgeglichen. Bitte prüfe Preis, Serverstandort und AVV beim Anbieter.

Die Ampel ist unsere Einschätzung für den Einsatz in Kita und Schule, keine Rechtsberatung. Prüfe vor dem Einsatz die Vorgaben deines Trägers.

Fehler im Eintrag melden

Überzeugt? Dann probiere RedPajama aus.

Öffnet together.ai in einem neuen Fenster.

Tool öffnen: RedPajama, externe Seite, neues Fenster

Weiterlernen und ausprobieren