Wie benutze ich BYOM (Bring Your Own Model) mit Brave Leo? Folgen
Brave Leos BYOM-Funktion (Bring Your Own Model) ermöglicht es Ihnen, Ihre eigenen KI-Modelle mit Leo zu verbinden, unabhängig davon, ob sie lokal auf Ihrem Gerät ausgeführt werden oder remote gehostet werden. Dies gibt Ihnen mehr Kontrolle über Ihre KI-Interaktionen, während Braves Verpflichtung zum Datenschutz gewahrt bleibt.
Was ist BYOM?
BYOM ist eine optionale Möglichkeit, Leo zu nutzen, die Ihnen erlaubt:
- Lokale KI-Modelle direkt auf Ihrem Gerät ausführen und Ihre Daten privat halten
- Ihre eigenen Remote-Model-Endpunkte verbinden
- Drittanbieter-APIs wie OpenAIs ChatGPT verwenden
- End-to-End-Kontrolle über Ihre KI-Interaktionen behalten
Anforderungen
Um BYOM zu nutzen, benötigen Sie:
- Brave Browser Version 1.69 oder höher
- Desktop-Plattform (Windows, macOS oder Linux)
- Für lokale Modelle: Ein kompatibles Serving-Framework (z.B. Ollama)
- Für Remote-Modelle: Gültige API-Zugangsdaten für Ihren gewählten Dienst
Hardware-Anforderungen für lokale Modelle
- Mindestens 8GB RAM
- Speicherplatz abhängig von der gewählten Modellgröße (von 829MB bis 40GB)
- Ausreichende Rechenleistung für Modell-Inferenz
Modell-Auswahl
Beim lokalen Ausführen von Modellen sollten Sie Modelle verwenden, die zu Ihren Hardware-Kapazitäten und Anwendungsfällen passen. Zum Beispiel sind die LLama 3.2 Modelle für mehrsprachige Dialog- und Zusammenfassungsaufgaben optimiert.
- Kleinere Varianten, ideal für ressourcenbeschränkte Geräte:
- 3B-Variante (2.0GB)
- Übertrifft ähnliche Modelle bei Anweisungsbefolgung, Zusammenfassung und Werkzeugnutzung
- Gut für allgemeine Aufgaben
- 1B-Variante
- Effizient für Edge-Geräte
- Geeignet für persönliche Informationsverwaltung und Umschreibungsaufgaben
- 3B-Variante (2.0GB)
- Unterstützt offiziell 8 Sprachen: Englisch, Deutsch, Französisch, Italienisch, Portugiesisch, Hindi, Spanisch und Thai
- Trainiert auf zusätzlichen Sprachen über die offiziell unterstützten hinaus
Sehen Sie die vollständige Liste der unterstützten Modelle auf Ollamas Modell-Liste.
Einrichtung von BYOM
Verwendung lokaler Modelle
-
Richten Sie zunächst ein lokales Modellausführungs-Framework ein. Zum Beispiel, um Ollama zu verwenden:
- Gehen Sie zu https://ollama.com/download
- Laden Sie Ollama für Ihre Plattform herunter und installieren Sie es
- Öffnen Sie das Terminal und ziehen Sie Ihr gewünschtes Modell (z.B.
ollama pull deepseek-r1
)
-
Konfigurieren Sie Leo so, dass Ihr lokales Modell verwendet wird:
- Öffnen Sie die Brave-Einstellungen
- Navigieren Sie zu den Leo-Einstellungen
- Scrollen Sie zum
Bring your own model Abschnitt
Klicken Sie auf Neues Modell hinzufügen
- Füllen Sie die erforderlichen Felder aus:
-
Label
: Name, der im Modellauswahlmenü angezeigt wird -
Model request name
: Die Modellbezeichnung (z.B. "deepseek-r1") -
Server endpoint
: Ihr lokaler Endpunkt (für Ollama verwenden Siehttp://localhost:11434/v1/chat/completions
) -
API Key
: Leer lassen, wenn Ihr Framework es nicht benötigt
-
Nutzung von Remote-Modellen
So verbinden Sie Leo mit entfernten Modellen oder Drittanbieter-APIs (wie OpenAI's ChatGPT):
- Holen Sie Ihre API-Anmeldeinformationen von Ihrem gewählten Anbieter ein
- In Brave,
Einstellungen > Leo > Bring your own model
:Klicken Sie auf Neues Modell hinzufügen
- Füllen Sie die Daten aus:
-
Label
: Ihr gewählter Name für das Modell -
Modellanfrage-Name
: Die Modell-Kennung (z.B., "gpt-4" für OpenAI) -
Server endpoint
: Der API-Endpunkt (z.B.https://api.openai.com/v1/chat/completions
für OpenAI) -
API Key
: Ihre Authentifizierungsdaten
-
Nutzung Ihres Modells
Einmal konfiguriert:
- Öffnen Sie Leo im Browser
- Klicken Sie auf das Modellauswahlmenü
- Wählen Sie Ihr benutzerdefiniertes Modell aus der Liste
- Beginnen Sie, mit Ihrem konfigurierten Modell zu chatten
Privatsphäre und Sicherheit
Die Aktivierung alternativer Modelle mit der BYOM-Funktion gibt Ihnen mehr Kontrolle über Ihre Erfahrung und wie Ihre Gespräche gehandhabt werden, aber die Datenschutzrichtlinien variieren. Die Standardeinstellungen von Brave Leo sorgen dafür, dass Ihre Daten nicht gespeichert, verfolgt oder für Schulungen verwendet werden, und Sie können den Dienst ohne Erstellung eines Kontos nutzen (Siehe unsere Datenschutzerklärung für weitere Informationen). Lokale und entfernte Drittanbietermodelle haben unterschiedliche Datenschutzcharakteristika.
Für lokale Modelle
- Alle Verarbeitungen erfolgen direkt auf Ihrem Gerät
- Gespräche, Webseiten und Eingabeaufforderungen verlassen niemals Ihren Computer
- Vollständiger Datenschutz für sensible Informationen
Für Remote-Modelle (Wichtiger Datenschutzhinweis)
Bei der Verwendung von BYOM mit Drittanbietern wie OpenAI oder anderen Remote-Endpunkten:
- Ihre Daten unterliegen den Datenschutzbestimmungen und Datenpraktiken des Drittanbieters
- Brave's Datenschutz (wie der Reverse-Proxy und die Datenaufbewahrungsrichtlinien) gilt nicht
- Der Drittanbieter kann:
- Ihre Gespräche und Eingaben speichern
- Ihre Daten für Modellsimulationen verwenden
- Ihre Daten nach ihren Bedingungen teilen oder analysieren
- Unterschiedliche Datenaufbewahrungszeiträume haben
- Ihre Daten in verschiedenen Rechtsräumen verarbeiten
Technische Implementierung:
- Direkte Verbindung zwischen Ihrem Gerät und dem Endpunktmodell
- Anfragen umgehen Brave's Server vollständig
- Brave hat keinen Zugang zu oder Einblick in den Verkehr
- API-Zugangsdaten werden sicher in Ihrem Browser gespeichert
- End-to-End Kontrolle über Ihre Daten und Modellinteraktionen
💡 Wichtig: Überprüfen Sie vor der Nutzung eines Drittanbieter-Modells deren Datenschutzerklärung und Datenbearbeitungspraktiken. Geben Sie keine sensiblen persönlichen Informationen, Gesundheitsdaten, finanzielle Details oder andere vertrauliche Informationen ein, es sei denn, Sie sind damit einverstanden, wie die dritte Partei solche Daten behandelt. Überprüfen Sie vor der Nutzung eines Drittanbieter-Modells deren Datenschutzerklärung und Datenbearbeitungspraktiken. Geben Sie keine sensiblen persönlichen Informationen, Gesundheitsdaten, finanzielle Details oder andere vertrauliche Informationen ein, es sei denn, Sie sind damit einverstanden, wie die dritte Partei solche Daten behandelt.