Large Language Models (LLMs) sind fortschrittliche KI-Systeme, die darauf trainiert sind, menschenähnliche Antworten zu geben. Der KI-Assistent von Brave, Leo, bietet Optionen, mit denen die User das passende Modell und die passende Konfiguration für ihre Bedürfnisse in Bezug auf Datenschutz und Funktionalität auswählen können. Zu diesen LLMs gehören die Modelle Llama 3 von Meta und Mixtral von Mistral AI, die Brave selbst über unsere eigene sichere Infrastruktur hostet, sowie Modelle anderer Unternehmen wie die Modelle Claude 3 Haiku und Claude 3 Sonnet von Anthropic, die über die Server von Anthropic bereitgestellt werden. Obwohl die Modelle unterschiedliche Fähigkeiten haben, gewährleistet Brave die Privatsphäre der User unabhängig davon, welches Modell verwendet wird und wie es bedient wird.

LLMs erklärt

Größere Modelle wie Llama 3 haben mehr Parameter und eine höhere Komplexität, wodurch sie komplexere Aufgaben bewältigen können, aber auch mehr Rechenleistung benötigen, um effizient zu arbeiten. Modelle, die auf unterschiedlichen Daten trainiert wurden, wie Claude 3 Sonnet, verfügen über ein breites Wissen, während spezialisierte Modelle wie Claude 3 Haiku über Fachwissen in Bereichen wie Codierung oder juristische Analyse verfügen. Einige LLMs sind besonders gut in der Texterstellung, während andere besser in der Beantwortung von Fragen oder in der Datenanalyse sind. Die Geschwindigkeit hängt von der Größe des Modells, der Leistung der Infrastruktur, auf der das Modell läuft, den zur Optimierung verwendeten Techniken, der Menge der zu verarbeitenden Inhalte und der Komplexität der angeforderten Aufgabe ab.

Wenn Brave Zugang zu einem unserer selbst gehosteten LLMs gewährt, findet kein Datenaustausch zwischen Brave und dem ursprünglichen Ersteller des Modells statt. Das Llama 3 in Brave Leo wird zum Beispiel ausschließlich von Brave in sicheren Umgebungen verwaltet und betrieben, völlig unabhängig vom Ersteller des Modells, Meta. Brave stellt auch sicher, dass deine Daten geschützt sind, wenn die Modelle von Drittanbietern bereitgestellt werden. Anthropic darf zum Beispiel keine Brave Leo-Nutzerdaten für Schulungszwecke verwenden und Nutzerdaten dürfen nicht länger als 30 Tage gespeichert werden.

Brave Leo bietet dir die Möglichkeit, das passende Modell für deine Anforderungen auszuwählen. Du kannst die von Brave gehosteten Standardmodelle verwenden, manuell extern gehostete Modelle von Drittanbietern auswählen oder, für fortgeschrittene Nutzer, Leo mit deinem eigenen Modell verbinden (demnächst…).

Brave-gehostete Modelle

Das Standardmodell in Brave Leo wird von Brave gehostet. Mit von Brave gehosteten Modellen:

• Deine IP-Adresse wird mithilfe eines Reverse-Proxys vor den Servern von Brave versteckt. IP-Adressen werden nur für einen kurzen Zeitraum gespeichert.
• Deine Unterhaltungen werden von Brave nicht gespeichert oder protokolliert, nachdem eine Antwort erzeugt wurde. Es werden keine persönlichen Daten oder Gesprächsprotokolle gespeichert. Und deine Unterhaltungen werden nicht für das Modelltraining verwendet.
• Die Gesprächsdaten werden sofort nach Beendigung der Chatsitzung von den Servern von Brave gelöscht. Lokale Gesprächsdaten, die auf deinem Gerät gespeichert sind, können in den Einstellungen durch Auswahl der Option "Leo-Daten löschen" entfernt werden.

Die von Brave gehosteten Modelle werden sich von Zeit zu Zeit ändern. In der Regel handelt es sich um Open-Source-LLMs, die in Umgebungen laufen, die über die sichere Infrastruktur von Brave verwaltet werden. Zu den auf Brave gehosteten Modellen gehören derzeit das Mixtral-Modell von Mistral AI und das Llama 3 von Meta.

Extern gehostete Modelle

Einige fortschrittliche Modelle, die in Brave Leo verfügbar sind, werden extern von Partnerunternehmen gehostet und angeboten, die Verträge zum Schutz der Privatsphäre abgeschlossen haben. Um auf diese Modelle zuzugreifen, kannst du sie manuell auf der Leo-Einstellungsseite auswählen.

Wenn du ein extern gehostetes Modell verwendest:

• Wir verbergen deine IP-Adresse vor dem externen Host mit einem Reverse Proxy für zusätzliche Anonymität. IP-Adressen werden nur für einen kurzen Zeitraum gespeichert.
• Die Konversationsdaten werden von der Drittpartei für eine begrenzte Zeit gespeichert, wie in unserer Datenschutzrichtlinie angegeben, nicht länger als 30 Tage. Die Daten werden nicht zum Trainieren der KI-Modelle verwendet.
• Lokale Gesprächsdaten, die auf deinem Gerät gespeichert sind, können in den Einstellungen durch Auswahl der Option "Leo-Daten löschen" entfernt werden.

Extern gehostete Modelle, die in Brave-Produkten verwendet werden, werden von den LLM-Anbietern auf ihren eigenen Servern bereitgestellt. Derzeit bietet Brave Zugang zu den Claude 3-Modellen von Anthropic, einschließlich Haiku und Sonnet.

Modelle auswählen

Das Leo-Panel enthält ein Zahnradsymbol in der Kopfzeile, mit dem du die Einstellungen ändern kannst. Es werden Optionen für Sprachmodelle angezeigt, die du auswählen oder mit der Standardeinstellung fortfahren kannst.

Du kannst auch die erweiterten Einstellungen öffnen, die dich zu brave://settings/leo-assistant führen, wo du auswählen kannst, welches Modell du standardmäßig verwenden möchtest, wenn du Leo benutzt.

Welche Modelle und Funktionen in Brave Leo verfügbar sind, hängt davon ab, ob du die kostenlose Version benutzt oder ein Premium-Abonnement abgeschlossen hast: