Model Bahasa Besar (LLMs) adalah sistem AI lanjut yang dilatih untuk menghasilkan respon seperti manusia. Asisten AI dari Brave, Leo, menyediakan opsi bagi pengguna untuk memilih model dan konfigurasi model yang sesuai dengan kebutuhan privasi dan fungsionalitas mereka. LLM ini termasuk model Llama 3 dari Meta dan model Mixtral dari Mistral AI yang di-host sendiri oleh Brave melalui infrastruktur kami yang aman, serta model dari perusahaan lain seperti model Claude 3 Haiku dan Claude 3 Sonnet dari Anthropic yang disajikan melalui server Anthropic. Meskipun model-model tersebut memiliki kemampuan yang berbeda, Brave memastikan privasi pengguna terjaga tanpa memandang model mana yang digunakan dan bagaimana model tersebut disajikan.

LLM Dijelaskan

Model yang lebih besar seperti Llama 3 memiliki lebih banyak parameter dan kompleksitas, memungkinkan mereka menangani tugas yang lebih kompleks tetapi juga membutuhkan daya komputasi lebih besar untuk berjalan secara efisien. Model yang dilatih pada data yang beragam seperti Claude 3 Sonnet memiliki pengetahuan yang luas, sementara model khusus seperti Claude 3 Haiku memiliki keahlian domain seperti pemrograman atau analisis hukum. Beberapa LLM unggul dalam pembuatan teks, sementara yang lain lebih baik dalam menjawab pertanyaan atau tugas analisis data. Kecepatan akan tergantung pada ukuran model, kekuatan infrastruktur yang menjalankan model, teknik yang digunakan untuk mengoptimalkannya, seberapa banyak konten yang sedang diproses, dan seberapa kompleks pekerjaan yang diminta.

Yang penting, ketika Brave menyediakan akses ke salah satu LLM yang di-host sendiri, tidak ada pembagian data antara Brave dan pembuat model asli. Misalnya, Llama 3 di Brave Leo dikelola dan dioperasikan secara eksklusif oleh Brave dalam lingkungan yang aman, total independen dari pembuat model, Meta. Brave juga memastikan data Anda terlindungi ketika model dilayani oleh pihak ketiga. Anthropic, misalnya, tidak dapat menggunakan data pengguna Brave Leo untuk tujuan pelatihan, dan data pengguna tidak dapat disimpan lebih dari 30 hari.

Brave Leo menawarkan opsi untuk memilih model yang sesuai dengan kebutuhan Anda. Anda dapat menggunakan default yang di-host oleh Brave, memilih model yang di-host secara eksternal dari pihak ketiga secara manual, atau, untuk pengguna tingkat lanjut, menghubungkan Leo ke model Anda sendiri (segera hadir…).

Model yang di-host oleh Brave

Model default di Brave Leo adalah yang di-host oleh Brave. Dengan model yang di-host oleh Brave:

• Alamat IP Anda disembunyikan dari server Brave sendiri menggunakan reverse proxy. Alamat IP hanya disimpan untuk jangka waktu yang singkat.
• Percakapan Anda tidak disimpan atau dicatat oleh Brave setelah tanggapan dihasilkan. Tidak ada data pribadi atau transkrip percakapan yang disimpan. Dan percakapan Anda tidak digunakan untuk tujuan pelatihan model.
• Data percakapan dihapus dari server Brave segera setelah sesi obrolan berakhir. Data percakapan lokal yang disimpan di perangkat Anda dapat dihapus di Pengaturan dengan memilih opsi “Clear Leo data”

Model yang di-host oleh Brave akan berubah dari waktu ke waktu, biasanya LLM sumber terbuka yang berjalan di lingkungan yang dikelola menggunakan infrastruktur aman Brave. Saat ini, model yang di-host oleh Brave termasuk model Mixtral dari Mistral AI dan Llama 3 dari Meta.

Model yang di-Hosted secara Eksternal

Beberapa model canggih yang tersedia di Brave Leo di-host dan disajikan secara eksternal oleh perusahaan mitra di bawah kontrak yang memastikan perlindungan privasi. Untuk mengakses model ini, pengguna dapat memilihnya secara manual dari halaman pengaturan Leo.

Saat menggunakan model yang di-host secara eksternal:

• Kami menyembunyikan alamat IP Anda dari host eksternal menggunakan reverse proxy untuk tambahan anonimitas. Alamat IP hanya disimpan untuk jangka waktu yang singkat.
• Data percakapan disimpan oleh pihak ketiga untuk waktu terbatas sebagaimana ditentukan dalam kebijakan privasi kami, tidak lebih dari 30 hari. Data tidak digunakan untuk melatih model AI.
• Data percakapan lokal yang disimpan di perangkat Anda dapat dihapus di Pengaturan dengan memilih opsi “Hapus data Leo”

Model yang di-host secara eksternal yang digunakan dalam produk Brave akan dilayani oleh penyedia LLM di server mereka sendiri. Saat ini, Brave menyediakan akses ke model Claude 3 oleh Anthropic, termasuk Haiku dan Sonnet.

Memilih Model

Panel Leo menyertakan ikon roda gigi di header di mana Anda dapat mengubah Pengaturan. Anda akan melihat opsi untuk Model Bahasa yang dapat Anda pilih atau lanjutkan dengan opsi default.

Anda juga dapat membuka pengaturan lanjutan yang akan membawa Anda ke brave://settings/leo-assistant di mana Anda dapat memilih model mana yang ingin Anda gunakan secara default setiap kali menggunakan Leo.

Model dan fitur yang tersedia di Brave Leo tergantung pada apakah Anda menggunakan versi gratis atau memiliki langganan premium: