Opera z wbudowanym dostępem do LLM – lokalnych modeli AI

Opera dodaje eksperymentalną obsługę 150 lokalnych wariantów LLM (Large Language Model) z około 50 rodzin modeli AI do przeglądarki Opera One w wersji deweloperskiej. Dzięki temu będzie można po raz pierwszy i to bardzo łatwo uzyskać dostęp do lokalnych LLM oraz zarządzać nimi z poziomu przeglądarki poprzez specjalnie wbudowaną funkcję. Lokalne modele AI stanowią bezpłatny dodatek do Arii – usługi AI Opery. Wśród wspieranych przez Operę lokalnych LLM znajdują się: Lama – sztuczna inteligencja Mety, Vicuna, Gemma Google’a, Mixtral od Mistral AI i wiele innych.

Korzystanie z lokalnych dużych modeli językowych oznacza, że dane użytkowników są przechowywane na ich urządzeniach, co pozwala im korzystać z generatywnej sztucznej inteligencji bez konieczności wysyłania informacji na serwer. Opera testuje nowy zestaw lokalnych LLM w wersji deweloperskiej przeglądarki Opery One w ramach AI Feature Drops – nowego programu udostępniania funkcji opartych na sztucznej inteligencji. Nowa inicjatywa Opery daje możliwość przetestowania wielu zestawów sztucznej inteligencji będących jeszcze w wersji demonstracyjnej czy nawet eksperymentalnej.

Od dziś użytkownicy Opera One Developer mają możliwość wyboru modelu, za pomocą którego chcą przetwarzać dane. Aby przetestować poszczególne modele, muszą zaktualizować przeglądarkę Opera Developer do najnowszej wersji i wykonać kilka kroków, aby aktywować nową funkcję. Wybranie lokalnego LLM rozpocznie pobieranie pakietu danych, który zajmie od 2 do 10 GB przestrzeni dyskowej. Tak ściągnięty model będzie następnie używany zamiast Arii, do czasu, aż użytkownik rozpocznie nowy czat z wbudowaną sztuczną inteligencją lub ponownie włączy Arię.

– Wprowadzenie lokalnych modeli LLM pozwala Operze rozpocząć eksplorację na polu budowania doświadczeń i wiedzy w ramach szybko się zmieniającej przestrzeni lokalnej sztucznej inteligencji – mówi Krystian Kolondra, EVP Browsers and Gaming w Operze.

Na początku 2023 roku Opera zaprezentowała Opera One, swoją flagową przeglądarkę zbudowanå wokół funkcji opartych na sztucznej inteligencje, na koncepcji modular design i nowej architekturze z tzw. wielowątkowym kompozytorem, który pozwala na płynniejsze niż kiedykolwiek przetwarzanie elementów interfejsu użytkownika. Opera One zawiera Arię –  sztuczną inteligencję wbudowaną w przeglądarkę, do której można uzyskać dostęp za pośrednictwem paska bocznego w wierszu poleceń przeglądarki. Aria jest także dostępna w gamingowej Operze GX, a także w przeglądarce Opera na iOS i Androida.

Chcesz przetestować lokalne LLM w aplikacji Opera One Developer? Przejdź tutaj. Aby śledzić najnowsze wiadomości dotyczące sztucznej inteligencji Opery, przejdź tutaj.