AI na telefonie zamiast w chmurze: kiedy to ma sens

Co właściwie znaczy „AI na urządzeniu”

Model AI to plik z wyuczonymi parametrami. W podejściu chmurowym aplikacja wysyła dane na serwer, tam model liczy wynik i odsyła odpowiedź. W podejściu na urządzeniu model jest w telefonie (w aplikacji albo w systemie) i liczy wynik na procesorze, karcie graficznej lub wyspecjalizowanym układzie do AI, który Apple nazywa Neural Engine. Apple opisuje zaletę wprost: model działający wyłącznie na urządzeniu nie potrzebuje połączenia z siecią, co pomaga chronić dane użytkownika i utrzymać szybkość aplikacji.

W praktyce są dwie drogi. Pierwsza to własny, wyspecjalizowany model, np. do rozpoznawania obrazu, który dołączasz do aplikacji. Druga to model językowy wbudowany w system telefonu, z którego aplikacja korzysta przez gotowe API. Główne narzędzia w październiku 2026 r.:

Kiedy model na telefonie wygrywa

• Prywatność: zdjęcie, dokument czy nagranie, które nie opuszcza telefonu, nie trafia na serwer firmy. Nie trzeba go tam zabezpieczać, przechowywać ani usuwać, a z serwera nie może wyciec. RODO wymaga, żeby przetwarzać tylko dane niezbędne do celu (art. 5 ust. 1 lit. c) i uwzględniać ochronę danych już przy projektowaniu (art. 25). Analiza na telefonie wbudowuje minimalizację danych w samą architekturę aplikacji: firma nie dostaje danych, których nie potrzebuje.
• Działanie offline i bez opóźnień sieci: odpowiedź nie czeka na serwer, więc aplikacja działa w piwnicy, w samolocie i przy słabym zasięgu. Google zaznacza przy tym uczciwie, że szybkość takiego modelu zależy od sprzętu telefonu.
• Brak opłaty za każde użycie: modele w chmurze rozlicza się od liczby tokenów, czyli kawałków tekstu i obrazu. Przykładowo Gemini 3.5 Flash-Lite w płatnym planie kosztuje 0,30 $ za milion tokenów wejściowych i 2,50 $ za milion wyjściowych (cennik Google z 9.10.2026). Przy Gemini Nano na telefonie Google pisze wprost o braku dodatkowych kosztów serwera za każde wywołanie.
• Dane nie zasilają cudzych modeli: w darmowym planie Gemini API Google zaznacza w cenniku, że dane są używane do ulepszania jego produktów (w płatnym nie są). Model na telefonie omija ten problem, bo dane nigdzie nie są wysyłane.

Kiedy lepsza jest chmura

• Możliwości modelu: model w telefonie jest mniejszy od chmurowego. Google wymienia ograniczenia Gemini Nano: limity tokenów, sprzęt urządzenia i granice możliwości samego modelu. Apple pisze, że gdy potrzeba więcej rozumowania i dłuższego kontekstu, trzeba sięgnąć po model na serwerze.
• Zasięg urządzeń: wbudowane modele językowe działają tylko na nowszych telefonach. Apple Intelligence wymaga co najmniej iPhone’a 15 Pro, Gemini Nano jest dostępny na wybranych modelach Androida. Aplikacja dla wszystkich klientów musi mieć plan B, np. wersję bez tej funkcji albo zapytanie do chmury.
• Miejsce w telefonie: Apple podaje, że Apple Intelligence potrzebuje do 8 GB wolnego miejsca (do 14 GB na iPhone 17 Pro, 17 Pro Max i iPhone Air). Własny model można zmniejszyć kwantyzacją: zapis wag na 8 bitach zamiast 32 zmniejsza model mniej więcej czterokrotnie. Limity sklepów rzadko są problemem (4 GB po rozpakowaniu w App Store, 4 GB skompresowanego pobrania w Google Play), ale każdy megabajt to dłuższe pobieranie.
• Bateria i temperatura: intensywne obliczenia grzeją telefon. Apple zaleca, żeby przy wysokim stanie termicznym aplikacja ograniczała zużycie zasobów, a usługa AICore na Androidzie ma limity na aplikację: liczby zapytań oraz długoterminowy (np. dzienny) limit zużycia baterii. Gemini Nano przez ML Kit działa też tylko wtedy, gdy aplikacja jest na pierwszym planie.
• Aktualizacje modelu: model dołączony do aplikacji zmienia się razem z aktualizacją w sklepie, po przeglądzie. Model w chmurze podmieniasz od razu i dla wszystkich.

Podejście hybrydowe: telefon najpierw, chmura w razie potrzeby

Obie platformy opisują łączenie modeli jako normalną praktykę. Google nazywa to hybrid inference: zapytanie trafia do modelu na telefonie, a gdy urządzenie go nie obsługuje albo zadanie go przerasta, do chmury. Apple w Foundation Models pozwala w takiej sytuacji użyć serwerów Private Cloud Compute albo dowolnego dostawcy modeli. Dobrze zaprojektowana aplikacja przetwarza wrażliwe dane lokalnie, a do chmury wysyła tylko to, co konieczne, i mówi o tym użytkownikowi.

Przykład: SomaScope

SomaScope to moja aplikacja do analizy proporcji sylwetki i dziennika treningowego, dostępna w App Store i Google Play. Zasada, na której ją zbudowałem, jest zapisana w jej polityce prywatności: dane o ciele należą do użytkownika. W praktyce wygląda to tak:

• Zdjęcia analizuje model AI działający na telefonie. Pliki zdjęć nie są wysyłane na serwer na potrzeby analizy.
• Wynik to liczby, np. szacunkowe oceny proporcji. Tylko one, razem z dziennikiem treningowym, mogą trafić do chmury, i to wyłącznie po włączeniu opcjonalnej synchronizacji w wersji PRO.
• Uczciwe ograniczenie: regulamin mówi o przetwarzaniu na urządzeniu „tam, gdzie pozwala na to wersja aplikacji i urządzenie użytkownika”. Tak wygląda rzeczywistość AI na telefonach: trzeba z góry zaplanować, co dzieje się na słabszym sprzęcie.

Przy publikacji SomaScope przeszedłem cały proces w obu sklepach, łącznie z wymaganymi przez Apple i Google opisami tego, jakie dane zbiera aplikacja. Więcej o samej aplikacji jest na stronie SomaScope.

Ile kosztuje aplikacja z AI na telefonie

Model na telefonie podnosi koszt wytworzenia: trzeba go przygotować i zmniejszyć pod telefony, a potem przetestować na słabszych i mocniejszych urządzeniach. W zamian znika koszt serwera za każde użycie, co przy dużej liczbie użytkowników szybko się zwraca. Model w chmurze jest tańszy na start, ale płacisz za każde wywołanie przez cały czas życia aplikacji.

Cena „od” dotyczy najmniejszego sensownego zakresu. Dokładną, stałą cenę podaję na piśmie w ciągu 48 h od bezpłatnej rozmowy. Szczegóły są na stronie aplikacje mobilne, a ogólne koszty aplikacji opisuję w poradniku ile kosztuje aplikacja mobilna.

Telefon czy chmura: pięć pytań na start

1. Czy dane są wrażliwe (zdjęcia ludzi, dokumenty, zdrowie, finanse)? Jeśli tak, zacznij od modelu na telefonie.
2. Czy aplikacja ma działać bez internetu? Wtedy model w chmurze odpada jako jedyne rozwiązanie.
3. Jak szerokiej wiedzy potrzebuje zadanie? Rozpoznanie obiektu na zdjęciu zmieści się w telefonie, rozmowa o wszystkim raczej nie.
4. Na jakich telefonach są Twoi klienci? Jeśli także na starszych, zaplanuj wersję bez AI albo zapasowe zapytanie do chmury.
5. Ile wywołań dziennie przewidujesz? Przy tysiącach dziennie opłaty za tokeny w chmurze stają się stałym kosztem, który warto policzyć z góry.

Przygotowane z pomocą narzędzi AI, sprawdzone i uzupełnione przez autora. Liczby i przepisy mają podane źródła.