AppleLLM: Siri, ktorá je kľúčová a potrebuje umelú inteligenciu od spoločnosti Apple

  • Apple pripravuje vlastný LLM na vylepšenie Siri a posilnenie Apple Intelligence.
  • Hybridná architektúra: 3B lokálny model, súkromný cloud s Apple Silicon a overiteľné súkromie.
  • Otváranie pre vývojárov s Foundation Modelmi a novými API pre inteligentné zážitky.
  • Výzvy v oblasti LLM v reálnom živote: Limity uvažovania, testy ako Hanojská veža a zodpovedný prístup.

Apple AI a LLM

Diskusia o spoločnosti Apple a jej ďalšom veľkom skoku v oblasti umelej inteligencie sa vyostruje a termín AppleLLM už v chodbách Cupertina počuť hlasno a jasne. Vďaka dôveryhodným únikom informácií, pokrokom v oblasti Apple Intelligence a Siri, ktorá prechádza kompletnou transformáciou , všetko naznačuje, že vlastný jazykový model spoločnosti Apple je bližšie ako kedykoľvek predtým k tomu, aby sa stal realitou a kľúčovou súčasťou jej stratégie.

Okrem šumu sa hromadia technické údaje, rozhodnutia o produktoch a dokonca aj akademická kritika, ktoré vykresľujú komplexný obraz. Apple otvára svoju platformu vývojárom, sľubuje overiteľné súkromie a skúma partnerstvá s tretími stranami , pričom zároveň uznáva náročnosť tejto výzvy: súčasné programy LLM zlyhávajú, keď sa úlohy stanú zložitými a nenahradia dobre navrhnuté klasické algoritmy.

AppleLLM: Čo vieme a prečo to prichádza práve teraz

Podľa zdrojov agentúry Bloomberg, na ktoré sa odvoláva Mark Gurman, Apple už interne testuje LLM integrovaný do svojho asistenta, pričom zamestnanci poskytujú tímu priamu spätnú väzbu. Toto úsilie je súčasťou projektu Ajax a takzvaného AppleGPT , čo je cesta, ktorá by umožnila Siri vyhodnotiť dotazy a eskalovať ich do druhého modelu, keď si to vyžaduje zložitosť.

Plán, ktorý navrhujú tieto úniky, načrtáva dva jasné míľniky: prepracovanú Siri v súčasnej generácii systémov a ambicióznejšiu následnú iteráciu. Najprv uvidíme Siri, ktorá rozumie kontextu a sekvenciám požiadaviek bez zbytočných reštartov , bude schopná čítať správy alebo e-maily a extrahovať užitočné údaje s lokálnymi povoleniami; potom príde verzia s vlastným LLM ako konverzačnou chrbticou.

Gurman odhaduje ďalší významný skok na jar 2026, čo sa zhoduje s vydaním systému iOS 19, ak sa nevykonajú žiadne zmeny na poslednú chvíľu. Nebolo by to prvýkrát, čo Apple predstavil svoju víziu na WWDC a implementoval ju o niekoľko mesiacov neskôr , ako sa to stalo v prípade Siri, ktorá bola pôvodne oznámená v roku 2024, ale odložená na ďalšie doladenie.

Apple Intelligence dnes: Architektúra, veľkosť a špecializácia

Zatiaľ čo AppleLLM dozrieva, spoločnosť už prevádzkuje Apple Intelligence ako súbor modelov vysoko zameraných na každodenné úlohy. Existuje model na zariadení s približne 3.000 miliardami parametrov a väčší model v cloude , ktorý beží na serveroch Apple Silicon napájaných obnoviteľnou energiou. Cieľom je spracovať väčšinu požiadaviek na zariadení a škálovať do súkromného cloudu, keď si to pracovná záťaž vyžaduje.

Spoločnosť Apple uvádza, že na školenie použila AXLearn, svoj open-source framework pre strojové učenie, ktorý bol spustený v roku 2023, s licencovanými údajmi a verejným obsahom zhromažďovaným spoločnosťou AppleBot. Spoločnosť trvá na tom, že nepoužíva súkromné ​​používateľské údaje, používa filtre pre osobné údaje a zahadzuje šum a duplikáty , pričom vydavateľom ponúka aj mechanizmus na požiadanie o vylúčenie.

Pri optimalizácii lokálny model používa slovník 49 tisíc tokenov, zatiaľ čo serverový model používa 100 tisíc tokenov s redukciou pamäte na zníženie latencie. Prístup je založený na špecializácii: adaptéry na písanie, sumarizáciu, brainstorming, klasifikáciu, uzavreté a otvorené QA, programovanie, extrakciu, matematické uvažovanie, bezpečnosť a prepisovanie , okrem iného.

V benchmarkoch vybraných spoločnosťou Apple, ako napríklad IFEval (postupujte podľa pokynov), sa jej modely vyrovnajú alebo prekonávajú podobne veľké konkurenty a dokonca sa dajú porovnať s GPT-4 Turbo a Mistral 8x22B na strane servera pre špecifické úlohy. Napriek tomu Apple uznáva, že jej prístup je veľmi cielený a v súčasnosti sa nemôže pochváliť plnou multimodalitou: existuje text a hlas, ale nie video v štýle iných ponúk v tomto sektore.

Ochrana súkromia už v dizajne: Vysvetlenie súkromného cloudového computingu

Keď zariadenie nedokáže zvládnuť požiadavky, prichádza na rad rámec Private Cloud Compute od spoločnosti Apple. Sľubuje end-to-end šifrovanie, dočasné spracovanie a nekorelované náhodné identifikátory s externým auditom a bez špeciálnych privilégií pre zamestnancov.

Spoločnosť zaručuje, že údaje sa používajú iba na účel požadovaný používateľom a nie sú viditeľné pre interných zamestnancov. Okrem toho sa z bezpečnostných dôvodov vyhýba komponentom tretích strán a diagnostickú telemetriu obmedzuje na vysoko súkromné ​​možnosti. Toto všetko sa vykonáva pomocou vlastných čipov v overených zariadeniach s verejným dôrazom na overiteľnosť výskumníkmi.

Siri: od súčasných problémov k verzii, ktorá má za cieľ viac

Siri, ktorá sa už objavuje v súčasnej generácii systémov, sľubuje lepšie pochopenie kontextu a postupností príkazov. Konečne bude schopná reťaziť jednoduché požiadavky bez straty prehľadu a bude fungovať ako skutočný asistent pre lokálne osobné údaje : správy, e-maily, udalosti, vždy s kontrolou používateľa.

Existuje však medzera, ktorú Apple premosťuje: pre dotazy, ktoré presahujú tento rámec, bude Siri môcť s explicitným povolením vyvolať ChatGPT. Integrácia bude vždy rešpektovať súhlas, skryje IP adresu a nebude vyžadovať nový účet ; Apple zdôrazňuje, že táto skúsenosť ponecháva svoj záštitu súkromia iba s potvrdením používateľa.

Dvere nie sú zatvorené ani pre ostatných hráčov: Craig Federighi ponechal otvorenú možnosť integrácie Google Gemini alebo iných poskytovateľov v budúcnosti. To ponúka flexibilitu pre trhy ako Čína alebo pre scenáre, kde ChatGPT nie je k dispozícii , bez toho, aby sa v strednodobom horizonte museli vzdať vlastného modelu.

WWDC a otvorenie: Apple nechce ísť s umelou inteligenciou sám

Pred konferenciou WWDC spoločnosť Apple pripravuje kľúčový krok: otvorenie svojej umelej inteligencie ako multifunkčnej platformy pre daný ekosystém. Vývojárom bude sprístupnená sada nástrojov , ktorá bola predtým vyhradená pre interné tímy , a poskytne im prístup k ľahkým modelom schopným bežať lokálne a zároveň rešpektovať súkromie.

Paralela s App Store je jasná: keď tretie strany dokázali vytvárať používateľské zážitky, iPhone sa ako platforma presadil. Cieľom je teraz zabrániť vývojárom v migrácii na modely tretích strán a uľahčiť im vytváranie natívnych, inteligentných zážitkov pomocou základných modelov od spoločnosti Apple vrátane bezplatnej inferencie a offline možností.

Medzi cieľmi je zvýšiť latku, aby sa vyrovnali konkurencii, poučiť sa zo skutočnej spätnej väzby a urýchliť vývoj produktov. Dokonca zvažujú použitie modelov tretích strán, ako je Claude, pre asistenta Swift , čo podčiarkuje ochotu spoločnosti Apple byť pragmatická vo svojich nástrojoch pre vývojárov.

Funkcie, ktoré čoskoro pribudnú: od živého prekladu po vizuálnu inteligenciu

Apple Intelligence nie je len humbuk: už teraz sa prejavuje v konkrétnych funkciách v systémoch iOS, iPadOS a macOS. Live Translation umožňuje preklad v reálnom čase počas hlasových hovorov a videohovorov , integruje sa so Správami, FaceTime a Telefónom, pričom všetky sú podporované lokálnymi modelmi.

Image Playground napreduje s vývojárskym rozhraním API a integráciou ChatGPT založenou na povoleniach, zatiaľ čo Genmoji umožňuje používateľom vytvárať kombinácie a popisy pre jemnejšie vyjadrovanie . Nástroj Magic Wand transformuje náčrty na obrázky len niekoľkými klepnutiami.

V produktivite Pripomienky rozpoznávajú relevantné akcie pri čítaní e-mailu alebo poznámky a automaticky ich zoradí podľa kategórie . Správy navrhujú vytvárať ankety, keď je to vhodné , Mail pridáva vylepšený náhľad a Režim sústredenia spresňuje správu prerušení.

Zahŕňa tiež prioritné upozornenia, vyhľadávanie v prirodzenom jazyku a možnosť vytvárať spomienkové videá vo Fotkách s jednoduchým popisom. Na Apple Watch používa Workout Buddy srdcovú frekvenciu, tempo, vzdialenosť, kruhy a míľniky pre personalizovanú motiváciu v reálnom čase; spočiatku v angličtine a pre tréningy ako bežecký pás alebo stacionárny bicykel.

Vizuálna inteligencia pridáva na obrazovku kontextové superschopnosti: zachyťte produkt, ktorý sa vám páči, a objednajte si podobné s cenami a funkciami; premeňte plagát koncertu na udalosť v kalendári jedným klepnutím ; alebo okamžite extrahujte údaje z miesta konania klepnutím na fotoaparát alebo akčné tlačidlo.

Základy pre tvorcov: Základové modely a cesta k škálovaniu

Pre vývojárov budú Foundation Models oficiálnou bránou k integrácii modelov spoločnosti Apple do aplikácií tretích strán. Ponúkajú preferenčný prístup k rovnakým LLM, aké používa Apple Intelligence, ochranu súkromia už v štádiu návrhu a offline vykonávanie, kde je to možné, s inferenciou umelej inteligencie bez prevádzkových nákladov.

Táto stratégia je presvedčivá na dvoch frontoch: ponúka natívne, proprietárne funkcie namiesto externých alternatív a rozširuje dosah Apple Intelligence prostredníctvom vynaliezavosti ekosystému . Beta verzia pre Apple Developer Program už prebieha, pričom verejná beta verzia bude spustená na jeseň a na kompatibilných zariadeniach bude spustená.

Vážna kritika paradigmy LLM: stena zložitosti

Popri naratíve produktu spoločnosť Apple publikovala výskum, ktorý vyvoláva diskusiu: pri kvantifikácii schopností uvažovania sa pozoruje, že LLM sa zrútia za určitou hranicou zložitosti , a to aj v prípade, že je k dispozícii dostatok výpočtových zdrojov.

Táto kritika je v súlade s predchádzajúcou prácou viacerých spoluautorov od roku 2023: spoľahlivých agentov nemožno vytvoriť bez dostatočne rozvinutého formálneho a abstraktného uvažovania. Podľa týchto analýz rozsiahle modely neuvažujú ako ľudia; dokážu myslieť viac... ale len do určitého bodu.

Hanojská veža je ukážkovým príkladom. Je to klasický problém triviálny pre algoritmus a uskutočniteľný pre trpezlivé dieťa, ale moderné modely ako Claude uviaznu so 7 diskami a prakticky zlyhávajú s 8. Ani nedávne varianty, ako napríklad o3-min vo vysokom prispôsobení, sa v týchto testoch výrazne nezlepšujú.

Ešte šokujúcejšie je, že aj keď sú modely vybavené podrobným algoritmom na riešenie úlohy, majú tendenciu fungovať zle . Spoluautor Iman Mirzadeh poukazuje na to, že pozorované javy sa nepodobajú logickému procesu ani forme inteligencie, pretože vykonanie nie je to isté ako porozumenie.

Práca sa tiež vracia ku kritike Subbarao Kambhampatiho týkajúcej sa myšlienkových reťazcov a takzvaných modelov uvažovania a posilňuje ich. Modely myšlienkových reťazcov niekedy neodrážajú to, čo model v skutočnosti robí, a keď sa zdajú byť správne, konečná odpoveď nemusí byť správna . Technika výpočtu v čase inferencie je tiež spochybňovaná ako štrukturálna skratka.

Operatívny záver je jednoznačný: študenti LLM majú tendenciu príliš premýšľať o jednoduchých veciach a skúšať nesprávne odpovede, aj keď nájdu tú správnu, a podceňovať zložité veci , čím na jednej strane mrhajú výpočtami a na druhej strane to predčasne vzdávajú.

Zovšeobecnenie a staré poznatky: vnútorné a vonkajšie rozdelenie

Táto argumentácia je v súlade s dlhodobou kritikou neurónových sietí: v rámci trénovacieho rozdelenia sa akceptovateľne zovšeobecňujú, ale mimo neho kolabujú . Jeden zo spoluautorov to už v roku 1998 zdokumentoval s viacvrstvovými perceptrónmi na výpočet a predikciu viet.

Táto vlákno bolo rozšírené v knihe The Algebraic Mind v roku 2001, v článku v časopise Science z roku 1999, kde sa dokázalo, že sedemmesačné bábätká extrapolujú vzory, ktoré vtedajšie siete nedokázali replikovať , v knihe Deep Learning: Critical Appraisal v roku 2018 a v knihe Deep Learning is Hetting a Wall v roku 2022. Táto trajektória je teraz potvrdená novými údajmi.

Taktiež sa uznáva, že bežní ľudia zlyhajú s ôsmimi diskami v Hanojskej veži. Ale v tom spočíva pointa: vynašli sme počítače, aby sme spoľahlivo vyriešili to, s čím zápasíme . Ašpiráciou rozumnej všeobecnej umelej inteligencie by bolo spojiť ľudskú prispôsobivosť so spoľahlivosťou strojov, nie zdediť to najhoršie z oboch svetov.

Praktický verdikt: LLM nenahrádzajú dobré, konvenčné algoritmy . Nehrajú šach ako klasické enginy, neskladajú proteíny ako špecializované neurosymbolické systémy ani nespravujú databázy ako vytvorené enginy. Sú užitočné na písanie kódu… ale len občas.

Vízia spoločnosti Apple: menej halucinácií a zodpovednosti

Na brífingoch John Giannandrea a Craig Federighi obhajovali prístup spoločnosti Apple k minimalizácii halucinácií, ktorý sa opiera o kurátorské údaje a tréningové kolesá. Uviedli, že sa zamerali na starostlivé školenie a zodpovedné používanie technológií s cieľom vytvoriť modely, ktoré sú účinnejšie a menej škodlivé ako alternatívy, a to na základe interného testovania.

Pokiaľ ide o spoluprácu s OpenAI, Apple ju definuje ako kontrolovaný prístup tretích strán na požiadanie používateľa. Toto sa vždy deje s povolením, so skrytou IP adresou a bez toho, aby poskytovateľ ukladal požiadavky, čím sa čo najviac replikujú záruky súkromného cloudového computingu.

Fámy, vnútorné napätie a stratégia

Gurmanove správy vykresľujú obraz vnútorného trenia medzi lídrami v oblasti softvéru a umelej inteligencie a konzervatívnejších než žiaducich investícií do grafických procesorov (GPU). Existujú správy o znížených objednávkach hardvéru a modeloch v hodnote 3 miliárd dolárov pre lokálne riešenia a desiatky miliárd dolárov v cloude , čo je stále ďaleko od špičkového rozsahu, ktorý skúmajú iní hráči.

Strategickým poznatkom je, že Apple postupuje opatrne, uprednostňuje súkromie a kontrolu nad používateľskou skúsenosťou a zároveň sa spolieha na selektívne partnerstvá na vyplnenie medzier. Niektorí interpretujú integráciu ChatGPT ako dočasné opatrenie, iní ako pragmatický odrazový mostík k schopnejšiemu proprietárnemu modelu.

Na trhu je tlak reálny: menej rastúci predaj iPhonov a rýchlo sa meniaca konkurencia. Apple si udržiava masívnu nainštalovanú základňu a závideniahodnú integráciu hardvéru a softvéru ; ak zrýchli svoje úsilie v oblasti umelej inteligencie, môže túto základňu premeniť na obnovenú konkurenčnú výhodu.

Čo to znamená pre firmy a vývojárov

Ponaučenie z príbehu o týchto riešeniach je jasné: len prepojenie univerzálneho modelu a očakávanie robustnosti nestačí. LLM majú obmedzenia a nenahrádzajú algoritmy overené v kritických úlohách . Môžu však aproximovať, urýchliť prototypovanie, brainstorming a písanie, najmä v kombinácii s externými symbolickými blokmi.

Vďaka modelom Foundation Models a vykonávaniu na zariadení ponúka Apple zaujímavý spôsob, ako na svojej platforme organizovať súkromné ​​a kontextové zážitky. V kombinácii s Private Cloud Compute a voliteľnou integráciou tretích strán to otvára možnosti vytvárania vertikálnych asistentov, kontextových pracovných postupov a generatívnych používateľských rozhraní v rámci dôveryhodných rámcov.

Pre organizácie by bolo usmernením kombinovať to najlepšie z oboch svetov: konvenčné algoritmy, kde je presnosť prvoradá, a špecializované LLM, kde je kľúčová flexibilita . A dôkladne sledovať limity uvažovania, overovania a sledovateľnosti, najmä v regulovaných oblastiach.

V tomto kontexte sa AppleLLM nejaví ako jednoduché políčko na odškrtnutie, ale ako súčasť, ktorá môže uzavrieť kruh medzi skutočne kompetentnou Siri, prierezovou platformou umelej inteligencie a overiteľnou stratégiou ochrany súkromia; ak Apple bude postupovať so svojou charakteristickou dôslednosťou, jeho vlastný model by mohol byť impulzom potrebným pre jeho ekosystém, aby dosiahol kvalitatívny skok, ktorý mu doteraz unikal.

Ako zistiť, čo dokáže Siri na vašom iPhone 4
Súvisiaci článok:
Kompletný sprievodca: Objavte všetko, čo dokáže Siri na vašom iPhone

Pridať ako preferovaný zdroj v Google