Az év elején a Mainframe kiadta a Fullmoon alkalmazást, egy ingyenes és nyílt forráskódú eszközt, amely lehetővé teszi a felhasználók számára, hogy nagy nyelvi modelleket, például a Llama-t és a DeepSeeket teljes egészében az eszközükön futtassák. 2025. január 13-án indult, megfelelő időzítéssel teliholddal, játékos biccentéssel a telihold (fulLLMoon) névre.
Ahelyett, hogy internetkapcsolatra hagyatkozna, a Fullmoon helyileg Apple szilícium segítségével hajtja végre a mesterséges intelligencia modelleket, ami növeli a sebességet és megőrzi a beszélgetési adatok titkosságát. Az alkalmazás teljesen offline módban működik iPhone, iPad, Mac és Vision Pro rendszeren, és iOS17.6, iPadOS17.6, macOS14.0 vagy visionOS2.0 vagy újabb verziót igényel.
Míg sok mesterséges intelligencia csevegőeszköz állandó internetkapcsolatra támaszkodik, a telihold más megközelítést alkalmaz. A modellek helyi Apple szilícium futtatásával gyorsabb válaszidőt biztosít, és biztosítja, hogy a felhasználói adatok az eszközön maradjanak. A magánélet-tudatos felhasználók számára ez azt jelenti, hogy a beszélgetések teljes mértékben személyesek maradnak, harmadik féltől származó szerverek nélkül. Az offline képesség alacsony csatlakozási környezetekben is hasznossá teszi, vagy azok számára, akik jobban szeretik a munkafolyamataikat önállóan tartani.
Az alkalmazás számos modellt támogat, köztük a Llama-3.2-1B-Instruct-4bit, Llama-3.2-3B-Instruct-4bit és a DeepSeek-R1-Distill-Qwen-1.5B 4 bites és 8 bites verziókban egyaránt. Ezeket a modelleket az Apple M-sorozatú chipjeihez optimalizálták, egyensúlyban tartva a teljesítményt a hatékonysággal. A felhasználók személyre szabható témákkal, betűtípusokkal és rendszerüzenetekkel tovább szabhatják élményeiket, az Apple Shortcuts integrációja pedig lehetővé teszi számukra, hogy mesterséges intelligencia funkciókat ágyazzanak be automatizált feladatokba.
A Fullmoon TestFlight bétaként indult, ahol több mint 3500 résztvevő segített a végleges kiadás kialakításában. A közösségi visszajelzések szerves részét képezték a fejlesztésnek, és a GitHubon üzemeltetett projekt nyílt forráskódú jellege biztosítja, hogy bárki megtekinthesse, módosíthassa vagy hozzájárulhasson a kódhoz. Ez az átláthatóság hozzájárult ahhoz, hogy a fejlesztők és a megbízható mesterséges intelligencia eszközöket kereső hétköznapi felhasználók elterjedjenek.
Megjelenése óta a Fullmoon pozitív kritikákat kapott gyorsaságáról, megbízhatóságáról és felhasználóbarát felületéről. A fejlett modellek internet-hozzáférés nélküli használatának lehetőségét különösen nagyra értékelték az utazók, a helyszíni szakemberek és azok, akik privát mesterségesintelligencia-kísérleteket keresnek. A teljesítmény még nagyobb teljesítményű modellek esetén is egyenletes marad, kiemelve az LLM-ek közvetlen Apple hardveren való futtatásának hatékonyságát.
Ahelyett, hogy csak egy újabb chatbot-alkalmazás lenne, a telihold a személyes mesterséges intelligencia felé való elmozdulást jelent: erőteljes, privát és helyileg vezérelt. Bemutatja, hogy a fejlett nyelvi modellek fogyasztói eszközökön való futtatása nemcsak lehetséges, hanem praktikus is, és megnyitja az utat a könnyebben hozzáférhető és az adatvédelemre összpontosító mesterséges intelligencia-élmények felé.
ÖSSZEFÜGGŐ:A Google bejelenti a Gemini 1.0-t, egy új LLM-et, amely a ChatGPT-4-gyel versenyez