Aiemmin tänä vuonna Mainframe julkaisi Fullmoon-sovelluksen, ilmaisen ja avoimen lähdekoodin työkalun, jonka avulla käyttäjät voivat suorittaa suuria kielimalleja, kuten Llaama ja Deepseek, kokonaan laitteellaan. Se lanseerasi 13. tammikuuta 2025, ajoitettuna täysikuun, leikkisä nyökkäys nimeen Fullmoon (Fullmoon).
Sen sijaan, että luottaisi Internet -yhteyksiin, FullMoon suorittaa AI -malleja paikallisesti Apple -pii, mikä parantaa nopeutta ja pitää keskustelutiedot yksityisenä. Sovellus toimii täysin offline -tilassa iPhonen, iPadin, Macin ja Vision Pro: n välillä, ja se vaatii iOS 17.6, iPados 17.6, MacOS 14.0 tai Visionos 2.0 tai uudempi.
Vaikka monet AI -chat -työkalut luottavat jatkuvaan Internet -yhteyteen, Fullmoon käyttää erilaista lähestymistapaa. Suorittamalla malleja paikallisesti Apple -pii, se toimittaa nopeammat vasteajat ja varmistaa, että käyttäjätiedot pysyy laitteessa. Tietosuojatietoisille käyttäjille tämä tarkoittaa, että keskustelut ovat täysin henkilökohtaisia, ilman kolmansien osapuolien palvelimia. Offline-kyky tekee siitä myös hyödyllisen vähäyhteyteen liittyvissä ympäristöissä tai niille, jotka haluavat pitää työnkulut itsenäisinä.
Sovellus tukee useita malleja, mukaan lukien LLAMA-3.2-1B-Instruct-4bit, LLAMA-3.2-3B-Instruct-4bit ja DeepSek-R1-Distill-Qwen-1.5B sekä 4-bittisissä että 8-bittisissä versioissa. Nämä mallit on optimoitu Applen M-sarjan siruille, tasapainottamalla suorituskykyä tehokkuudella. Käyttäjät voivat edelleen räätälöidä kokemuksensa muokattavien teemojen, fonttien ja järjestelmän kehotusten ja Applen pikakuvakkeiden integroinnin avulla, jotta he voivat upottaa AI -toiminnot automatisoituihin tehtäviin.
Fullmoon aloitti testikalvon beetaversiona, jossa yli 3500 osallistujaa auttoi muokkaamaan lopullista julkaisua. Yhteisön palaute on ollut olennainen osa sen kehitystä ja projektin avoimen lähdekoodin luonnetta-GitHubilla-havainnoissa, joita kuka tahansa voi tarkastaa, muokata tai osallistua koodiin. Tämä läpinäkyvyys on auttanut sitä saamaan pitoa sekä kehittäjien että päivittäisten käyttäjien keskuudessa, jotka etsivät luotettavia AI -työkaluja.
Suositeltu lukeminen:Google ilmoittaa Gemini 1.0: n, uuden LLM: n kilpaillakseen chatgpt-4: n kanssa
Aloittamisensa jälkeen Fullmoon on ansainnut positiivisia arvosteluja nopeudesta, luotettavuudestaan ja käyttäjäystävällisestä käyttöliittymästä. Matkustajat, kenttäammattilaiset ja yksityiset AI -kokeilut ovat erityisen arvostaneet kykyä käyttää edistyneitä malleja ilman Internet -yhteyttä. Jopa kykenämmillä malleilla, suorituskyky pysyy sujuvasti, korostaen LLMS: n ajamisen tehokkuutta suoraan Apple -laitteistossa.
Sen sijaan, että se olisi vain uusi chatbot -sovellus, Fullmoon edustaa siirtymistä kohti henkilökohtaista AI: tä: tehokas, yksityinen ja paikallisesti hallittu. Se osoittaa, että edistyneiden kielten malleja kuluttajalaitteissa ei ole vain mahdollista, vaan käytännöllistä, mikä tasoittaa tietä helpommille ja yksityisyyttä keskittyville AI-kokemuksille.