A Perplexity hibrid módot fejleszt Mac-hez: helyi és felhő-AI kombinációja

A Perplexity Computer fejlesztése alatt álló hibrid módja a felhőalapú ügynökből egy olyan vezérlési rétegre fejlődik, amely a felhőinfrastruktúrát és a felhasználó által irányított hardvert összekapcsolja. A rendszer dinamikusan osztja fel a feladatokat helyi és szerver alapú AI-modellek között, automatikusan eldöntve, hogy mely műveletek futnak az eszközön és melyek kerülnek ki a nagyobb teljesítményű felhőmodellekhez.

A megoldás központi eleme a »Privacy Gate« nevű komponens, amely egy külön helyi modell segítségével előzetesen megvizsgálja az adatokat, mielőtt azok a felhőbe kerülnének. Ha személyes vagy érzékeny információkat észlel, a rendszer rákérdez a felhasználóra az adatok kezelésének módjáról. Ez a megközelítés különösen vonzó lehet az Európai Gazdasági Térségben működő magánszemélyeknek és vállalkozásoknak, ahol a GDPR-követelmények érvényesek.

A Perplexity három különböző méretű letölthető modellt készít elő: egy körülbelül 19 GB-os saját modellt (32 GB RAM szükséges), egy 17,4 GB-os Qwen-32B modellt, valamint egy kisebb, Gemma alapú, 5,6 GB-os verziót 16 GB RAM-mal rendelkező Mac-ekhez. A hibrid mód a Computer modellválasztási menüjén keresztül aktiválható lesz, és a helyi feldolgozásra fordított feladatokért nem számítanak fel Computer-krediteket.

A hibrid mód jelenleg még nem hivatalos funkció, és a Perplexity nem közölt megjelenési dátumot, illetve nem erősítette meg, hogy az összes Computer-felhasználó számára elérhető lesz-e, vagy csak bizonyos előfizetésekhez kötött.