Aion Instruct és Prompt API: hibrid intelligencia a Microsoft Edge-ben
A Microsoft Edge beépített nyelvi modellje mostantól az Aion Instruct, és a Prompt API origin trialja is elindult a hibrid webes MI-hez.
A Microsoft Edge új, Aion Instruct nevű nyelvi modellt kapott, amely a korábbi Phi-4-mini helyét veszi át a böngészőben. A modell kisebb, gyorsabb, és szélesebb eszközkörön érhető el, miközben a gyakori webes feladatokban összemérhető minőséget nyújt. Ezzel párhuzamosan origin trial formájában elindult a Prompt API, valamint fejlesztői előnézetben elérhetővé vált a Decisions API is.
Aion Instruct: kisebb, gyorsabb, szélesebb körben elérhető
Az Aion Instruct 2,3 milliárd paraméteres modell, amely a Microsoft Edge beépített kis nyelvi modelljeként működik, és a Phi-4-mini szerepét veszi át. A Microsoft tájékoztatása szerint a modell kisebb, gyorsabb, és lényegesen több eszközön fut, miközben az olyan tipikus feladatokban, mint a szövegelőállítás, az összegzés, az utasításkövetés és a strukturált kimenetek, összemérhető minőséget ad.
Az Edge csak akkor tölti le az Aion Instruct modellt, amikor egy weboldal vagy funkció először igényli, és csak olyan eszközökön, ahol megfelelően futtatható. A felhasználók az Edge beállításaiban bármikor kikapcsolhatják a helyi MI-funkciót, ami a modellt is eltávolítja, és megakadályozza a későbbi letöltéseket.
A modell nyílt súlyú változata a Hugging Face felületén érhető el, és a tervek szerint még az idén megjelenik a Windows rendszerben is, ezzel a Copilot+ PC-k és a Windows szélesebb körében teremtve alapot a helyi MI-funkciókhoz.
Prompt API origin trial: éles oldalon is tesztelhető
A Prompt API eddig csak az Edge Canary és Dev csatornáján volt fejlesztői előnézetben elérhető, mostantól azonban origin trial keretében az éles weboldalakról is hívható. Ez lehetővé teszi, hogy a fejlesztők valós körülmények között próbálják ki a helyi MI-alapú funkciókat, és a tényleges használat alapján finomhangolják a megoldásaikat.
A Microsoft kifejezetten kéri a visszajelzést az API tervezéséről, a modell teljesítményéről, valamint a böngészők és modellek közötti interoperabilitási kérdésekről. Ezek a tapasztalatok segíthetik a Prompt API szabványosításáról szóló egyeztetéseket más böngészőgyártókkal és a webes közösséggel.
Decisions API: strukturált válaszok egyetlen lépésben
A Decisions API fejlesztői előnézetben érhető el az Edge Canary és Dev csatornáin, és az Aion Instruct modellre épül. Segítségével a weboldalak igen/nem, többválasztásos és pontozásos kérdéseket tehetnek fel szöveges bemenetre, és egyetlen menetben megkapják a valószínűségeket és egy megbízhatósági értéket, szöveggenerálás nélkül.
A Microsoft példái szerint az API alkalmas a felhasználói szándék felismerésére, a felhasználók által létrehozott tartalom rendezésére és irányítására, valamint elemek valós idejű pontozására és rangsorolására, mindezt néhány sor kliensoldali JavaScript kóddal. A Microsoft jelezte, hogy az API és megvalósítása a fejlesztői visszajelzések alapján még változhat.
Hibrid intelligencia a weben
A bejelentések a Microsoft hibrid intelligencia koncepcióját erősítik: a fejlesztők a böngészőben elérhető helyi modellekre támaszkodhatnak, amikor azok elérhetők és megfelelőek, és szükség esetén egy konfigurált felhőszolgáltatóhoz fordulhatnak a nagyobb lefedettség vagy erősebb inferencia érdekében.
A Microsoft aktívan várja a visszajelzéseket a modell teljesítményéről, valamint a Prompt és Summarizer API-k interoperabilitásáról. Az Origin Trial, a fejlesztői dokumentáció és a GitHub-on futó megbeszélések mind nyitottak a fejlesztők előtt.
Forrás: Windows Blog


