Miben különbözik az osFoundry a(z) Meta Llama megoldástól a magyarországi vállalkozások számára – modellválasztás, díjszabás, adatvédelem és adatrezidencia, és hogyan segít a dgm a bevezetésben.
A dgm független osFoundry-bevezetési partner – nem áll kapcsolatban az osFoundry fejlesztőjével (az OS LLC vállalattal), és eddig még egyetlen ügyfélintegrációt sem fejezett be.
A magyar cégek gyakran úgy hasonlítják össze az osFoundryt és a(z) Meta Llama megoldást, mintha ugyanannak a terméknek két változata lennének. Az osFoundry modellfüggetlen MI-vezénylő (orchestration) platform, amely a saját kulcs használatának (BYOK) elvére épül: használatalapú díjszabással működik, nincs munkahelyenkénti licencdíj, helyben (local-first) is futtatható és saját környezetben (self-hosting) is üzemeltethető, az adatok régiója pedig kiválasztható (Egyesült Államok, EU vagy Japán), vagy a saját felhőjében is futtatható. A(z) Meta Llama ezzel szemben a Meta nyílt súlyú modellcsaládja (Llama), közösségi licenc alatt, amely engedi a kereskedelmi felhasználást és a saját környezetben való futtatást (csak a havi 700 millió aktív felhasználó feletti, ritka esetben kell külön engedély).
Magyarországnak nincs saját, gyártásban lévő nemzeti vagy kereskedelmi nagy nyelvi modellje – nincs „magyar ChatGPT”. A hiteles „európai” vagy „szuverén” lehetőség ezért a nyílt súlyú uniós modellek használata saját kulccsal. A francia (uniós) Mistral AI több modellt is közzétesz a megengedő Apache 2.0 licenc alatt, amely engedi a kereskedelmi felhasználást és a saját környezetben való futtatást, a felhős API-ja pedig alapértelmezetten az EU-ban tárolja az adatokat; mellette a Meta Llama modelljei is futtathatók, közösségi licenc alatt (amely csak a 700 millió havi aktív felhasználó feletti, ritka esetben igényel külön engedélyt). Mivel az osFoundry modellfüggetlen (BYOK), bármelyik család futtatható benne modellrétegként – uniós felhős API-n vagy saját, EU-s infrastruktúrán, adatkiszivárgás nélkül. A magyar nyelvű mesterséges intelligenciáról érdemes őszintén beszélni: a hazai eredmények kutatási jellegűek. A PULI az NYTK (Nyelvtudományi Kutatóközpont, a HUN-REN tagja) modellcsaládja – a legnagyobb generatív tagja, a PULI GPT-3SX (mintegy 6,7 milliárd paraméter) CC-BY-NC-4.0 licenc alatt áll, vagyis nem használható kereskedelmi célra, a Llama-alapú tagok pedig a Meta licencét öröklik; a huBERT a SZTAKI-HLT (BME) Apache-2.0 licencű kódolója (encoder), nem szöveggeneráló modell. Ezek a magyar nyelvi képesség kutatási bizonyítékai, nem éles, vállalati asszisztensek. A magyar nyelvű üzleti feladatokra a reális út egy erős, többnyelvű modell (például Mistral vagy Llama), amely jól kezeli a magyart, EU-régióra rögzítve vagy saját környezetben futtatva. Ez tehát integrációs döntés, nem két platform versenye.
Az osFoundry és a(z) Meta Llama: modell a platform alatt
A Llama nem platform, hanem modellcsalád; az osFoundry modellfüggetlen vezénylőréteg, amely a Llama modelljeit BYOK-kal vagy saját környezetben futtathatja. A nyílt súlyú modellt kereső magyar cégeknek a Llama modellrétegként fut az osFoundry alatt.
| Szempont | osFoundry | Meta Llama |
|---|---|---|
| Modellválasztás | modellfüggetlen, saját kulcs (bármely szolgáltató) | saját modellcsalád (futtatható osFoundryn keresztül) |
| Díjszabás | használatalapú, munkahelyenkénti licenc nélkül | gyakran munkahelyenként vagy előfizetésben (lásd az árlistát) |
| Kör | csevegés, ügynökök, alkalmazások, tudás és automatizálás | nyílt súlyú modellcsalád (Meta közösségi licenc) |
| Üzemeltetés | felhő, saját környezet (BYO Cloud) vagy helyben (local-first) | nyílt súlyok / API, menedzselt vagy saját környezet |
| Adatrezidencia (Magyarország) | EU/USA/Japán régió, vagy saját környezet / helyben futtatás | a gyártó régióitól függ (ellenőrizze) |
Miért nem vagy-vagy
Mivel az osFoundry modellfüggetlen (BYOK), a(z) Meta Llama nem kiváltandó versenytárs, hanem modellréteg, amelyet az osFoundry belsejében használhat. Egy magyar cég számára ez azt jelenti: minden feladathoz a legjobb modellt választja – ahol az európai szuverenitás számít, egy uniós nyílt súlyú modellt, mint a Mistral, máshol egy másikat –, anélkül, hogy platformot váltana. (Magyarországnak nincs saját nemzeti nagy nyelvi modellje, ezért a hiteles lehetőség egy nyílt súlyú modell.)
És az adatvédelem és az adatrezidencia?
Ez a legfontosabb szempont egy magyar vevőnek. Az osFoundry az adatok régióját az Egyesült Államokra, az EU-ra vagy Japánra rögzíti, a modelleket a saját hardverén helyben futtatja, és támogatja a saját környezetben (BYO Cloud) történő üzemeltetést egy Ön által felügyelt felhőfiókban. Egy EU-régió az adatokat az Európai Gazdasági Térségen (EGT) belül tartja – ez a legtöbb vállalkozás számára kielégíti a GDPR követelményeit, mert Magyarországon nincs általános, a magánszektorra vonatkozó adatlokalizációs előírás (csak a közszférára és a kritikus infrastruktúrára vonatkozó kivételek léteznek). Fontos azonban tudni, hogy egyetlen nagy felhőszolgáltató (hyperscaler) sem üzemeltet teljes értékű régiót Magyarországon belül, és ilyet nem is jelentettek be: a legközelebbi régiók az Azure Austria East (Bécs, 2025-től elérhető), az AWS Frankfurt (a bécsi telephely csak Local Zone, amely a frankfurti régióhoz kapcsolódik), valamint a Google Cloud Varsó, Milánó és Frankfurt. Ahol az adatoknak szigorúan az országon belül kell maradniuk, ott a tisztességes út a saját környezetben, magyarországi infrastruktúrán történő üzemeltetés, vagy a nyílt súlyú modellek helyi futtatása. Egy további szempont: egy amerikai székhelyű szolgáltatónál tárolt adat a fizikai elhelyezéstől függetlenül az amerikai CLOUD Act hatálya alá eshet, így egy EU-régió kiválasztása egy amerikai szolgáltatónál az adatok elhelyezését megoldja, az amerikai joghatóságot azonban nem szünteti meg – emiatt a legérzékenyebb esetekben egy EU-s szolgáltató vagy a saját környezetben futtatott nyílt súlyú modell az erősebb válasz. A mindenkori pontos követelményeket érdemes a NAIH-hal vagy szakértő jogi tanácsadóval egyeztetni. Kombinálja a(z) Meta Llama nyílt súlyú modellrétegét az osFoundry saját környezetben való üzemeltetésével, és a modellválasztás és az adatok feletti kontroll egyaránt az Ön kezében marad.
Díjszabás
Mindkét termék ára és funkciói változnak, és a csomagtól, valamint a használattól függnek – a pontos adatokat mindig ellenőrizze a gyártó hivatalos árlistáján. Egy szerkezeti különbség, amelyet érdemes megjegyezni: az osFoundry használat szerint áraz, nem munkahelyenként, miközben a modellszolgáltatók általában egységenként (token) vagy előfizetésben számláznak. BYOK esetén a modellköltséget közvetlenül a szolgáltatónak fizeti. A külföldi digitális szolgáltatások ÁFA-ját a fordított adózás szabálya szerint a magyar vevő önbevallással számolja el: a 27%-os ÁFA-t a saját bevallásában tünteti fel, amelyet teljes adóköteles tevékenység esetén egyúttal le is vonhat – így ez jellemzően készpénzsemleges.
Kapcsolódó cikkek
Hogyan segít a dgm
A dgm független bevezetési partner, amely abban segíti a magyarországi vállalkozásokat, hogy bevezessék az osFoundry platformot – az első gyakorlati felhasználási eset megtalálásától a megépítésén át addig, hogy az MI-t a már használt rendszereihez kösse. Ha szeretne uniós nyílt modellt, például Mistralt vagy Llamát futtatni az osFoundry alatt, a dgm segít a beállításban és az integrációban. A dgm az osFoundry fejlesztőjétől (az OS LLC vállalattól) függetlenül működik, és eddig még egyetlen ügyfélintegrációt sem fejezett be; a fentiek tehát a kínált szolgáltatás leírását jelentik, nem teljesített eredményt. Ha szívesen átgondolna egy észszerű első lépést, a dgm örömmel végiggondolja Önnel. Beszéljünk egy kötetlen konzultáció keretében.