Od svého založení v roce 2019 se společnost One Lexiicon vyvinula z tradičního systémového integrátora v butikovou konzultační společnost zaměřenou na poskytování technologických řešení zaměřených na výsledky a klienta. Jako partner společnosti Oracle napříč odvětvími se firma specializuje na využívání cloudové infrastruktury Oracle (OCI) k podpoře iniciativ digitální transformace s ohledem na rychlost, rozsah a bezpečnost.
Partnerství pro inovace v oblasti umělé inteligence zaměřené na průmysl
Hluboké pochopení obchodních pracovních postupů společností One Lexiicon – zejména v prostředích ERP – v kombinaci s vysoce výkonnou infrastrukturou OCI umožnilo vývoj OwnGPT, účelového modelu umělé inteligence navrženého pro zefektivnění podnikových operací a rozhodování.
Robustní možnosti OCI v oblasti cloudových nasazení, bezpečného ukládání dat a výpočetních výkonů poháněných GPU z ní činí ideální platformu pro podporu celého životního cyklu OwnGPT – od školení až po inferenci – v rámci vysoce škálovatelného hybridního cloudového prostředí.
Budování OwnGPT na OCI: Od vize k nasazení
Pro podporu OwnGPT nasadila společnost One Lexiicon grafické procesory OCI A10 Tensor Core, které urychlily jak trénování modelů, tak i inferenci v reálném čase. Integrace s MySQL HeatWave zvýšila rychlost zpracování dat, zatímco OCI Object Storage zajistila bezpečnou manipulaci s rozsáhlými podnikovými daty. OwnGPT byl trénován na strukturovaných datech ERP z Oracle EBS Vision se zaměřením na moduly závazků a pohledávek.
Optimalizace úloh umělé inteligence s infrastrukturou OCI GPU
Flexibilní nabídka grafických procesorů (GPU) od společnosti OCI, dostupná napříč instancemi holého počítače i virtuálních počítačů, umožnila nasazení odpovídající velikosti, která se mohla vyvíjet s ohledem na potřeby firmy. Síť s nízkou latencí a podporou RDMA od společnosti Oracle umožnila rychlejší distribuované školení, zatímco škálovatelná úložná řešení zajistila efektivní správu rozsáhlých datových sad.
S postupným zvyšováním pracovních zátěží poskytovala podpora OCI pro grafické procesory A100 výpočetní výkon potřebný pro škálování. Jemné doladění během fáze POC vedlo ke zvýšení přesnosti a výkonu, přizpůsobeného konkrétně podnikovým finančním operacím.
Hlavní body hybridní cloudové architektury
Architektura OwnGPT využívá hybridní nastavení, které propojuje místní infrastrukturu s Oracle Cloud.
Mezi klíčové komponenty patří:
- Virtuální cloudová síť (VCN): Hostuje podsítě pro vyvažování zátěže, aplikace a výpočetní uzly.
- Zabezpečení a dostupnost: Obsahuje firewall webových aplikací (WAF), nástroj pro vyrovnávání zátěže a cloudovou službu databáze (DBCS).
- Odolnost: Zajištěna prostřednictvím domén selhání, IAM, Service Gateway a NAT Gateway.
- Úložiště: Možnosti blokového i souborového úložiště pro škálovatelné zpracování dat.
Tato architektura poskytuje flexibilitu a robustnost potřebnou pro podnikové aplikace umělé inteligence ve velkém měřítku.
Jemné doladění a škálování na OCI
S vývojem úloh umělé inteligence nám OCI umožnilo bezproblémové škálování a integraci výkonnějších grafických procesorů, jako je A100 GPU, pro pokročilé zpracování. Během POC jsme doladili model Own GPT s využitím dat z Oracle EBS Vision se zaměřením na moduly Závazky a Pohledávky, což zvýšilo přesnost a efektivitu modelu.
Architektura řešení
Jádrem architektury je virtuální cloudová síť (VCN), která hostuje podsítě vyhrazené pro vyvažování zátěže, hostování aplikací a provoz serverů.
Architektura zahrnuje funkce zabezpečení a vysoké dostupnosti, včetně webového aplikačního firewallu (WAF), nástroje pro vyrovnávání zátěže a cloudové služby databáze (DBCS). Úložiště dat je spravováno pomocí blokových i souborových úložišť, což zajišťuje škálovatelnost a spolehlivost.
Vysoká dostupnost je udržována prostřednictvím domén chyb, zatímco bezpečný přístup ke cloudovým zdrojům je vynucován pomocí správy identit a přístupu (IAM), brány služeb a brány NAT. Tato robustní a flexibilní architektura podporuje škálovatelné nasazení aplikací řízených umělou inteligencí a poskytuje výkon a zabezpečení na podnikové úrovni.
Výkonnostní benchmarky
-
Technické metriky
- Doba odezvy: Průměrně 1,2 sekundy, 95. percentil 2,5 sekundy, složité dotazy maximálně 3,7 sekundy.
- Propustnost: Maximálně 120 souběžných uživatelů, 500 dotazů za minutu, 99,97% úspěšnost API.
- Využití zdrojů: CPU průměrně 42% (špička 78%), paměť 4,2 GB (max. 7,1 GB), efektivita úložiště 12 MB na společnost pro vektorová data.
- Škálovatelnost: Lineární škálování až do 50 společností, stabilní výkon s více než 100 000 dokumentovými bloky, více než 25 simultánních připojení.
-
Dopad na podnikání
- Produktivita: 68% snížení doby vyhledávání, 42% méně opakovaných technických dotazů, úspora 3,5 hodiny na zaměstnance týdně.
- Přesnost: 92% u dotazů specifických pro společnost, 87% u technických dotazů, 95% přesnost v identifikaci zdroje.
- Spokojenost uživatelů: Hodnocení 4,7/5, 94% přijetí mezi oprávněnými zaměstnanci, 76% snížení počtu žádostí o podporu.
- Návratnost investic: Dosažení bodu zvratu za 4,2 měsíce, návratnost investic 327% za 12 měsíců, odhadovaná roční úspora 142 000 USD pro středně velké nasazení.
Proč je Oracle Cloud strategickou výhodou
Strategická spolupráce společnosti One Lexiicon s Oracle Cloud Infrastructure (OCI) byla poháněna zjednodušeným modelem zadávání veřejných zakázek OCI, nižšími celkovými náklady na vlastnictví a konzistentně vysokou dostupností v regionu Asie a Tichomoří a na Středním východě. Integrací MySQL HeatWave do OCI dosáhl tým významného snížení latence v kanálu umělé inteligence – urychlil tak trénování modelů i inferenci. Tato spolupráce nejenže zvýšila výkon, ale také etablovala OCI jako přesvědčivý základ pro škálování podnikových řešení umělé inteligence ve spolupráci s inovativním přístupem společnosti One Lexiicon.
Závěrem
Nasazení OwnGPT na OCI ukazuje, čeho je možné dosáhnout, když se hluboké znalosti oboru setkají s robustní a škálovatelnou infrastrukturou umělé inteligence. Partnerství přineslo měřitelnou návratnost investic (ROI), rychlejší poznatky a vyšší spokojenost koncových uživatelů. Vzhledem k tomu, že One Lexiicon je i nadále průkopníkem v transformaci podnikání vedené umělou inteligencí, OCI zůstane klíčovým nástrojem umožňujícím budoucí inovace.
Pro další informace nás neváhejte kontaktovat.
Zdroj: Oracle