Tā kā datu suverenitāte un skaitļošanas jauda kļūst par stratēģiskiem faktoriem uzņēmumiem, kas ievieš mākslīgo intelektu, pieaug pieprasījums pēc privātas lokālas mākslīgā intelekta infrastruktūras. Reaģējot uz šo tendenci, uzņēmums šodien... QNAP® Systems, Inc., vadošais skaitļošanas, tīklu un datu glabāšanas risinājumu inovāciju uzņēmums, ieviesa QAI-h1290FX, Edge Nākamās paaudzes mākslīgā intelekta krātuves serveris, kas paredzēts liela mēroga valodu modeļu (LLM), izguves paplašinātās ģenerēšanas (RAG) dzinēju un ģeneratīvu mākslīgā intelekta lietojumprogrammu privātai izvietošanai.
Veidots uz AMD EPYC™ servera procesora, ar NVIDIA® RTX™ GPU paātrinājuma atbalstu un divpadsmit slotiem U.2 NVMe/SATA SSD diskiem, QAI-h1290FX nodrošina augstas veiktspējas lokālo mākslīgā intelekta infrastruktūru organizācijām, kurām nepieciešama zema latentuma secināšana, pilnīga datu aizsardzība un darbību kontrole – nepaļaujoties uz… cloudu.
Darbina QuTS hero operētājsistēma, kuras pamatā ir ZFS od QNAPQAI-h1290FX piedāvā uzņēmuma līmeņa datu integritāti, gandrīz neierobežotus momentuzņēmumus un iekļautu deduplikāciju. Tas atbalsta vietējo GPU piekļuvi konteineriem, izmantojot Container Station, un GPU caurlaidi virtuālajām mašīnām, izmantojot Virtualization Station. IT komandas, izstrādātāji un pētniecības grupas var efektīvi palaist secinājumu modeļus, ģeneratīvās mākslīgā intelekta lietojumprogrammas un RAG cauruļvadus (datu plūsmas) ar pilnīgu veiktspējas kontroli.oneun resursu sadale.
QAI-h1290FX ir aprīkots ar rūpīgi atlasītu iepriekš instalētu mākslīgā intelekta rīku komplektu, piemēram, AnythingLLM, OpenWebUI un Ollama, kas nodrošina ātru privātu LLM darbplūsmu izvietošanu. Papildu mākslīgā intelekta lietojumprogrammas, piemēram, Stable Diffusion, ComfyUI, n8n un vLLM, tiek pakāpeniski integrētas, lai paplašinātu funkcionalitāti. Tas ļauj lietotājiem ātri izveidot lokālas mākslīgā intelekta platformas un automatizēt darbplūsmas drošā, mērogojamā un pilnībā kontrolētā vidē.
“QAI-h1290FX atbilst pieaugošajam pieprasījumam pēc lokālās mākslīgā intelekta infrastruktūras,” sacīja Olivers Lams, uzņēmuma produktu vadītājs. QNAP“Mēs vēlējāmies novērst šķēršļus GPU darbstaciju izveidei, rīku instalēšanai un sarežģītu vides konfigurēšanai. Ar QAI-h1290FX lietotāji var izvietot un palaist savus AI modeļus uzreiz pēc izņemšanas no kastes — ar pilnīgu kontroli pār saviem datiem un bez atkarības no…” cloudplkst."
QAI-h1290FX galvenās iezīmes
- Pilnībā zibatmiņas atmiņa: Divpadsmit U.2 NVMe/SATA SSD sloti ļauj ultraātra I/O augstas frekvences mākslīgā intelekta modeļa izpildei un datu straumēšanai.
- AMD EPYC™ 7302P 16 kodolu procesors: Tas nodrošina 32 servera skaitļošanas jaudas pavedienus — ideāli piemērotu mākslīgā intelekta secinājumiem, virtualizācijai un prasīgām paralēlām darba slodzēm.
- GPU gatava arhitektūra: Atbalsta papildu NVIDIA RTX PRO™ 6000 Blackwell GPU darbstacijas grafikas karti Max-Q ar līdz pat 96 GB GPU atmiņu un CUDA® atbalstu, TensorRT™ un Transformer Engine paātrinājums — ievērojami palielina veiktspēju LLM lokālās secinājumu apstrādes, attēlu ģenerēšanas un dziļās mācīšanās darba slodzēm.
- Konteinerizēta mākslīgā intelekta vide un GPU resursu pārvaldība: Atbalsta Docker un LXD ar intuitīvu GPU piešķiršanu. Lietotāji var ātri palaist AI rīkus, izmantojot integrēto AI lietojumprogrammu centru, un piešķirt GPU resursus bez konfigurācijas, izmantojot komandrindu.
- Pilnībā lokāla izvietošana bez atkarībām cloudu: Provadīt mākslīgo intelektu chatIzveidojiet savus mākslīgā intelekta darbinātos asistentus, dokumentu meklētājprogrammas vai zināšanu bāzes pilnībā lokāli. Saglabājiet sensitīvus datus uzņēmuma iekšienē, vienlaikus paātrinot mākslīgā intelekta darbplūsmas.
- Ātrdarbīgs tīkls un mērogojama arhitektūra: Tam ir divi 25 GbE porti un divi 2,5 GbE porti. PCIe sloti atbalsta papildu 100 GbE paplašināšanu. Savietojams ar QNAP paplašināšanas JBOD diski liela mēroga AI datu glabāšanai.
Lietošanas gadījuma pārskats
- Iekšējie mākslīgā intelekta asistenti / lokālie chatovāciju pieteikums
Izvietojiet sarunvalodas mākslīgā intelekta saskarnes zināšanu izguvei, darbinieku apmācībai unancun jautājumi par uzņēmuma noteikumiem – viss ir pilnībā jūsu kontrolē. - RAG uzņēmuma meklēšana
Izmantojiet privātu RAG cauruļvadu ātrai un kontekstuālai meklēšanai līgumos, pārskatos un iekšējos dokumentos. - Attēlu ģenerēšana radošajām komandām
Palaidiet Stable Diffusion vai ComfyUI, lai izmantotu mākslīgā intelekta darbplūsmas un vizuālā satura ģenerēšanu. - Mākslīgā intelekta vadīta IT automatizācija
Izmantojiet n8n, lai automatizētu secinājumu uzdevumus, satura ģenerēšanu vai brīdinājumus — ērti integrējiet mākslīgo intelektu biznesa procesos.
Ar QAI-h1290FX tas piedāvā QNAP Praktisks un spēcīgs veids, kā ieviest ģeneratīvo mākslīgo intelektu visā uzņēmumā. Neatkarīgi no tā, vai tas ir juridiskajā, personāla vadības, radošajā vai IT darbībā, tas palīdz komandām strādāt ātrāk, ievērot noteikumus un pilnībā kontrolēt savu mākslīgā intelekta stratēģiju — tieši perifērijā.
Papildinformācija un pilns klāsts QNAP var atrast pie www.qnap. Ar.
