Partnerstvo sa kompanijom Groq
Nvidia mijenja kurs: Ulaže u brže AI čipove
Podijeli vijest
Američki tehnološki gigant Nvidia pravi značajan strateški zaokret u razvoju vještačke inteligencije. Kompanija ulaže oko 20 milijardi dolara u saradnju sa kompanijom Groq, poznatoj po razvoju specijalizovanih čipova koji omogućavaju brzu obradu AI modela.
Prema pisanju portala VentureBeat, ovim potezom Nvidia priznaje da dosadašnji pristup sa univerzalnim GPU čipovima više ne zadovoljava sve potrebe savremene AI industrije, posebno u fazi “inference”, odnosno trenutku kada AI modeli generišu odgovore u realnom vremenu.
Kraj ere univerzalnog čipa
Stručnjaci ističu da se obrada podataka u vještačkoj inteligenciji sada odvija u dvije ključne faze:
1. Prefill, koja obuhvata obradu velikih količina podataka i konteksta.
2. Decode, faza u kojoj se generišu odgovori velikom brzinom.
Nvidia će se primarno fokusirati na prvu fazu kroz razvoj nove generacije svojih čipova. S druge strane, Groq tehnologija će se koristiti za izuzetno brzo generisanje odgovora, što je od vitalnog značaja za chatbotove, glasovne asistente i aplikacije koje rade u realnom vremenu.
Groq razvija specijalizovane AI procesore koji koriste drugačiju arhitekturu u odnosu na klasične GPU-ove, čime se postiže znatno manja latencija i veća energetska efikasnost. Upravo te karakteristike ih čine idealnim za narednu fazu masovne primjene vještačke inteligencije.
Dio inženjerskog tima kompanije Groq će se pridružiti Nvidiji, a njihova tehnologija će biti integrisana u Nvidia softverski ekosistem, uključujući i popularnu CUDA platformu.
Analitičari predviđaju da će tržište AI inference-a uskoro nadmašiti vrijednost samog treniranja AI modela, s obzirom na sve veću zavisnost aplikacija od brzih i pouzdanih odgovora u realnom vremenu.
