Open-weight modeli umjetne inteligencije postali su dovoljno sposobni i dovoljno jeftini da predstavljaju ozbiljnu alternativu najnaprednijim zatvorenim modelima u poslovnom okruženju, ocijenio je izvršni direktor IBM-a Arvind Krishna. Govoreći tokom poziva s investitorima povodom rezultata kompanije za treći kvartal, Krishna je posebno istakao njihovu pogodnost za AI infrastrukturu koja se pokreće lokalno, unutar kompanije.
Prema njegovom objašnjenju, razlika između zatvorenih „frontier“ modela i open-weight alternativa ranije je bila mnogo veća. Tokom 2024. godine, u širokim testiranjima, najbolji zatvoreni model mogao je ostvariti rezultat oko 70, dok su otvoreni modeli bili na približno 20 ili 30 bodova.
Ta razlika počela se smanjivati krajem 2025. godine. Krishna je naveo da je odnos tada više ličio na 70 prema 50, dok današnji open-weight modeli, prema njegovoj procjeni, pružaju oko 90 posto sposobnosti najboljih zatvorenih rješenja.
Trošak je ključni razlog
Najveća prednost otvorenih modela, međutim, nije samo u njihovim rezultatima nego i u cijeni korištenja. IBM-ov CEO rekao je da se trošak njihovih tokena kreće između 10 i 25 posto cijene tokena kod najnaprednijih komercijalnih modela.
„Da li želite nešto što košta 10 posto cijene, a 90 posto je dobro kao najbolje rješenje, ili želite platiti deset puta više?“, upitao je Krishna, naglašavajući da će većina kompanija vjerovatno izabrati jeftiniju opciju kada razlika u kvalitetu nije presudna.
Takvi modeli, prema njegovim riječima, mogu uspješno obavljati brojne svakodnevne poslovne zadatke, uključujući sažimanje elektronske pošte, analizu ugovora, odgovaranje na korisničke pozive i sastavljanje poruka. Za dio složenijih zadataka i dalje će biti potrebni najmoćniji modeli, ali IBM smatra da oni nisu neophodni za većinu upotreba.
Kompanije žele lokalnu AI infrastrukturu, ali nedostaje stručnjaka
Ovakav odnos cijene i sposobnosti povećava interes za on-premise AI infrastrukturu, odnosno sisteme koji se nalaze i obrađuju podatke unutar kompanije. Krishna smatra da bi mnogim poslovnim korisnicima za korisnu AI infrastrukturu bile dovoljne dvije ili tri serverske police.
Problem, međutim, nije samo nabavka hardvera. Kompanijama često nedostaju stručnjaci koji mogu optimizirati operativni sistem, mrežu i rad GPU akceleratora. Potrebno je, između ostalog, osigurati da su GPU-ovi pravilno grupisani, da se nalaze u povoljnoj mrežnoj blizini i da se rezultati efikasno keširaju kako bi odziv sistema bio brz.
Krishna nije ponudio konkretna rješenja za nedostatak takvih stručnjaka, ali je najavio da će IBM razvijati softver koji bi trebao pojednostaviti postavljanje i upravljanje AI sistemima. Očekuje i da će rast lokalne AI infrastrukture povećati potražnju za IBM-ovim Spyre akceleratorskim karticama namijenjenim mainframe sistemima.
IBM-ovi kvartalni rezultati
IBM je saopćio da su aktuelni z17 mainframe sistemi donijeli milijardu dolara više prihoda nego bilo koja prethodna generacija. Kompanija je također navela da su njeni novi modeli koji se mogu smjestiti u serverske police ostvarili najjači ulazak u segmentu srednjeg ranga IBM Z sistema u gotovo dvije decenije.
Prihod od mainframe poslovanja ipak je pao 20 posto, što je IBM očekivao jer je od predstavljanja z17 prošlo 18 mjeseci. Ukupni prihod kompanije u kvartalu iznosio je 17,1 milijardu dolara, uz rast od pet posto na godišnjem nivou.
Prihod od infrastrukture povećan je pet posto, na 3,7 milijardi dolara, dok je softverski segment ostvario rast od devet posto i dostigao 7,8 milijardi dolara. Red Hat je bio među najboljim dijelovima poslovanja: prihod je porastao 11 posto, a godišnji ponavljajući prihod 30 posto. Red Hatovi proizvodi za virtualizaciju do sada su donijeli 800 miliona dolara ugovora, uz dodatnih 750 miliona dolara potencijalnih poslova u prodajnom procesu.
Problemi s IBM Cloudom
IBM se istovremeno suočio i s ozbiljnim incidentom u cloud poslovanju. Zbog „hitnog održavanja“ korisnici nisu mogli približno 90 minuta kreirati nove resurse ni virtualne privatne cloudove u IBM-ovom Classic Cloud okruženju, naslijeđenom nakon akvizicije kompanije SoftLayer.
Kompanija je korisnicima poručila da će obnavljanje mogućnosti za novo provisioniranje i upravljanje resursima završiti do 08:00 sati po UTC vremenu u četvrtak, što znači da je incident trebao trajati najmanje 16 sati. Nije potvrđeno da li je održavanje povezano s ranije objavljenim kritičnim greškama u PHP-u.
