U eri kada generativni AI modeli dominiraju iz oblaka, sve se više postavlja pitanje: da li je vrijeme da veliki jezički modeli (LLM) napuste cloud i "vrate se kući"? Ovo predavanje istražuje trend povratka LLM-ova na lokalni hardver - od motivacija kao što su privatnost, niži operativni troškovi i brža obrada, do tehničkih izazova poput zahtjeva za GPU resursima, skalabilnosti i održavanja.

Kroz praktične primjere i usporedbe, prikazat ćemo kada lokalno hostovanje LLM-ova ima smisla, koje su najčešće arhitekture i alati koji to omogućavaju, te kako napraviti prvi korak. Bilo da ste software arhitekta, IT menadžer ili AI entuzijasta - saznajte da li je sada pravo vrijeme da vaš AI model dobije stalnu adresu.