Ciekawa informacja odnośnie zasobów GPU - kart graficznych, które wykorzystuje ChatGPT.
"Szacunkowe dane zostały udostępnione przez firmę badawczą TrendForce. Mechanizmy, które ChatGPT wykorzystuje do przetwarzania danych, wymagały w 2020 roku mocy obliczeniowej około 20 tys. układów graficznych. Proces komercjalizacji usługi ma zwiększyć tę liczbę do nawet 30 tys. jednostek. Wynika to bezpośrednio ze wzrostu ilości parametrów, jakie są wykorzystywane przez AI podczas uczenia się. Liczba ta w 2018 roku wynosiła 120 mln, żeby w 2020 roku dobić do zawrotnego poziomu 180 mld."
Koszt infrastruktury musi być ogromny i ciekaw jestem czy faktycznie jest duże pole do wzrostu dla konkurencji.
https://www.purepc.pl/chatgpt-komercjalizacja-uslugi-bedzie-wymagala-gigantycznej-ilosci-ukladow-graficznych-nvidii