Ciekawa informacja odnośnie zasobów GPU - kart graficznych, które wykorzystuje ChatGPT.

"Szacunkowe dane zostały udostępnione przez firmę badawczą TrendForce. Mechanizmy, które ChatGPT wykorzystuje do przetwarzania danych, wymagały w 2020 roku mocy obliczeniowej około 20 tys. układów graficznych. Proces komercjalizacji usługi ma zwiększyć tę liczbę do nawet 30 tys. jednostek. Wynika to bezpośrednio ze wzrostu ilości parametrów, jakie są wykorzystywane przez AI podczas uczenia się. Liczba ta w 2018 roku wynosiła 120 mln, żeby w 2020 roku dobić do zawrotnego poziomu 180 mld."

Koszt infrastruktury musi być ogromny i ciekaw jestem czy faktycznie jest duże pole do wzrostu dla konkurencji.

https://www.purepc.pl/chatgpt-komercjalizacja-uslugi-bedzie-wymagala-gigantycznej-ilosci-ukladow-graficznych-nvidii

Obliczenia ChatGPT opierają się na mocy obliczeniowej procesora NVIDII A100, który kosztuje od 10 000 do 15 000 USD. Czyli przy obecnie 20 0000 wykorzystywanych jednostkach ich łączny koszt to lekko licząc 1 mld złotych. Jak widać próg wejścia na taki poziom AI jest bardzo wysoki...