ChatGPT jest drogi w utrzymaniu. Już trwają prace, żeby to zmienić.
ChatGPT szybko stał się sensacją ostatnich miesięcy. Wszyscy o nim mówią, a jego możliwości wciąż rosną. Jednak czy zastanawialiście, jaki jest koszt jego codziennego utrzymania? Okazuje się, że są to ogromne sumy.
Według badań przeprowadzonych przez SemiAnalysis, OpenAI wydaje codziennie niemal 700 tys. dolarów, żeby utrzymać chatbota. Szacuje się, że system składa się z ponad 3600 serwerów HGX A100 zawierających 28936 procesorów graficznych, a koszt jednego zapytania wynosi około 0,36 centa.
GramTV przedstawia:
Szacunki oparte są o analizę modelu GPT-3, ale OpenAI wdrożyło już wersję GPT-4, dostępną dla subskrybentów, która może być jeszcze droższa.
Jeden dzień pracy ChatGPT kosztuje niemal 700 tys. dolarów
Jednym z głównych powodów tak dużych kosztów są energochłonne specjalistyczne układy scalone wymagane do obsługi systemu. Microsoft, jeden z najważniejszych udziałowców OpenAI, pracuje nad własnym chipem SI o nazwie Athena, który mógłby zastąpić procesory graficzne NVIDIA i drastycznie obniżyć koszty eksploatacji ChatGPT.
Gry, filmy, seriale, komiksy, technologie i różne retro
graty. Lubię także sprawdzać co słychać w kosmosie. Kiedy przytrafia się okazj wyjeżdżam w podróże dalekie lub bliskie i robię tam masę zdjęć.
Przecież właśnie dlatego przestawili się na for-profit i podpisali umowę z Microsoftem o co Elon Musk ma ból d*py. Bo musieliby albo ograniczyć mocno działalność i zbić koszta co znowu też ograniczyło by mocno rozwój narzędzia albo potrzebowali zasoby by działać i właśnie te zaoferował Microsoft.