Premiera nowej generacji sztucznej inteligencji od OpenAI po raz kolejny pokazała fizyczne ograniczenia światowych serwerowni. Gigant z Doliny Krzemowej oficjalnie wstrzymał sprzedaż oraz aktualizacje do swojego najdroższego pakietu ChatGPT Pro, kosztującego 200 dolarów miesięcznie. Decyzja wymuszona jest skokowym wzrostem zapotrzebowania na moc obliczeniową, z którym nie radzi sobie zaplecze techniczne firmy. Całe zamieszanie wywołał udostępniony niedawno flagowy model Astra, powszechnie uznawany za pierwszy krok w stronę prawdziwej AGI.
Lawinowy wzrost zainteresowania. OpenAI mówi „nie” nowym abonentom
Szef produktu w OpenAI, Thibault Sottiaux, wyjaśnił w komunikacie na platformie X, że to właśnie najwyższy abonament generuje największe obciążenie dla infrastruktury. Przedsiębiorstwo zdecydowało się na radykalny krok, aby obronić jakość usług dla osób, które już opłacają subskrypcję.
Sytuacja przypomina wydarzenia z końca 2023 roku, gdy Sam Altman musiał zatrzymać sprzedaż tańszego planu ChatGPT Plus. Różnica polega na tym, że od tamtego czasu zasoby obliczeniowe startupu wzrosły blisko dziesięciokrotnie, a mimo to okazały się niewystarczające.
Dlaczego model Astra zużywa tak dużo energii? Problem tkwi w „computer use”
Prawdziwym pożeraczem mocy okazała się kluczowa funkcja modelu Astra – tzw. moduł „computer use”. Rozwiązanie to pozwala sztucznej inteligencji wchodzić w bezpośrednią interakcję z komputerem tak, jak robi to człowiek. Model sam klika, wypełnia formularze i nawiguje po stronach internetowych z niespotykaną dotąd prędkością.
Taka autonomia wymaga przesyłania i analizowania gigantycznych nakładów danych w czasie rzeczywistym. W efekcie Astra zużywa darmowe i płatne limity zapytań znacznie szybciej niż jakikolwiek wcześniejszy model. To oczywiście natychmiast przełożyło się na zamulenie serwerów.
Źródło tekstu: Fortune, TechCrunch / Zdjęcie otwierające: Unsplash (@zulfugarkarimov)