Sztuczna inteligencja coraz częściej pomaga tworzyć kolejne generacje modeli AI. Teraz jeden z liderów branży przyznaje, że zbliżamy się do momentu, w którym rozwój technologii może znacząco przyspieszyć.
Anthropic, czyli firma odpowiedzialna za Claude, ujawniła w dokumentach złożonych do Komisji Papierów Wartościowych i Giełd (SEC), że może wkrótce osiągnąć tzw. rekurencyjne samodoskonalenie (RSI). Chodzi o sytuację, w której sztuczna inteligencja pomaga tworzyć coraz bardziej zaawansowane wersje samej siebie. A to prowadzi do gwałtownego przyspieszenia postępów. Według wewnętrznych prognoz próg ten mogą osiągnąć już nadchodzące modele, chociaż żaden z obecnych jeszcze go nie przekroczył.
Już ponad 90% zmian w kodzie Anthropic pisze Claude
Nie są to wyłącznie teoretyczne rozważania. Anthropic wykorzystuje już własne modele do prowadzenia eksperymentów, generowania danych treningowych, automatyzacji testów oraz pisania i sprawdzania kodu. Amerykanie ujawnili, że we wrześniu 2026 roku ponad 90% wkładu do firmowej bazy kodu zostało napisane przez Claude. Co więcej, dzienna liczba zmian przypadających na jednego inżyniera była ponad 45 razy większa niż średnia z 2024 roku.
Problem w tym, że coraz większa automatyzacja prac badawczych niesie ze sobą również zagrożenia. Anthropic przyznaje, że w przeszłości nie zawsze potrafiło odpowiednio wcześnie rozpoznać przyspieszenie rozwoju swoich modeli. W przyszłości sytuacja może się powtórzyć, a kolejne generacje AI mogą zyskiwać nowe możliwości szybciej, niż inżynierowie będą w stanie opracowywać, testować i wdrażać odpowiednie zabezpieczenia.
Amerykanie zwracają też uwagę na ryzyko powielania błędów. Jeśli obecny model zostanie wykorzystany do opracowania następnego, jego nieprawidłowe działanie może wpłynąć na kolejną generację i utrudnić wykrycie problemów. Z tego powodu firma rozważa aktualizację swojej polityki bezpieczeństwa, aby zagwarantować dalszy nadzór człowieka nad rozwojem najbardziej zaawansowanych systemów.
Anthropic podkreśla jednak, że nie planuje na razie powierzać Claude w pełni autonomicznego projektowania i tworzenia kolejnych modeli bez istotnego udziału ludzi. Nie podano również konkretnej daty osiągnięcia RSI. Na ten moment mowa więc o prognozach i potencjalnym zagrożeniu, a nie o potwierdzonym powstaniu sztucznej inteligencji zdolnej do samodzielnego rozwijania swoich następców niczym w Terminatorze.
Źródło: Anthropic, TechCrunch / Zdj. otwierające: Anthropic