Nie każda rozmowa z ChatGPT będzie mogła trwać tak długo, jak życzy sobie tego użytkownik. OpenAI przygotowuje nowe zabezpieczenia, które mają reagować na niepokojące zachowania.
Amerykanie zapowiedzieli rozszerzenie mechanizmów wykrywania potencjalnych zagrożeń. Jeśli system uzna, że rozmówca koncentruje się na przemocy lub wyrządzeniu komuś krzywdy, ChatGPT będzie mógł automatycznie zakończyć konwersację. Jeżeli podobna sytuacja powtórzy się kilkukrotnie, OpenAI zastrzega sobie możliwość czasowego zawieszenia konta. To krok dalej niż dotychczasowe odmawianie odpowiedzi na niedozwolone pytania.
Nastolatkowie dostaną dodatkowe ograniczenia
Co istotne, ocena nie będzie opierać się wyłącznie na pojedynczej wiadomości. ChatGPT może już korzystać z krótkich podsumowań wcześniejszych sygnałów ostrzegawczych. A teraz ma jeszcze ostrożniej odpowiadać na pytania, jeśli historia rozmów wskazuje na ryzyko przemocy. Ograniczone zostaną również szczegółowe opisy masowych ataków z przeszłości, w tym informacje o wykorzystanej broni, sposobach jej zdobycia czy porównaniach liczby ofiar. Te zasady będą dotyczyć wszystkich użytkowników, niezależnie od wieku.
OpenAI wprowadzi ostrzejsze zasady dla osób poniżej 18. roku życia, zwłaszcza w kwestiach dotyczących broni i systemów zabezpieczeń. Model będzie unikał przekazywania praktycznych informacji, które mogłyby ułatwić dokonanie przestępstwa, nawet jeśli pytanie wydaje się nieszkodliwe. Jednak użytkownicy nadal będą mogli uzyskać pomoc w zapobieganiu przemocy, łagodzeniu konfliktów czy kontaktowaniu się z zaufaną osobą dorosłą.
OpenAI rozwija także system szacowania wieku na podstawie sposobu korzystania z usługi. Mechanizm ma stale analizować nowe sygnały i automatycznie kierować osoby uznane za niepełnoletnie do wersji ChatGPT z dodatkowymi zabezpieczeniami. W przypadku pomyłki dorosły użytkownik będzie mógł potwierdzić swój wiek za pośrednictwem firmy Persona. Planowane są również powiadomienia dla rodziców, których dzieci otrzymają czasową blokadę konta za powtarzające się rozmowy o przemocy.
Przy okazji firma ujawniła, że w trzecim kwartale 2026 roku ponad 200 razy przekazała informacje organom ścigania w związku z potencjalnymi zagrożeniami. Zapowiedziano także publikowanie raportów o wykrywaniu przemocy i skuteczności stosowanych zabezpieczeń. Pierwszy dokument ma ukazać się na początku 2027 roku, a kolejne będą publikowane co sześć miesięcy. Wdrażanie opisanych zmian rozpocznie się w najbliższych tygodniach.
Źródło: OpenAI / Zdj. otwierające: Zulfugar Karimov (Unsplash)