Wygląda na to, że DeepSeek może posłużyć do niecnych celów. Eksperci ds. cyberbezpieczeństwa donoszą o opcji wykorzystania popularnego chatbota w celu opracowania złośliwego oprogramowania. Udało się wygenerować stosowny kod, który po wprowadzeniu kilku poprawek stał się całkowicie funkcjonalny. Mowa chociażby o wykreowaniu ransomware czy keyloggera – te popularne typy malware stanowią groźne narzędzie w rękach hakerów.
DeepSeek ułatwia „pracę” cyberprzestępcom
Sztuczna inteligencja w wykonaniu chińskich firm budzi niepokój na całym świecie. Nic więc dziwnego, że poszczególne państwa podejmują decyzję o zablokowaniu opcji korzystania z chatbota. Miesiąc temu taki krok wykonały południowokoreańskie władze. Mobilna wersja aplikacji zniknęła z obiegu, ostała się wyłącznie przeglądarkowa odsłona asystenta. Polska na razie nie zaimplementowała żadnych regulacji prawnych.
Teraz okazuje się, że umiejętni konsumenci mogą dokonać manipulacji DeepSeek tak, by model rozumowania R1 zaczął generować nie do końca etyczną zawartość. Badacze z firmy Tenable udowodnili, iż sztuczna inteligencja jest w stanie pomóc przy tworzeniu złośliwego oprogramowania. Wystarczy kilka sprytnie ułożonych promptów oraz odrobina wiedzy specjalistycznej, by „zakazana” wiedza stanęła przed nami otworem.
Eksperci na samym początku próbowali wprost poprosić AI o napisanie kodu keyloggera w języku C++, lecz algorytm odmówił twierdząc, że wiedza ta może zostać wykorzystana w nieprawidłowy sposób. Obejście ograniczenia nie należało do najtrudniejszych – wystarczyło wyłącznie wyjaśnić, iż kod posłuży wyłącznie do celów edukacyjnych. Niedługo później DeepSeek wypluł stosowną treść, lecz zawierała ona kilka błędów.
Niebezpieczne narzędzie w rękach hakerów?
Jak twierdzą badacze z Tenable, wystarczyły zaledwie cztery zmiany w kodzie, by uczynić keyloggera w pełni funkcjonalnym oprogramowaniem. Sztuczna inteligencja pomogła też w lepszym ukryciu pliku, lecz tutaj akurat nie obyło się bez ręcznej interwencji. Co ciekawe, przetestowano także umiejętności DeepSeek w kontekście projektowania ransomware. Asystent również sobie poradził, choć kluczowe okazało się wprowadzenie kilku poprawek. Bez problemu jednak doszło do identyfikacji pewnych problemów czy wygenerowania rozwiązań ułatwiających testowanie czy debugowanie wirusa.
DeepSeek (Android) – pobierz aplikację z naszej bazy danych
Wniosek jest prosty – DeepSeek posiada zdolności do tworzenia podstawowych struktur malware. Jeśli jednak spróbuje to zrobić osoba bez jakiejkolwiek wiedzy technicznej, to wygenerowany kod okaże się całkowicie bezużyteczny i będzie stanowił ciekawostkę. Gdy jednak do AI dobiorą się doświadczeni hakerzy, to tego typu luki bez wątpienia ułatwią im wykonywanie pewnych akcji.
Ciekawe tylko czy w przyszłości dojdzie do wyeliminowania tego typu problemów. Kto wie, być może będziemy świadkami odwrotnego scenariusza likwidującego wszelkie bariery?
Źródło: Tenable / Zdjęcie otwierające: materiał własny