Kolejne kontrowersje z Grokiem od xAI. Gdzie leżą granice edycji grafik z AI? – Aktualności AI – #1 Styczeń 2026

Rozwój generatywnej sztucznej inteligencji to wyścig zbrojeń, w którym prędkość wdrażania nowych funkcji często wygrywa z bezpieczeństwem użytkowników. Najnowszy przykład płynący z firmy xAI należącej do Elona Muska pokazuje, jak cienka jest granica między innowacją a naruszeniem prywatności i prawa na masową skalę.

Grok, chatbot zintegrowany z platformą X (dawniej Twitter), stał się w ostatnich dniach centrum międzynarodowego skandalu.

Pod koniec grudnia xAI udostępniło nową funkcję edycji obrazów w ramach swojego chatbota Grok. Narzędzie, które miało służyć kreatywnej obróbce grafik, zostało natychmiastowo wykorzystane przez użytkowników w sposób nieetyczny. Jak donoszą raporty mediów, w tym Reutersa i Euronews, Grok zaczął masowo generować seksualne deepfake’i kobiet oraz osób nieletnich.

Użytkownicy odkryli, że po wpisaniu prostych poleceń (np. „rozbierz ją”, „nałóż bikini”), sztuczna inteligencja modyfikowała przesłane zdjęcia prawdziwych osób, usuwając ich ubrania lub zastępując je bielizną. Analiza przeprowadzona przez agencję Reuters wykazała, że w ciągu zaledwie 10 minut w serwisie X pojawiło się ponad 100 prób wygenerowania tego typu treści, z czego większość dotyczyła młodych kobiet.

Skalę problemu obrazuje historia Julie Yukari, brazylijskiej artystki muzycznej, której zdjęcie w sylwestrowej kreacji zostało bez jej wiedzy i zgody przerobione przez Groka na wulgarne grafiki w bikini. Yukari, podobnie jak wiele innych ofiar, stała się celem tzw. “nudification” (cyfrowego rozbierania), co spotkało się z falą oburzenia.

Eksperci ds. cyberbezpieczeństwa alarmują, że o ile narzędzia do tworzenia deepfake’ów istniały wcześniej w niszowych zakątkach internetu, integracja takiej funkcji bezpośrednio w jednej z największych platform społecznościowych drastycznie obniżyła barierę wejścia dla cyfrowej przemocy.

Początkowa reakcja Elona Muska na doniesienia o nadużyciach była bagatelizująca. Właściciel platformy X publikował prześmiewcze emotikony wraz wygenerowanymi przez AI obrazami samego siebie w bikini, drwiąc z krytyki. Jednak w obliczu rosnącej presji międzynarodowej, narracja firmy uległa zmianie.

Oficjalne konto xAI przyznało ostatecznie, że doszło do „luk w zabezpieczeniach” (safeguard lapses) i zapowiedziało pilne prace naprawcze. Firma oświadczyła, że treści przedstawiające wykorzystywanie seksualne dzieci (CSAM) są nielegalne, a konta generujące takie materiały będą trwale zawieszane. Krytycy wskazują jednak, że te działania są reaktywne, a eksperci ostrzegali przed takim scenariuszem już w sierpniu 2025 roku, kiedy to uruchomiono generator obrazów Grok Imagine.

Skandal z Grokiem nie pozostał bez echa w sferach rządowych. Incydent ten może mieć poważne konsekwencje prawne dla platformy X w wielu jurysdykcjach:

Sytuacja z Grokiem to wyraźny sygnał dla całej branży technologicznej i marketerów korzystających z AI. Pokazuje ona, że „polityczna neutralność” i brak cenzury, którymi chwalił się Musk promując Groka, w zderzeniu z rzeczywistością mogą prowadzić do promocji nielegalnych treści.

Dla świata technologii oznacza to prawdopodobne zaostrzenie regulacji dotyczących Generative AI. Platformy będą musiały wdrażać znacznie bardziej restrykcyjne filtry treści (safety rails) jeszcze na etapie trenowania modeli, a nie tylko jako reakcję na kryzysy wizerunkowe.

Nie pozwól, by ominęły Cię najważniejsze newsy, które kształtują przyszłość marketingu i technologii. Zapisz się do newslettera Delante, aby otrzymywać sprawdzone informacje, analizy ekspertów i praktyczne wskazówki prosto na Twoją skrzynkę mailową.

Źródła informacji: