AI może generować obrazy na podstawie tekstu, ale niektórzy artyści postanowili się zrewanżować. Ich broń? Data poisoning. To tak, jakby dorzucić trochę piasku do dobrze naoliwionej maszyny – tylko że w tym przypadku “piasek” to specjalnie spreparowane dane, które mogą wywrócić do góry nogami działanie algorytmów AI. Jak to możliwe? Zanurzmy się w fascynujący świat cyfrowego sabotażu i zobaczmy, jak artystyczny bunt kształtuje przyszłość generowania obrazów.
Data poisoning: co to takiego i dlaczego to ważne?
Data poisoning to termin, który może brzmieć jak coś wyciągniętego z cyberpunkowej powieści, ale jest to realna i rosnąca obawa w świecie sztucznej inteligencji. W skrócie, polega to na umyślnym wprowadzaniu zakłóceń do zestawów danych wykorzystywanych przez AI, w celu zaburzenia ich działania. To trochę jak podmiana składników w przepisie kulinarnym – wynik może być nieprzewidywalny, a czasem nawet katastrofalny dla oczekiwanego efektu.
Generatory obrazów AI, takie jak te oparte na tekst, polegają na ogromnych zbiorach danych do tworzenia wizualizacji. Często uzyskuje się je przez masowe analizowanie obrazów z Internetu, bez zwracania uwagi na prawa autorskie czy zgody twórców. To otwiera pole do wielu problemów, w tym naruszania praw autorskich i oskarżeń o kradzież i czerpanie zysków z pracy artystów.
Nietrudno sobie wyobrazić frustrację twórców, których dzieła są wykorzystywane bez ich wiedzy czy zgody. W odpowiedzi na te praktyki, niektórzy z nich postanowili wziąć sprawy w swoje ręce, stosując data poisoning. Przykładem jest narzędzie o nazwie “Nightshade”, które zostało opracowane w celu zwalczania nieautoryzowanego “scrapowania” obrazów. Działa przez subtelne modyfikowanie obrazów w sposób, który myli widzenie komputerowe, pozostając jednocześnie niedostrzegalnym dla ludzkiego oka.
Jak data poisoning wpływa na generatory obrazów?
Gdy organizacje używają tych “zatrutych” obrazów do trenowania modeli AI, wynikający z tego algorytm może produkować nieprzewidziane i niezamierzone rezultaty. Wyobraźcie sobie sytuację, w której prośba o wygenerowanie czerwonego balonu kończy się obrazem jajka lub arbuza. Brzmi absurdalnie, prawda? Ale to właśnie może się zdarzyć, gdy algorytm nauczy się na podstawie zmanipulowanych danych.
Zaburzenia wywołane przez zatrute obrazy mogą wpłynąć na powiązane słowa kluczowe i prowadzić do nielogicznych cech w generowanych obrazach, takich jak psy o sześciu nogach czy zdeformowane kanapy. Stopień szkody wywołany przez zatrute obrazy jest bezpośrednio związany z liczbą tych obrazów obecnych w danych treningowych.
Nightshade ma za cel zachęcić wielkie korporacje technologiczne do większego szacunku dla praw autorskich. Istnieje jednak ryzyko, że użytkownicy mogą celowo przesyłać zatrute obrazy, aby zakłócić usługi AI. To stawia nas przed dylematem: czy taka forma protestu jest etyczna i jakie mogą być jej długoterminowe konsekwencje dla przyszłości AI?
Proponowane rozwiązania problemu data poisoningu
Aby przeciwdziałać data poisoningowi, istnieją różne propozycje. Jedną z nich jest ściślejsze zwracanie uwagi na źródło i uprawnienia do użytku danych wejściowych, aby ograniczyć masowe pozyskiwanie danych. Inną jest wykorzystanie modelowania zbiorowego, które polega na użyciu wielu modeli trenowanych na różnych podzbiorach danych, aby wykryć anomalie.
Audytowanie przy użyciu małego, starannie dobranego zbioru danych może również pomóc w ocenie dokładności modelu. To trochę jak regularne przeglądy stanu technicznego pojazdu – pomaga to upewnić się, że wszystko działa jak należy.
Adwersaryjne podejścia, takie jak data poisoning, wywołują pytania dotyczące zarządzania technologią i praw moralnych. Mają one swoje precedensy w historii, jak choćby w przypadku obchodzenia technologii rozpoznawania twarzy. Służyły one również do przeciwdziałania niekontrolowanemu wykorzystaniu technologii widzenia maszynowego, na przykład w systemach rozpoznawania twarzy używanych do profilowania i nadzoru.
Powiązanie między data poisoning a adwersaryjnymi podejściami tkwi w szerszych kwestiach zarządzania technologią i praw moralnych. Podczas gdy dostawcy technologii mogą postrzegać data poisoning jako problem do rozwiązania przy pomocy rozwiązań technologicznych, stanowi ono innowacyjną odpowiedź na naruszenie praw moralnych artystów i użytkowników.
