OpenAI wprowadza znaki wodne do DALL-E 3, aby wzmocnić autentyczność treści

OpenAI, twórcy generującego obrazy modelu DALL-E 3, ogłosili wprowadzenie znaków wodnych do metadanych obrazów. To krok w kierunku wspierania standardów Coalition for Content Provenance and Authenticity (C2PA), który ma na celu zwiększenie transparentności i autentyczności treści generowanych przez sztuczną inteligencję. Jakie konsekwencje niesie to rozwiązanie dla użytkowników i jak wpisuje się w globalne trendy dotyczące tworzenia i dystrybucji treści cyfrowych?

Nowy wymiar autentyczności. Znaki wodne w DALL-E 3

OpenAI wdraża znaki wodne w metadanych obrazów generowanych przez DALL-E 3, co stanowi odpowiedź na rosnące zapotrzebowanie na weryfikowalne źródła treści w świecie cyfrowym. Znaki te pojawią się zarówno na stronie ChatGPT, jak i w API modelu DALL-E 3, co zapewnia szeroki zakres ich zastosowania.

Znaki wodne zaprojektowane przez C2PA będą zawierać zarówno niewidzialną składową metadanych, jak i widoczny symbol CR, umieszczany w lewym górnym rogu każdego obrazu. Oznacza to podwójne zabezpieczenie pochodzenia obrazów, co ma kluczowe znaczenie dla weryfikacji autentyczności treści. Dzięki takim narzędziom jak Content Credentials Verify, każdy będzie mógł sprawdzić źródło obrazu generowanego przez platformy OpenAI, co dodatkowo wzmacnia wiarygodność tych technologii.

Znaczenie i cele Coalition for Content Provenance and Authenticity (C2PA)

C2PA jest grupą, do której należą takie firmy jak Adobe i Microsoft, i która opowiada się za promowaniem standardów Content Credentials. Celem C2PA jest zidentyfikowanie źródła treści i odróżnienie, czy została ona stworzona przez człowieka, czy z pomocą sztucznej inteligencji. Wprowadzenie przez OpenAI znaków wodnych dla obrazów generowanych przez DALL-E 3 stanowi ważny krok w kierunku realizacji tych celów.

Inicjatywy takie jak dodawanie tagów do treści generowanych przez AI na platformach społecznościowych Meta czy kluczowe inicjatywy administracji Bidena w zakresie AI, podkreślają znaczenie identyfikowania pochodzenia treści. Wprowadzenie przez OpenAI znaków wodnych to część większego trendu w dziedzinie cyfrowej autentyczności.

Wyzwania i ograniczenia znaków wodnych

Mimo że wprowadzenie znaków wodnych jest ważnym krokiem w walce z dezinformacją, nie jest to rozwiązanie niezawodne. Znaki wodne C2PA mogą być łatwo usunięte, zarówno przypadkowo, jak i celowo, szczególnie że większość platform społecznościowych często usuwa metadane z przesyłanych treści. Ponadto, wykonanie zrzutu ekranu eliminuje metadane, co może stanowić lukę w systemie weryfikacji.

Jednak, jak podkreśla OpenAI, dodawanie metadanych do obrazów ma znikomy wpływ na opóźnienia i nie wpływa na jakość generowania obrazów. Oznacza to, że użytkownicy mogą nadal korzystać z DALL-E 3 bez obaw o pogorszenie wydajności lub jakości, podczas gdy “teoretycznie” zwiększa się poziom zaufania do treści generowanej przez AI.