OpenAI wprowadza znaczącą aktualizację do swojego generatora obrazów DALL-E 3, dodając nowe znaki wodne. Ma na celu ułatwienie rozróżniania treści generowanych przez komputer od twórczości ludzkiej, co jest kluczowe w dobie rosnącej obecności i wpływu AI na cyfrową przestrzeń.
Zaktualizowane funkcje DALL-E 3 obejmują dwa rodzaje znaków wodnych. Pierwszy z nich, widoczny symbol CR, umieszczany jest dyskretnie w lewym górnym rogu każdego obrazu. Drugi, niewidoczna komponenta metadanych, jest wbudowana w dane obrazu, umożliwiając weryfikację jego pochodzenia.
Dzięki tym zmianom, użytkownicy i twórcy treści mogą łatwiej śledzić i weryfikować, czy dany obraz został wygenerowany przez AI.
Za wprowadzeniem znaków wodnych stoi koalicja Coalition for Content Provenance and Authenticity (C2PA), która opracowała standardy służące zwiększeniu przejrzystości treści cyfrowych. Inicjatywa ta wspierana jest przez takie firmy jak Adobe i Microsoft i ma na celu umożliwienie użytkownikom weryfikacji pochodzenia treści cyfrowych, w tym obrazów wygenerowanych przez AI.
Pomimo że znaki wodne stanowią ważny krok w kierunku zwiększenia przejrzystości i zaufania do treści generowanych przez AI, nie są one rozwiązaniem niezawodnym.
Metadane, które są kluczowe dla weryfikacji pochodzenia, mogą być łatwo usunięte zarówno przypadkowo, jak i celowo, na przykład przez platformy mediów społecznościowych lub poprzez wykonanie zrzutu ekranu treści.
Taka możliwość podkreśla konieczność ciągłego rozwijania i wdrażania nowych metod weryfikacji.
Wprowadzenie znaków wodnych do obrazów generowanych przez DALL-E 3 stanowi ważny krok w kierunku odpowiedzialnego wykorzystywania AI, ale jednocześnie rzuca światło na dalszą potrzebę rozwijania narzędzi i standardów, które wspierają wiarygodność i transparentność w cyfrowym świecie.
OpenAI podkreśla swoje zaangażowanie w budowanie zaufanego ekosystemu cyfrowego, w którym użytkownicy mogą łatwo rozróżniać między treściami tworzonymi przez ludzi a tymi generowanymi przez maszyny.
Mocno dyskusyjne podejście.