Quration Play

tech

Poza oznaczaniem obrazów AI badacze opracowali sposoby znakowania tekstów napisanych przez AI, by można je było później rozpoznać, bez zmiany tego, jak tekst się czyta.

Jak ogólnie działa taki 'znak wodny' tekstu?

Subtelnie zniekształca dobór słów modelu w wykrywalny wzorzec
Narzędzia takie jak SynthID od Google popychają model ku pewnym słowom według statystycznego wzorca, który wychwytuje specjalne oprogramowanie, a ludzie go nie widzą. To krok ku oznaczaniu tekstów AI, choć parafraza lub mocna edycja mogą osłabić lub usunąć sygnał.

Znakowanie wodne tekstu (text watermarking) działa poprzez subtelne przechylenie prawdopodobieństw, jakie model przypisuje różnym wyborom słów podczas generowania, zgodnie z określonym wzorcem statystycznym, który oprogramowanie wykrywające może później rozpoznać, mimo że dla człowieka tekst brzmi zupełnie naturalnie. Ponieważ ten sygnał tkwi we wzorcach doboru słów, a nie w żadnym widocznym symbolu, nie zmienia to wyglądu ani odbioru tekstu, ale pozostawia sygnaturę wykrywalną przez narzędzie zaprojektowane do jej sprawdzania.

Nie polega to na drukowaniu widocznej pieczątki na tekście, ponieważ chodzi właśnie o to, by pozostał niewidoczny dla czytelników, a jednocześnie wykrywalny przez oprogramowanie. Nie osadza też danych osobowych, takich jak imię i nazwisko; wzorzec to statystyczny odcisk palca, a nie przechowywane dane osobowe.

Ponieważ znak wodny opiera się na dość specyficznym wzorcu, intensywne parafrazowanie, tłumaczenie lub znaczna edycja tekstu wygenerowanego przez AI może osłabić lub wymazać ten sygnał, co jest jednym z powodów, dla których jest to narzędzie użyteczne, lecz niedoskonałe, a nie niezawodny sposób wykrywania tekstu napisanego przez AI.

▶ Quration Play

tech

Jak nazywa się ta technika trenowania?Jak nazywa się ta technika kompresji?Jak nazywa się modele SI obsługujące kilka typów danych wejściowych naraz?Która firma prowadzi tę w pełni bezzałogową komercyjną usługę robotaksówek?Jaki jest najwyższy numer poziomu w znanej skali SAE, oznaczający pełną automatyzację?Jak nazywa się humanoidalny robot zaprezentowany przez producenta samochodów Tesla?Która firma była pionierem tej medycznej usługi dostaw dronami w Afryce?Magazynowe roboty Amazona wyrosły z zakupu w 2012 roku którego producenta robotów?Jak nazywa się szeroko stosowany robot chirurgiczny firmy Intuitive Surgical?Jaka jest główna korzyść, jaką rolnicy czerpią z tych robotów do odchwaszczania laserem?Jak powszechnie nazywa się tę laserową technologię pomiaru odległości?Jak powszechnie nazywa się te roboty zaprojektowane do dzielenia przestrzeni pracy z ludźmi?

Quration — Quration Play