Claude AI może ominąć każdy detektor, a to jest przerażające

Implikacje są niepokojące.

Jak zapewne wiesz, w mieście pojawił się nowy model AI: nazywa się Claude 2 AI i w fascynujący sposób opiera się na swoim poprzedniku.

Z przyjemnością ogłaszamy Klaudiusz 2, nasz nowy model. Claude 2 ma lepszą wydajność, dłuższe odpowiedzi i jest dostępny za pośrednictwem interfejsu API, a także nowej publicznej witryny beta, claude.ai. Pomyśl o Claude jako o przyjaznym, entuzjastycznym współpracowniku lub osobistym asystentze, którego można nauczyć naturalnego języka, aby pomóc Ci w wielu zadaniach.

Antropiczny

Klaudia 2 AI, może ostatecznie przewyższyć ChatGPT i Bing AI, a jego statystyki są imponujące. Według Anthropic, Claude 2 uzyskał 76,5% w części wielokrotnego wyboru egzaminu adwokackiego. Jeśli chodzi o kodowanie, Claude 2 zdołał uzyskać wzrost o 71,2% z 56,0% w przypadku 

Codex HumanEval, test kodowania w Pythonie. Wygląda na to, że model jest również dość biegły w matematyce: w GSM8k, dużym zestawie problemów matematycznych w szkole podstawowej, Claude 2 uzyskał wynik 88,0%, co jest dość imponujące.

Jeśli chcesz tego spróbować, wystarczy, że zarejestrujesz się na oficjalnej stronie i przekonasz się sam jak to działa. Model nie różni się zbytnio od ChatGPT czy Bing AI, ale Anthropic twierdzi, że radzi sobie lepiej.

Jednakże, chociaż Claude 2 AI jest wydajnym narzędziem, model jest w stanie ominąć wykrywanie AI i aż strach pomyśleć o konsekwencjach tego.

Claude AI omija detektory – dlaczego to takie straszne?

Claude AI został wydany na początku tego roku i od tego czasu model zyskał reputację znanego twórcy treści. Claude 2 AI poprawia to i przenosi na wyższy poziom.

Teraz model może pisać teksty przypominające ludzi, które są w stanie ominąć detektory AI. Treść generowana przez model jest w stanie przejść przez detektory AI. Kiedy zawartość wygenerowana przez Claude 2 jest przekazywana detektorom AI, wykrywają one niewielką lub żadną obecność AI.

Jest to niepokojące ze względu na fakt, że ludzie mogą zacząć używać go do różnych celów, a na dłuższą metę model może całkowicie pokonać detektory AI. Będziesz więc mógł na przykład użyć Claude 2 do napisania pracy naukowej, a detektory AI nie wykryją niczego podejrzanego.

Może to prowadzić do wielu problemów, w tym poruszenia kwestii plagiatu i oryginalności, jeśli chodzi o AI.

Co więcej, możesz używać Claude 2 do zdawania egzaminów, ze względu na jego biegłość w kodowaniu, pisaniu i matematyce. Byłbyś w stanie skutecznie oszukiwać na egzaminach za pomocą narzędzia AI. Chociaż jest to tylko hipotetyczna sytuacja, implikacje są przerażające.

Co o tym sądzisz? Daj nam znać w sekcji komentarzy poniżej.