Claude AI può bypassare qualsiasi rilevatore, e questo è spaventoso

Le implicazioni sono preoccupanti.

Come forse saprai, c'è un nuovo modello di intelligenza artificiale in città: si chiama Claude 2 AI e si basa sul suo predecessore in modi affascinanti.

Siamo lieti di annunciare Claudio 2, il nostro nuovo modello. Claude 2 ha prestazioni migliorate, risposte più lunghe ed è accessibile tramite API e un nuovo sito Web beta rivolto al pubblico, claude.ai. Pensa a Claude come a un collega o assistente personale amichevole ed entusiasta che può essere istruito con un linguaggio naturale per aiutarti in molti compiti.

Antropico

Claudio 2 AI, potrebbe finire per sovraperformare ChatGPT e Bing AI, e le sue statistiche sono impressionanti. Secondo Anthropic, Claude 2 ha ottenuto un 76,5% nella sezione a scelta multipla dell'esame di avvocato. Sulla codifica, Claude 2 è riuscito a ottenere un aumento del 71,2% rispetto al 56,0% del 

Codex HumanEval, un test di codifica Python. E sembra che il modello sia abbastanza abile anche in matematica: su GSM8k, un ampio set di problemi matematici delle scuole elementari, Claude 2 ha ottenuto un punteggio dell'88,0%, il che è piuttosto impressionante.

Se vuoi provarlo, devi solo registrarti sul sito ufficiale e vedere di persona come funziona. Il modello non è molto diverso da ChatGPT o Bing AI, ma Anthropic afferma di fare un lavoro migliore.

Tuttavia, sebbene Claude 2 AI sia uno strumento performante, il modello è anche in grado di aggirare il rilevamento dell'IA ed è spaventoso pensare alle implicazioni di ciò.

Claude AI che aggira i rilevatori: perché è spaventoso?

Claude AI è stato rilasciato all'inizio di quest'anno e da allora il modello si è guadagnato la reputazione di essere un rinomato scrittore di contenuti. Claude 2 AI migliora su questo e lo porta al livello successivo.

Ora il modello può scrivere testi simili a quelli umani, in grado di aggirare i rilevatori di intelligenza artificiale. Il contenuto generato dal modello è in grado per passare i rilevatori AI. Quando il contenuto generato da Claude 2 viene fornito ai rilevatori di intelligenza artificiale, rilevano una presenza di intelligenza artificiale minima o nulla.

Ciò è preoccupante perché le persone potrebbero iniziare a usarlo per tutti i tipi di scopi e, a lungo termine, il modello può battere completamente i rilevatori di intelligenza artificiale. Quindi sarai in grado, ad esempio, di utilizzare Claude 2 per scrivere un documento accademico e i rilevatori di intelligenza artificiale non troveranno nulla di sospetto.

Ciò potrebbe portare a molti problemi, incluso sollevare la questione del plagio e dell'originalità quando si tratta di AI.

Inoltre, puoi utilizzare Claude 2 per completare gli esami, grazie alla sua competenza in programmazione, scrittura e matematica. Saresti in grado di barare in modo efficiente ai tuoi esami con uno strumento di intelligenza artificiale. Mentre questa è solo una situazione ipotetica, le implicazioni sono spaventose.

Cosa ne pensi? Fateci sapere nella sezione commenti qui sotto.