קלוד AI יכול לעקוף כל גלאי, וזה מפחיד

ההשלכות מדאיגות.

כפי שאתה אולי יודע, יש דגם AI חדש בעיר: הוא נקרא Claude 2 AI והוא מתבסס על קודמו בדרכים מרתקות.

אנחנו שמחים להודיע קלוד 2, הדגם החדש שלנו. לקלוד 2 יש ביצועים משופרים, תגובות ארוכות יותר, וניתן לגשת אליו דרך API וכן אתר בטא חדש הפונה לציבור, claude.ai. חשבו על קלוד כעל עמית ידידותי, נלהב או עוזר אישי שניתן להדריך אותו בשפה טבעית כדי לעזור לכם במשימות רבות.

אנתרופית

קלוד 2 AI, יכול בסופו של דבר לעלות על ChatGPT, ו-Bing AI, והסטטיסטיקה שלו מרשימה. על פי אנתרופיק, קלוד 2 זכה בציון של 76.5% בסעיף הרב-ברירה בבחינת לשכת עורכי הדין. בקידוד, קלוד 2 הצליח להשיג עלייה של 71.2% מ-56.0% ב- Codex HumanEval, מבחן קידוד של Python. ונראה שהמודל די בקיא גם במתמטיקה: ב-GSM8k, קבוצה גדולה של בעיות מתמטיקה בבית הספר היסודי, קלוד 2 קיבל ציון של 88.0%, וזה די מרשים.

אם אתה רוצה לנסות את זה, אתה רק צריך להירשם באתר הרשמי ולראות בעצמך

איך זה עובד. המודל אינו שונה מאוד מ-ChatGPT, או Bing AI, אבל Anthropic טוענת שהוא עושה עבודה טובה יותר.

עם זאת, בעוד שקלוד 2 AI הוא כלי בעל ביצועים, המודל מסוגל גם לעקוף את זיהוי בינה מלאכותית, וזה מפחיד לחשוב על ההשלכות של זה.

קלוד AI עוקף גלאים - למה זה מפחיד?

קלוד AI שוחרר מוקדם יותר השנה, ומאז הדגם צבר לעצמו מוניטין של כותב תוכן בעל שם. קלוד 2 AI משפר את זה ולוקח אותו לשלב הבא.

כעת המודל יכול לכתוב טקסטים דמויי אדם, המסוגלים לעקוף גלאי AI. תוכן שנוצר על ידי המודל מסוגל להעביר את גלאי הבינה המלאכותית. כאשר התוכן שנוצר על ידי קלוד 2 ניתן לגלאי בינה מלאכותית, הם מזהים מעט נוכחות בינה מלאכותית בו.

זה מדאיג בגלל העובדה שאנשים עשויים להתחיל להשתמש בו לכל מיני מטרות, ובטווח הארוך, הדגם יכול לנצח את גלאי הבינה המלאכותית לחלוטין. אז תוכל, למשל, להשתמש בקלוד 2 כדי לכתוב עבודה אקדמית, וגלאי הבינה המלאכותית לא ימצאו שום דבר חשוד.

זה יכול להוביל להרבה בעיות, כולל העלאת נושא גניבת עין ומקוריות בכל הנוגע ל-AI.

יתר על כן, אתה יכול להשתמש בקלוד 2 כדי להשלים מבחנים, בשל בקיאותו בקידוד, כתיבה ומתמטיקה. תוכל לרמות ביעילות את הבחינות שלך עם כלי בינה מלאכותית. אמנם זה רק מצב היפותטי, אבל ההשלכות מפחידות.

מה אתה חושב על זה? ספר לנו בקטע ההערות למטה.