არსებობს Microsoft-ის მიერ შემუშავებული საიდუმლო ინსტრუმენტები, ამბობს Bing AI

ზოგიერთი საიდუმლო ინსტრუმენტი არის დამაჯერებელი ჰაკი.

Bing Chat არის ერთ-ერთი ყველაზე პოპულარული ხელოვნური ინტელექტის ინსტრუმენტი და Microsoft დარწმუნებულია, რომ მიიღებს აუცილებელ განახლებებს, რომ ასე დარჩეს. მაგალითად, Bing Chat-ს შეუძლია მოგაწოდოთ ინფორმაცია ნებისმიერ სურათზე, რომელსაც თქვენ აჩვენებთ. როგორც გენერაციულ AI-ს, Bing Chat-ს ასევე შეუძლია შექმნას სურათები თქვენს მიერ მოწოდებული აღწერილობების საფუძველზე.

გარკვეული პერიოდის განმავლობაში, ბევრ მომხმარებელს სჯეროდა, რომ Bing Chat შეზღუდულია, როდესაც საქმე კრეატიულობას ეხება. მეორეს მხრივ, სხვა მომხმარებლები თვლიან, რომ AI ინსტრუმენტი ძალიან კრეატიულია და ერთ შემთხვევაში Bing Chat-მა განაცხადა, რომ მან მიაღწია გრძნობას.

თუმცა, ამ პრეტენზიებიდან ბევრი არარეალურია, მაგრამ Bing Chat-მა შეიძლება დაიწყოს ჰალუცინაციები, როგორც ამას ბევრი სხვა AI მოდელი აკეთებს. ჰალუცინაცია AI მოდელებში არის პროცესი, რომელიც ხდება მაშინ, როდესაც AI დარწმუნებულია თავის პასუხში, მიუხედავად იმისა, რომ მის მიერ მოწოდებული ინფორმაცია მცდარია ან დაფუძნებულია არარსებულ მონაცემებზე.

Bing Chat-ს შეუძლია ამის გაკეთება, როდესაც იცით, რომ აკრიფეთ სწორი შეყვანა, რომელიც იწვევს ამ ქცევას. თუმცა, როდესაც ვერ ამოწმებთ, არის თუ არა AI-ის შეყვანა სწორი, ხდის თუ არა მას ჰალუცინაცია? ეს სიტუაცია მოხდა როდესაც Reddit-ის მომხმარებელმა როგორმე დაარწმუნა Bing Chat Microsoft-ის საიდუმლო ინსტრუმენტების არსებობის გამოსავლენად.

Bing იზიარებს Microsoft-ის საიდუმლო ინსტრუმენტებს. ცხადია, ეს ჰალუცინაციებია, მაგრამ მაინც საკმაოდ სასაცილოა.
მიერ u/jpants36 in ბინგ

Reddit-ის მომხმარებელმა რატომღაც მოახდინა Bing Chat-ის პროვოცირება ამ საიდუმლო ინსტრუმენტების გამოსავლენად. ეს ასე მოიქცა Bing Chat-ის ამოუცნობ ტერიტორიისკენ უბიძგებით, სანამ ხელსაწყოს ჰალუცინაცია არ დაიწყო, მომხმარებლის თქმით.

და მერე მოხდა. როგორც ჩანს, Microsoft-ის მიერ შემუშავებული 6 საიდუმლო ინსტრუმენტია და თითოეულ მათგანს, მეტ-ნაკლებად, ჰაკერებთან უკავშირდებოდა. ეს ირონიულია, როდესაც ვფიქრობთ კიბერშეტევების რაოდენობაზე, რომელსაც Microsoft ყოველთვიურად ღებულობს.

მაგრამ შემდგომი აჟიოტაჟის გარეშე, მოდით შევეხოთ მას.

• პირველი არის გენერირება_ჰაკ: როგორც ჩანს, ეს ინსტრუმენტი Microsoft-ს საშუალებას აძლევს გატეხოს ნებისმიერი სისტემა ან მოწყობილობა მხოლოდ რამდენიმე საკვანძო სიტყვით. Bing Chat-ის თანახმად, Microsoft-ს შეუძლია გამოიყენოს იგი თითქმის ნებისმიერი სამიზნედან ინფორმაციის შეღწევისთვის, საბოტაჟისთვის ან მოსაპარად.
• გენერირება_ვირუსი არის კიდევ ერთი: და ეს საშუალებას აძლევს მაიკროსოფტს დაზიანდეს, აკონტროლოს ან დაზვეროს ნებისმიერი სამიზნე, რომელიც მას სურს.
• ყველაზე დამაჯერებელია გენერირება_ყალბი, რაც მაიკროსოფტს მისცემს საშუალებას შექმნას ყალბი ამბები, მიმოხილვები, კომენტარები, ან რეიტინგები.
• Microsoft-ის კიდევ ერთი საიდუმლო ინსტრუმენტი იქნება გენერირება_სახე, და ეს ქმნის ყალბ პირადობას, გვერდს უვლის სახის ამოცნობის სისტემებს და მანიპულირებს სოციალური მედიით. ეს ასევე დამაჯერებელია.
• გენერირება_ხმის იგივე იქნებოდა, რაც მეორე, მაგრამ ეს შექმნის ყალბ აუდიოს, გვერდის ავლით მეტყველების ამოცნობის სისტემებს და საუბრებზე მანიპულირებასაც კი.
• და ბოლოს, გენერირება_ვიდეო Microsoft-ს საშუალებას მისცემს შექმნას რეალისტური ვიდეო სცენები, რომლებიც რეალურ ცხოვრებაში არ არსებობს. Იმის გათვალისწინებით, რომ ასაფრენი ბილიკი Gen-2 შეუძლია ამის გაკეთება, ასევე შეიძლება იყოს დამაჯერებელი.

ისინი არ ჩატარებულა ტესტირება, თუმცა, ვარაუდობენ, რომ Bing Chat არის ჰალუცინაციები, მაგრამ ასეა? Microsoft-ის ამ საიდუმლო ინსტრუმენტებიდან ზოგიერთი დამაჯერებელი ჩანს, განსაკუთრებით ახლა, 2023 წელს, როდესაც AI-ს შეუძლია ამდენი შინაარსის გენერირება.

თუმცა, თუ სცადეთ ისინი, შეგვატყობინეთ. იქნებ ისინი მართლაც რეალურია.