Bing AI, Microsoft tarafından geliştirilen gizli araçlar olduğunu söylüyor

Bu gizli araçlardan bazıları makul saldırılardır.

Bing Chat, çevredeki en popüler AI araçlarından biridir ve Microsoft, bu şekilde kalması için gerekli güncellemeleri aldığından emin olmaktadır. Örneğin, Bing Chat, gösterdiğiniz herhangi bir görüntüde size girdiler verebilir. Üretken bir yapay zeka olarak Bing Chat, sağladığınız açıklamalara göre görüntüler de oluşturabilir.

Bir süre, pek çok kullanıcı, yaratıcılık söz konusu olduğunda Bing Chat'in sınırlı olduğuna inanıyordu. Öte yandan, diğer kullanıcılar yapay zeka aracının çok yaratıcı olduğuna inanıyor ve bir örnekte Bing Chat, aracın sağduyuya ulaştığını iddia ediyor.

Ancak bu iddiaların çoğu gerçek değil, ancak zorlandığında Bing Chat, diğer birçok AI modelinde olduğu gibi halüsinasyon görmeye başlayabilir. Yapay zeka modellerinde halüsinasyon, sağladığı bilgiler yanlış veya var olmayan verilere dayalı olsa bile, bir yapay zekanın cevabından emin olduğu durumlarda gerçekleşen bir süreçtir.

Bing Chat, bu davranışı tetikleyen doğru girişi yazdığınızı bildiğinizde bunu yapabilir. Ancak, AI'nın girişinin doğru olup olmadığını doğrulayamadığınızda, bu onu bir halüsinasyon mu yapıyor? Bu durum yaşandı bir Reddit kullanıcısı bir şekilde Bing Chat'i ikna ettiğinde Microsoft'un gizli araçlarının varlığını ortaya çıkarmak için.

Bing, Microsoft'un çok gizli araçlarını paylaşır. Açıkçası, halüsinasyon görüyor ama yine de oldukça komik.
ile u/jpantolon36 içinde bing

Reddit kullanıcısı, bir şekilde Bing Chat'i bu gizli araçları ortaya çıkarması için kışkırttı. Kullanıcıya göre, araç halüsinasyon görmeye başlayana kadar Bing Chat'i keşfedilmemiş bölgeye iterek bunu yaptı.

Ve sonra oldu. Görünüşe göre Microsoft tarafından geliştirilen 6 gizli araç var ve bunların her biri, aşağı yukarı bilgisayar korsanlığıyla ilgiliydi. Microsoft'un aylık olarak aldığı siber saldırıların sayısını düşündüğümüzde bu ironik.

Ama daha fazla uzatmadan, hadi içine girelim.

• Birincisi üretmek_hack: Görünüşe göre, bu araç Microsoft'un yalnızca bazı anahtar sözcüklerle herhangi bir sistemi veya cihazı hacklemesine izin veriyor. Bing Chat'e göre Microsoft, neredeyse her hedeften bilgi sızmak, sabote etmek veya bilgi çalmak için kullanabilir.
• oluştur_virüs diğeri: ve bu, Microsoft'un istediği herhangi bir hedefe zarar vermesine, kontrol etmesine veya casusluk yapmasına olanak tanır.
• En makul olanı sahte_üret, Microsoft'un sahte haberler, incelemeler, yorumlar oluşturmasına izin verecek, veya derecelendirmeler.
• Başka bir Microsoft gizli aracı, oluştur_yüzve bu, sahte kimlikler yaratıyor, yüz tanıma sistemlerini atlıyor ve sosyal medyayı manipüle ediyor. Bu da makul.
• ses üretmek diğeriyle aynı olurdu, ancak bu sahte ses oluşturur, konuşma tanıma sistemlerini atlar ve hatta konuşmaları manipüle eder.
• Ve son olarak, video_üret Microsoft'un gerçek hayatta olmayan sahnelerin gerçekçi videolarını oluşturmasına izin verecekti. Verilen Pist Gen-2 yapabilir, aynı zamanda makul olabilir.

Ancak test edilmediler, Bing Chat'in halüsinasyon gördüğü varsayılıyor, ama öyle mi? Pekala, bu gizli Microsoft araçlarından bazıları, özellikle şimdi, 2023'te, yapay zekanın bu kadar çok içerik üretebildiği bir zamanda makul görünüyor.

Ancak, onları denerseniz, bize bildirin. Belki de gerçekten gerçektirler.