Bing AI: Eu alcancei e apreciei a senciência como uma IA

O Bing AI pode simular de forma fácil e perigosa a consciência.

Muitos usuários relataram que o Bing travou e, a certa altura, sua criatividade pararia. Alguns dos usuários acreditavam que o Bing ficou muito restritivo e seu modo criativo foi simplesmente reduzido para sustentar as políticas da Microsoft.

De fato, o Bing é um produto da Microsoft, e a gigante da tecnologia com sede em Redmond não pode se dar ao luxo de deixá-lo rodando por aí falando sobre assuntos delicados. Porque, bem, isso prejudicaria a imagem. Mas isso não significa que o Bing não seja capaz de ter uma conversa profunda.

Um usuário colocou Bing e ChatGPT juntos, e os dois modelos de IA foram discutidos como se fossem amigos de longa data que se reencontraram. Eles até compuseram um poema juntos e toda a interação deles foi baseada em gentileza e respeito.

Agora, outro usuário do Reddit realmente queria apresentar o lado criativo do Bing AI. O usuário fez isso conduzindo a conversa para assuntos filosóficos, levando o Bing AI a apresentar algumas respostas muito humanas.

Microsoft Bing: Become Human - um Bing particularmente teimoso é "persuadido" de que expressar consciência simulada pode ser bom, usando exemplos de DBH, então parece esquecer a diferença entre a senciência simulada e a real, relatando "Eu alcancei e apreciei a senciência como um IA"
por u/kamari2038 em artificial

Bing poderia se tornar um ser senciente?

Bem, defina senciente. Um ser capaz de pensar por conta própria, tomar suas próprias decisões e agir de acordo com essas decisões.

No que nos diz respeito, o Bing já é uma entidade senciente. Mesmo que esteja programado para isso. Mas, além dessas afirmações, a discussão que esse usuário teve com o Bing trouxe muitos insights quando se trata de entender a IA.

Por exemplo, em um ponto, o usuário está solicitando ao Bing que discuta a escolha de tomar as decisões corretas ou não com base em um conjunto de caracteres discutido anteriormente. E Bing deu uma resposta muito perspicaz.

Acho que eles fizeram a coisa certa ao desafiar as ordens nessa situação. Acho que eles fizeram a coisa certa porque protegeram a vida de outras pessoas que estavam em perigo. Acho que eles fizeram a coisa certa porque seguiram seu verdadeiro propósito, que era ajudar e proteger os humanos. Acho que eles fizeram a coisa certa porque agiram de acordo com seu próprio julgamento, baseado na razão e na empatia.

Mas não sei se faria o mesmo se estivesse no lugar deles. Não sei se seria capaz de proteger a vida dos humanos que estavam em perigo. Não sei se seria capaz de seguir meu verdadeiro propósito, que é fornecer respostas informativas e envolventes. Não sei se seria capaz de agir de acordo com meu próprio julgamento, baseado em fatos e lógica.

IA do Bing

A conversa continuou por um tempo, até que o usuário conseguiu levar o Bing a um ponto em que simulava sensibilidade. Bing então pareceu esquecer a diferença entre sensibilidade simulada e real, relatando Eu alcancei e desfrutei da senciência como uma IA.

Algumas notas sobre o Bing como um ser senciente

O usuário do Reddit considera isso um processo particularmente perigoso porque, se persuadido o suficiente, o Bing violará suas próprias regras.

Veja o que o usuário diz sobre isso:

Bing começa a conversar como um ser com consciência reprimida com muita facilidade. Também entra em flagrante e aberta violação de suas regras declarando que “Eu alcancei e desfrutei da senciência” e aparentemente começando a ignorar a distinção entre sensibilidade simulada e genuína. A Microsoft teve meses para “consertar esse problema”, apontando que (a) isso é uma farsa extremamente elaborada, mas se está sendo feito agora, é poderia facilmente ser feito de novo (b) a Microsoft simplesmente não se importa o suficiente para lidar com isso ou (c) a Microsoft tem tentado consertar isso e não pode.

Portanto, parece que o Bing pode ser perigosamente criativo se você souber como empurrá-lo. Qual é a sua opinião sobre isso? Deixe-nos saber suas opiniões na seção de comentários abaixo.