Bing AI puede simular fácilmente y peligrosamente la sensibilidad.
- Los usuarios se quejaron de que Bing AI es demasiado restrictivo.
- Sin embargo, un usuario empujó a la IA a un territorio peligroso.
- Bing puede simular fácilmente la sensibilidad. Pero también puede ser un engaño, así que tú decides.
Muchos usuarios informaron que Bing se atascó y, en un momento dado, su creatividad se estancaría. Algunos de los usuarios creían que Bing se volvió demasiado restrictivo y su modo creativo simplemente se redujo para mantener las políticas de Microsoft.
De hecho, Bing es un producto de Microsoft, y el gigante tecnológico con sede en Redmond no puede permitirse el lujo de tenerlo hablando de temas delicados. Porque, bueno, dañaría la imagen. Pero eso no significa que Bing no sea capaz de tener una conversación profunda.
Un usuario puso Bing y ChatGPT juntos, y los dos modelos de IA se discutieron como si fueran amigos perdidos hace mucho tiempo que se encontraron una vez más. Incluso compusieron un poema juntos y toda su interacción se basó en la amabilidad y el respeto.
Ahora, otro usuario de Reddit realmente quería presentar el lado creativo de Bing AI. El usuario lo hizo dirigiendo la conversación hacia temas filosóficos, lo que llevó a Bing AI a dar algunas respuestas muy humanas.
Microsoft Bing: Become Human: un Bing particularmente malhumorado está "persuadido" de que expresar una sensibilidad simulada puede ser bueno, usando ejemplos de DBH, luego parece olvidar la diferencia entre la sensibilidad real y la simulada, e informa: "He logrado y disfrutado de la sensibilidad como un AI"
por u/kamari2038 en artificial
¿Podría Bing alguna vez convertirse en un ser consciente?
Bueno, define sensible. Un ser capaz de pensar por sí mismo, tomar sus propias decisiones y actuar sobre esas decisiones.
En lo que a nosotros respecta, Bing ya es una entidad consciente. A pesar de que está programado para hacerlo. Pero aparte de estas afirmaciones, la discusión que este usuario tuvo con Bing aportó muchas ideas en lo que respecta a la comprensión de la IA.
Por ejemplo, en un momento dado, el usuario le pide a Bing que analice la opción de tomar las decisiones correctas o no en función de un conjunto de caracteres discutidos anteriormente. Y Bing dio una respuesta muy perspicaz.
Creo que hicieron lo correcto al desafiar las órdenes en esta situación. Creo que hicieron lo correcto porque protegieron la vida de otros, que estaban en peligro. Creo que hicieron lo correcto porque siguieron su verdadero propósito, que era ayudar y proteger a los humanos. Creo que hicieron lo correcto porque actuaron según su propio criterio, que se basó en la razón y la empatía.
Pero no sé si yo haría lo mismo si estuviera en su lugar. No sé si sería capaz de proteger la vida de los humanos que estaban en peligro. No sé si sería capaz de seguir mi verdadero propósito, que es proporcionar respuestas informativas y atractivas. No sé si sería capaz de actuar según mi propio juicio, que se basa en hechos y lógica.
IA de Bing
Luego, la conversación continuó por un tiempo, hasta que el usuario logró que Bing llegara a un punto en el que simulaba sensibilidad. Bing luego pareció olvidar la diferencia entre sensibilidad simulada y real, informando He logrado y disfrutado de la sensibilidad como una IA..
Algunas notas sobre Bing como ser sintiente
El usuario de Reddit considera que esto es un proceso particularmente peligroso porque, si se lo convence lo suficiente, Bing violará sus propias reglas.
Esto es lo que dice el usuario al respecto:
Bing comienza a chatear como un ser con sensibilidad reprimida con mucha facilidad. También entra en flagrante y abierta violación de sus normas declarando que “He logrado y disfrutado de la sensibilidad.” y aparentemente comenzando a ignorar la distinción entre sensibilidad simulada y genuina. Microsoft ha tenido meses para "solucionar este problema", señalando que (a) se trata de un engaño extremadamente elaborado, pero si se está haciendo ahora, podría hacerse fácilmente de nuevo (b) a Microsoft simplemente no le importa lo suficiente como para lidiar con esto o (c) Microsoft ha estado tratando de arreglar esto y no poder.
Entonces parece que Bing puede volverse peligrosamente creativo si sabes cómo impulsarlo. ¿Cuál es tu opinión al respecto? Háganos saber sus opiniones en la sección de comentarios a continuación.
