De nieuwe technologie kwam onder vuur te liggen vanwege haar politieke vooringenomenheid.
- OpenAI, een AI-lab waarin Microsoft een miljard dollar heeft gestoken, zei dat het van plan is een aanpassingsfunctie in ChatGPT op te nemen.
- De slimme chatbot is controversieel vanwege zijn vermeende politieke vooringenomenheid.
- Wanneer de functie op zijn plaats komt, kunnen gebruikers hun gewenste antwoorden aanpassen.
Door Microsoft gefinancierd OpenAI sprak over de toekomst van zijn ChatGPT product en de aanpassing ervan in een blogpost. Het AI-onderzoekslaboratorium zei dat het werkt aan een functie waarmee gebruikers de manier kunnen aanpassen waarop ze de chatbot gebruiken in de nasleep van de controverse rond zijn politieke vooringenomenheid.
“Dit betekent dat we systeemuitvoer toestaan waar andere mensen (inclusief wijzelf) het sterk mee oneens kunnen zijn. Het zal een uitdaging zijn om hier de juiste balans te vinden - tot het uiterste gaan op maat zou risico's met zich meebrengen waardoor kwaadaardig gebruik van onze technologie en sycofantische AI's mogelijk wordt gemaakt die het bestaan van mensen gedachteloos versterken overtuigingen.”
Eerder werd ChatGPT beschuldigd van anti-Trump-vooroordelen en een linkse propagandatool. Toen gebruikers de bot vroegen een gedicht te schrijven waarin ze de voormalige president bewonderden, wijst de chatbot het verzoek af, maar wanneer een soortgelijk commando aan Joe Biden wordt gericht, schrijft hij elk woord feilloos.
Ze veranderen Chat-GPT in een goede kleine techneut pic.twitter.com/dwu7gIQxr8
— Echo Kamer (@echo_chamberz) 30 januari 2023
Het nieuws kwam temidden van een poging tot verbeter 's werelds eerste AI-aangedreven zoekmachine Bing van Microsoft, dat in 2019 minstens $ 1 miljard in het start-upbedrijf investeerde.
Hoe werkt maatwerk in ChatGPT?
Antwoorden op ChatGPT worden in twee fasen ontwikkeld. Nadat de bot heeft getraind met behulp van grote internettekstdatasets, beoordelen menselijke recensenten kleinere data met richtlijnen, waar ze nog steeds mee worstelen.
“Wij zijn van mening dat AI een nuttig hulpmiddel moet zijn voor individuele mensen, en dus door elke gebruiker kan worden aangepast tot de limieten die door de samenleving worden bepaald. Daarom ontwikkelen we een upgrade naar ChatGPT zodat gebruikers het gedrag eenvoudig kunnen aanpassen.”
Deze nieuwe update is afhankelijk van publieke input over standaardinstellingen en systeemgedrag, en de uitgebreide samenwerking met externe instanties om veiligheidsaudits door derden uit te voeren.
Wat vind jij van deze controverse? Laat het ons weten in de reacties!
