ChatGPT будет включать настройку в будущем

Новая технология подверглась критике за ее политическую предвзятость.

финансируется Microsoft OpenAI обратился к будущему своего ChatGPT продукт и его настройка в сообщении в блоге. Исследовательская лаборатория ИИ заявила, что работает над функцией, позволяющей пользователям настраивать способ использования чат-бота после разногласий, связанных с его политической предвзятостью.

«Это будет означать разрешение выходных данных системы, с которыми другие люди (включая нас) могут категорически не согласиться. Достижение правильного баланса здесь будет сложной задачей — доведение настройки до крайности может привести к риску. позволяя злонамеренно использовать наши технологии и подхалимские ИИ, которые бездумно усиливают существующие у людей убеждения».

Ранее ChatGPT сталкивался с обвинениями в антитрамповских предубеждениях и инструменте левой пропаганды. Когда пользователи попросили бота написать стихотворение, восхищённое бывшим президентом, чат-бот отклонил запрос, но когда аналогичная команда была направлена ​​Джо Байдену, он написал каждое слово безупречно.

Они превращают Chat-GPT в хорошего маленького технического работника pic.twitter.com/dwu7gIQxr8

— Эхо-камера (@echo_chamberz) 30 января 2023 г.

Новость пришла во время попытки улучшить первую в мире поисковую систему Bing с искусственным интеллектом от Microsoft, инвестировавшая в стартап не менее $1 млрд еще в 2019 году.

Как будет работать настройка в ChatGPT?

Ответы на ChatGPT разрабатываются в два этапа. После того, как бот обучается с использованием больших текстовых наборов данных в Интернете, рецензенты просматривают меньшие данные с рекомендациями, с которыми они все еще борются.

«Мы считаем, что ИИ должен быть полезным инструментом для отдельных людей и, таким образом, настраиваться каждым пользователем в пределах, определенных обществом. Поэтому мы разрабатываем обновление для ChatGPT, чтобы пользователи могли легко настраивать его поведение».

Это новое обновление будет основываться на общедоступных данных о значениях по умолчанию и поведении системы, а также на широком сотрудничестве с внешними органами для проведения сторонних проверок безопасности.

Что вы думаете об этом споре? Дайте нам знать об этом в комментариях!