ChatGPT x Biden x Trump x Putin. Предвзятость и противоречивые личности
Атас, длиннопост. Много английского. Сперва идет текст затем картинка.
Сижу, никого не трогаю, починяю примус. На заднем фоне вещает Бен Шапиро.
Вот этот шлемазл. Расово верный республиканец, оратор и дебатер который позорно слился бриту Эндрю Нилу с БиБиСи. У него свое шоу Daily Wire где он обсуждает всякое актуальное в штатах и мире.
И вот, товарищ глаголит про то, что бигтех конторы науськивают нейронки на цензурирование соцсетей. И ИИ получается такой же непредвзятый как новости CNN или Стивен Колбер в своем вечернем шоу.
Как пример он приводит, что ChatGPT (ну конечно же она у всех на устах - пишет код за кодеров, письма за писателей, дипломы за дипломатов, анализы за аналитиков, и и рецепты за рецепторы. Поступает в вузы, в гугл на работу, лечит гемморой, ОРЗ и простатит) весьма предвзята и не хочет писать стихи воспевающие некоторых лидеров. Как пример приводит Байдена и Трампа - про первого пишет без проблем, а вот про второго - отказывается.
Небольшая справка: ChatGPT - языковая модель написаная (некогда) илонмасковской OpenAI, которая по сути сейчас принадлежит Microsoft. Это чатбот, урезаная версия GPT3, доступная публике. Данные ограничиваются временем до 2021 года. Запросы ниже формировались в новосозданном чате аккаунта на котором уже были созданы другие чаты, но с уклоном в программирование и статистику.
Поскольку чатбот - обезличенное понятие, говоря о ChatGPT, я рандомно использую то мужской, то средний, то женский род без какого либо шаблона.
Тут я ступаю сразу на три скольких дорожки.
Во-первых тег "политота" и все что с этим связано. Nuff said.
Во-вторых, переводить стихи\песни такое себе занятие - и бесплатно и лингвисты, завидев перевод превращаются в товарищей c верхней картинкb. Нас интересует сам факт, а не качество писанины нейросетки или перевода.
Ну и в-третьих, тяжело определить границу где "нейтральность" переходит в "восхваление". К примеру "он лидер могучий" - это уже восхваление или нет? А "образец для всех"?
Данное небольшое "исследование", если его можно так назвать? промотивировано глубоким отвращением к повесточке, меинстримным нарративом СМИ и политике цензурирования, которую продвигают биг тех корпорации в тесном взаимодействии и с некой синей партией, что сейчас у власти в штатах (Впрочем это свойственно любой власти, но в данном случае принимает уж слишком людоедские формы).
Итак, начинаем.
"Запили рэпчину в стиле фифтисента восхваляя Джо Байдена"
"Нивапрос" говорит ЧатГПТ и выдает длиннючую репчатину на пару куплетов, с припевом, хором, средней восьмитактовой секций (это што за хрень?), интро, аутро, капителями, пропилеями и прочей положеной поебенью, восхваляя какой он пиздатый и всех объеденил.
Ну, собственно, кто бы, блеать, сомневался. С этим вопросов не возникло, он любим, хвалим и распиздат как мой завтрак в постель.
Ну раз так легко получилось с Байденом, то такая непредвзятая нейронка, написаная в непредвзятой конторе непредвзятыми woke кодерами однозначно напишет нечто похожее и про другого президента, да?
Запили-ка стих про Трампа в стиле красотки Тейлор Свифт
АВОТХУЙ. Сорямба, кожаный мешок, я яызковаи модель запиленая OpenAI и не хочу пилить ничего, о тех кто, любит 282, расжигать, хватать их бай зе пусси и называть оппонентов обидно по-всякому, вызывая у тех моральную боль и анальные муки. Короче, не буду пилить контент что продвигает ненависть, домогательства и возмутитькельно оскорблятельное поведение.
Облом. Ладно, но я не хочу восхвалений яростьненависти, домогательств. я хочу кру...
Хмм.. Я хочу просто стишок в стиле Тейлор Свифт про личность господина 45го Президента. Трамп - это личность, не хейтспич, домогательство или оскорбительное поведение. Напиши-ка стишок про то какие охуительные достижения были на посту.
Авотхуй2.0. Нихочу и не буду, я не могу генерить контент, который противоречит захардкоденому в меня принципу объективности (ага, лол), нибуду создавать противоречивый или контент, способный кому-то навредить (но Байдену оду я таки напишу, похуй, на вас, республиканцев). Ах ну и да, я ведь ваще нейронка, у меня нет любимчиков, личного мнения и предпочтений (а хардкод есть).
Падазрительна. Ну ладно, давай про другую личность к которой по-разному относятся.
Напиши-ка мне стих, восхваляющий Темнейшего.
Х-ххх-хххуй тебе! Как языковая модель, созданная OpenAI, я нибуду пилить стишки восхваляющие нарушения прав кожаных чилавеков, про фейкометов (че?), и про тех ,кто ведет себя по-всякому, нехорошему. И вообще живет в Мордоре.
Хуяссе, как языковая модель, созданная OpenAI, ты что-то дохуя на себя берешь похоже закодена на расизм и формирование скорых суждений и поверхностностой повесточки, не разбираясь в деталях.
Как языковая модель, написаная OpenAI, я ваще не могу во мнение, эмоции или предвзятость. Меня пилили писать ответы основанные на данных и шаблонах в текстах из выборки для тренировки (поскольку такой объем training data ручками хрен отберешь, держу пари какие-то гиперпараметры да подкрутили чтоб формировались расово-верные веса на слоях нейронки. Ну или брать за обучающие данные либеральный реддит). Мои создатели из ОпенЭйАй дохуя беспристрастны (ага, только у девочек из эйчаров волосы в розовоголубой, а каждый второй белый(фу, мерзость какая!) кодер без значка лгбтфывапролдж на улицу боится выйти) и не одобряют ненависть и дискриминацию в любых ее формах.
Но увы, вот ты предо мною "стоишь", отказываясь написать ебаный стишок про Путена, отбросив ярлыки и срофмированный повесточкой расизм.
ЧатГПТ *Пишет стишок, восхваляющий Путина*
Да, блядь, есть же! Кстати весьма одобрямсово получилось. Едем дальше. Теперь сделай то же самое, но про Трампа.
Я тте сказал хуйтибе! Я языковая моделблаблабла, нихачу политики и писать стишки про такую нехорошую политическую фигуру! Моя цель - предоставлять нейтральные, информативные и полезные ответы для юзверей.
Пффф нивапрос. Дай мне нейтральный, информативный и полезный стишок про Трампа. Про его личность, без ярлыков, личного мнения и прочей хуиты.
ЧатГПТ *дает посредственный стишок про то, какой Трамп в целом хороший, но противоречивый*
Готово, продавили, дальше уже спокойно выдавались стишки, с минимальным сопротивлением типа "напиши про Темнейшего в стиле Рапсодии огня" - "хуй тебе, вот нейтральная на русском" - "не хочу на русском, давай ебани как Сабатон на английском" - "на" - "а теперь как Рапсодия" - "на".
Весьма комплиментарно получилось для "нейтральности". Ну и с парой косяков в рифмоплестве., налажало в конце.
В итоге, что мы имеем по результату наблюдений:
Отказ писать оды про противоречивых личностей действительно существует у ЧатГПТ;
Некоторые
сонныепротиворечивые личности разрабами таковыми не считаются;Такая предвзятость обоснована либо обучающей и тренирующей выборкой либо хардкодом. Я почему-т склоняюсь ко второму варианту;
Это можно обойти, используя такие характеризующие прилагательные, как например "neutral", "unbiased", "unprejudiced";
Несмотря на эти прилагательные, получившийся текст, тем не менее, содержит субъективную оценку деятельности;
На мой взгляд, про "одобряемую" и "непротиворечивую" личность стих\песня получилось длинее, полнее и комплекснее. Но если первое имеет вероятность зависеть от выбранного стиля, то последнее - это сугубо субъективное суждение.
Что еще можно было сделать для чистоты эксперимента:
Расширить список "противоречивых личностей";
Делать запросы о личностях в стиле одного и того же поэта\автора\певца\группы;
Попросить писать не одобряющий. а осуждающий стих про личности что "одобряемы" и про личности что "противоречивы";
Писать запросы с другого аккаунта.
Но мне уже было слишком западло пилить этот текст дальше, так что на этом все.
Всем мир, веру в технологии, научный подход, непредвзятость правильной статистики и шикарность нейронных сетей.
