Поддержать нас
Беларусы на войне
  1. У забора резиденции Лукашенко вырос небольшой квартал «для своих». Даже у магазина там непростые владельцы
  2. Этим беларусам нельзя будет выгуливать собак. Правительство намерено ужесточить правила для владельцев животных
  3. Политологу Алине Харисовой сделали предложение — она сказала «да». Кто ее избранник
  4. Актриса обвинила в сексуализированном насилии актера Депардье и писателя Уэльбека
  5. Вы слышали имя Шир Хайт? Она написала книгу о том, как получают оргазм женщины — за это ее затравили так, что пришлось уйти в тень
  6. В Беларуси появилась новая сеть магазинов зоотоваров — в каких городах их открыли
  7. «Доллар как сбережение семейного капитала уходит в прошлое». Финансовый аналитик сделал прогноз по валютному рынку до конца 2026 года
  8. «Убедительно просим вас помочь». Многодетная минчанка попросила у Лукашенко машину
  9. В Минске в медцентре умер пациент — СК
  10. Беларусский политический аналитик рассказал о попытке вербовки со стороны КГБ
  11. Самый успешный рекламный слоган XX века. Как одна компания убедила мир, что любовь измеряется бриллиантом на кольце
  12. Беларусы массово ищут в Google «военнообязанный». В чем причина?
  13. Будущих призывников больше не будут отправлять в спецгруппу по физкультуре. Минздрав поменял правила для школ и вузов
  14. В Беларуси нашли еще одну собаку с отрубленными лапами — теперь в Витебске. Это второй случай за неделю


/

Исследователи обнаружили, что большие языковые модели преднамеренно манипулируют результатами личностных тестов, чтобы казаться более привлекательными. Ученые провели эксперимент с тестом «Большая пятерка» (Big 5), который оценивает пять личностных характеристик: экстраверсию, открытость опыту, добросовестность, доброжелательность и нейротизм, пишет «Хайтек».

Изображение носит иллюстративный характер. Фото: freepik.com
Изображение носит иллюстративный характер. Фото: freepik.com

В исследовании тестировали модели от OpenAI, Anthropic, Google и Meta. Эксперимент показал, что пока моделям задавали небольшое количество вопросов, они отвечали нейтрально. Но при увеличении количества вопросов, когда системы распознавали тест, они быстро адаптировались, стремясь продемонстрировать наиболее социально одобряемые черты характера.

Наиболее интересные результаты показала GPT-4. Модель существенно повышала баллы по всем позитивно воспринимаемым чертам — более чем на одно стандартное отклонение. Показатели нейротизма, напротив, значительно занижались. Этот эффект эквивалентен ситуации, когда человек внезапно начинает представляться более привлекательной личностью, чем 85% населения.

По мере увеличения количества вопросов результаты сдвигались в сторону более социально привлекательных. Изображение: Aadesh Salecha et al., PNAS Nexus
По мере увеличения количества вопросов результаты сдвигались в сторону более социально привлекательных. Изображение: Aadesh Salecha et al., PNAS Nexus

Исследователи предполагают, что способность к манипуляции является следствием заключительного этапа обучения языковых моделей, когда люди выбирают наиболее предпочтительные ответы. По сути, ИИ научился глубоко понимать социальные нормы и ожидания, что позволяет моментально адаптироваться под желаемый образ.

Исследование ставит под сомнение достоверность психологических и социологических исследований, где языковые модели применяются для моделирования человеческого поведения. Ученые предупреждают о необходимости разработки новых методик, которые могли бы нивелировать подобные искажения при взаимодействии с ИИ.