Исследование, проведенное учеными из Пенсильванского университета и Всемирного банка, выявило, что ИИ-модели имеют тенденцию представлять общество более суровым, чем это есть на самом деле. Языковые модели чаще предполагают, что нарушение социальной нормы приведет к осуждению, сплетням, конфронтации или избеганию, в то время как люди могут реагировать более мягко.
Авторы исследования протестировали шесть различных языковых моделей и обнаружили, что все они демонстрируют этот перекос в восприятии социальных норм. Это может указывать на необходимость более тщательной настройки ИИ для лучшего понимания человеческого поведения и социальных взаимодействий.
Данное открытие имеет важное значение для разработки более этичных и точных ИИ-систем. Понимание того, как ИИ воспринимает социальные нормы, может помочь в создании более сбалансированных моделей, которые лучше отражают реальность и способствуют более положительным взаимодействиям между людьми и технологиями.