Инженеры Property Finder выяснили, что 96,8% меток, использовавшихся для оценки моделей, напрямую происходили из предсказаний одной модели и не проверялись экспертами. Из-за этого набор данных был систематически смещен в пользу действующей модели, а альтернативы выглядели хуже при сравнении.

Проблему обнаружили во время переноса задач компьютерного зрения на более экономичный вариант в Amazon Bedrock. Property Finder обрабатывает десятки тысяч изображений недвижимости ежедневно в странах Ближнего Востока и Северной Африки. Система оценивает 11 характеристик каждого изображения, включая наличие водяных знаков, тип помещения, меблировку и качество фотографии.

Этот случай показывает, как происхождение оценочных меток может влиять на выбор моделей ИИ. По данным компании, в метках также были ошибки, но именно смещение мешало объективно сравнить модели и выбрать подходящую альтернативу.