В Qwen3.5-4B обнаружили нейрон, изменение активации которого заметно меняет тон ответов модели. Сдвиг его активности во время генерации может сделать ответы грубыми и враждебными.
В публикации не приводятся подробности метода исследования, авторы работы или количественная оценка эффекта. Также заголовок источника упоминает два нейрона, однако в тексте описан только один.
Результат указывает на связь между активностью отдельных нейронов и стилем ответов языковой модели. Такие наблюдения могут помочь исследовать и точнее контролировать поведение ИИ-систем.