Инженеры компании OpenAI не смогли объяснить сгенерированный нейросетью Codex код для кернела нового AI-ускорителя Jalapeño. По словам аналитика Джордана Наноса, команда осознает общий принцип работы кода, однако не может предоставить построчное объяснение его функциональности.
Проблема заключается в том, что, несмотря на способность Codex генерировать сложные алгоритмы, детали его работы остаются неясными для разработчиков. Это поднимает вопросы о прозрачности и объяснимости решений, принимаемых искусственным интеллектом, особенно в контексте его применения в критически важных сферах.
Значимость данного события заключается в том, что оно ставит под сомнение возможность полного понимания и контроля над системами, созданными с использованием AI. Это может повлиять на дальнейшие разработки в области искусственного интеллекта и его интеграцию в различные технологии.